text size
Alex Karp, direktor tvrtke Palantir, izjavio je za CNBC da tvrtke "troše vrijeme i novac na tokene, često ne dobivajući nikakvu vrijednost, a AI tvrtke im uzimaju intelektualno vlasništvo". Dionice Palantira skočile su devet posto istog dana, iako upravo njegova tvrtka prodaje platforme koje obećavaju kontrolu nad podacima kao rješenje za problem na koji upozorava. Izjava je brzo obišla internet jer pogađa dilemu koju si mora postaviti svaka tvrtka koja koristi ChatGPT ili Claude: hrani li time tuđe modele vlastitim poslovnim tajnama.
Karp je promašio adresu problema
Fortune je provjerio Karpove tvrdnje i zaključio da su uglavnom netočne ili kontradiktorne. Vodeći pružatelji AI usluga ugovorno ne koriste podatke poslovnih korisnika za treniranje modela, osim ako tvrtka na to izričito ne pristane. Međutim, nijedan ugovor s pružateljem AI usluga ne može zaštititi tvrtku od zaposlenika koji povjerljivi dokument kopira na privatni račun i koristi ga svojevoljno.
Slične kritike posljednjih mjeseci iznosi i Satya Nadella, direktor Microsofta, ali iz drugog kuta. On dovodi u pitanje odnos između cijene AI tokena i poslovne vrijednosti koju tvrtke uistinu dobivaju. Pravi rizik nalazi se na sasvim drugom mjestu.
Prema istraživanju sigurnosne tvrtke Zscaler, samo je ChatGPT prošle godine bio povezan s više od 410 milijuna kršenja internih pravila o zaštiti podataka. To se dogodilo isključivo zato što su zaposlenici sami unosili povjerljive informacije u javne AI alate, ne razmišljajući o tome kako će se ti podaci dalje koristiti.
Zaposlenici često koriste privatne račune jer tvrtke ne žele platiti skuplje Enterprise/API licencije, pa zaposlenici iz navike koriste besplatne ili privatne račune koji prema zadanim postavkama dijele podatke. To je propust i samih tvrtki jer ne razumiju potrebe svojih zaposlenika.
Tipičan primjer izgleda sasvim bezazleno. Programer kopira dio izvornog koda kako bi mu AI objasnio pogrešku. Odvjetnik ubaci nacrt ugovora da predloži bolju formulaciju. Komercijalist zalijepi Excel tablicu s cijenama i maržama kako bi izradio izvješće za sastanak. Marketinški tim unese plan lansiranja novog proizvoda kako bi dobio ideje za kampanju.
Depositphotos
U većini slučajeva cilj je ušteda nekoliko minuta rada, a ne namjerno kršenje pravila tvrtke. Međutim, ako tvrtka nema jasna pravila o tome što smije, a što ne smije napustiti njezin informacijski sustav, upravo zaposlenici postaju najveći sigurnosni rizik.
Američke tvrtke raspravljaju o pravilima nakon nekoliko godina masovnog korištenja generativne umjetne inteligencije. Naša regija tek pravi prve korake, što je u ovom slučaju i prednost za postavljanje pravih procesa za budućnost.
Istodobno, prvo regionalno istraživanje o utjecaju AI-ja na zaposlenike i tvrtke, koje su pokrenuli HeartCount i Joberty u Hrvatskoj, Bosni i Hercegovini, Srbiji, Sjevernoj Makedoniji i Crnoj Gori, tek treba pokazati koliko organizacija uopće ima definirana pravila o korištenju AI alata.
Obrana počinje prije prvog upita
Zaštita podataka ne počinje izborom između ChatGPT-a i Claudea, već odlukom o tome tko smije koristiti AI, putem kojeg računa i s kojim podacima.
Veće tvrtke mogu uvesti i DLP (Data Loss Prevention – sprječavanje gubitka podataka) sustav, koji prepoznaje povjerljive informacije i sprječava njihovo kopiranje ili slanje u neodobrene AI servise. Microsoft, na primjer, već omogućuje blokiranje unošenja osjetljivih podataka u potrošačke verzije ChatGPT-a i drugih AI alata.
Ako se koriste privatni računi, pojedinci mogu isključiti opciju "Improve the model for everyone" (poboljšaj model za sve korisnike), nakon čega se novi razgovori ne koriste za treniranje modela. Korisnici Claudea mogu isključiti dopuštenje za korištenje razgovora radi poboljšanja modela te izbrisati stare razgovore, koji se zatim uklanjaju iz sustava u roku od 30 dana, uz iznimke povezane sa sigurnošću i zakonskim obvezama.
Iako postoje sumnje da OpenAI i Anthropic "kradu" intelektualno vlasništvo, važno je da direktori tvrtki razumiju što njihovi zaposlenici svakodnevno unose u AI alate, koriste li privatni ili službeni profil te koju ste razinu pristupa svojim podacima dopustili AI alatima. Dok umjetnu inteligenciju u regiji u prosjeku koristi tek trećina tvrtki, još uvijek imamo priliku postaviti pravila na samom početku. Američke korporacije tu lekciju sada plaćaju znatno skuplje, nakon godina stihijskog korištenja AI-ja.
.webp){kind=icon}
