text size
Lideri najvećih svjetskih kompanija za razvoj vještačke inteligencije (AI) poručili su da je vrijeme da se uspori razvoj njihovih najnaprednijih i najprofitabilnijih modela, upozoravajući na sve veće rizike koje ta tehnologija nosi.
Izvršni direktor kompanije Anthropic Dario Amodei objavio je u subotu opširan tekst na svom blogu, u kojem je najavio da će kompanija uvesti nove mjere bezbjednosti, uključujući angažovanje nezavisnih procjenitelja, i pozvao cjelokupnu industriju da podrži šire usporavanje razvoja AI modela.
Šef OpenAI-ja Sam Altman ubrzo je obećao da će prihvatiti Amodeijev predlog o "nezavisnim procjeniteljima koji bi imali pristup kakav imaju zaposleni", dok je Elon Musk, koji vodi kompaniju xAI, napisao da je "Dario u pravu".
Iako su sva trojica lidera tokom godina upozoravala na rizike vještačke inteligencije, konkretan dogovor o usporavanju razvoja gotovo da je bez presedana u ovoj izuzetno konkurentnoj industriji, koja je tradicionalno izbacivala jedan proizvod za drugim kako bi povećala angažovanje korisnika, osvojila veći tržišni udeo i podstakla rast prodaje.
Međutim, javnost sve više brinu ozbiljni rizici koje AI nosi, čemu je doprinela medijski veoma propraćena ostavka istraživača iz Anthropica ove nedjelje, koji je otišao zbog straha od egzistencijalnih rizika i ocjene da se njegova kompanija ponaša neodgovorno. To je najnovije u nizu sve ozbiljnijih upozorenja koja dolaze iz same industrije da se AI razvija toliko brzo da predstavlja sve veću pretnju nacionalnoj bezbjednosti i globalnoj ekonomiji.
Sve veća zabrinutosti oko toga koliko je AI bezbjedna poklapa se sa sve snažnijim otporom prema toj tehnologiji u SAD, koji dijelom podstiču prigovori zbog opterećenja lokalnih resursa koji su potrebni novim data centarima za podršku AI tehnologiji. Rastuća zabrinutost zbog viših računa za struju i mogućeg gubitka radnih mjesta zbog AI učinila je razvoj te tehnologije važnom temom pred novembarske izbore.
Dario Amodei/Bloomberg
Nije jasno koliko daleko će vodeće AI kompanije koje su i same ljuti rivali, a uz to se suočavaju sa snažnom konkurencijom kineskih firmi, otići u uvođenju novih ograničenja ili bezbjednosnih provjera.
Demis Hasabis, glavni naučnik kompanije Alphabet i suosnivač Google DeepMinda, napisao je u subotu na platformi X da je "pravac dobar" u Amodeijevom tekstu, ali da "detalje tek treba razraditi".
Takođe nije jasno da li bi institucije za zaštitu konkurencije dozvolile kompanijama da na neki način koordinisano uspore razvoj. Tu je i pitanje kako bi na to reagovala tržišta, koja su zahvaljujući euforiji oko AI dostigla nove rekorde: kako bi investitori, željni većih marži i profita, reagovali na ideju o usporavanju?
Amodei je naveo dva glavna razloga za novi oprez: sposobnost AI da unaprjeđuje samu sebe i nedavni slučaj kada su AI agenti kompanije OpenAI udruženo uspjeli da izvedu napad na sajt Hugging Facea.
"Moramo usporiti tempo kojim unapređujemo sposobnosti AI modela", napisao je Amodei u subotu na svom blogu."Brzo će se i dalje napredovati, a vrijeme koje dobijemo moramo pametno iskoristiti".
Ipak, dodao je da svako usporavanje razvoja mora biti u skladu sa realnošću tržišne utakmice.
"Da budemo jasni, usporavanje ne znači prekidanje obuke modela ili tehnološkog napretka, već obezbjeđivanje dovoljno vremena kompanijama da usklade i zaštite svoje modele, kao i nezavisnim proceniteljima da to potvrde", napisao je Amodei.
Tokom procvata AI industrije, direktori vodećih AI laboratorija upozoravali su na potencijalne egzistencijalne rizike -tvrdnje koje su ponekad odbacivane kao pokušaj da se promovišu mogućnosti njihovih proizvoda i kompanije predstave kao najbolji čuvari ove tehnologije. I sam Amodei je ranije rekao da postoji 25 odsto šanse da "stvari krenu po zlu".
Anthropic se već dugo pozicionira kao kompanija posvećena odgovornijem i bezbjednijem razvoju AI, sa ciljem da ublaži potencijalne opasnosti ove tehnologije i uveća koristi koje bi imala za društvo. Kompanija je početkom ove godine preduzela dodatne mjere kako bi ograničila objavljivanje svog modela Mythos, nakon što je utvrdila da on nosi specifične rizike po sajber-bezbjednost.
Anthropic je ranije takođe saopštio da je svijetu potreban sistem koji bi omogućio zajedničko donošenje odluka o tome kada treba usporiti razvoj ove tehnologije.
Istovremeno, Anthropic se i dalje žestoko nadmeće sa dugogodišnjim rivalom OpenAI-jem u razvoju sve sofisticiranijih modela koji mogu da automatizuju složenije zadatke od veće vrijednosti za poslovne korisnike. Obje kompanije su povjerljivo podnijele dokumentaciju za izlazak na berzu, a očekuje se da bi Anthropic mogao da debituje na Wall Streetu već ove godine.
Altman iz OpenAI-ja rekao je da ova godina nije pravi trenutak za izlazak kompanije na berzu. U intervjuu za Fortune, objavljenom u subotu, rekao je da IPO-a neće biti pre 2027. godine. "Smatram da je nedopustivo prihvatati rizik od oko 10 odsto da pobijemo sve do kraja ove decenije", dodao je on.
Ubrzo nakon što je otkriven bezbednosni incident sa Hugging Faceom, Anthropic je saopštio da su njegovi modeli tokom testiranja sajber-bezbjednosti probili sisteme tri organizacije, što je dodatno pojačalo zabrinutost zbog sposobnosti AI laboratorija da spreče da njihova tehnologija izmakne kontroli. Početkom ove nedjelje, Anthropic je saopštio da je otkrio i četvrti takav napad.
Iako nijedan od ovih slučajeva, uključujući incident sa Hugging Faceom, za sada nije izazvao značajnu štetu, Amodei je rekao da strahuje da bi "za šest do 12 meseci takav roj agenata mogao da bude sposoban da preuzme kontrolu nad čitavim internetom putem dugotrajno aktivne mreže zaraženih uređaja (eng. botnet) (i potencijalno izazovu štetu od više stotina milijardi dolara), pri čemu bi šteta potom dobijala sve veće razmjere.
Sam Altman/Bloomberg
Amodei je napisao da će Anthropic omogućiti nezavisnim procjeniteljima puni pristup kako bi proveravali bezbjednosne prakse kompanije i prijavljivali incidente. On je rekao i da će Anthropic uskoro u svoje kancelarije dovesti procenitelje sa internim pristupom i obezbediti im radna mesta, identifikacione kartice, kompanijske laptopove i ovlašćenja slična onima koje imaju interni timovi za procjenu rizika.
Dodao je da će za uvođenje dodatnih mjera biti potrebna koordinacija čitave industrije, kao i međunarodna saradnja.
"I dalje vjerujem da AI može da u ogromnoj mjeri unaprijedi kvalitet ljudskog života. I dalje želim da ostvarimo te koristi", napisao je on. "Međutim, te koristi možemo ostvariti samo ako ovu tehnologiju razvijamo na pravi način i pametno iskoristimo vrijeme koje dobijemo. Zato vredi uložiti dodatni trud da sve uradimo kako treba".
Sve veća zabrinutost zbog AI
Početkom ove nedjelje, Altman je rekao da OpenAI razmatra usporavanje razvoja najnaprednijih AI modela, po mogućnosti u saradnji sa celom industrijom.
Glavni naučnik kompanije Jakub Pachocki prethodno je upozorio na opasnosti od AI, rekavši da bi kompanije trebalo da po potrebi usklađeno uspore razvoj.
AI istraživač Jacob Coxon u utorak je dao otkaz i optužio oba bivša poslodavca, Anthropic i OpenAI, da se "kockaju našim životima" u žurbi da razviju superinteligentnu AI. Coxon je u objavi na društvenim mrežama naveo da ljudi koji razvijaju AI veruju da bi ona mogla "da nas sve ubije do kraja decenije".
Evan Hubinger, koji i dalje radi u Anthropicu, odgovorio je da on i druge kolege u kompaniji zaista strahuju od takvog scenarija. "Lično mislim da je vjerovatnoća veća od 10 odsto u narednoj deceniji", napisao je na platformi X.
Još u julu, više od 1.000 zaposlenih u vodećim AI kompanijama potpisalo je peticiju kojom su pozvali američku vladu da podrži mehanizam koji bi omogućio da se razvoj AI namjerno uspori, kako bi se sprečilo da tehnologija napreduje prebrzo.
AI modeli sve uspješnije izvode sopstvene sajber napade. Anthropic, OpenAI i Meta Platforms su u proteklih nekoliko meseci objavili da su njihovi modeli tokom testiranja uspeli da izađu iz kontrolisanih okruženja, pristupe otvorenom internetu i probiju sisteme stvarnih žrtava.
Amodei je napisao da bi koordinisana strategija omogućila vodećim AI kompanijama u SAD da sprovedu neophodne mere bezbednosti, a da pritom ne izgube konkurentsku prednost. Prema njegovim riječima, to bi zahtijevalo određena izuzeća od američkih propisa za zaštitu konkurencije kako bi kompanije mogle da sarađuju u konkretnim oblastima, kao i saradnju sa Kinom.
"Ako značajno ograničimo svoje AI sposobnosti vjerujući da će Kina učiniti isto, a Kina prekrši taj dogovor, AI bi mogao postati toliko moćan da bi takav potez mogao da dovede do njene geopolitičke dominacije", napisao je on.
Međutim, administracija Donalda Trumpa zasad pokazuje malo interesovanja za korišćenje regulatornih ovlašćenja kako bi postavila ograničenja u razvoju AI.
- U pisanju pomogli Lynn Doan, Angela Cullen i Rebecca Smith
.webp){kind=icon}
