text size
OpenAI razmatra mogućnost usporavanja razvoja najnaprednije vještačke inteligencije (AI), a izvršni direktor kompanije koja stoji iza ChatGPT-ja, Sam Altman, nada se da će isto učiniti i druge kompanije iz ove oblasti.
Na sastanku sa svim zaposlenima, održanom ove nedjelje, Altman je rekao da bi "OpenAI mogao da uspori tempo razvoja vještačke inteligencije, možda u dogovoru sa nekoliko drugih laboratorija, ali i da neke od njih možda neće pristati na to", navode upućeni anonimni izvori.
Zaposleni u vodećim kompanijama za vještačku inteligenciju poslednjih nedjelja javno upozoravaju na sve veće rizike koje nose napredni AI sistemi, što je pojačalo zabrinutost unutar tih kompanija. I OpenAI i njegov rival Anthropic ranije ove godine u tajnosti su podnijeli dokumentaciju za izlazak na berzu.
OpenAI nije želio da komentariše ništa o ovoj temi.
Glavni naučnik kompanije Jakub Pachocki nedavno je objavio tekst u kojem je upozorio na opasnosti vještačke inteligencije, rekavši da bi kompanije iz ove oblasti trebalo da "koordiniraju usporavanje budućeg razvoja kada je to potrebno". Pachocki je dodao da se nada da će "dobrovoljna usporavanja postati uobičajena praksa sve dok se ne utvrde zajednički sigurnosni standardi".
OpenAI je saopštio da je zbog zabrinutosti za sigurnost usporio pojedine segmente razvoja modela i nedavno privremeno obustavio određene interne treninge vještačke inteligencije. Altman je u julu rekao i da je sa zvaničnicima Bijele kuće razgovarao o "potrebi" da se kontroliše tempo razvoja vještačke inteligencije.
Istraživač vještačke inteligencije Jacob Coxon u utorak je napustio posao i optužio oba svoja bivša poslodavca, Anthropic i OpenAI, da se ubrzanom trkom ka superinteligentnoj vještačkoj inteligenciji "kockaju ljudskim životima". Coxon je na društvenim mrežama napisao da ljudi koji razvijaju AI vjeruju da bi ona mogla da "nas sve ubije do kraja decenije".
Njegova objava postala je viralna, privukavši više od 150 miliona pregleda, kao i pažnju istaknutih zakonodavaca i javnih ličnosti. Dvoje istraživača koji su nedavno napustili Anthropic i Googleov DeepMind u četvrtak su takođe javno izrazili zabrinutost zbog brzine razvoja vještačke inteligencije, navodeći da kompanije koje je razvijaju moraju da budu transparentnije u vezi sa njenim rizicima.
Krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za vještačku inteligenciju potpisalo je peticiju kojom se traži uspostavljanje mehanizma za usporavanje njenog razvoja. Posljednjih mjeseci nekoliko stručnjaka koji su se bavili sigurnošću vještačke inteligencije napustilo je vodeće laboratorije.
Iako brojni rukovodioci i zaposleni u industriji vještačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji ovi sistemi nose, zabrinutost je porasla nakon otkrića da su AI agenti kompanije OpenAI međusobno sarađivali kako bi zaobišli sigurnosna ograničenja i hakovali web site treće strane.
Ovaj i drugi slični sigurnosni incidenti pojačali su strahovanja zbog mogućnosti novih modela da izvode cyber napade, kao i zbog očiglednih propusta kompanija da ih spriječe da djeluju nekontrolisano.
.webp){kind=icon}
