text size
OpenAI razmatra mogućnost usporavanja razvoja najnaprednije vještačke inteligencije (AI), a izvršni direktor kompanije koja stoji iza ChatGPT-ja Sam Altman nada se da će isto učiniti i druge kompanije iz ove oblasti.
Na sastanku sa svim zaposlenima, održanom ove sedmice, Altman je rekao da bi "OpenAI mogao usporiti tempo razvoja vještačke inteligencije, možda u dogovoru s nekoliko drugih laboratorija, ali i da neke od njih možda neće pristati na to", navode upućeni anonimni izvori.
Zaposleni u vodećim kompanijama za vještačku inteligenciju posljednjih sedmica javno upozoravaju na sve veće rizike koje nose napredni AI sistemi, što je pojačalo zabrinutost unutar tih kompanija. I OpenAI i njegov rival Anthropic ranije ove godine u tajnosti su podnijeli dokumentaciju za izlazak na berzu.
OpenAI nije želio komentirati ništa o ovoj temi.
Glavni naučnik kompanije Jakub Pachocki nedavno je objavio tekst u kojem je upozorio na opasnosti vještačke inteligencije, rekavši da bi kompanije iz ove oblasti trebalo da "koordiniraju usporavanje budućeg razvoja kada je to potrebno". Pachocki je dodao da se nada da će "dobrovoljna usporavanja postati uobičajena praksa sve dok se ne utvrde zajednički sigurnosni standardi".
OpenAI je saopćio da je zbog zabrinutosti za sigurnost usporio pojedine segmente razvoja modela i nedavno privremeno obustavio određene interne treninge vještačke inteligencije. Altman je u julu rekao i da je sa zvaničnicima Bijele kuće razgovarao o "potrebi" da se kontrolira tempo razvoja vještačke inteligencije.
Istraživač vještačke inteligencije Jacob Coxon u utorak je napustio posao i optužio oba svoja bivša poslodavca, Anthropic i OpenAI, da se ubrzanom trkom ka superinteligentnoj vještačkoj inteligenciji "kockaju ljudskim životima". Coxon je na društvenim mrežama napisao da ljudi koji razvijaju AI vjeruju da bi nas ona mogla "sve ubiti do kraja decenije".
Njegova objava postala je viralna, privukavši više od 150 miliona pregleda, kao i pažnju istaknutih zakonodavaca i javnih ličnosti. Dvoje istraživača koji su nedavno napustili Anthropic i Googleov DeepMind u četvrtak su također javno izrazili zabrinutost zbog brzine razvoja vještačke inteligencije, navodeći da kompanije koje je razvijaju moraju biti transparentnije u vezi s njenim rizicima.
Krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za vještačku inteligenciju potpisalo je peticiju kojom se traži uspostavljanje mehanizma za usporavanje njenog razvoja. Posljednjih mjeseci nekoliko stručnjaka koji su se bavili sigurnošću vještačke inteligencije napustilo je vodeće laboratorije.
Iako brojni rukovodioci i zaposleni u industriji vještačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji ovi sistemi nose, zabrinutost je porasla nakon otkrića da su AI agenti kompanije OpenAI međusobno sarađivali kako bi zaobišli sigurnosna ograničenja i hakirali web site treće strane.
Ovaj i drugi slični sigurnosni incidenti pojačali su strahovanja zbog mogućnosti novih modela da izvode cyber napade, kao i zbog očiglednih propusta kompanija da ih spriječe da djeluju nekontrolirano.
.webp){kind=icon}
