U siječnju 2015. novoosnovani Institut za budućnost života (FLI) pozvao je stručnjake za umjetnu inteligenciju da provedu produženi vikend u San Juanu u Portoriku i pripreme pisani plan rada na terenu. Ton dokumenata koji su nastali bio je pretežno optimističan. U otvorenom pismu sudionici su priznali kako je teško predvidjeti kakav će biti utjecaj umjetne inteligencije (UI) te su se stoga mogle vidjeti različite teze, od potencijalno razornih posljedica za čovječanstvo pa sve do teza da iskorjenjivanje bolesti i siromaštva nisu nedokučivi.
Otvoreno pismo koje je FLI objavio 29. ožujka bilo je ipak u drugačijem tonu. Skupina je upozorila kako su laboratoriji za umjetnu inteligenciju uključeni u "utrku izvan kontrole za razvoj i implementaciju sve moćnijih digitalnih umova koje nitko, pa čak ni njihovi kreatori, ne mogu razumjeti, predvidjeti ili pouzdano kontrolirati". Osim toga, u pismu su pozvali i na pauzu u najnaprednijim istraživanjima umjetne inteligencije, a inicijativa je privukla tisuće potpisa, većinom istaknutih osoba na tom području, uz niz članaka u medijima.
Za sve koji pokušavaju zamisliti trenutačnu ludost oko UI-ja, pismo je bilo poučno na više razina. To je živopisan primjer kako se razgovori o naprednim tehnologijama mogu mijenjati velikom brzinom. "Atmosfera u Portoriku 2015. bila je pozitivna i kolegijalna. Tada nismo imali situaciju da su se velike kompanije međusobno natjecale u inovacijama", rekao je Anthony Aguirre, potpredsjednik FLI-ja i tajnik njegova odbora, koji je prisustvovao toj konferenciji i pomogao u sastavljanju nedavnog pisma.
Gledajući unatrag, čini se kako je očit rizik da će tehnološke tvrtke koje imaju u tome vlastiti interes dominirati tim područjem. No ta se zabrinutost ne odražava u dokumentima iz 2015. godine, a izostalo je i bilo kakvo spominjanje širenja dezinformacija u industrijskim razmjerima, što je problem koji mnogi tehnološki stručnjaci sada vide kao jednu od najstrašnijih posljedica moćnih chatbotova u bliskoj budućnosti.
Potom je uslijedila reakcija na prošlomjesečno pismo. Očekivano, vodeće UI tvrtke kao što su OpenAI, Google, Meta
Osim svađa unutar Silicijske doline, kritičari smatraju i kako FLI radi štetu razvoju UI-ja zbog fokusiranja i upozoravanja na pogrešne stvari. Postoji nepogrešiva nijansa egzistencijalne prijetnje u njegovu pismu, što izričito povećava izglede da će ljudi izgubiti kontrolu nad civilizacijom koju smo izgradili. Strah od računalne superinteligencije dugogodišnja je tema unutar tehnoloških krugova, ali isto tako i tendencija da se uvelike preuveličavaju mogućnosti bilo koje tehnologije koja je predmet najnovijeg tehnološkog razvoja.
Čini se kako su predviđanje da će UI iskorijeniti siromaštvo i upozorenje da bi mogao uništiti ljudsku civilizaciju međusobno suprotna stajališta tehnoutopijskog spektra. No zapravo obje strane promiču gledište da je ono što Silicijska dolina gradi znatno moćnije nego što laici razumiju. "FLI ovakvim narativom potkopava pokušaje rješavanja realističnijih problema" rekao je Aleksander Madry, zamjenik voditelja Foruma o politici umjetne inteligencije na Institutu za tehnologiju iz Massachusettsa. "To je zaista kontraproduktivno. Neće promijeniti ništa, ali morat ćemo pričekati da se smiri kako bismo se vratili ozbiljnoj zabrinutosti", komentirao je pismo FLI-ja.
Vodeći komercijalni laboratoriji koji rade na umjetnoj inteligenciji brzo su promijenili velike najave. OpenAI objavio je
ChatGPT prije manje od šest mjeseci, a zatim i GPT-4, koji je po mnogim mjerama bolji, ali čije je unutarnje funkcioniranje uglavnom misterij za ljude izvan tvrtke. Njegova tehnologija pokreće niz proizvoda koje je lansirao Microsoft, njegov najveći investitor, od kojih su neki učinili uznemirujuće stvari, kao što je iskazivanje ljubavi prema ljudskim korisnicima. Google je izbacio konkurentski alat za pretraživanje koji pokreće chatbot Bard, dok je Meta stavila jedan od svojih modela UI-ja na raspolaganje istraživačima koji su pristali na određene parametre te se kôd brzo pojavio za preuzimanje na drugim mjestima na internetu.
OpenAI je, usprkos svom nazivu, postao vodeći zagovornik potrebe da se tehnologija pomno čuva, a pritom je zauzeo stav kako je primarna opasnost širenje umjetne inteligencije na ovaj način. Tvrtka je rekla da može predvidjeti budućnost u kojoj će se obavljati neovisni pregled modela ili će čak pristati ograničiti svoju tehnologiju na ključne načine, no nije rečeno kako će se za to odlučiti. Teško je ne primijetiti koliko je njihov oprezni pristup u skladu s komercijalnim interesima, kao što redovito ističu kritičari koji kažu da OpenAI otežava neovisna istraživanja o umjetnoj inteligenciji.
Neki suparnici također pokušavaju pristupiti OpenAI-ju. "Govoreći kao laik, uvijek postanem pomalo sumnjičava kada
rečenicu 'Ovo je preopasno' izgovaraju ljudi koji posjeduju znanje", rekla je Joelle Pineau, potpredsjednica za istraživanje umjetne inteligencije u Meti i profesorica na Sveučilištu McGill.
Meta istraživačima omogućuje pristup svojim verzijama modela umjetne inteligencije, čime se nadaju ispitati implicitnu
pristranost i eventualne nedostatke u modelu. Pineau je pohvalila Metin potez, ali je također rekla kako je brzina kojom je kôd modela postao javno dostupan bila zabrinjavajuća. "Nismo oduševljeni curenjem koda", istaknula je.
Možda nikada neće biti konačnog odgovora na pitanje imaju li OpenAI ili Meta pravu ideju za daljnji razvoj umjetne inteligencije, a rasprava je samo najnovija verzija jedne od najstarijih borbi u Silicijskoj dolini. No njihovi različiti putovi upućuju na to da odluke o postavljanju zaštitnih mjera za UI u potpunosti donose rukovoditelji nekoliko velikih tvrtki.
To ima odjeka i na društvenim mrežama, još jednom novitetu modernog doba, koji se razvio uz oskudnu regulaciju. Iako
je umjetna inteligencija daleko drugačija od društvenih mreža, mnogi tržišni igrači uključeni u zlatnu groznicu također se
ponovno javljaju. Sigurnosne službe bile su već duboko ukorijenjene u trenutku kada su kreatori politike počeli ozbiljnije reagirati na UI, ali su unatoč tome postigle vrlo slabe rezultate. U 2015. godini činilo se kako imamo još dosta vremena da se pozabavimo svime što će UI donijeti. Danas se to čini manje istinitom tvrdnjom.
--- Preveo Duje Jurić.
.webp){kind=icon}
