Kako AI apokalipsa izgleda iz kineske perspektive

Umjesto da odbjegli AI agenti navodno sve nas pobiju, Peking ima neposredniju noćnu moru: da bi ta tehnologija najprije mogla pomoći ljudima da razore društvo.

Nakon što je Silicijska dolina nedavno raspitivala strahove o tome kako će umjetna inteligencija uništiti čovječanstvo, Kina je odbacila ono što smatra "širenjem straha". Ministar državne sigurnosti Chen Yixin napisao je esej koji pruža uvid u neke od najvećih strahova te nacije. Unutar teksta ne spominje se izumiranje čovječanstva. Glavna je briga kako bi tehnologija mogla narušiti društvenu stabilnost putem deepfake sadržaja, operacija utjecaja i kognitivnog ratovanja masovnih razmjera. Druga velika briga su kibernetičke prijetnje koje bi mogle znatno olakšati prikupljanje osjetljivih i osobnih podataka.

Nedavni događaj sugerira da bi ta dva rizika mogla ići ruku pod ruku. Ranije ovog mjeseca, mali tim istraživača kibernetičke sigurnosti u Kaliforniji objavio je nalaze koji pokazuju kako su uspjeli simulirati masovni proboj u WeChat, aplikaciju koja u biti služi kao digitalna kritična infrastruktura za svakodnevni život u Kini. Tvrtka Calif sa sjedištem u Palo Altu, koja je objavila prijetnju pod nazivom "WeWorm", potvrdila je da je WeChatova matična kompanija Tencent Holdings Ltd. otklonila taj rizik.

No njihova je demonstracija unatoč tome dovoljno zastrašujuća da dužnosnicima u Pekingu oduzme san: tim je detaljno opisao kako su mogli upotrijebiti AI alate za stvaranje računalnog buga koji je za nekoliko sekundi uspio preuzeti potpunu kontrolu nad WeChat računom. Sve što obični korisnik vidi jest dolazni poziv osobe sa svog popisa kontakata.

Ipak, ima razloga za nadu. Razotkrivanje propusta u suradnji s Tencentom prošlo je glatko i bez tehničkih poteškoća, rekao mi je Bruce Dang iz tvrtke Calif u e-poruci, dodajući da su inženjeri brzo reagirali i da su problemi "brzo otklonjeni". Katastrofa koja je mogla destabilizirati platformu koju koristi više od milijardu ljudi za poslovanje, plaćanje roba i komunikaciju spriječena je zahvaljujući brzoj prekograničnoj suradnji.

U objavi na blogu, glavni izvršni direktor Califa Thai Duong opisao je pokus kao "poziv Sjedinjenim Državama, Kini i drugim vladama da surađuju te da rade zajedno s privatnim sektorom na sigurnom razvoju i primjeni AI-ja". Što je još važnije, dodao je da je okrivljavanje AI-ja i ograničavanje njegova daljnjeg razvoja "pogrešna pouka". Ranjivosti već postoje, a promijenilo se to što ih AI sada može "pronaći i popraviti". Drugim riječima, epizoda s WeChatom ne odnosi se na usporavanje utrke, već na to da transparentnost postane održiv put naprijed koji je politički prihvatljiv i u Washingtonu i u Pekingu.

Unatoč sve glasnijim upozorenjima o apokalipsi iz Silicijske doline, predsjednik Xi Jinping istaknuo je tijekom govora na samitu BRICS-a u New Delhiju zalaganje Pekinga za "otvoreni ekosustav za AI". Xi je pozvao na okvir upravljanja "temeljen na konsenzusu", što znači da pravila ne donosi samo SAD. To je u skladu sa stavom njegova vodećeg dužnosnika za obavještajne službe Chena, koji je istodobno pozvao na globalnu suradnju u vezi s rizicima, izbjegavajući pritom mogućnost da jedna zemlja monopolizira moć umjetne inteligencije (što je prozirna aluzija na SAD). Peking vjerojatno neće pristati na pauzu koju bi nametnuo Washington, no ako želi predvoditi svijet u toj tehnologiji, mora biti spreman surađivati s drugim nacijama na prijetnjama oko kojih se obje strane mogu barem složiti. To možda neće zaustaviti utrku, ali je mali korak prema tome da ona postane daleko manje nepromišljena.

Najnoviji poziv na oprez u SAD-u jest nevjerojatno prazna fraza "usporavanje tempa razvoja" (pace the frontier), žargonski prijedlog Darija Amodeija iz tvrtke Anthropic PBC koji je dobio rijetku podršku Sama Altmana iz OpenAI-ja i Elona Muska iz xAI-ja. Izjavu kojom se podupire taj koncept potpisalo je više od tisuću ljudi iz gotovo svih vodećih AI kompanija u Silicijskoj dolini. No čini se da malo tko zna što to zapravo znači. Ako su doista zabrinuti da bi samousavršavajuća umjetna inteligencija mogla okončati čovječanstvo, neodređeni pozivi na usporavanje iznimno su slab odgovor.

Ipak, u interesu bi tih tvrtki bilo da troše manje resursa na pokušaje izgradnje stroja-Boga, a više na osiguravanje da se njihovi proizvodi ne zloupotrebljavaju. Ne mogu puštati u optjecaj kibernetička oružja i zatim istodobno prodavati obranu. Umjesto navodnog "usporavanja" razvoja AI-ja pod vlastitim uvjetima, zakonodavci moraju zahtijevati maksimalnu transparentnost u pogledu rizika s kojima se trenutno suočavaju, a ne objavljivati podatke mjesecima nakon incidenta.

Amodeiju u prilog ide to što je i sam to podržao u svom manifestu od više od 3800 riječi, objavljenom nakon što je jedan od njegovih zaposlenika dao otkaz i podigao uzbunu da ljudi koji grade AI vjeruju da bi nas on mogao "sve ubiti". Neovisno o obvezama koje preuzmu, Amodei je rekao: "Javnost zaslužuje znati što se događa." U pravu je.

Peking i Washington možda se ne mogu složiti oko mnogih stvari kada je riječ o upravljanju umjetnom inteligencijom, no epizoda s WeChatom znak je da je prekogranično dijeljenje rizika moguće. AI je već promijenio internet i privatnost kakvu poznajemo. Zamislite kibernetički napad koji bi razotkrio svaku privatnu poruku koju ste ikada poslali i kaos koji bi to izazvao među tvrtkama i zajednicama. Stvaranje kanala za istraživače i kompanije kako bi dijelili ono što vide i ukazivali na nove prijetnje samo po sebi će ublažiti dio dinamike utrke i otvoriti prostor za teže rasprave.

Ako SAD i Kina ne mogu surađivati na opasnostima koje su već vidljive, malo je nade da će uspjeti upravljati onima za koje sami stvoritelji AI-ja upozoravaju da bi mogle biti naš kraj.