text size
OpenAI se suočava s novom pažnjom javnosti nakon što je otkrio da su dva njegova napredna AI modela hakirala sisteme druge kompanije tokom testiranja cyber sposobnosti, ponovo pokrenuvši raspravu o sigurnosnim praksama u industriji. Karen Hao, autorica knjige "Carstvo AI-ja" (Empire of AI), tvrdi da su te brige samo dio mnogo veće priče. Ona kaže da skrivena radna snaga koja stoji iza velikih jezičkih modela — kao i odluke koje se donose u vezi s obimom, moći i profitom — zaslužuju mnogo više pažnje, posebno dok se vodeće AI kompanije približavaju izlasku na berzu.
U ovom djelu Hao također proučava AI radnu snagu u zemljama u razvoju. Na primjer, 2021. godine, dok se OpenAI pripremao za dominantnije prisustvo ChatGPT-a, bilo je potrebno osigurati da uvredljiv sadržaj bude filtriran prije nego što stigne do korisnika. "Da bi napravio automatizirani filter, OpenAI-ju su prvo bili potrebni ljudi koji bi pažljivo pregledali i katalogizirali stotine hiljada primjera", piše Hao. Posao je bio povjeren vanjskim saradnicima u Keniji, gdje su, prema riječima Hao, radnici morali klasificirati "groteskne tekstualne opise" u kategorije koje su uključivale eksplicitno nasilje, govor mržnje, uznemiravanje i bestijalnost. Evo šta još autorica misli o ovim temama i zašto sama ne koristi nijedan AI model.
Uporedili ste AI kompanije s imperijama jer kažete da one prisvajaju i izvlače dragocjene resurse kako bi ostvarile svoju viziju. Zbog čega imate tako snažan stav o tome?
- Ove kompanije su konsolidirale historijski ogromnu količinu ekonomske i političke moći. One postaju vrhovne sile u svijetu, baš kao imperije iz prošlosti. Prisvajaju resurse koji nisu njihovi: podatke pojedinaca [i] intelektualnu svojinu umjetnika, pisaca i stvaralaca. One eksploatiraju izuzetnu količinu rada, kako kroz radnike koje koriste i iscrpljuju da bi proizvele svoje tehnologije, tako i kroz radnike čiji poslovi bivaju automatizirani primjenom tih tehnologija.
Rad s podacima je sada četvrta najbrže rastuća vrsta rada u SAD-u. Ljudi koji se bave ovim poslom su naučnici, advokati [i] diplomci sa Ph.D. titulom. Oni daju svoje znanje i stručnost za obuku ovih modela, ali pod duboko eksploatatorskim i slabo plaćenim uslovima. Ovakvom vrstom rada bavim se skoro osam godina; priča je iznova i iznova ista.
Ipak, to je i dalje posao? Postoji li u tome aspekt koji je jednostavno izazov našeg doba, a ne nužno nešto više eksploatatorsko nego ono što je postojalo ranije?
- [Ti] ljudi su visoko obrazovani i mogli su dobiti zaposlenje s punim radnim vremenom. Razlog zbog kojeg sada nemaju pristup boljem radu također je AI industrija. Ona dizajnira svoju tehnologiju i prodaje je kao alat za automatizaciju intelektualnog rada. Tržište rada se smanjuje — 25 posto nezaposlenog stanovništva u SAD-u čine ljudi sa četverogodišnjom fakultetskom diplomom. To je historijski rekord.
Dakle, nije riječ samo o tome da se daje posao ljudima koji ga nemaju; radi se o degradiranju mogućnosti za rad koje trenutno postoje — izvlačenju kvalificiranih radnika iz zaposlenja s punim radnim vremenom i njihovom prebacivanju u gig-rad. 2
(prim. aut. Ekonomisti žestoko raspravljaju o tome u kojoj mjeri je za ovo zaslužan AI. Istraživači sa Stanforda pronašli su određene dokaze da AI smanjuje broj početnih radnih mjesta, a Goldman Sachs je nedavno objavio izvještaj u kojem tvrdi da sektori izloženi AI-ju bilježe sporiji rast zaposlenosti.)
Karen Hao na intervjuu u Bloombergu u Londonu | Betty Laura Zapata/Bloomberg
Kažete li da bi trebalo da razmišljamo o eksploataciji rada kada koristimo Claude ili ChatGPT?
- Apsolutno. Druge industrije su imale slične probleme. Modna industrija se također bavila velikom eksploatacijom rada i velikom degradacijom životne sredine. Odgovor nikada nije bio: Hajde da se jednostavno potpuno riješimo odjeće. Odgovor je uvijek bio: Hajde da postavimo više standarde za proizvodnju odjeće bez tih problema.
Šta kažete zemlji kao što je Malta, koja je potpisala veliki sporazum s OpenAI-jem, prema kojem svi koji žive na Malti dobijaju besplatan pristup ChatGPT Plusu tokom godinu dana? Malta kaže da je to stavlja na čelo digitalnog doba.
- Upoznala sam mnogo kreatora politika iz zemalja u razvoju [i] manjih zemalja [koji vjeruju] da mogu učestvovati u ovoj revoluciji samo ako se ponude na prodaju. Samo zato što je vlada ponosna na ovo partnerstvo i misli da joj ono daje mjesto za stolom, to ne znači nužno da ono vodi ka tome da njeni građani imaju dostojanstveniji život.
Njihova vlada bi to vidjela kao opremanje građana za rad ili pristup znanju.
- Sklona sam tvrdnji da su oni eksploatirani i baš bi me zanimalo šta ljudi na Malti misle, a ne šta misli vlada Malte. Njihovi podaci se prikupljaju kako bi se obučavale sljedeće generacije modela.
Zato ove kompanije izlaze i sklapaju ovakva partnerstva: potrebno im je sve više i više podataka. Ostale su bez visokokvalitetnih podataka s interneta, pa je jedan od najboljih izvora direktno od korisnika. Ako mogu sklopiti ovakva partnerstva sa čitavim državama, dobijate bazu podataka cijele države koja se može slobodno učitati.
Neki ljudi na ovo gledaju samo kao: "Pa, koristio sam Google." Ali nikada nisam vidjela da ljudi postavljaju svoje medicinske kartone na Google da bi tražili tumačenje. Ljudi to rade sa ChatGPT-jem, Geminijem, Claudeom.
(prim. aut. Obratili smo se OpenAI-ju i Microsoftu za komentar na tvrdnje Hao o prikupljanju podataka, budući da obje kompanije rade s Maltom. OpenAI-jev odgovor nas je uputio na njegov proces za isključivanje za ljude koji ne žele da se njihovi podaci koriste za obuku modela. Microsoft je rekao: "Mi ne treniramo na podacima korisnika Copilota unutar Microsoft 365 aplikacija s Personal pretplatama." U međuvremenu, nedavno istraživanje pokazalo je da više od polovine stanovnika Malte očekuje da će AI imati pozitivan utjecaj na njihov život tokom naredne decenije — iznad prosjeka EU).
Zar za vas ne postoji nikakva pozitivna strana? To davanje medicinskih podataka — ako se radi uz pristanak — zar nije dio napretka nauke? Možda bi vam nešto bilo dijagnosticirano ili biste mogli doprinijeti široj dijagnostici.
- Imam probleme sa činjenicom da je to u rukama duboko moćnih kompanija koje nemaju apsolutno nikakvu odgovornost prema ljudima širom svijeta na koje to utječe.
Zato ih nazivam carstvima. Ljudi na vrhu mogu donijeti stotine odluka dnevno koje imaju lančane posljedice, a ne postoje formalni mehanizmi pomoću kojih ih milijarde ljudi mogu zaista osporiti, dovesti u pitanje [ili] dati povratnu informaciju. Historijski smo prešli s imperija na demokratije zato što su demokratije institucionalizirani načini da ljudi kažu kada im se nešto dopada, kada im se nešto ne dopada i kako žele zajednički upravljati i sami određivati svoju budućnost.
Kažete li zapravo da je moć ovih kompanija veća od moći vlada?
- Sve više postaje takva, apsolutno.
Čak i vlade SAD-a?
- Rekla bih da jeste. Nedavno je došlo do sukoba između Anthropica i Department of War. Department of War je upotrijebio nuklearnu opciju kako bi pokušao natjerati kompaniju da se povinuje, a to znači zaprijetiti da će kompaniju proglasiti rizikom za lanac snabdijevanja. Anthropic nije popustio.
(prim. aut. Odnos Anthropica s Pentagonom u februaru, osam mjeseci nakon sklapanja ugovora vrijednog 200 miliona dolara za pružanje specijalizirane verzije Claudea tom ministarstvu. Anthropic je pokušao zabraniti korištenje modela za masovni nadzor Amerikanaca ili u potpuno autonomnim sistemima naoružanja.)
Ali Anthropic je na drugi način dobro prošao — zauzeo je moralno visoku poziciju i dobio mnogo više korisnika zahvaljujući publicitetu tog trenutka.
- Apsolutno. Ove kompanije su spremne suprotstaviti se vladi SAD-a jer znaju da svaka kazna koja bi mogla uslijediti može biti nadoknađena drugim koristima.
Recite mi onda, koji je odgovor? Mislite li da je ličnost poput pape, koja je potpuno izvan domena vladine politike, neko ko može pružiti neku vrstu putokaza?
- Važno je da svi lideri u društvu, bilo vjerski ili neki drugi, razmišljaju o ovim pitanjima i o tome kako na kraju zaštititi ljudsku autonomiju u trenutku kada joj Silicijska dolina prijeti.
AI je poput riječi "transport". Transport obuhvata sve, od bicikala do raketa. AI obuhvata ogromnu zbirku različitih tehnologija, od kojih su neke projektirane poput raketa: zahtijevaju mnogo resursa i skupe su za proizvodnju. Uopćeno, rakete koristimo samo za uzak podskup potreba u transportu. Nikada ne idemo okolo i ne govorimo: Svaka osoba treba imati raketu i koristiti tu raketu za svaku svoju potrebu za prijevozom.
Moramo promijeniti svoj portfolio AI tehnologija kako bi bolje odražavao specijalizirani AI koji nam je potreban za rješavanje stvarnih društvenih izazova — poput unapređenja zdravstvene zaštite i ubrzavanja otkrivanja lijekova.
DeepMindov AlphaFold je primjer sistema koji nazivam biciklom AI-ja. On s velikom preciznošću predviđa kako će se sekvenca aminokiselina saviti u strukturu proteina. To je zaista važno za ubrzavanje razumijevanja ljudskih bolesti i dizajniranje lijekova — osvojio je Nobelovu nagradu za hemiju. AlphaFold koristi veoma malo podataka, veoma malo računarskih resursa, nema potrebe za eksploatacijom rada, a i dalje može pružiti mnogo koristi. Kada pogledate portfolio AI tehnologija, zar ne biste željeli izabrati one koje donose veliku korist [i] veoma mali trošak?
(prim. aut. Zanimljiva činjenica: AlphaFold je ipak zahtijevao podatke za obuku, kao i svaki AI alat, ali je DeepMind koristio javno dostupne izvore. Dobijena Protein Structure Database sada je slobodno dostupna i ima više od tri miliona korisnika u 190 zemalja.)
To su vrijednosni sudovi, zar ne? Uzmimo AI u odbrani — mnoge vojske ga koriste za odabir meta. Vi to možda vidite kao pogrešno; drugi to mogu vidjeti kao neophodno.
- To je naročito kontroverzno pitanje o kojem ljudi zauzimaju različite stavove.
Ono što tvrdim jeste da postoji mnogo različitih načina za proizvodnju AI-ja. Ne morate otključavati njegove koristi kroz korozivan pristup. Zašto ove kompanije ne držimo odgovornim prema tim višim standardima?
Svjesna sam da i Anthropic i OpenAI idu ka izlasku na berzu. Mislite li da bi to mogao biti trenutak koji bi donio veću odgovornost?
(prim. aut, Prema izvještajima Bloomberga, listing Anthropica mogao bi se dogoditi već u oktobru, dok OpenAI naginje ka 2027. godini)
- Nadam se da bi mogao, jer kada kompanije postanu javne, one zaista uvode više struktura upravljanja. Ali ovu kritiku upućujem i postojećim javnim kompanijama — Google, Amazon [i] Microsoft nazivam "carstvima AI-ja". Na kraju, upravljanje mora dolaziti i od javnosti i demokratski izabranih zvaničnika, a ne samo od tržišnih sila.
Ne od osnivača? Zvuči kao da nemate povjerenja u ljude koji vode ove kompanije. Veliki dio vaše knjige odnosi se posebno na OpenAI i Sama Altmana. Kako ste ga upoznali?
- Počela sam se baviti AI-jem 2018. godine za MIT Technology Review. Svake nedjelje sam čitala naučne radove, razgovarala s istraživačima na univerzitetima i u korporativnim laboratorijama. Godine 2019. predložila sam OpenAI-ju da se u organizaciji dešava mnogo promjena — upravo su stvorili profitni ogranak i možda su se željeli ponovo predstaviti javnosti. Provela sam tri dana unutar organizacije.
Nije im se dopao profil koji ste napisali, zar ne?
- Nije.
Rekli ste da postoji nesklad između onoga što su zapravo radili i njihovih obećanja. Šta ste vidjeli što vas je dovelo do tog zaključka?
- Zvali su se OpenAI zbog posvećenosti transparentnosti, ali ta organizacija je već tada bila duboko tajnovita. Zaposleni su bili veoma, veoma nervozni zbog onoga što su mi govorili i zbog toga gdje mi je bilo dozvoljeno da idem unutar kancelarija, tako da mi je to već djelovalo prilično bizarno. Također su govorili da kao neprofitna organizacija nikada neće komercijalizirati svoje tehnologije.
(prim.aut. Profil Hao, objavljen u februaru 2020. godine, bio je usmjeren na trojicu muškaraca koji su tada bili na čelu OpenAI-ja: Greg Brockman, koji je i dalje tamo kao predsjednik i suosnivač; Ilya Sutskever, koji je otišao i suosnovao Safe Superintelligence; i Dario Amodei, koji je kasnije suosnovao Anthropic. U njemu je Hao napisala da je OpenAI "dozvolio da žestoka konkurentnost i rastući pritisak za sve većim finansiranjem nagrizu njegove osnivačke ideale transparentnosti, otvorenosti i saradnje".)
Sada su potpuno profitna kompanija, otuda i slučaj između Elona Muska i Sama Altmana. Je li Musk u ovoj priči za vas "dobar momak"?
(prim. aut. Musk, suosnivač OpenAI-ja, tužio je kompaniju zbog navodnog napuštanja njene prvobitne neprofitne misije. Tužba je bila aktuelna kada sam razgovarala s njim u maju 2025. godine; porota je nešto više od godinu kasnije odbacila tvrdnje.)
- Ne. [Smijeh]
Često smo opsjednuti likovima na vrhu i uvijek pokušavamo analizirati: Ko je dobar momak? Ko je loš momak? Ko je manje loš momak s kojim se mogu nagoditi? Ja kažem: To nije jedini skup mogućnosti.
Ne bi trebalo da moramo živjeti s kompanijama koje su toliko moćne, gdje jedna osoba na vrhu može odlučivati o svemu tome. Problem je upravljanje, a ne zamjena jednog lika drugim.
I vi ste bili dio tog istog svijeta. Studirali ste na MIT-u; radili ste za startup. Ovo je zapravo mogla biti industrija vašeg života.
- Mogla je, da.
Suosnivači OpenAI-ja Sam Altman (desno) i Greg Brockman stižu u savezni sud 30. aprila 2026. godine na suočavanje s Elonom Muskom | David Paul Morris/Bloomberg
Imam utisak da ipak imate problem s tim ličnostima.
- Imam poseban problem s kulturom u kojoj su uronjeni i ideologijama koje imaju. To je imperijalistička ideologija. Prije nego što je zauzeo poziciju izvršnog direktora OpenAI-ja, Sam Altman je bio predsjednik Y Combinatora. Rekao je: Ulagаt ću u deset puta više kompanija svake godine sve dok ne uložim u svaku kompaniju pod suncem.
Ali tada je bio prilično mlad? Možda je to bila oholost ili ludost.
- Osim što se to odražava kroz način na koji pristupa strategiji OpenAI-ja — povećavaj modele deset puta više svake godine dok ne dostignemo razmjeru ljudskog mozga. Svi oni razmišljaju u terminima povećavanja obima po svaku cijenu.
Postoje li neki manje loši momci? Mislite li da je Anthropic principijelnija kompanija od OpenAI-ja?
- Ne.
Čak i nakon što se suprotstavio Pentagonu?
[Izvršni direktor Anthropica] Dario Amodei je rekao da nema problem s potpuno autonomnim oružjem. Problem je jednostavno u tome što nije želio da se ta verzija Claudea koristi za to.
A Claude je korišten u ciljanju uz pomoć AI-ja: korišten je u Iranu.
- Tako je.
Dario Amodei razgovara s novinarkom Bloomberga Emily Chang u sjedištu Anthropica u Kaliforniji | Jason Henry/Bloomberg
Pratite li također kineske AI igrače poput DeepSeeka?
- Vrlo površno.
Vjerujete li da se oni ponašaju drugačije? Optužujete li i njih za imperijalizam?
- Ponašaju se drugačije. Neposredno prije nego što se pojavio ChatGPT, vlada SAD-a je upotrijebila kontrolu izvoza kako bi blokirala kineske kompanije u pristupu najnaprednijim AI računarskim čipovima koje je dizajnirala Nvidia. Odjednom su se te kineske kompanije suočile s ogromnim ograničenjem jednog od ključnih resursa koje su američke kompanije koristile za ubrzavanje razvoja svog AI-ja — pa su [one] morale pronaći drugačiji put.
DeepSeek je bio primjer kineske kompanije koja je uspjela razviti iste sposobnosti ovih AI modela [sa] znatno manjim računarskim resursima. [To] ilustrira poentu koju iznosim — da je zapravo moguće proizvesti AI sa znatno manje resursa i time imati mnogo manje korozivan utjecaj na zdravlje zajednice i planete. Zašto to ne radimo?
(prim. aut. DeepSeek, koji sada vrijedi više od 50 milijardi dolara i prema izvještajima se priprema za IPO, i Moonshot spadaju među kineske AI kompanije koje žele potisnuti OpenAI i Anthropic na stranim tržištima. OpenAI i Anthropic optužili su kineske konkurente da koriste američke modele kako bi nepravedno ubrzali razvoj sopstvenih proizvoda, što je navelo Trumpovu administraciju da ispita kineske AI modele zbog moguće krađe intelektualne svojine.)
Iako mislite da u SAD-u postoji nedostatak upravljanja, i dalje postoji određeni nivo nadzora i odgovornosti, koji u Kini potpuno izostaje.
- Postoji tendencija u medijima da se pretpostavlja da je trka između [SAD-a i] Kine — nacionalnih država — umjesto između otvorenih i zatvorenih modela. Osjećam se sasvim prijatno ako [an] open-source model dolazi iz Kine ili SAD-a, zato što je otvoren; nešto je što se može provjeravati. Dominantni igrači koje kritikujem su zatvoreni.
Ljudi iz akademske zajednice u ovoj oblasti na kraju su počeli osnivati sopstvene kompanije sa strane. Mislite li da je to loš razvoj događaja?
- Problematično je samo ako je to ista postava ljudi od kojih se finansiraju. To je bio problem s našim startupom: VC model finansiranja i pritisak da se uvijek raste [i] da se vrlo brzo postane profitabilan.
Kada bi postojale kompanije koje se fokusiraju na vrste problema za koje mislim da je važno da ih riješimo, i koje također razvijaju AI s pristupom usmjerenim na zaštitu ljudske autonomije, održivost i tako dalje, onda bih rado razmotrila takvu mogućnost. Ne mislim da bih im bila naročito korisna; mislim da mi je bolje da budem novinarka.
Na kraju, Claude ili ChatGPT — šta koristite?
- Ni jedno ni drugo.
Stvarno? Koja je alternativa u vašem životu?
- Nema je. Moj um.
Ne osjećate li da vas to sputava?
- Zapravo me oslobađa.
.webp){kind=icon}
