Cenzura: Kako to radi Microsoft u Kini

Na upit o tom problemu, glasnogovornik poduzeća Microsoft okrivio je "nenamjernu ljudsku grešku". Prema navodima triju upućenih osoba, potpuni razlog koji je tek sad otkriven leži u tome da je Microsoft slučajno primijenio crnu listu koju upotrebljava za kinesku verziju tražilice Bing na cijeli svijet, pružajući tako neplanirani uvid u to kako surađuje s Pekingom kako bi kineskim korisnicima pružio cenzurirani pogled na internet. 

Američka poduzeća koja pružaju internetske usluge već se dugo bore s komplikacijama poslovanja u Kini. Nakon što su napravili značajne kompromise oko pitanja kao što je cenzura kako bi zadržali pristup ogromnom kineskom tržištu, Google  i Yahoo! zaustavili su rad svojih tražilica u toj zemlji, a  Facebook, Snapchat i X (bivši Twitter) nisu uopće dostupni. 

Za razliku od njih, Microsoft je nastavio pružati lokalnu verziju Binga od 2009. u skladu sa zahtjevima cenzure u Pekingu. Suosnivač Bill Gates dugo je zagovarao blisku suradnju s Kinom kako bi potaknuo inovacije u zdravstvu i znanosti te je odbacio zabrinutosti oko cenzure i utjecaja te zemlje na tehnologiju. Gates je odstupio iz Microsoftove uprave 2020., ali je nastavio posjećivati kineske čelnike. Sastao se s predsjednikom Xijem Jinpingom u lipnju 2023., što je bio Xijev prvi susret sa stranim poduzetnikom u posljednjih nekoliko godina. Tijekom sastanka, Xi je Gatesa opisao kao svog "starog prijatelja". 

Gates i Xi u Pekingu 2023. | Pang Xinglei/Xinhua/Redux

Satya Nadella, glavni izvršni direktor Microsofta posljednje desetljeće, slaže se s Gatesovom mišljenjem o korisnosti pružanja internetskih usluga, čak i kad to uključuje suradnju s autoritarnim vladama. Nadella i drugi čelnici također su prikazali Microsoftovo poslovanje u Kini manjim nego što zapravo jest. Godine 2020. predsjednik Brad Smith rekao je da Kina sudjeluje samo s 1,8 posto u Microsoftovim globalnim prodajnim rezultatima. 

Čak i ako Kina sudjeluje s malim udjelom u Microsoftovim prihodima, Bing ukazuje na stvarne znakove napretka. Prestigao je poduzeće Baidu, ukupnog tržišnog lidera, kao najbolju tražilicu za stolna računala tijekom petomjesečnog razdoblja 2023. i ponovno u siječnju ove godine, prema alatu za praćenje podataka StatCounter.

Microsoft je sklopio partnerstva s desecima tisuća kineskih poduzeća u sektoru maloprodaje, proizvodnje, zdravstvene zaštite, automobila i energetike. Microsoft je u članku na kineskom jeziku na svojoj web-stranici 2022. izjavio da ima "simbiotski odnos" sa svojim kineskim partnerima i da lokalno poslovanje vidi kao način za zapošljavanje talenata i stjecanje iskustva u poslovanju kojem inače ne bi imao pristup. U rujnu 2022. Microsoftov čelnik za Kinu Yang Hou najavio je planove za povećanje ukupnog broja zaposlenika poduzeća u zemlji iznad 10.000 rekavši: "Microsoft će nastaviti jačati svoju pouzdanost i ustrajati u razvoju u Kini."

Liu Pengyu, glasnogovornik kineskog veleposlanstva u Washingtonu, priopćio je da je kineski internet "besplatan, otvoren i uredan" i da pozdravlja rad stranih poduzeća u zemlji. "Međutim, poduzeća sa stranim kapitalom u Kini trebaju se pridržavati kineskih zakona i propisa, poštovati interese, kulturu i tradiciju opće javnosti te preuzeti odgovarajuće društvene odgovornosti", naveo je u priopćenju. 

Usklađenost s takvim smjernicama uvijek je predstavljala opasnost od neželjenih posljedica u SAD-u, a rastuće napetosti između SAD-a i Kine, posebno oko umjetne inteligencije, mogle bi samo pojačati pritisak. 

Godinama su kritičari govorili da je poslovanje poduzeća u Kini u suprotnosti s njegovom deklariranom predanošću ljudskim pravima i demokraciji. "To je uznemirujuće, nečuveno", kaže Yaqiu Wang, direktor istraživanja za Kinu, Hong Kong i Tajvan u američkom savjetodavnom vijeću organizacije Freedom House. "Microsoft je jedno od najvećih poduzeća na svijetu, izuzetno je profitabilno i tvrdi da podržava demokraciju i ljudska prava. Ali njegovo poslovanje u Kini dokazuje suprotno."

Microsoft: Bing je najmanje cenzurirana tražilica u Kini

Microsoft osporava ovo stajalište. "Bing je najmanje cenzurirana tražilica u Kini i često je jedini dostupan izvor za velike količine informacija, čak i ako moramo eliminirati određene rezultate u skladu s kineskim zakonom", rekao je Frank Shaw, Microsoftov glavni službenik za komunikacije, u izjavi poslanoj e-poštom. "Mi cenzuriramo rezultat isključivo ako zaključimo da nas pravni poredak u užem smislu obvezuje na to i redovito to odbijamo učiniti kad smatramo da nalog nije u skladu s pravilnim tumačenjem kineskih propisa. Jedina je alternativa napuštanje tržišta, što bi samo odsjeklo ljude od informacija kojima inače mogu pristupiti putem Binga." Poduzeće nije odgovorilo na popis pitanja o određenim problemima navedenima u ovom članku. 

U intervjuima je više od desetak sadašnjih i bivših zaposlenika Microsofta prvi put pružilo unutarnji uvid u tehnološki sofisticirani sustav cenzure koji je poduzeće stvorilo u Kini i koji je usredotočen na rastuću crnu listu s tisućama web-stranica, riječi i fraza. Svi su zatražili da ostanu anonimni jer nisu ovlašteni iznositi informacije medijima. 

Zabranjene fraze koje obuhvaćaju pretraživanja na engleskom i kineskom jeziku na kineskoj verziji Binga cn.bing.com uključuju one koje se odnose na "ljudska prava", "klimatske promjene u Kini" i "Nobelovu nagradu za mir", prema navodima zaposlenika i analizi časopisa Bloomberg Businessweek. Pojmovi kao što su "korupcija Komunističke partije", reference na "masakr na Tiananmenskom trgu", "čovjek ispred tenka", "Dalaj Lama", pokojni kineski aktivist za ljudska prava i dobitnik Nobelove nagrade za mir Liu Xiaobo i "demokracija" također se nalaze na crnoj listi. Korisnike koji pretražuju cenzurirani sadržaj dočekuje obavijest da su "rezultati uklonjeni zbog upozorenja o zahtjevima lokalnog zakona". 

U Kini Bing uklanja zapadne web-stranice s vijestima i Wikipediju. Pretrage povezane s navodnim zlostavljanjima ujgurske etničke manjine u kineskoj regiji Xinjiang daju rezultate iz kojih su izostavljene pojedinosti o kršenju ljudskih prava i koncentracijskim logorima. Umjesto toga, rezultati se sastoje od izvješća državnih medija koji poriču zlostavljanje i optužuju zapadne vlade za vođenje "rata dezinformacijama protiv Kine". U rezultatima su i poveznice na turističke vodiče za regiju. Pretraživanje brojnih drugih izraza s crne liste daje rezultate s web-stranica kineske vlade ili državnih medija, koje su stavljene na "bijelu listu", što znači da nikad nisu blokirane u rezultatima, prema navodima zaposlenika. Naravno, rezultati pretraživanja o cenzuri kineske vlade i kako je zaobići također su cenzurirani. 

Bing je u Kini počeo raditi 1. lipnja 2009. godine. Bilo je to neposredno prije 20. godišnjice krvavih prosvjeda na Tiananmenskom trgu, a kineska je vlada, ne gubeći vrijeme da pokaže Microsoftu koliko agresivna može biti, naglo blokirala pristup tražilici. To je izazvalo paniku među Microsoftovim kineskim timom koji se bojao da je došlo do tehničke pogreške i pokušavao shvatiti što je pošlo po zlu. "Poslije je postalo vrlo jasno da su nas isključili na razini mreže", prisjeća se jedan izvršni direktor koji je bio uključen u ispravljanje kvara. "Promet na našoj platformi jednostavno je nestao."

Nakon niza poziva između Microsoftovih odvjetnika i dužnosnika kineske vlade ograničenja su bila ukinuta sljedeći tjedan, a Bing Kina vratio se na mrežu. Nije jasno je li Microsoft napravio neke posebne ustupke. 

Odustajanje Googlea

Dok se Microsoft navikavao na rad u ovakvim uvjetima, Google je odustao. To je poduzeće upravljalo svojom tražilicom u Kini od 2006., a radnici pa i viši čelnici naježili su se kad su teme na crnoj listi porasle sa stotina na tisuće. U siječnju 2010., nakon napada na njegovu infrastrukturu za koji je poduzeće Google sumnjalo da je bio pokušaj napada na kineske disidente koji su upotrebljavali njegove usluge, objavilo je da prestaje s radom u zemlji. 

Suosnivač Sergey Brin rekao je tada u intervjuu da je poduzeće htjelo zauzeti stav protiv cenzure i javno progovoriti o "slobodi političkog disidentstva, što je ključno pitanje za nas". Rekao je da se poduzeće Google prvotno nadalo da će "pomoći u pomicanju internetskih sloboda", ali dogodilo se suprotno. Gates je kritizirao njegovu odluku iz 2010., rekavši da su napori kineske internetske cenzure "vrlo ograničeni" i da bi širenje interneta tamo imalo pozitivan učinak. Poslije je Google planirao ponovno ponuditi cenzuriranu tražilicu u Kini, ali je odustao od te ideje 2018. kad su prijedlozi postali javni. 

Microsoftova poslovna strategija s Bingom bila je prikazati bolje rezultate pretraživanja s manje ometajućih reklama lokalnih konkurenata, kažu zaposlenici. Velika prilika ukazala se, dodaju, 2016. kad je smrt studenta bila povezana s eksperimentalnim liječenjem raka koje je Baidu promovirao na svojoj tražilici. Regulatori su naredili tražilici da ukloni oglase za sumnjiva medicinska liječenja i jasnije naglasi koji su rezultati pretraživanja zapravo oglasi. Skandal je rezultirao povećanjem broja korisnika Binga, tvrde zaposlenici Microsofta. Baidu se nedavno suočio s kritikama zbog promicanja sličnih oglasa, ali su iz kompanije priopćili da su uložili napore u čišćenje oglasa na svojoj platformi. 

Ponekad službenici kineske vlade kažu Microsoftu da su određene teme zabranjene, obično tako što kontaktiraju s odvjetnicima poduzeća. Prema zaposlenicima Microsofta, nekad točno i navedu što je potrebno ukloniti. 

Međutim, učinkovitije je kad Microsoft djeluje samostalno. S vremenom je poduzeće razvilo sposobnost predviđanja trenutka kad će Peking reagirati na određene vrste sadržaja. U izvješću objavljenom u travnju 2023. istraživači laboratorija Citizen Lab Sveučilišta u Torontu analizirali su oko 500.000 cenzuriranih ključnih riječi i imena na tražilicama u Kini. Otkrili su da Bing općenito ima manje cenzure od Baidua, ali da je bio agresivniji od Baidua kad je u pitanju ograničavanje pristupa političkim i vjerskim sadržajima. 

Takva autocenzura jasna je poslovna odluka, kažu bivši zaposlenici Microsofta. "Ako ste upisali ‘6. 4.’ kako biste pronašli informacije o masakru na Tiananmenu, jednostavno ne bismo prikazali ništa", kaže bivši izvršni direktor koji je radio na tražilici Bing otprilike u vrijeme njezina pokretanja. "Relativno je jednostavna poslovna odluka samo prekomjerno filtrirati i biti siguran. Mislim da je to vrlo racionalna odluka. Je li to prava stvar za slobodu govora i ostale stvari ili ne, druga je tema.

Tehnologija cenzure

Kad korisnik Binga u Kini danas unese pojam koji pretražuje, zahtjev se usmjerava preko poslužitelja koji se nalaze u zemlji i primjenjuju filtar koji osigurava da se cenzurirane informacije isključe iz rezultata. To je postupak sličan onom koji Microsoft i Google upotrebljavaju za usklađivanje sa zakonima u raznim zemljama u vezi s dječjom pornografijom ili autorskim pravima. Razlika je samo u sadržaju koji se blokira. 

Ta tehnologija cenzure počela se oslanjati na sustave strojnog učenja koji analiziraju tekst, slike i metapodatke te skeniraju web-stranice kako bi utvrdili krše li možda lokalne zakone ili propise, prema zaposlenicima. Softver generira ocjenu za svaku stranicu kako bi odredio njezinu osjetljivost, kažu zaposlenici. 

Microsoft tvrdi da ne upotrebljava automatizaciju za prepoznavanje novog sadržaja koji je potrebno blokirati. Ljudski recenzenti koji su stručnjaci za lokalno područje izrađuju stvarnu crnu listu dodavanjem ili uklanjanjem sadržaja i također provjeravaju sadržaj koji je označio automatizirani sustav. U Kini se time bavi mali tim inženjera, od kojih su većina kineski državljani. (Većina zaposlenika u kineskim uredima poduzeća Microsoft lokalni su zaposlenici.) Posao cenzure smatra se vrlo osjetljivim i strogo se štiti unutar poduzeća, tvrde zaposlenici. 

"Popis tema mijenja se s vremenom", prisjeća se jedan bivši inženjer koji je radio na Bingu u Kini. "Postoje osjetljive teme. Danas su pretrage za pojam 'Winnie Pooh' cenzurirane jer se pojam Winnie Pooh upotrebljava kao pogrdan naziv za Xija Jinpinga. Prije sadašnje uprave taj bi pojam bio u redu. Mi trebamo znati takve stvari."

Bez obzira na pojedinosti ove evolucije, promjene crne liste gotovo uvijek je čine duljom. Četiri bivša zaposlenika Microsofta koji su radili na Bingu kažu da su neovisno jedan o drugome tijekom razdoblja od osam godina izrazili zabrinutost svojim voditeljima i kolegama zbog sve većeg opsega cenzure. Dvojica zaposlenika kažu da su se referirali na Microsoftovu izjavu o predanosti ljudskim pravima u kojoj je navedeno da je poduzeće predano pomaganju ljudima kako bi upotrebljavali tehnologiju "za obranu i promicanje demokracije, dobrog upravljanja i vladavine prava", kao i zaštiti i promicanju "slobode mišljenja, izražavanja, udruživanja, mirnog okupljanja i drugih ljudskih prava". 

Zaposlenici koji su izrazili zabrinutost kažu da im je rečeno da se poduzeće mora pridržavati kineskih zakona kako bi tamo poslovalo. U odgovoru na unutarnje i vanjske kritike o svom radu u zemlji, kažu dvojica zaposlenika, čelnici Microsofta uputili su na izjavu poduzeća o ljudskim pravima objavljenu 2012., koja uključuje standardno obrazloženje koje daje bilo koje američko tehnološko poduzeće koje posluje u zemljama s autoritarnim vladama. "Poduzeće najučinkovitije može poštivati ljudska prava svojom prisutnošću u zemljama koje predstavljaju značajne rizike za ljudska prava, a ne odsutnošću", navodi se. 

Microsoft je nekoliko puta odbio vladinu cenzuru. U 2013. poduzeće je prestalo blokirati određene riječi koje su ljudi pisali i slali u kineskoj verziji usluge za razmjenu poruka Skype. Vlasti su je zabranile 2017. godine. Microsoft je 2021. ugasio kinesku verziju LinkedIna. Organizacije za zaštitu ljudskih prava rekle su da je često cenzurirala sadržaj koji je kritizirao kinesku vladu i blokirala profile nekih novinara. 

Poduzeće nije pokazalo sklonost poduzimanju sličnih koraka s Bingom. Zaposlenici sugeriraju da bi to moglo biti zbog toga koliko je čvrsto integriran u druge proizvode. Bing je, na primjer, ugrađen u početni izbornik sustava Windows i zadana je tražilica u pregledniku Microsoft Edge koji dolazi instaliran na računalima sa sustavom Windows. Sustav je instaliran 300 do 500 milijuna puta u Kini, prema navodima zaposlenika. Microsoft čak nudi posebno izdanje sustava Windows za kinesku vladu. 

Kineski inženjeri ključni za razvog Binga

Drugi je čimbenik važnost kineskih talenata u tehnološkom sektoru za Microsoftovo istraživanje i razvoj, prema navodima zaposlenika. To je posebno slučaj kad je riječ o tražilici Bing, kažu, jer velik dio posla na platformi za pretraživanje vode kineski timovi koji zapošljavaju tisuće ljudi, čineći Microsoftov najveći inozemni razvojni tim. Ti kineski inženjeri imaju ključnu ulogu u održavanju i razvoju Bingove globalne platforme za pretraživanje. Oni imaju jedinstven i kontradiktoran položaj u poduzeću jer rade na značajkama koje su zabranjene u Kini, ali dostupne drugdje, kao što je Bingov alat Copilot s umjetnom inteligencijom, koji je djelomično razvijen s pomoću alata GPT-4 poduzeća OpenAI. 

Sudjelovanje kineskih radnika u naprednim projektima s umjetnom inteligencijom stavlja Microsoft u novi ranjivi položaj. Poduzeće je oduvijek imalo stajalište da je tehnološki razvoj globalni pothvat u kojem bi programeri trebali imati slobodu raditi izvan državnih granica. 

Geopolitika povećava pritisak na takav okvir jer se Peking i Washington pokušavaju izboriti za pobjedu u utrci za razvoj strateški ključne umjetne inteligencije. U siječnju su novine New York Times izvijestile da su američki dužnosnici razgovarali s Microsoftom o tome treba li njegov laboratorij za umjetnu inteligenciju u Kini nastaviti s radom. Poduzeće je navelo da ima zaštitne mjere u laboratoriju, ali ne postoji jamstvo koje može u nedogled smiriti zabrinutosti Washingtona. Tvorci američke politike iz svih političkih spektara kritični su prema kineskoj povijesti u pogledu ljudskih prava, a za rastuću skupinu tvrdolinijaša gotovo svaka interakcija s kineskim subjektima prijetnja je američkoj nacionalnoj sigurnosti. 

Širenje cenzure

U javnim komentarima u Davosu u Švicarskoj ovog siječnja Nadella je opisao poslovanje poduzeća u Kini kao način za promicanje interesa SAD-a, rekavši da se na taj način kineska stručnost usmjerava u izradu američke tehnologije. "Također želimo iskoristiti ljudski kapital diljem svijeta kako bismo mogli pridonijeti onome što je u biti na kraju dana američko intelektualno vlasništvo", rekao je. "Kad pogledam dokumente o strojnom učenju, na mandarinskom je napisano jednako koliko i na engleskom."

Također je opisao poslovanje svog poduzeća u Kini kao način za povećanje otvorenosti. "Povijest nas uči, barem kako ja to shvaćam, da je najgora pogreška koju bilo koja civilizacija, bilo koje društvo, može napraviti jest da se nekako izolira od znanja koje nastaje negdje drugdje."

U ovim se komentarima Nadella nije izravno osvrnuo na Bingovu lokalnu cenzuru, a kritičari primjećuju da kineski primjer već služi kao model drugim vladama koje svoje stanovništvo žele ograditi od politički nepogodnih informacija. Na primjer, Indija je uvela neke elemente kineske internetske politike. Rusija je tražila od Microsofta da ukloni tisuće sadržaja, uključujući poveznice na oporbene političke i novinske web-stranice, s platformi kao što je Bing, a prema navodima zaposlenika, poduzeće je često ispunjavalo takve zahtjeve. 

Microsoft kaže da se uklanjanjem sadržaja u Kini ne uklanja sadržaj u ostatku svijeta. Međutim, kao što je pokazao incident s "čovjekom ispred tenka" iz 2021., neliberalna upotreba tehnologije može se proširiti preko granica. U svibnju 2022. istraživači iz laboratorija Citizen Lab otkrili su da Bingova značajka "automatskog prijedloga" cenzurira politički osjetljiva kineska imena i teme za ljude koji upotrebljavaju tražilicu na međunarodnoj razini, uključujući SAD i Kanadu.

"Čini se neizbježnim da, ako cenzurirate jednu demografsku skupinu svojih korisnika", kaže Jeffrey Knockel, viši znanstveni suradnik u laboratoriju Citizen Lab, "ne možete istovremeno omogućiti slobodu govora drugoj."