Inspiracija

TikTok izazovi koji vode djecu u smrt

Izvor: Olivia Carville

03. decembar 2022, 11:43

Sve više djece umire od izazova zamračenja na TikToku

Zašto najpopularnija aplikacija na svijetu ne čini više da ih zaštiti?

Depositphotos

"Sissy se zapetljala!" - panični plač petogodišnjeg dječaka odjeknuo je hodnikom trosobne kuće obitelji Arroyo u Milwaukeeju. Bila je veljača 2021, a on se prije spavanja igrao sa svojom devetogodišnjom sestrom Arriani. Njihova je majka bila na satu proučavanja Biblije, a njihov je otac bio u svojoj podrumskoj radionici, gdje nije čuo zvukove iz kuće. Dječak je gledao kako se Arriani penje na škrinju s igračkama, omotava metalni povodac za psa oko vrata i kači kopču za šarku na vratima ormara. Arriani je visila pola metra od tla, udarajući se i očajnički grebući po vratu.

Nekoliko dana kasnije, nakon što je Arriani pokopana u haljini princeze i s tijarom, te svježe nalakiranih noktiju, dječak je ispričao roditeljima što se dogodilo. Igrali su igru, rekao je, kao što su vidjeli na TikToku.

Igra je imala ime: blackout challenge. Djeca diljem svijeta gušila su se kućanskim predmetima sve dok se nisu onesvijestila: Potom su snimali adrenalin koji su dobili dok su dolazili svijesti, a zatim su postavljali videosnimke na društvenu mrežu. To je moderna inkarnacija izazova gušenja koji postoje desetljećima, samo što ih sada snažni algoritmi društvenih medija isporučuju djeci i dopiru do onih koji su premali da u potpunosti shvate rizik.

Nije bilo medijskog izvještavanja o Arrianijinoj smrti, a prošli su mjeseci dok TikTok o tome nije saznao. No tvrtka je bila svjesna da djeca koja nisu dovoljno stara da imaju profile u njenoj aplikaciji umiru radeći taj izazov. Tjednima prije toga TikTokov tim za povjerenje i sigurnost, koji radi na zaštiti korisnika i ugleda tvrtke, počeo je istraživati sličan incident u Palermu na Siciliji. Desetogodišnja djevojčica Antonella Sicomero pronađena je u siječnju kako visi na vješalici za ručnike s pojasom kućnog ogrtača oko vrata. Antonellini roditelji rekli su lokalnim medijima da je umrla igrajući "ekstremnu igru na TikToku". Ured tužitelja u Palermu otvorio je istragu, a talijanski nadzornik privatnosti naredio je društvenoj mreži da ukloni svakog korisnika u zemlji za čiju dob nije mogao potvrditi da je iznad 13 godina, navodeći da se ne pridržava vlastitog pravila da djecu koja imaju manje od 13 godina drži dalje od aplikacija.

Mala skupina ljudi iz Povjerenja i sigurnosti provela je dane pregledavajući svaki isječak koji je Antonella nedavno pogledala, rekla su dva člana tima koja su vidjela sažetak internog izvješća o njezinoj smrti i zatražili su anonimnost jer nisu bili ovlašteni razgovarati s medijima. Bilo je puno videa. U izvješću stoji da je Antonella, čija je škola zatvorena zbog Covid-19, bila na aplikaciji čak 10 sati dnevno. Grupa je također saznala da je, kao i mnoga djeca njezine dobi, Antonella tvrdila da je starija od 13 godina kada je kreirala svoj račun.

Tim je izvijestio da nije pronašao dokaze da je TikTokov algoritam preporučio izazov Antonelli. To je bilo olakšanje višim rukovoditeljima, kažu članovi tima. Napravljena je strategija upravljanja kriznim situacijama kako bi se TikTok udaljio od tragedije, prikazujući je kao problem cijele industrije. Tvrtka je rekla novinarima da izazov "nikada nije bio trend" na platformi i rekli su da su korisnici za njega saznali "iz izvora koji nisu TikTok".

TikTok je nastavio istu poruku, uključujući i nedavnu izjavu za Bloomberg Businessweek, budući da su djeca koja su umrla premlada da bi bila na društvenim mrežama. Izazov zamračenja povezan je sa smrću najmanje 15 djece u dobi od 12 godina ili mlađe u posljednjih 18 mjeseci, prema podacima koje je Businessweek prikupio iz novinskih izvješća, sudskih spisa i intervjua s članovima obitelji. Tada je umrlo i najmanje petero djece u dobi od 13 i 14 godina. Novinski naslovi nakon smrti često su izdvajali TikTok, ali policijske uprave odbile su zahtjeve koji su se pozivali na Zakon o slobodi informacija da vide izvješća o incidentima koja bi mogla pomoći u dokazivanju o kojoj je platformi riječ, ako uopće postoji.

U vrijeme Arrianijine smrti rukovoditelji su pokušavali smisliti kako bi bolje otkrili i izbacili djecu koja su lagala o svojoj dobi. Ne postoje učinkoviti mehanizmi za blokiranje maloljetnih korisnika s platformi društvenih medija, što je problem koji ih muči otkako su izumljeni. U 2021. TikTok se susreo s najmanje dva pružatelja softvera za procjenu dobi lica, koji može razlikovati dijete od tinejdžera s relativnom točnošću, prema riječima ljudi upoznatih s razgovorima. Ovi programi za strojno učenje skeniraju lica tražeći tragove o dobi osobe, a tvrtke kažu da sustavi rade bez identificiranja pojedinaca ili pohranjivanja bilo kakvih podataka, što bi pak moglo izazvati zabrinutost zbog privatnosti.

Usprkos tome, jedna od osoba upoznatih s pregovorima kaže da je izvršni direktor TikToka poništio ugovore. Tvrtku u vlasništvu ByteDance Ltd, sa sjedištem u Pekingu, regulatori i političari diljem svijeta optuživali su da je alat za nadzor kineske vlade i bila je suočena s mogućom zabranom u SAD-u, koja se još uvijek razmatra. Izvršna se osoba, kaže ova neimenovana osoba, bojala da bi korištenje biometrijskih podataka moglo potaknuti sumnje da Kina špijunira djecu korisnike. Druge platforme društvenih medija, uključujući Twitter, Instagram i aplikaciju za dijeljenje fotografija BeReal, od tada su se udružile s ovim pružateljima softvera za procjenu dobi.

TikTok je odbio komentirati sastanke ili zašto nije usvojio tehnologiju. Kaže da uklanja račune maloljetne djece i uklonio ih je 41 milijun samo u prvoj polovici ove godine. Ali s više od milijardu korisnika diljem svijeta, kažu bivši zaposlenici, zadatak je beskrajan - samo pitajte bilo kojeg mladog ovisnika o TikToku hoće li ga brisanje računa zadržati izvan platforme dulje od nekoliko minuta.

Američki zakon zabranjuje društvenim mrežama prikupljanje podataka o djeci mlađoj od 13 godina, a TikTok kaže da je u skladu s pravilima. Djeca mlađa od te dobi, koja se pokušaju registrirati za račun u SAD-u, preusmjeravaju se na verziju aplikacije u kojoj mogu gledati odabrani sadržaj bez osobnog profila ili prikazivanja oglasa. Ali TikTok diktira kulturu mladih, to je najpopularnija aplikacija u SAD-u, koristi je gotovo 70 posto tinejdžera u dobi od 13 do 17 godina, prema jednoj anketi, i tvrtka je svjesna da djeca često lažu o svojoj dobi kako bi dobila verziju za odrasle. I premda TikTok ne otkriva podatke o dobi svojih korisnika, interni podaci koji su procurili u New York Times pokazali su da je 2020. godine čak jedna trećina bila mlađa od 14 godina.

To je osjetljivo pitanje za kompaniju, koja kaže zaposlenicima da "govore o mladima, ali ne o djeci", prema internom dokumentu s porukama, koji je pregledao Businessweek. TikTok je kažnjen jer je pustio djecu u svoju aplikaciju, a regulatori diljem svijeta istražuju njegove mjere provjere dobi. Također se suočava s tužbama za nezakonitu smrt u SAD-u, navodeći da je njegov algoritam poslao izazov zamračenja djeci od osam godina.

Provjera koja je u tijeku dobrodošla je vijest za neke od dvadeset sadašnjih i bivših radnika Povjerenstva sigurnosti, koji su intervjuirani za ovaj članak. Kažu da bi tvrtka mogla i trebala učiniti više kako bi spriječila djecu da koriste aplikaciju. "PR linija u TikToku je da nam je sigurnost korisnika prioritet broj 1", kaže bivši voditelj povjerenja i sigurnosti sa sjedištem u Kaliforniji, koji je zamolio da ostane anoniman dok je razgovarao o internim pitanjima tvrtke. "To nije istina. Rast je prioritet broj 1. Biti aplikacija broj 1 na svijetu je prioritet broj 1. Zarađivati više novca je prioritet broj 1."

Kada je ByteDance potrošio oko 800 milijuna dolara za spajanje TikToka s aplikacijom za sinkronizaciju čitanja s usana Musical.ly 2018. godine, dobio je više od 200 milijuna novih korisnika. Također, naslijedio je istragu američke Savezne komisije za trgovinu o praksi Musical.ly da pušta malu djecu u svoju aplikaciju. Musical.ly se godinama oglušivao o američki zakon, pozdravljajući one mlađe od 13 godina koji su bili isključeni s konkurentskih platformi, istovremeno kršeći Zakon o zaštiti privatnosti djece na internetu, koji nastoji zaštititi djecu do 13 godina od oglašivača.

Suosnivač Musical.ly i suizvršni direktor Alex Zhu priznao je na konferenciji TechCrunch 2016. da su mnogi od najpopularnijih korisnika aplikacije bili maloljetni. No rekao je da je to u skladu sa zakonom, jer su djeca imala pristanak roditelja. Nije imalo smisla postavljati dobnu granicu, rekao je Zhu; kad bi Musical.ly pitao za datum rođenja, djeca bi samo lagala. Iako je to možda bilo iskreno priznanje, FTC je 2019. ByteDance kaznio s 5,7 milijuna dolara, što je u to vrijeme bila najveća nagodba o privatnosti djece u povijesti SAD-a. (Kazna jedva da je oštetila tvrtku koja se sada procjenjuje na 300 milijardi dolara, a ubrzo ju je zasjenila kazna od 170 milijuna dolara zbog povrede privatnosti djece protiv YouTubea i Googlea u vlasništvu Alphabet Inc.)

Na istoj konferenciji 2016. Zhu je rekao da ono što razlikuje Musical.ly od ostalih aplikacija za zabavu jesu svakodnevni izazovi. Tvrtka je svaki dan promovirala novi, obično generirajući više od milijun videozapisa. Kad je Musical.ly apsorbiran u TikTok, s njim su došli i izazovi.

Ti su izazovi imali odjeka među tinejdžerima, koji su ostali kod kuće tijekom prvog vala Covida. Razvili su se iz koreografiranih plesnih rutina u trendove obiteljskog povezivanja, poput prikazivanja četiri generacije u jednom videu ili oblačenja kućnih ljubimaca. U 2020. TikTok preuzimanja skočila su za 75 posto. Kako bi pojačali val, predstavnici tvrtke obratili su se utjecajnim osobama kako bi ih potaknuli da isprobaju različite izazove.

Kad su neki postali opasni, poput onih s djecom koja su se penjala na naslagane sanduke za mlijeko, pijuckala Benadryl ili uništavala školsku imovinu, TikTok je uspostavio "spektar štete" kako bi pomogao svojim moderatorima da odluče što bi moglo ostati gore, a što bi trebalo maknuti, prema Eric Hanu, čelniku tvrtke za SAD sigurnost. Izazov s cimetom, u kojem su korisnici pojeli žlicu praha, mogao je dovesti do manjih oštećenja pluća, ali se smatralo da nije vjerojatno da će izazvati katastrofalne štete, pa je tim za povjerenje i sigurnost priložio upozorenje sadržaju i ostavio ga. Morali su riješiti druga goruća pitanja, uključujući integritet izbora, borbu protiv govora mržnje i suočavanje s prijetnjom Trumpove administracije da će zabraniti TikTok zbog zabrinutosti za nacionalnu sigurnost.

Usred tog kaosa i eksplozivnog rasta aplikacije, izazovi su postajali sve riskantniji. U izazovu razbijanja lubanja, dvoje bi ljudi prevarilo treću osobu da skoči između njih, a zatim bi se spotaknulo skakača u zraku, što je rezultiralo izvješćima o potresima i oštećenjima mozga. Izazov utičnice, koji uključuje ispuštanje novčića na zupce djelomično uključenog punjača za telefon kako bi se gledalo kako iskri, doveo je do toga da su studenti optuženi za uništavanje imovine. Vatreni izazov, u kojem su klinci polijevali predmete akcelerantom i palili ih, ponekad je završavao opeklinama trećeg stupnja. A izazov zamračenja bio je smrtonosan.

Čini se da su američki zdravstveni dužnosnici proučavali smrtne slučajeve povezane s igrama gušenja samo u godinama prije procvata društvenih medija. Izvješće koje je Centar za kontrolu i prevenciju bolesti objavio 2008. pokazalo je da je 82 djece u dobi od 6 do 19 godina umrlo igrajući igru gušenja između 1995. i 2007, godine kada je prvi iPhone pušten u prodaju. Vlada od tada nije objavila drugu studiju o tom pitanju, ali povremena izvješća sugeriraju da su društveni mediji pojačali problem.

Judy Rogg postala je zagovornica nastojeći podići svijest o izazovu gušenja nakon što je njezin 12-godišnji sin Erik umro igrajući igricu 2010, mnogo prije nego što je TikTok stvoren. Rogg je pokrenula neprofitnu organizaciju pod nazivom Erik's Cause, koja pomaže u obuci škola o tome kako se nositi s rizicima na internetu i prikuplja statističke podatke o smrtima povezanim s igrama gušenja. Otkrila je da je od 2018. umrlo najmanje 33 djece mlađe od 13 godina. "Postao je popularniji na društvenim mrežama", kaže Rogg. "Apsolutno je eksplodirao."

Izazovi se prebacuju preko platformi, pretvarajući se u nove iteracije s različitim hashtagovima i šifriranim riječima dok korisnici zaobilaze sigurnosna ograničenja. Izazov zamračenja ima mnogo naziva, od očiglednije "igre gušenja" i "izazova padanja u nesvijest", do suptilnijeg "flatliner" i opskurnog "svemirskog majmuna". Djeca pogrešno pišu riječi kako bi izbjegla otkrivanje, poput "space monkee" ili "blackout tr1ck". Videozapisi s nekim od ovih naslova danas postoje na TikToku, prikazujući djecu kako duboko dišu i guraju jedno drugo u prsa dok se ne onesvijeste ili guše jedno drugo rukama. Možete vidjeti kako djeca privremeno gube svijest, a zatim se probude smijući se. Jedan natpis kaže: "Najluđi osjećaj svih vremena."

Više od 70 posto djece u SAD-u ima mobitel do svoje 12. godine, a polovica djece od 8 do 11 godina u Ujedinjenom Kraljevstvu svakodnevno gleda TikTok sadržaj, prema anketama u obje zemlje. TikTok obučava svoje timove za moderiranje da traže maloljetne korisnike i oslanja se na tekstualnu analitiku za otkrivanje ključnih riječi kao što je napisana dob u biografiji. Također se oslanja na druge korisnike kako bi otkrili svoje račune. Mahsau Cullinane, glasnogovornica tvrtke, odbila je otkriti više detalja, kako bi izbjegla podučavanje djece kako "zaobići naše zaštitne mjere". Istaknula je da je TikTok 2020. godine izdao alat koji roditeljima omogućuje praćenje aktivnosti djeteta na aplikaciji.

Globalna armija od oko 40.000 moderatora odgovorna je za pregled videa na TikToku, od kojih tri četvrtine rade po ugovoru. Svaki pogleda oko 1.000 videa dnevno, a potrebno im je oko 20 sekundi za pregled svakog od njih, prema bivšim zaposlenicima. Kažu da sustav nije usmjeren na pronalaženje maloljetnih korisnika. Postovi se filtriraju do moderatora pomoću softvera umjetne inteligencije koji skenira svaki preneseni video, 10 milijardi samo u prvom kvartalu ove godine, i automatski uklanja sve što bi kršilo smjernice zajednice, poput golotinje ili nasilja. Ako softver nije siguran, šalje materijal čovjeku na procjenu. Svaki videozapis koji ima više od oko 3000 pregleda (broj se razlikuje od zemlje do zemlje) također se šalje moderatoru, čime se osigurava da najpopularniji sadržaj dobije ljudski pregled. Ipak, djeca mlađa od 13 vjerojatno neće objavljivati sadržaj koji krši smjernice ili koji će doprijeti do toliko pogleda.

Moderatori TikToka možda aktivno traže račune maloljetnih korisnika, ali nikad nisu uklonili račune Arriani Arroyo, gdje je objavljivala videe za svojih 260 pratitelja. Nije skrivala svoj identitet: njezina profilna fotografija bila je slika njenog 9-godišnjeg lica. U svojim videima ona pleše, smije se i igra sa svojim bratom. Njezina posljednja objava imala je 457 pregleda.

"Ovo su posljednje stvari koje je nosila", kaže Christal Arroyo, uzimajući pidžamu na vezanje iz komode svoje kćeri. Nježno je razmotala vrh, otkrivajući razderotinu na mjestu na kojem su je bolničari otvorili. "Ne volim ih gledati", kaže ona presavijajući odjeću. – Dođem ih pomirisati. Kiša zapljuskuje prozor, a munja osvjetljava Arrianinu spavaću sobu. Arroyo ništa ne primjećuje. Ima zatvorene oči, udiše miris svoje kćeri.

Arriani je voljela šljokice, lak za nokte i haljine vilinskih princeza. Skupljala je školjke i pisala popise obveza u svoj dnevnik: "peri zube, biraj odjeću, friziraj se i šminkaj, zabavi se!" Omiljena pjesma bila joj je Girl on Fire Alicie Keys, a pjevala ju je tijekom jutarnje rutine. Htjela je iPhone kad je napunila 8, "kao svako dijete u Americi", kaže njezina majka. Omiljena aplikacija bila joj je TikTok. Kad je pandemija zatvorila njezinu školu 2020, Arriani je postala "opsjednuta" time, kaže Arroyo.

Arriani i njezin brat provodili su sate baveći se plesnim trendovima i viralnim izazovima. Neki su bili nevini, poput držanja vode u ustima dok se ne počnete hihotati ili jedenja samo crvene hrane tijekom 24 sata. Igrali su se zajedno one noći kad je umrla. "Ljudi su komentirali: 'Gdje su bili roditelji?'", kaže njezin otac Eddie Arroyo. – Pa bio sam kod kuće taj dan, taj trenutak i nisam ništa čuo. Njegov sin je sišao u podrum, gdje je rezao izolaciju, da mu kaže da se Arriani zapetljala. "Pratio sam ga da vidim što nije u redu i tu sam je pronašao", kaže, pokazujući prema spavaćoj sobi svog sina. Povodac za pse kojim se objesila bio je namijenjen psiću kojeg je obitelj namjeravala kupiti. "Nije mogla disati, nije mogla vrisnuti", kaže Eddie.

Neki bi se roditelji spakirali i otišli, progonjeni sjećanjem. Obitelj Arroyo je odlučila ostati u kući u kojoj je Arriani umrla, jer je tu i živjela. Njezine Juicy Couture Ugg čizme ukrašene draguljima nalaze se pokraj kreveta, njezina ružičasta maska za spavanje Trnoružice visi sa stupića kreveta. Htjeli su je pokopati na groblju prekoputa, čije se imanje vidi kroz njezine svjetlucave zavjese. Ali podižući petero djece uz Eddiejevu plaću vozača kamiona, a Christal je redovita studentica prava, nisu si mogli priuštiti parcelu. Umjesto toga, Arriani je pokopana na groblju udaljenom sedam minuta vožnje.

Nakon sprovoda, Arroyosi su pitali Arrianine prijatelje koju je igru igrala kad je umrla. Tada su prvi put čuli riječi "blackout challenge".

Čitali su novinska izvješća dok je sve više djece umiralo. Joshua Haileyesus pronađen je u Coloradu dva mjeseca kasnije s omčom oko vrata; njegov otac Zeryihun rekao je da je umro pokušavajući TikTokov izazov zamračenja. U lipnju je umrlo još troje djece, što je također rezultiralo novinskim naslovima o izazovu zamračenja: Nate Squires, 13, u Massachusettsu; LaTerius Smith Jr, 9, u Tennesseeju; i James Boyd-Gergely, 14, u Australiji. U srpnju je Lalani Walton, 8, pronađena obješena u svojoj spavaćoj sobi, također u Tennesseeju. U rujnu je Hayden Robert Craig (10) pronađen kako visi na stablu u svom dvorištu u Georgiji.

Policija nijednu od ovih smrti nije javno povezala s TikTokom. Drugi smrtni slučajevi možda su ostali neprijavljeni, prema Roggu, osnivaču Erik's Cause. "Nažalost, mnoge od tih smrti pogrešno su klasificirane kao samoubojstva", kaže ona. Jedini način da se dokaže da je dijete sudjelovalo u izazovu ili da se otkrije koja je platforma u pitanju jest da službenici provedu psihološku obdukciju, istragu djetetove internetske mreže i prijateljskih grupa kako bi rekonstruirali što su možda mislili, ili narede forenzička analiza njihovih uređaja kako bi se utvrdilo što su gledali online.

Policajci u Clarksvilleu, Tennessee, gdje je Lalani Walton umrla, učinili su upravo to. Prema tužbi koju su podnijeli njezini roditelji, policija je rekla da je analiza njezina telefona pokazala da je provela sate gledajući videozapise izazova zamračenja na TikToku dan prije smrti. (Glasnogovornik policijske uprave Clarksville odbio je komentirati.) Nakon što je tijelo Haydena Roberta Craiga pronađeno u Georgiji, policajac je primijetio njegov iPad u blizini, prema izvješću o incidentu u koje je imao uvid Businessweek. Na ekranu se prikazao TikTok crnog zaslona s krvavim emotikonom noža.

Članovi TikTokovog azijsko-pacifičkog savjetodavnog vijeća za sigurnost, koje se sastoji od vanjskih stručnjaka, izrazili su zabrinutost zbog toga što je izazov zamračenja povezan sa smrtnim slučajevima i u njihovoj regiji. Linh Phuong Nguyen, vijetnamski stručnjak za sigurnost djece na internetu koji je u vijeću, kaže da je nekoliko djece umrlo pokušavajući izazov u Kambodži, na Filipinima i u Vijetnamu. Jedna, iz Ho Chi Minh Cityja, imala je samo pet godina. Iskoristila je komad šifona da se objesi o krevet na kat nakon što je gledala izazov na YouTubeu. (Glasnogovornica YouTubea kaže da platforma uklanja videozapise izazova zamračenja i zabranjuje "svaku aktivnost koja sprječava disanje ili može dovesti do gušenja.")

Neki u vijeću predložili su TikToku i drugim platformama društvenih medija da izgrade savez kako bi spriječili širenje opasnih izazova, kažu ljudi upoznati s privatnim sastancima. Ali TikTok je imao nekoliko prijatelja u Silicijskoj dolini. Prema Washington Postu, jedan potencijalni saveznik, Meta Platforms Inc., angažirao je oporbene istraživače 2021. da podmetnu vijesti o tome kako TikTok širi opasne izazove koji zapravo potječu s Facebooka. Meta nije zanijekala kampanju klevetanja kako bi okrenula javnost protiv svog najvećeg rivala, na čijem je formatu i algoritmu istovremeno radila na kopiranju.

Cullinane, glasnogovornica TikToka, kaže da tvrtka "nevjerojatno ozbiljno shvata svaku prijavu navodnog opasnog čina ili izazova". Nakon svake smrti i naslova TikTok je odredio radnu skupinu da to istraži. No upućeni kažu da su ti upiti osmišljeni kako bi se odbacila krivnja. Svaki put kad je naslov izazova zamračenja povezan s TikTokom, tim koji je zadužen za slučaj pronašao je dokaze da su umrla djeca koristila više platformi društvenih medija i zaključio da nema načina da se dokaže koja ih je aplikacija uputila na izazov. U nekim slučajevima tim uopće nije mogao potvrditi postojanje TikTok računa.

Nakon smrti Antonelle Sicomero u siječnju 2021. i zabrane nepotvrđenih TikTok računa u Italiji, tvrtka je pristala ponovno provjeriti dob 12,5 milijuna korisnika u zemlji. Završilo je brisanjem pola milijuna računa. TikTok je također rekao svojim regionalnim upraviteljima da pripaze na bilo kakav sadržaj izazova zamračenja na njihovim tržištima, uklonio je videozapise koji promoviraju takav sadržaj i ukinuo krajnjim korisnicima mogućnost da ga traže u aplikaciji. TikTok je odbio otkriti koliko je videozapisa uklonjeno, ali Cullinane kaže da tvrtka nikada nije pronašla nikakve dokaze o trendu izazova na platformi. Ona ukazuje na anketu koju je naručila te godine koja pokazuje da je samo 0,3 posto tinejdžera reklo da je sudjelovalo u izazovu koji su smatrali "stvarno opasnim". Globalno istraživanje također je pokazalo da je dva posto reklo da je sudjelovalo u izazovima koje su smatrali "rizičnim i opasnim".

Unatoč mjerama koje je TikTok poduzeo, smrtni slučajevi u se nastavili događati. Prošlog prosinca 10-godišnja Nylah Anderson objesila se remenom torbice kod kuće u predgrađu Philadelphije. Nakon njezine smrti njezina majka Tawainna Anderson pronašla je na mobitelu snimke Nylah i njezine sestrične kako igraju igru gušenja i prijavila je policiji.

Policajac je u izvješću o incidentu napisao da mu je rođak rekao "to je bio izazov davljenja koji su vidjeli na TikToku i YouTubeu". Prema tužbi za nezakonitu smrt protiv TikToka i ByteDancea koju je Nylahina majka podnijela saveznom sudu u Pennsylvaniji u svibnju, forenzička analiza Nylahina telefona pokazala je da joj je TikTok poslao video koji ju je potaknuo da stavi torbicu na vješalicu u ormaru, namjesti glavu između torbe i naramenice i visi dok se ne onesvijesti. Tvrtka je "nedvojbeno znala da se smrtonosni izazov zamračenja širio njihovom aplikacijom i da je njihov algoritam posebno nudio izazov zamračenja djeci, uključujući i one koji su umrli", stoji u pritužbi.

U srpnju je Centar za zaštitu žrtava društvenih medija u Seattleu podnio drugu tužbu, u ime roditelja Arriani Arroyo i Lalani Walton. Centar, koji je 2021. godine osnovao Matthew Bergman, odvjetnik za odgovornost za proizvode, pokrenuo je više od 40 tužbi protiv TikToka, Mete, Snapchata i YouTubea zbog navodne štete za mentalno zdravlje, ovisnosti o društvenim medijima i nezakonite smrti. Bergman, koji je proveo svoju karijeru tužeći proizvođače azbesta, kaže da je svoju pozornost usmjerio na društvene medije prošle godine kada je čuo da je zviždačica Mete Frances Haugen objavila dokumente koji opisuju načine na koje Facebook šteti tinejdžerima. Ove platforme "eksperimentiraju s našom djecom i stavljaju profit ispred ljudi", kaže Bergman.

"Posljednja stvar na svijetu koju te kompanije žele učiniti je stati pred porotu i objasniti im zašto su im profiti važniji od života", kaže Bergman. "Upotrijebit će svaku moguću pravnu lukavštinu kako bi izbjegli taj obračun, a mi ćemo se boriti koliko god možemo da ih pozovemo na odgovornost." U rujnu je pokrenuta treća tužba protiv TikToka nakon što je 13-godišnji dječak umro pokušavajući izvesti izazov zamračenja, također u Novom Meksiku.

Cullinane, glasnogovornica TikToka, kaže da suosjeća s obiteljima, ali da ne može komentirati sudski spor koji je u tijeku. U srpnju je tvrtka podnijela zahtjev za odbacivanje tužbe Nylah Anderson, tvrdeći da "nema zakonsku obvezu zaštite od prikazivanja opasnih aktivnosti trećih strana". TikTok je u zahtjevu tvrdio da je zaštićen odjeljkom 230 Zakona o pristojnosti komunikacija, koji kaže da se tehnološke platforme ne mogu smatrati odgovornima za sadržaj objavljen na njihovim stranicama. U listopadu je sudac odbacio slučaj, slažući se da TikTok ne može biti tužen čak i ako je preporučio izazov Nylahu. Odvjetnici njezine majke uložili su žalbu.

Vrhovni sud možda ima nešto za reći o tom pitanju. U listopadu je pristao saslušati nepovezani slučaj o opsegu odredbe o imunitetu iz Odjeljka 230. Njegova bi odluka mogla dopustiti nastavak tužbi za izazivanje zamračenja, ili ih izbrisati.

Platforme društvenih medija pod sve su većim pritiskom zakonodavaca da učine više na zaštiti djece. U rujnu je guverner Kalifornije Gavin Newsom potpisao zakon o privatnosti na internetu, modeliran prema britanskom zakonu o dizajnu primjerenom dobi, koji prisiljava tehnološke tvrtke da daju prednost interesima djece u odnosu na komercijalne. Kalifornijski kodeks, koji bi trebao stupiti na snagu 2024, zahtijeva od tvrtki da procijene dob djeteta korisnika "s razumnom razinom sigurnosti". Savezni zakon, koji također ima dio o provjeri dobi, ovog je ljeta izašao iz odbora Senata uz dvostranačku podršku. Taj zakon, Zakon o sigurnosti djece na internetu, zahtijeva od Nacionalnog instituta za standarde i tehnologiju da provede godinu dana proučavajući kako platforme mogu točno potvrditi dob dok istovremeno štite privatnost maloljetnika.

To je oduvijek bio čin balansiranja za tehnološke tvrtke: sigurnost nasuprot privatnosti. Ako koriste tehnologiju prepoznavanja lica ili traže od korisnika identifikaciju koju je izdala vlada, poput vozačke dozvole ili putovnice, kritiziraju ih zbog kršenja prava na privatnost i gomilanja osobnih podataka. Ako samo traže od korisnika da unesu datum rođenja, napadaju ih da ne čine dovoljno kako bi zaštitili djecu koja lažu o svojoj dobi. A sve radnje koje uvodi provjera dobi suprotne su poruci sadržanoj u internom dokumentu TikToka, koji je pregledao Businessweek: "Naš krajnji cilj je povećati broj dnevno aktivnih korisnika."

Nadolazeći regulatorni pritisak stavio je pitanje osiguranja dobi u prvi plan, što je dovelo do toga da su neke od najvećih platformi društvenih medija u proteklih 18 mjeseci angažirale tvrtke treće strane za procjenu dobi. Za razliku od tehnologije prepoznavanja lica, koja nastoji identificirati osobu i ovisi o pohranjivanju milijuna fotografija, softver za procjenu dobi ne zadržava, dijeli ili ponovno koristi podatke, prema Julie Dawson, glavnoj službenici za politiku i regulativu u tvrtki za digitalni identitet Yoti doo Yoti, koja se nalazi u Londonu i radi s Instagramom u vlasništvu tvrtke Meta; njihov je softver proučio stotine tisuća lica s poznatom dobi, a programiran je da rastavlja fotografiju u piksele, analizira uzorke i procjenjuje koliko osoba ima godina.

Prošle je godine Yoti demonstrirao tehnologiju TikToku na privatnim sastancima, kaže Dawson, dodajući: "Do sada se nisu odlučili na to." TikTok se također sastao s Hiveom, tvrtkom iz San Francisca koja radi s tvrtkom Twitter Inc. i Reddit, prema trojici ljudi koji poznaju materiju. Te rasprave, koje su počele početkom 2021, također nisu dale nikakav rezultat.

Dawson kaže da je TikTok bio "prilično zabrinut" zbog mogućnosti dopuštanja davatelju softvera treće strane da koristi njegove biometrijske podatke. Te je veljače ByteDance pristao platiti 92 milijuna dolara za nagodbu kolektivne tužbe koju su u Illinoisu pokrenuli korisnici koji su kompaniju optužili za korištenje slika lica bez njihovog pristanka za ciljano oglašavanje. TikTok je osporio optužbe, ali je četiri mjeseca kasnije promijenio svoju politiku privatnosti kako bi aplikaciji dao izričito dopuštenje za prikupljanje "otisaka lica i glasa" svojih korisnika. U listopadu su njezini rukovoditelji ispitani u Kongresu o tome kako planiraju koristiti te podatke. Izbjegli su pitanje, ali su rekli da TikTok prikuplja manje podataka od drugih društvenih medija.

Problem je, kaže Michael Rich, pedijatar i direktor Digital Wellness Laba u Bostonskoj dječjoj bolnici, u tome što te tvrtke ne vide svoje korisnike kao klijente koje treba uslužiti, vide ih kao proizvod koji prodaju. Platforme ne provode ozbiljno dobna ograničenja jer to nije u njihovom najboljem interesu, ističe. "Nikome nije novost da tvrtke prolaze kroz proces ograničenja starosti, ali ga ne provode prestrogo."

Marc Berkman, izvršni direktor Organizacije za sigurnost društvenih medija, grupe za zaštitu potrošača, kaže da TikTok šteti djeci jer ne koristi softver treće strane za procjenu dobi. "Zaštita koju imaju nije odgovarajuća", kaže Berkman, čija grupa nudi obrazovne savjete o tome kako zaštititi djecu na internetu. "Oni imaju spremna ta rješenja. Mogli su ih primijeniti gotovo odmah. Odlučili su da neće. To služi poslovnom interesu, a ne sigurnosnom interesu."

U kolovozu su se dogodila još dva smrtna slučaja. Archie Battersbee, 12-godišnjak iz Essexa u Engleskoj, preminuo je nakon što je proveo mjesece na aparatima za održavanje života. Pronađen je bez svijesti s omčom oko vrata. Njegova je majka rekla novinarima da je pokušavao izazov zamračenja, iako mrtvozornik nije pronašao dokaze koji bi to potvrdili. Također u kolovozu, Leon Brown, 14, pronađen je obješen u svom domu u Škotskoj. Lokalne vijesti kažu da su njegovi prijatelji rekli njegovoj majci da je vidio izazov zamračenja na TikToku i da ga je pokušavao izvesti u videopozivu.

"Moje pitanje za TikTok", kaže Christal Arroyo, "je što ćete učiniti da promijenite platformu?" Jer u ovom trenutku to nije sigurno ni za koga, a definitivno nije sigurno ni za jedno dijete." Arroyo kaže da je njezina sreća umrla s Arriani. "Aplikacije za društvene mreže", razmišlja ona zbunjenim tonom. "Nikad nisam razmišljala o tome da bih zbog njih mogla izgubiti kćer."

U videu snimljenom mobitelom nekoliko tjedana prije nego što je umrla Arriani sjedi na stražnjem sjedalu automobila svojih roditelja, odjevena u ružičasti top s plavim cvjetovima. Njena tamna kosa je začešljana unatrag, a dlačice joj se kovrčaju iznad ušiju. Jednom rukom drži telefon, a kamera je toliko blizu da se vidi da je nedavno izgubila jedan mliječni zub. "Ne obaziri se na to što drugi ljudi govore o tebi", kaže Arriani. "Budi samouvjeren i budi strastven, jer svatko na ovom svijetu je lijep." Šalje poljubac u kameru i daje znak mira. "Dakle, bok", kaže ona, smiješeći se.
Businessweek je video poslao Hiveu, jednoj od softverskih kompanija koje su se susrele s TikTokom. Njegov model strojnog učenja razbio je isječak na okvire i skenirao svaku sliku kako bi došao do procjene starosti za Arriani.

"Tehnologija za ovo definitivno postoji", kaže izvršni direktor Kevin Guo. "Ali možda te platforme radije ne razumiju opseg ovog problema."

Hiveovom skeneru trebalo je tri sekunde da procijeni da Arriani ima 10 godina. Umrla je tri mjeseca prije svog 10. rođendana.