.webp){kind=icon}
Svijet je preplavljen deepfakeovima - video i audiosnimkama ili slikama zbog kojih se čini da ljudi rade ili govore stvari koje nikada nisu učinili ili rekli ili se nalaze na mjestima na kojima nikada nisu bili. Mnogi deepfakeovi osmišljeni su kako bi dali kredibilitet lažima i naštetili ugledu političara i drugih javnih osoba. Međutim, većina deepfakeova su eksplicitni videozapisi i slike na kojima su lica poznatih ljudi zalijepljena na tuđe tijelo. To se dogodilo krajem siječnja, kada su se lažne eksplicitne slike pop zvijezde Taylor Swift našle na društvenim mrežama. Sada kada umjetna inteligencija (UI) gotovo svakome omogućuje stvaranje realistične slike i zvuka uz samo nekoliko klikova na ekranu, sve je teže prosuditi je li ono što vidite i čujete na mrežama stvarno.
1. Što se dogodilo s Taylor Swift?
Lažne slike Taylor Swift osvanule su na društvenim mrežama i razljutile horde njezinih obožavatelja. Mnogi od njih pojavili su se na X-u, mreži prije poznatoj kao Twitter, koja je priopćila da radi na uklanjanju "svih identificiranih slika" i da će poduzeti "odgovarajuće mjere" protiv onih koji su ih objavili. Jedna je objava ostala online oko 17 sati i imala je više od 45 milijuna pregleda, izvještava Verge, što pokazuje da slike mogu postati viralne mnogo prije nego što se poduzmu mjere da se zaustavi njihovo širenje. Kasnije je X blokirao sadržaj o Swift, prikazujući poruku kada se traži njezino ime: "Nešto nije u redu. Pokušajte ponovno učitati stranicu." Incident u koji je bila uključena pop zvijezda zabrinuo je Bijelu kuću, koja je priopćila da bi Kongres trebao razmotriti zakonodavstvo za rješavanje lažnih, uvredljivih slika koje kruže internetom.
2. Gdje su još deepfakeovi bili u vijestima?
Ranije u siječnju Xochitl Gomez, 17-godišnja glumica iz Marvelovih filmova, izjavila je da je pronašla seksualno eksplicitne lažne slike svog lica na društvenim mrežama i da nije mogla ukloniti materijal, izvijestio je NBC News. Deepfakeovi su se također pojavili tijekom američke predsjedničke kampanje za izbore 2024. godine. Stanovnici New Hampshirea primili su automatizirani poziv uoči unutarstranačkih predsjedničkih izbora u toj državi, s glasom koji je zvučao kao da ih predsjednik Joe Biden poziva da ostanu kod kuće i "sačuvaju svoj glas za izbore u studenom". Glas je čak izgovorio jednu od Bidenovih izreka: "Kakva hrpa gluposti."
3. Kako nastaju deepfake videozapisi?
Često se izrađuju s pomoću algoritma umjetne inteligencije koji je obučen za prepoznavanje obrazaca u stvarnim videozapisima određene osobe, što je proces poznat kao duboko učenje. Tada je moguće zamijeniti element jednog videa, poput nečijeg lica, drugim sadržajem, a da to ne izgleda kao gruba montaža. Manipulacije su najvarljivije kada se doda kloniranje glasa, koje razbija audiosnimku govora na poluslogove koji se mogu ponovno sastaviti u nove riječi pa se čini kao da ih je izgovorila osoba na izvornoj snimci.
Lažna slika pape Franje koju je snimio Midjourney (lijevo) i prava fotografija pape Franje (desno). | Midjourney; AFP/Getty Images
4. Kako je deepfake tehnologija uzela maha?
Tehnologija je u početku bilo područje akademika i istraživača. Međutim, Motherboard, časopis Vicea, izvijestio je 2017. da je korisnik Reddita pod imenom Deepfakes osmislio algoritam za stvaranje lažnih videa koristeći otvoreni kod. Reddit je banirao korisnika, ali praksa se proširila. U početku je deepfake zahtijevao već postojeći video i stvarni glas, zajedno s vještinama uređivanja. Današnji generativni sustavi umjetne inteligencije omogućuju korisnicima stvaranje uvjerljivih slika i videa iz jednostavnih pisanih uputa. Zamolite računalo da napravi video koji nekome stavlja riječi u usta i ono će to učiniti. Digitalne krivotvorine postalo je teže uočiti jer tvrtke koje se bave umjetnom inteligencijom primjenjuju nove alate na ogromnoj količini materijala dostupnog na webu, od YouTubea do stocka fotografija i videogalerija.
5. Koji još primjeri deepfakeova postoje?
Kineski su "trolovi" širili izmijenjene slike šumskih požara u kolovozu na havajskom otoku Mauiju kako bi poduprli tvrdnje da su bili napadnuti tajnim oružjem za upravljanjem vremena koje testira SAD. U svibnju 2023. američke su dionice nakratko pale nakon što se internetom proširila slika na kojoj se činilo da Pentagon gori. Stručnjaci kažu da lažna slika pokazuje znakove da ju je generirala umjetna inteligencija. Te veljače pojavila se audiosnimka onoga što se činilo da nigerijski predsjednički kandidat Atiku Abubakar planira tog mjeseca lažirati glasanje. Godine 2021. na društvenim mrežama pojavio se minutni video koji prikazuje ukrajinskog predsjednika Volodimira Zelenskog kako govori svojim vojnicima da polože oružje i predaju se Rusiji.
6. Što je tu opasno?
Postoji opasnost da deepfakeovi s vremenom postanu toliko uvjerljivi da će biti nemoguće razlučiti što je stvarno od onoga što je izmišljeno. Zamislite prevarante koji manipuliraju cijenama dionica izrađujući lažne videozapise izvršnih direktora koji iznose vijesti o tvrtkama ili lažne videozapise vojnika koji čine ratne zločine. Političari, poslovni lideri i slavne osobe posebno su ugroženi, s obzirom na to koliko je njihovih snimaka dostupno. Tehnologija omogućuje takozvanu osvetničku pornografiju čak i ako ne postoji stvarna fotografija ili video na kojoj je osoba gola, a najčešće su mete žene. Jednom kada video na internetu postane viralan, gotovo ga je nemoguće ukloniti. Također postoji zabrinutost da će širenje svijesti o deepfakeovima olakšati ljudima koji su stvarno snimljeni kako rade ili govore nepoželjne ili nezakonite stvari da tvrde da su dokazi protiv njih lažni. Neki ga ljudi već koriste za obranu na sudu.
7. Poduzima li se nešto po tom pitanju?
Vrstu strojnog učenja koja proizvodi deepfake teško je otkriti. Međutim, nekoliko startupa kao što su nizozemski Sensity AI i estonski Sentinel razvijaju tehnologiju detekcije, kao i mnoge velike američke tehnološke tvrtke. Intel je lansirao je proizvod FakeCatcher u studenom 2022., za koji kaže da može otkriti lažni video s 96-postotnom točnošću gledajući suptilne promjene u boji kože subjekta uzrokovane protokom krvi. Tvrtke poput Microsofta obvezale su se ugraditi digitalne vodene žigove u slike stvorene uz pomoć njihovih UI alata kako bi ih identificirali kao lažne. Američka državna zakonodavna tijela djelovala su brže od Kongresa u rješavanju neposredne štete koju stvara umjetna inteligencija. Nekoliko je država donijelo zakone koji reguliraju deepfakeove, uglavnom u kontekstu pornografije i izbora. Predloženi zakon Europske unije o umjetnoj inteligenciji zahtijevao bi od platformi da označavaju deepfake kao takav.
