text size
Svijet je preplavljen deepfakeovima - video i audiosnimkama ili slikama zbog kojih se čini da ljudi rade ili govore stvari koje nikada nisu učinili ili rekli ili se nalaze na mjestima na kojima nikada nisu bili. Mnogi deepfakeovi osmišljeni su kako bi dali kredibilitet lažima i naštetili ugledu političara i drugih javnih osoba. Međutim, većina deepfakeova su eksplicitni videozapisi i slike na kojima su lica poznatih ljudi zalijepljena na tuđe tijelo. To se dogodilo krajem siječnja, kada su se lažne eksplicitne slike pop zvijezde Taylor Swift našle na društvenim mrežama. Sada kada umjetna inteligencija (UI) gotovo svakome omogućuje stvaranje realistične slike i zvuka uz samo nekoliko klikova na ekranu, sve je teže prosuditi je li ono što vidite i čujete na mrežama stvarno.
1. Što se dogodilo s Taylor Swift?
Lažne slike Taylor Swift osvanule su na društvenim mrežama i razljutile horde njezinih obožavatelja. Mnogi od njih pojavili su se na X-u, mreži prije poznatoj kao Twitter, koja je priopćila da radi na uklanjanju "svih identificiranih slika" i da će poduzeti "odgovarajuće mjere" protiv onih koji su ih objavili. Jedna je objava ostala online oko 17 sati i imala je više od 45 milijuna pregleda, izvještava Verge, što pokazuje da slike mogu postati viralne mnogo prije nego što se poduzmu mjere da se zaustavi njihovo širenje. Kasnije je X blokirao sadržaj o Swift, prikazujući poruku kada se traži njezino ime: "Nešto nije u redu. Pokušajte ponovno učitati stranicu." Incident u koji je bila uključena pop zvijezda zabrinuo je Bijelu kuću, koja je priopćila da bi Kongres trebao razmotriti zakonodavstvo za rješavanje lažnih, uvredljivih slika koje kruže internetom.
2. Gdje su još deepfakeovi bili u vijestima?
Ranije u siječnju Xochitl Gomez, 17-godišnja glumica iz Marvelovih filmova, izjavila je da je pronašla seksualno eksplicitne lažne slike svog lica na društvenim mrežama i da nije mogla ukloniti materijal, izvijestio je NBC News. Deepfakeovi su se također pojavili tijekom američke predsjedničke kampanje za izbore 2024. godine. Stanovnici New Hampshirea primili su automatizirani poziv uoči unutarstranačkih predsjedničkih izbora u toj državi, s glasom koji je zvučao kao da ih predsjednik Joe Biden poziva da ostanu kod kuće i "sačuvaju svoj glas za izbore u studenom". Glas je čak izgovorio jednu od Bidenovih izreka: "Kakva hrpa gluposti."
3. Kako nastaju deepfake videozapisi?
Često se izrađuju s pomoću algoritma umjetne inteligencije koji je obučen za prepoznavanje obrazaca u stvarnim videozapisima određene osobe, što je proces poznat kao duboko učenje. Tada je moguće zamijeniti element jednog videa, poput nečijeg lica, drugim sadržajem, a da to ne izgleda kao gruba montaža. Manipulacije su najvarljivije kada se doda kloniranje glasa, koje razbija audiosnimku govora na poluslogove koji se mogu ponovno sastaviti u nove riječi pa se čini kao da ih je izgovorila osoba na izvornoj snimci.
Lažna slika pape Franje koju je snimio Midjourney (lijevo) i prava fotografija pape Franje (desno). | Midjourney; AFP/Getty Images
4. Kako je deepfake tehnologija uzela maha?
Tehnologija je u početku bilo područje akademika i istraživača. Međutim, Motherboard, časopis Vicea, izvijestio je 2017. da je korisnik Reddita pod imenom Deepfakes osmislio algoritam za stvaranje lažnih videa koristeći otvoreni kod. Reddit je banirao korisnika, ali praksa se proširila. U početku je deepfake zahtijevao već postojeći video i stvarni glas, zajedno s vještinama uređivanja. Današnji generativni sustavi umjetne inteligencije omogućuju korisnicima stvaranje uvjerljivih slika i videa iz jednostavnih pisanih uputa. Zamolite računalo da napravi video koji nekome stavlja riječi u usta i ono će to učiniti. Digitalne krivotvorine postalo je teže uočiti jer tvrtke koje se bave umjetnom inteligencijom primjenjuju nove alate na ogromnoj količini materijala dostupnog na webu, od YouTubea do stocka fotografija i videogalerija.
.webp){kind=icon}
