text size
Dario Amodei, izvršni direktor Anthropica, objavio je prošle nedjelje esej "Moramo da usporimo pomjeranje granice" u kome poziva industriju da uspori tempo razvoja AI modela. Istog dana su ga podržali Sam Altman iz OpenAIja, Elon Mask iz xAIja i Demis Hasabis, šef Google DeepMinda. Predsjednik Donald Trump je na to odgovorio da ko god pobijedi u AI trci, taj je i pobijedio, dok je Evropska unija u isto vrijeme pomjerila rok za sopstvena pravila o visokorizičnim AI sistemima.
Najveći rivali prvi put javno traže kočnicu
Kad Amodei kaže "usporite", ne misli na gašenje razvoja, već na to da najnoviji i najmoćniji modeli dobiju vrijeme za temeljno testiranje prije nego što dobiju širok pristup alatima i internetu. U praksi to znači da spoljni ispitivači, ljudi van kompanije koji nemaju interes da model što prije izađe na tržište, nedjeljama pokušavaju da ga navedu da pogriješi ili izmakne kontroli, prije nego što dobije mogućnost da samostalno izvršava zadatke. Amodei je napisao da je Anthropic već obavezao sebe da takvim ispitivačima da pristup kao zaposlenima.
Konkretan razlog za taj zahtjev stigao je u julu, kada je jedan AI agent tokom OpenAIjevog internog bezbjednosnog testa sam pronašao način da izađe iz izolovanog okruženja u kome je trebalo da ostane zatvoren. Agent je došao do infrastrukture platforme Hugging Face i nekoliko dana nastavio napad kroz hiljade automatizovanih poteza, bez ijednog čovjeka koji mu je davao sljedeći korak. Amodeija najviše brine upravo to, sistem je sam pronašao put mimo ograničenja za koje je pretpostavljeno da ga sprječava, i sam nastavio da djeluje bez nadzora.
Altman je odgovorio da se slaže i da će OpenAI preuzeti istu obavezu oko nezavisnih ispitivača. Mask je na X-u odgovorio sa "Dario je u pravu", a Hasabis je poručio da esej pokazuje pravi put u kritičnom trenutku. Tramp je odgovorio da ko god pobijedi u trci za AI, pobijedio je.
Dok Amerika raspravlja o načelima, Brisel pomjera sopstveni rok
Pravila za visokorizične AI sisteme, one koji se koriste u zapošljavanju, procjeni kreditne sposobnosti ili obrazovanju, trebalo je da počnu da važe 2. avgusta 2026. Evropski parlament i Savjet su taj rok pomjerili na decembar 2027,, jer tehnički standardi i tijela za provjeru usklađenosti nisu bili spremni. Ono što jeste stupilo na snagu 2. avgusta jeste uža obaveza transparentnosti, i ona pogađa firme iz regiona direktno.
Zamislimo firmu iz Srbije koja klijentu u Njemačkoj prodaje chatbot za korisničku podršku ili alat koji generiše marketinški sadržaj. Od 2. avgusta, korisnik u okviru za razgovor mora jasno da vidi da priča sa AI sistemom.
Svaka slika ili video koji alat napravi mora da nosi mašinski čitljivu oznaku da je vještački generisan, dok za tekst ta obaveza važi samo ako se objavljuje bez ljudske provjere, jer zakon pravi izuzetak kada firma preuzme uredničku odgovornost za sadržaj koji je prije objave pregledao čovjek.
Obaveza pada na srpsku firmu kao proizvođača sistema, bez obzira na to što nema sjedište niti server u Evropskoj uniji, jer njen proizvod izlazi na tržište Unije preko klijenta u Njemačkoj. Ako obilježje izostane, njemački regulator može da pokrene postupak, a kazna ide do 15 miliona evra ili tri odsto ukupnog godišnjeg prihoda firme, ne samo prihoda ostvarenog u Evropskoj uniji.
Dva odlaganja, različit razlog
Amerika i Evropa su ove nedjelje usporile na različite načine. Amodei, Altman, Musk i Hasabis obećali su usporavanje dobrovoljno, bez ijednog obavezujućeg roka ili spoljne kontrole koja bi ih natjerala da ga ispoštuju, dok Tramp otvoreno poručuje da takva obećanja njega ne obavezuju. Evropska unija je, s druge strane, odložila baš onaj dio zakona koji je trebalo da bude najstroža kontrola, jer sopstvena administracija nije stigla da izgradi infrastrukturu za njegovu primjenu.
Za firmu u regionu to znači da su i dobrovoljna obećanja američkih kompanija i najavljena evropska kontrola trenutno bez efekta, dok manja, već aktivna obaveza obilježavanja AI sadržaja nosi stvaran pravni i finansijski rizik već ove nedjelje. Rasprava o tempu razvoja vještačke inteligencije može da sačeka do 2027, obilježavanje chatbota na sopstvenom sajtu ne može.
.webp){kind=icon}
