text size
Dario Amodei, izvršni direktor Anthropica, objavio je prošle nedjelje esej "Moramo da usporimo pomjeranje granice" u kome poziva industriju da uspori tempo razvoja AI modela. Istog dana su ga podržali Sam Altman iz OpenAIja, Elon Mask iz xAIja i Demis Hasabis, šef Google DeepMinda. Predsjednik Donald Trump je na to odgovorio da ko god pobijedi u AI trci, taj je i pobijedio, dok je Evropska unija u isto vrijeme pomjerila rok za sopstvena pravila o visokorizičnim AI sistemima.
Najveći rivali prvi put javno traže kočnicu
Kad Amodei kaže "usporite", ne misli na gašenje razvoja, već na to da najnoviji i najmoćniji modeli dobiju vrijeme za temeljno testiranje prije nego što dobiju širok pristup alatima i internetu. U praksi to znači da spoljni ispitivači, ljudi van kompanije koji nemaju interes da model što prije izađe na tržište, nedjeljama pokušavaju da ga navedu da pogriješi ili izmakne kontroli, prije nego što dobije mogućnost da samostalno izvršava zadatke. Amodei je napisao da je Anthropic već obavezao sebe da takvim ispitivačima da pristup kao zaposlenima.
.webp){kind=icon}
