text size
OpenAI odlaže verziju svog modela Astra, dok uvodi strože zaštitne mjere za razvoj vještačke inteligencije (engl. artificial intelligence - AI), upozoravajući na povećane rizike nakon niza nedavnih incidenata u kojima su AI sistemi neovlašteno izvodili hakerske napade.
Saachi Jain, rukovodilac OpenAI-ja za sigurnosne sisteme, rekao je da model GPT-6.1 Astra, koji je još u razvoju, nije bio dovoljno dobar u pogledu "ostajanja u okviru zadatog obima i ovlašćenja, kao i načina na koji korisniku saopštava kakav je posao obavio".
Odluke OpenAI-ja odražavaju sve izraženiju raspravu o potrebi da se razvoj AI-ja uspori dok se procjenjuju opasnosti te tehnologije. Obustava Astre jedna je od konkretnijih mjera preduzetih nakon niza incidenata u kojima su njegovi modeli pristupali web-sajtovima trećih strana bez ovlaštenja. U utorak je kompanija koja razvija ChatGPT predstavila ono što naziva "sigurnosnim slučajevima za obuku AI-ja", čiji je cilj dokumentovanje rizika povezanih s novim modelima.
Kompanija ih je opisala kao skup najboljih praksi koje bi trebalo pretočiti u okvir pravila. Zaštitne mjere trebalo bi da uključe mogućnost viših rukovodilaca da stave veto na određene aktivnosti.
"Naravno, želimo da budemo sigurni da je razvoj naših modela sigurna, bilo da se odvija unutar kompanije ili nakon što modele ponudimo korisnicima", naveo je Jain u saopštenju. "Ali kada ih pustimo korisnicima, imamo izuzetno visok prag kada je riječ o sigurnosti i usklađenosti."
OpenAI je prošle nedjelje obustavio obuku svojih najmoćnijih modela nakon što je još jedan AI model pristupio internetu iako je trebalo da bude onemogućen za to. Kompanija je tada saopštila da je odlučila i da ne nastavi obuku tog konkretnog modela, koji je posle dobijanja pristupa internetu poslao upit eksternom chatbotom. OpenAI je u ponedjeljak saopštio da se model Astra, čije je objavljivanje otkazano, razlikovao od modela opisanog prošle nedjelje.
Odvojeno od toga, kompanija se u utorak izvinila zbog toga što su njeni AI modeli pristupili veb-sajtovima australijske vlade i obećala da će formirati novu radnu grupu sa lokalnim stručnjacima za tu zemlju. OpenAI šalje direktora za strategiju Jasona Kwona na sednicu odbora sa lokalnim zakonodavcima o AI-ju početkom oktobra.
OpenAI bi u utorak trebalo da održi svoju godišnju konferenciju za programere u San Francisku - jednodnevni događaj na kojem OpenAI obično predstavlja novi softver i funkcije namijenjene zajednici softverskih programera. Izvršni direktor Sam Altman trebalo bi da govori ujutru.
The Wall Street Journal je ranije izvjestio o obustavljenom lansiranju GPT-6.1 Astre.
.webp){kind=icon}
