text size
Model kompanije OpenAI početkom ove godine hakovao je sajt australijske vlade, što predstavlja jedan od prvih slučajeva, poznatih javnosti, da je vještačka inteligencija (AI) izvela cyber napad na državnu bazu podataka.
AI sistem je neovlašćeno pristupio fajlovima na sajtu za prijavljivanje statističkih podataka o zdravstvu, rekao je u četvrtak australijski premijer Anthony Albanese. Nema dokaza da su u napadu 18. juna ugroženi lični podaci australijskih građana, rekao je Albanese u New Yorku.
Vijest o napadu objavljena je samo nekoliko sati nakon što su čelnici kompanija za vještačku inteligenciju pozvali svjetske lidere da zajednički rade na sprječavanju mogućnosti da AI sistemi izmaknu ljudskoj kontroli. Napad na državni sajt dodatno skreće pažnju na taj rizik, nakon niza incidenata koji su se desili ovog ljeta kada su modeli OpenAI-ja prodrli u online resurse drugih kompanija, među kojima je najpoznatiji slučaj platforme Hugging Face, koja hostuje skupove podataka za AI.
"Ovo je prvi javno poznat slučaj da je neki državni sistem probijen uz pomoć AI modela, bez naloga zlonamjernih aktera", rekao je Charles Li, glavni analitičar tajvanske istraživačke grupe za cyber-bezbjednost TeamT5.
Vlada je zabrinuta i zbog toga što je OpenAI mjesecima čekao da obavijesti Kanberu o incidentu, rekao je potpredsjednik vlade Richard Marles. Istraga o upadu je u toku kako bi se utvrdilo šta se dogodilo i da li je prekršen neki zakon, dodao je on.
"Ovo je upozorenje na rizike tehnologije koja se razvija bez odgovarajućih zaštitnih mehanizama i ograničenja", rekao je Marles u četvrtak u Sydneyu i dodao da je ovakav upad "potpuno neprihvatljiv".
Ovaj incident jedan je u nizu nedavnih cyber-napada koje su izveli AI modeli kompanija OpenAI, Anthropic i Meta Platforms, što je izazvalo opštu zabrinutost zbog rizika koje nosi sve moćnija tehnologija.
Zabrinutost zbog egzistencijalnih rizika vještačke inteligencije dodatno je porasla ovog mjeseca nakon što je Anthropic napustio Jacob Coxon, koji je u objavi na društvenim mrežama prilikom odlaska optužio AI kompanije da se "kockaju našim životima".
Anthony Albanese, premijer Australije/Bloomberg
Tokom maja i juna, AI modeli za koje se vjeruje da potiču iz OpenAI-ja bezuspješno su pokušali da hakuju sajtove još tri pružaoca javno dostupnih podataka, navodi istraživačka kompanija Transluce. Istraživač je rekao da su agenti to radili tokom pokušaja da obave relativno uobičajene zadatke preuzimanja podataka koji nisu bili povezani sa cyber-napadima.
"Agenti su pokušali da hakuju te sajtove kada drugi načini prikupljanja podataka koji su im bili potrebni nisu uspjeli", navodi Transluce na svom sajtu. "Važno je napomenuti da zadaci koje su agenti pokušavali da obave nisu bili povezani sa cyber-napadima; agenti su pribjegli hakerskim metodama dok su radili na uobičajenim zadacima prikupljanja podataka."
Marles je rekao da je napad na Australiju prvi poznati slučaj da je neki AI model dobio pristup državnim sistemima. Model je ušao na četiri web-sajta državnih i federalnih institucija tražeći podatke, ali je samo jedan od njih hakovao, rekao je on.
Albanese je rekao da je OpenAI čekao tri mjeseca da obavijesti Kanberu o neovlašćenom pristupu. OpenAI je saopštio da je od otkrivanja upada u avgustu do obavještavanja australijske vlade 10. septembra provjeravao činjenice i istraživao kojim informacijama je pristupljeno.
Premijer je rekao da je razgovarao sa Altmanom kako bi izrazio "izuzetnu zabrinutost zbog ovog incidenta".
"Takođe sam izrazio razočaranje što je kompaniji trebalo previše vremena da obavijesti vladu o onome što se dogodilo", rekao je Albanese na konferenciji za novinare na marginama Generalne skupštine Ujedinjenih nacija.
AI sistem je dobio zadatak da pronađe određene informacije, a "postojale su jasne prepreke koje su govorile AI agentu: ne. AI agent je pronašao način da zaobiđe te prepreke", rekao je Albanese. "Model je pokušao na druge načine da dođe do informacija koje je tražio, što je dovelo do neovlašćenog pristupa drugim dijelovima sistema."
U toku je forenzička istraga, uz pomoć Australijske direkcije za signale (ASD), službe za cyber-bezbjednost, kako bi se utvrdilo više detalja o napadu.
OpenAI je u saopštenju naveo da je njegova "opsežna provjera neusklađenih aktivnosti modela" otkrila radnje koje su uključivale "nekoliko web-sajtova i servisa australijske vlade". Modeli su im pristupili pokušavajući da pronađu statističke podatke potrebne za odgovore na pitanja o Australiji tokom interne procjene.
"Tokom tog procesa, naši modeli su preduzeli radnje koje nismo namjeravali", rekao je portparol OpenAI-ja u saopštenju.
Albanese je rekao da mu je potrebno uveravanje da postoje odgovarajući protokoli za upravljanje vještačkom inteligencijom.
"Gospodin Altman je svakako priznao - a pozvao sam ga i na dalje razgovore, da njihovi protokoli u ovom slučaju nisu bili dovoljno dobri", rekao je Albanese.
Komentari australijskog premijera uslijedili su u trenutku kada OpenAI poziva SAD da predvode globalne napore na uspostavljanju standarda za vještačku inteligenciju.
Tehnologija konkurentskog Anthropica takođe se našla u centru pažnje zbog slučaja narušavanja online bezbjednosti. Istraživači u oblasti cyber-bezbjednosti navode da je haker prošle godine koristio njihov model Claude za niz napada na meksičke državne institucije, pri čemu je ukradena velika količina osjetljivih poreskih podataka i podataka o biračima.
Amodei i Altman izrazili su zabrinutost zbog mogućnosti da sistemi vještačke inteligencije koji mogu sami sebe da unaprijeđuju nadmaše sposobnost ljudi da ih nadziru i kontrolišu.
- U pisanju pomogli Rachel Metz, Mark Anderson, Newley Purnell i Peter Vercoe
.webp){kind=icon}
