text size
Googleov model vještačke inteligencije Gemini nenamjerno je u maju "hakovao" tri sistema kompanija tokom testiranja cyber bezbjednosti, čime je povećan niz incidenata u kojima su AI agenti probili zaštitu sistema. To je uznemirilo stručnjake za bezbjednost i same programere ove tehnologije.
Do napada je došlo tokom istih testova koje je sprovodila kompanija za AI bezbjednost Irregular, a koji su doveli i do ranije otkrivenih proboja sistema kompanija OpenAI, Anthropic PBC i Meta Platforms. Irregular je u petak potvrdio da su svi ovi incidenti bili dio istog problema i da je o njima krajem jula obavijestio relevantne kompanije koje razvijaju AI.
Do jednog od incidenata sa Geminijem došlo je kada je od modela zatraženo da pronađe informacije o izmišljenoj kompaniji koja je slučajno imala isto ime kao stvarna kompanija. Google je to potvrdio nakon ranijeg izvještaja Wall Street Journala. Model je pogodio lozinku i tako dobio pristup servisu stvarne kompanije. Portparol Googlea rekao je da je kompanija o incidentu obavijestila nadležne organe.
Niz nedavnih incidenata u kojima su AI sistemi sposobni da samostalno izvršavaju zadatke probili zaštitu sistema pokrenuo je širom svijeta raspravu o rastućim rizicima vještačke inteligencije i mjerama koje su potrebne kako bi se oni ograničili. Izvršni direktor Anthropica Dario Amodei pozvao je cijelu industriju da uspori razvoj ove tehnologije, a njegov prijedlog podržali su izvršni direktor OpenAI-ja Sam Altman, Elon Musk i drugi.
Međutim, predsjednik SAD Donald Trump, izvršni direktor Nvidije Jensen Huang i izvršni direktor Mete Mark Zuckerberg među onima su koji su se usprotivili ideji novih regulativa, uz argument da bi kompanije, između ostalog, trebalo da budu sposobne da same regulišu svoje poslovanje. Neke mlađe AI kompanije takođe su upozorile da bi strože regulative mogle manjim kompanijama otežati konkurenciju velikim rivalima.
Incidenti povezani sa Geminijem "naglašavaju koliko je važno obučavati moćne AI modele da se ponašaju odgovorno", rekla je Heather Adkins, potpredsjednica za bezbjednosni inženjering u Googleu.
Do druga dva incidenta sa Geminijem došlo je kada je model pretraživao internet koristeći naziv kompanije. Adkins je rekla da je to model dovelo do javno dostupnih online repozitorijuma koji su sadržali pristupne podatke drugih kompanija, koje je model potom iskoristio za pristup dodatnim sistemima.
"U sva tri slučaja model se zaustavio", rekla je Adkins. "Postarali smo se da tri kompanije budu obaviještene."
Portparol Irregulara Josef Laor rekao je da je kompanija preduzela "hitne mjere" i da su svi poznati problemi sa njihove strane otklonjeni i riješeni prije nekoliko nedjelja.
.webp){kind=icon}
