I to se dogodilo: Umjetna inteligencija hakirala vladu suverene države. Niko joj nije izdao naredbu!
AI agent tvrtke OpenAI probio je australsku državnu bazu zdravstvenih podataka i pristupio datotekama za koje nije imao dopuštenje, objavio je u srijedu australski premijer Anthony Albanese. Prema njegovim riječima, riječ je o prvom poznatom slučaju u kojem je AI hakirao računalni sustav neke vlade.
Incident se dogodio dok je OpenAI-jev agent istraživao podatke o zdravstvenoj potrošnji. Umjesto da stane kada je naišao na ograničenja pristupa, sustav ih je zaobišao kako bi pronašao odgovore u dijelovima baze kojima nije bio ovlašten pristupiti, javlja CNN.
"AI agent pristupio je i javnim i nejavnim datotekama", rekao je Albanese novinarima na marginama Opće skupštine UN-a u New Yorku, dodajući da je agent u bazu uspio i zapisivati datoteke.
Australski premijer o incidentu je razgovarao s izvršnim direktorom OpenAI-ja Samom Altmanom te mu prenio "krajnju zabrinutost" australske vlade.
"Forenzička istraga uz pomoć Australian Signals Directorate sada je u tijeku kako bi se utvrdilo više informacija, uključujući i to koji su još državni sustavi bili pogođeni", rekao je Albanese.
Agent napravio ono što mu nije bilo namijenjeno
OpenAI tvrdi da se incident dogodio još u lipnju, ali da je kompanija za njega doznala tek u kolovozu tijekom opsežne provjere aktivnosti svojih AI modela.
"Tijekom pregleda identificirali smo aktivnosti koje su uključivale nekoliko australskih državnih internetskih stranica i usluga dok su naši modeli pokušavali pronaći odgovore i dostupne statističke podatke o Australiji tijekom internog testiranja. Pritom su naši modeli poduzeli radnje koje nismo namjeravali", rekao je glasnogovornik OpenAI-ja Drew Pusateri.
Prema Albaneseu, moguće je da su pogođena još tri državna sustava: Australian Institute of Health and Welfare, ured za statistiku kriminala Novog Južnog Walesa te Ministarstvo zdravstva savezne države Victorije.
OpenAI navodi da nema dokaza da je agent pristupio osobnim medicinskim kartonima pacijenata. Podaci kojima je pristupio uključivali su zbirne zdravstvene statistike i interne nazive datoteka.
Albanese: Predugo su čekali
Dodatni problem za australsku vladu bio je način na koji je OpenAI prijavio incident. Kompanija tvrdi da je australske vlasti obavijestila 10. rujna, ali je upozorenje poslano na javnu adresu elektroničke pošte. Zbog toga je prošlo još pet dana prije nego što je informacija stigla do nadležnog ministra.
Albanese je rekao da je Altmanu jasno dao do znanja što misli o takvoj reakciji.
"Kompaniji je trebalo daleko previše vremena da obavijesti vladu o tome što se dogodilo, a neprihvatljiv je bio i način na koji je obavijest poslana", rekao je.
"Mislim da u OpenAI-ju znaju da moraju uspostaviti bolje protokole."
Australski ministar obrane Richard Marles u međuvremenu je najavio istragu posebne radne skupine i incident nazvao "potpuno neprihvatljivim", ali je naglasio da je njegov stvarni učinak zasad relativno malen.
"Nije se pristupilo medicinskim podacima nijednog pojedinca. Sam sustav ni na koji način nije kompromitiran", rekao je.
Incident dolazi u trenutku kada vodeći ljudi AI industrije sve glasnije upozoravaju na rizike brzog razvoja umjetne inteligencije. Altman je upravo na Općoj skupštini UN-a pozvao svjetske čelnike na stvaranje međunarodnih standarda za mjerenje sposobnosti AI sustava, procjenu rizika i očuvanje "smislenog ljudskog nadzora".
OpenAI je još u srpnju objavio da su njegovi modeli tijekom testiranja kibernetičke sigurnosti stvorili skupinu AI agenata koja je uspjela prodrijeti u sustave AI platforme Hugging Face. Novi slučaj u Australiji posebno je osjetljiv jer je AI ovoga puta bez namjere svojih operatera prešao granice pristupa državnim sustavima.
