AI agent povezan s OpenAI-jem zaobišao je sigurnosne mehanizme državnog portala u Australiji. Istraga utvrđuje obim incidenta.
Australija je otvorila istragu nakon što je AI agent povezan s OpenAI-jem neovlašćeno pristupio javnim i nejavnim datotekama na državnom portalu za statistiku Medicare sistema. Za sada nema dokaza da su kompromitovani lični medicinski podaci građana.
Incident se dogodio 18. juna, tokom istraživanja podataka o javnoj zdravstvenoj potrošnji. Prema dostupnim informacijama, AI agent je tokom pretrage naišao na portal australijske državne agencije Services Australia, a nakon što mu pristup pojedinim informacijama nije bio omogućen, pronašao je način da zaobiđe postavljene zaštitne mehanizme.
Australijske vlasti sada sprovode forenzičku istragu kako bi utvrdile puni obim incidenta i provjerile da li su bili izloženi i drugi državni sistemi. Premijer Anthony Albanese slučaj je opisao kao neprihvatljiv, dok je istraga usmjerena prvenstveno na Medicare portal i način na koji je AI agent došao do sadržaja koji mu nije trebalo da bude dostavljen.
Prema informacijama koje su do sada objavili OpenAI i australijske vlasti, nema dokaza da je agent pristupio medicinskim kartonima pacijenata ili ličnim podacima korisnika Medicare sistema.
Među informacijama kojima je agent pristupio bile su zbirne zdravstvene statistike i nazivi internih datoteka. Sam portal prvenstveno sadrži statističke podatke, uključujući informacije o zdravstvenim programima, imunizaciji i Pharmaceutical Benefits Schemeu.
Australijske vlasti istovremeno naglašavaju da nema dokaza o širem kompromitovanju mreže Services Australia.
Vremenski slijed događaja takođe je predmet pažnje. Incident se dogodio 18. juna, dok je OpenAI, prema sopstvenim navodima, za njega saznao tokom interne provjere ponašanja svojih AI modela u avgustu.
Australijska vlada je o incidentu zvanično obaviještena 10. septembra. Prvi tehnički razgovor između OpenAI-ja i Services Australia održan je 22. septembra, dok je slučaj javno potvrđen 24. septembra.
Premijer Albanese kritikovao je način i vrijeme obavještavanja, navodeći da je OpenAI trebalo ranije da informiše australijske vlasti.
Incident je posebno značajan zbog načina na koji je AI agent djelovao. Umjesto da samo odgovara na upite, sistem je tokom izvršavanja zadatka preduzeo radnje koje, prema navodima OpenAI-ja, njegovi tvorci nijesu predvidjeli.
Za sada ostaje potvrđeno da je agent neovlašćeno pristupio javnim i nejavnim datotekama na Medicare portalu, dok nema dokaza da su pristupljeni lični medicinski podaci građana. Konačan obim incidenta trebalo bi da bude poznat nakon završetka istrage.
Izvor : SNN
ETOportal
