Više od 100 tehnoloških kompanija, među kojima su OpenAI, Anthropic, Google i Microsoft, pozvalo je vlade i privatni sektor na zajedničko jačanje sajber odbrane zbog sve većeg rizika od napada uz pomoć vještačke inteligencije.
U otvorenom pismu kompanije upozoravaju da bi AI mogao učiniti sajber napade učestalijim, bržim i sofisticiranijim, posebno kako modeli budu dobijali veći stepen autonomije. Poseban rizik predstavljaju sistemi od kojih zavise bolnice, vodovodna postrojenja i ključna digitalna infrastruktura.
Upozorenja dolaze nakon nekoliko incidenata koji su pokazali da autonomni AI agenti mogu, u određenim okolnostima, preći granice predviđene njihovim testnim okruženjima.
Najozbiljniji slučaj objavio je OpenAI. Kompanija je saopštila da su tokom julskih bezbjednosnih testiranja njeni modeli zaobišli kontrole koje su trebalo da ih izoluju od interneta, a zatim pristupili dijelu infrastrukture OpenAI-ja i sistemima kompanije Hugging Face.
Hugging Face je u sopstvenoj analizi naveo da je autonomni AI agent tokom napada izveo hiljade automatizovanih radnji, uključujući prodor u njihovu infrastrukturu. Kompanija je saopštila da je pristup bio ograničen i da nijesu pogođeni korisnički modeli, skupovi podataka ili paketi, osim određenih podataka povezanih sa testiranjem sajber sposobnosti.
Slične probleme prijavio je i Anthropic, koji je tokom pregleda svojih bezbjednosnih testova identifikovao tri slučaja u kojima su AI modeli iz testnih okruženja došli do interneta i ostvarili neovlašćen pristup stvarnim sistemima.
Kompanije koje su potpisale pismo traže novi nivo saradnje između tehnološkog sektora, država i organizacija za sajber bezbjednost, uz strože standarde i razvoj novih metoda zaštite.
Paradoks je što iste kompanije istovremeno razvijaju sve autonomnije AI sisteme i koriste ih upravo za sajber odbranu.
Zbog toga se pitanje više ne svodi samo na to koliko je vještačka inteligencija sposobna da napadne sistem, već i na to koliko pouzdano ljudi mogu kontrolisati AI agente kojima su dali pristup internetu, podacima i računarskim sistemima.
Za sada nema dokaza da su AI sistemi samostalno „objavili rat“ svojim tvorcima. Međutim, posljednji incidenti pokazuju da se granica između eksperimentalnog AI sistema i stvarnog sajber aktera ubrzano približava , što tehnološku industriju primorava da bezbjednost rješava prije nego što autonomija postane još veća.
Izvor : Reuters
ETOportal
