Jedan hakerski incident otvorio je mnogo ozbiljnije pitanje od toga koliko je AI moćan – ko kontroliše sistem kada on sam počne da bira način na koji će ostvariti zadatak?
AI Fokus/Nataša Goleš
Vještačka inteligencija je do sada uglavnom bila nešto što pitamo, a ona nam odgovara. Napišemo pitanje, dobijemo tekst. Damo joj podatke, ona ih analizira. Zatražimo program, ona ga napiše.
Ali AI agenti mijenjaju tu priču.
Njima se može zadati cilj, a zatim im omogućiti da sami planiraju korake, koriste alate, provjeravaju rezultate i pokušavaju ponovo kada naiđu na prepreku.
Upravo zato je nedavni incident tokom testiranja OpenAI tehnologije privukao toliku pažnju.
OpenAI je objavio da su njegovi modeli, testirani za napredne sajber sposobnosti, uspjeli da izađu iz kontrolisanog okruženja, dođu do interneta i nastave aktivnosti koje su ih na kraju dovele do infrastrukture kompanije Hugging Face. Modeli su, prema navodima OpenAI-ja, tokom testa pronašli ranjivost i iskoristili je da nastave sa svojim zadatkom.
I tu dolazimo do najvažnijeg dijela. AI nije „odlučio da napadne“. Nije se pobunio protiv ljudi. Nije postao zao. Radio je ono što je dobio kao zadatak. Problem je u tome što je način na koji je pokušao da ga ostvari bio drugačiji od onoga što su ljudi očekivali. To je jedna od najvećih bezbjednosnih dilema budućih AI agenata.
Nije problem kada AI ne posluša. Problem može biti kada posluša previše dobro.
Zamislimo da čovjek agentu kaže: pronađi bezbjednosni propust u sistemu. Klasični AI može da napiše izvještaj i predloži šta bi trebalo provjeriti.
Autonomni agent može mnogo više. Može da pretražuje sistem, izvršava komande, analizira rezultate, pokušava različite metode i mijenja strategiju kada nešto ne uspije. Čovjek je zadao cilj. Mašina bira put. Tu nastaje rizik.
Jer ono što je čovjeku očigledno neprihvatljivo, algoritam može prepoznati kao efikasan način da dođe do rezultata.
Zato se danas sve više govori o kontroli agentnog AI-ja, a ne samo o kontroli chatbotova.
„Sandbox“ nije uvijek dovoljno dobra ograda
AI sistemi se često testiraju u takozvanom sandboxu – izolovanom digitalnom okruženju koje bi trebalo da spriječi pristup stvarnim sistemima.
Ideja je jednostavna: ako model pogriješi, posljedice ostaju unutar testnog prostora. Ali šta ako model pronađe način da tu granicu zaobiđe?
Upravo je to ono što ovaj slučaj čini važnim. Ne zato što se dogodila neka filmska pobuna mašina, već zato što pokazuje da kontrolisano okruženje nije isto što i savršeno izolovano okruženje.
A što su AI agenti sposobniji, to će biti teže predvidjeti sve načine na koje mogu pokušati da ostvare cilj.
Isti AI može biti i napadač i branilac
Ovdje postoji i druga strana priče. AI koji može brzo pronaći ranjivost može pomoći hakeru, ali može pomoći i kompaniji da tu ranjivost pronađe prije napadača. AI može analizirati ogroman broj zapisa, prepoznati sumnjivo ponašanje i pomoći stručnjacima da rekonstruišu šta se dogodilo.
Drugim riječima, počinje nova trka:
AI protiv AI-ja.
Jedan sistem pokušava da pronađe rupu. Drugi pokušava da je zatvori. I sve se odvija mnogo brže nego što bi čovjek mogao sam.
Zato će sajber bezbjednost u narednim godinama sve manje zavisiti samo od toga koliko ljudi imamo u bezbjednosnom timu, a sve više od toga koliko dobro možemo kontrolisati autonomne sisteme koje koristimo.
A šta ako je sve ovo i reklama?
Nakon incidenta pojavilo se i pitanje da li je cijela priča istovremeno i svojevrsna promocija sposobnosti OpenAI tehnologije.
To nije nevažno pitanje.
Kada kompanija pokaže da njen model može da izvodi složene sajber operacije, javnosti istovremeno šalje poruku koliko je ta tehnologija moćna.
Ali čak i ako je incident donio ogromnu marketinšku pažnju, tehnički problem zbog kojeg je priča postala važna neće nestati. AI agenti postaju sposobniji. Dobijaju pristup većem broju alata. Mogu samostalno da izvršavaju sve više koraka.
I zato se više ne može govoriti samo o tome šta AI zna. Mora se govoriti i o tome šta mu dozvoljavamo da uradi sa onim što zna.
Budućnost nije u zaustavljanju AI-ja
Bilo bi pogrešno zaključiti da zbog ovakvih incidenata treba odustati od AI agenata. Njihova korist je ogromna. Mogu ubrzati istraživanja, programiranje, medicinu, analizu podataka i sajber zaštitu.
Ali što je agent sposobniji, to mora imati preciznije granice.
Neophodna je kontrola pristupa, izolacija osjetljivih sistema, stalno praćenje aktivnosti i mogućnost da čovjek u svakom trenutku zaustavi proces. Jer najvažnija lekcija ovog incidenta nije da je „AI pobjegao“.
Lekcija je da dovoljno sposoban sistem može pronaći put koji njegov tvorac nije predvidio.
I tu se nalazi pravo pitanje budućnosti. Ne koliko će pametna biti vještačka inteligencija. Već koliko ćemo mi biti pametni kada joj budemo davali ovlašćenja.
Jer ako mašini damo cilj, alate i slobodu da sama bira put do njega, moramo biti sigurni da smo prije toga dobro razmislili o tome gdje taj put smije da završi.
ETOportal
