Do juče smo od vještačke inteligencije uglavnom tražili odgovore: da napiše tekst, prevede dokument, pronađe informaciju ili napravi analizu. Čovjek postavi pitanje, mašina odgovori, a konačnu odluku ipak donosi čovjek. To se sada mijenja. Nova generacija vještačke inteligencije sve češće ne treba samo da odgovori na zahtjev, već da obavi posao umjesto nas.
AI Fokus/Nataša Goleš
AI agent može dobiti određeni zadatak, pristup podacima i digitalnim alatima, a zatim samostalno napraviti niz koraka kako bi došao do cilja. Ako mu omogućimo pristup elektronskoj pošti, može slati poruke; ako je povezan sa poslovnim sistemima, može pokretati procese; ako ima pristup finansijskim alatima, može izvršavati transakcije. Upravo tu počinje ozbiljnije pitanje: šta se dešava kada AI pogriješi, a njegova greška više nije samo pogrešan odgovor, već konkretna radnja?
Čovjek više nije jedini koji odlučuje
Najveća promjena koju donose AI agenti nije samo u njihovoj sposobnosti da obrađuju velike količine podataka, već u tome što im čovjek daje ovlašćenje da djeluju. Više nije riječ samo o modelu „pitaj AI“, već o tome da mu kažemo šta želimo da postigne i prepustimo mu da sam pronađe način.
Razlika je ogromna. Kada chatbot napiše pogrešan odgovor, čovjek još uvijek može da ga provjeri i odluči da ga ne upotrijebi. Kada agent samostalno napravi deset koraka, a greška se dogodi na trećem, posljedice mogu postati vidljive tek na kraju procesa. Tada se neminovno postavlja pitanje: ko je odgovoran za odluku koju je donio AI?
Da li je odgovoran programer koji je napravio sistem, kompanija koja ga je razvila, kompanija koja ga koristi, osoba koja mu je dala ovlašćenje ili čovjek koji je trebalo da nadgleda njegov rad? Tehnologija napreduje brže od odgovora na ovo pitanje, a upravo će definisanje odgovornosti biti jedan od najvećih izazova nove AI ere.
Problem nastaje kada počnemo da vjerujemo mašini
Postoji još jedan rizik koji je možda manje vidljiv, ali nije ništa manji. Ljudi prirodno počinju da vjeruju tehnologiji kada ona dovoljno puta pokaže da je korisna. Ako AI deset puta pravilno analizira dokument, jedanaesti put možda više nećemo provjeravati njegov rezultat. A upravo tada greška može proći neprimijećeno.
Poseban problem predstavlja sajber bezbjednost. AI agent koji ima pristup našim podacima i sistemima može postati nova meta napada. Napadač više ne mora nužno da napadne samo čovjeka – može pokušati da manipuliše instrukcijama koje agent dobija i navede ga da uradi nešto što korisnik nikada nije želio.
Zato će zaštita od sajber napada u budućnosti morati da obuhvati ne samo računare, telefone i naloge, već i digitalne agente koji djeluju u naše ime.
Koliko ovlašćenja treba dati AI-ju?
Tu dolazimo do možda najvažnijeg pitanja. Ako vještačka inteligencija može da obavi posao umjesto nas, da li treba dozvoliti da ga završi potpuno samostalno ili mora postojati granica nakon koje posljednju riječ ima čovjek?
AI može da pronađe podatke, napravi analizu, predloži rješenje i pripremi sve što je potrebno. Ali kada su u pitanju novac, zdravlje, pravna odgovornost, zapošljavanje ili odluke koje mogu ozbiljno uticati na čovjeka, posljednja odluka možda ipak mora ostati ljudska.
Ne zato što je čovjek uvijek pametniji od mašine, već zato što čovjek snosi posljedice.
Vještačka inteligencija tako polako prestaje da bude samo alat koji čeka našu naredbu i postaje svojevrsni digitalni saradnik. A saradniku dajemo pristup informacijama, sistemima i zadacima. Zato se pitanje budućnosti AI-ja možda neće odnositi samo na to koliko će mašine postati pametne, već i na to koliko ćemo im ovlašćenja dati.
Mašina koja samo odgovara na pitanje može dati pogrešan odgovor. Mašina koja ima dozvolu da djeluje može napraviti posljedicu.
I zato će najveći izazov nove ere vještačke inteligencije možda biti jednostavan, ali nimalo lak odgovor:
Ako AI radi u naše ime, ko kontroliše ono što radi – i ko odgovara kada pogriješi?
Možda budućnost AI-ja neće odlučiti pitanje koliko će mašine postati inteligentne, već koliko ćemo mi biti spremni da im vjerujemo.
