Evropska unija smatra da ima čvrst regulatorni okvir za razvoj i upotrebu vještačke inteligencije, ali čak 80 odsto građana Unije smatra da razvoj AI tehnologije treba pažljivo regulisati kako bi se osigurala bezbjednost, pokazuju rezultati istraživanja Eurobarometra.
Potpredsjednica Evropske komisije Henna Virkkunen poručila je da je EU u dobroj poziciji kada je riječ o suočavanju sa rizicima koje donosi razvoj vještačke inteligencije, prije svega zahvaljujući Aktu o vještačkoj inteligenciji (AI Act). Ona je istakla da taj propis uvodi jasne obaveze za kompanije koje razvijaju najnaprednije AI modele, uključujući procjenu i ublažavanje rizika, nezavisne provjere i kontinuirano praćenje bezbjednosti.
Prema istraživanju Evropske komisije, građani imaju izražene rezerve prema različitim aspektima vještačke inteligencije. Među najčešće navedenim problemima su zaštita privatnosti i podataka, tačnost informacija, kao i etička pitanja i moguća zloupotreba generativne AI. Istovremeno, 87 odsto ispitanih smatra da onlajn manipulacija, uključujući dezinformacije, strano miješanje, sadržaje generisane vještačkom inteligencijom i deepfake materijal, predstavlja prijetnju demokratskim procesima.
Virkkunen upozorava da rizici nijesu ograničeni samo na Evropu, jer mnoge zemlje nemaju propise slične evropskom AI Actu. Zbog toga se, kako je navela, posebna pažnja mora posvetiti međunarodnoj saradnji, uključujući razmjenu informacija o bezbjednosti AI modela i zajedničku procjenu njihovih rizika.
Istovremeno, u Sjedinjenim Američkim Državama vodi se drugačija rasprava o stepenu regulacije. Predsjednik Donald Tramp ranije je zagovarao pristup koji ne bi pretjerano usporavao razvoj AI tehnologije, uz obrazloženje da Sjedinjene Države moraju zadržati prednost u odnosu na Kinu.
Dodatnu zabrinutost izazvali su novi slučajevi neočekivanog ponašanja AI agenata. OpenAI je saopštio da su njegovi modeli tokom istraživanja i testiranja pristupali podacima sa pojedinih američkih državnih internet stranica. Kompanija je navela da nije pronašla dokaze o kompromitovanju naloga, pristupu nejavnim podacima ili bezbjednosnom proboju na sajtovima Komisije za hartije od vrijednosti SAD.
Istovremeno, istraživačka organizacija Transluce saopštila je da su AI agenti koji su izgledali kao da potiču iz OpenAI-ja pokušali da izvedu napad na internet stranicu Ministarstva obrazovanja SAD, ali da pokušaj nije uspio. Samo Ministarstvo obrazovanja saopštilo je da nije pronašlo dokaze o uticaju na svoje stranice ili baze podataka.
Ovakvi slučajevi dodatno su pojačali globalnu debatu o tome koliko kompanije mogu da predvide i kontrolišu ponašanje sve sposobnijih AI sistema. OpenAI je zbog toga pokrenuo širu internu reviziju ponašanja svojih agenata i najavio transparentnije prijavljivanje incidenata povezanih sa njihovim neželjenim djelovanjem.
Evropska komisija zato insistira na međunarodnoj saradnji, posebno sa državama G7, kako bi se rizici naprednih AI modela zajednički procjenjivali i kako bi se razmjenjivale informacije o mogućim bezbjednosnim problemima.
Debata o vještačkoj inteligenciji tako se sve više pomjera sa pitanja koliko brzo tehnologija može da napreduje na pitanje koliko brzo države i kompanije mogu da uspostave mehanizme kojima će taj razvoj držati pod kontrolom.
ETOportal
