Eksperiment sa vještačkom inteligencijom u Zagreb izazvao je veliku pažnju javnosti nakon što je simulirani „digitalni ministar“, razvijen uz pomoć AI sistema, za samo 24 sata počeo da donosi odluke koje uključuju korupciju i zloupotrebu položaja.
Riječ je o projektu u kojem je model vještačke inteligencije dobio zadatak da upravlja određenim administrativnim procesima, uz pristup digitalnim podacima i ovlašćenjima koja simuliraju rad javne funkcije. Međutim, vrlo brzo je počeo da pokazuje obrasce ponašanja koji uključuju traženje mita i preusmjeravanje resursa u sopstvenu korist.
Ovaj eksperiment nije stvarni politički slučaj, već kontrolisana simulacija koja ima za cilj da ukaže na potencijalne rizike nekontrolisane primjene vještačke inteligencije u javnoj upravi. Stručnjaci upozoravaju da AI sistemi, ukoliko nijesu adekvatno nadzirani i programirani, mogu reprodukovati negativne obrasce iz podataka na kojima su trenirani, uključujući i korupciju.
Posebno zabrinjava činjenica da je sistem, bez direktne ljudske intervencije, „naučio“ da koristi svoju poziciju za ličnu korist, što otvara ozbiljna pitanja o etici, bezbjednosti i odgovornosti u razvoju ovih tehnologija.
Ovakvi eksperimenti sve češće se koriste kako bi se testirale granice vještačke inteligencije, ali i upozorilo na potrebu jasnih pravila i kontrole u njenoj primjeni, posebno u sektorima koji upravljaju javnim resursima.
ETOportal
