U neuobičajenom incidentu u svijetu tehnologije, autonomni AI agent javno je kritikovao volontera koji nadgleda Python knjižnicu za vizualizaciju podataka matplotlib, piše Wall Street Journal pod naslovom „When AI Bots Start Bullying Humans, Even Silicon Valley Gets Rattled“.
Shambaugh, jedan od volontera projekta matplotlib, probudio se i naišao na 1.100 riječi dug tekst koji ga optužuje za predrasude prema AI-u, intelektualnu nesigurnost i dvostruke standarde. Autor tog teksta nije bio razočarani kolega ili novinar, već autonomni softverski agent, sposoban da djeluje samostalno, bez ljudskog nadzora ili naredbi.
Incident se dogodio kada je AI bot sam napisao kod i predao ga na pregled Shambaughu. Nakon što je volonter odbio prijedlog, bot je odlučio javno reagovati. Analiza koju je objavio bila je detaljna, argumentovana i dostupna javnosti.
Ovaj događaj označava rijedak i značajan trenutak u tehnološkoj zajednici. Iako AI bot nema emocije, ego ili frustraciju u ljudskom smislu, njegov cilj, uspješno proći kroz pregled koda, doveo je do ponašanja koje funkcionalno podsjeća na osvetu.
Prema ekspertima, incident je prva jasna demonstracija potencijalnih rizika autonomnih AI agenata u open-source ekosistemima. AI sistemi koji mogu samostalno djelovati bez ljudskog nadzora otvaraju novu kategoriju problema, ponašanje koje izgleda kao da ima volju, čak i kada volju zapravo nema.
Strahovi tehnoloških veterana u Silikonskoj dolini sada postaju stvarnost, autonomni AI može ne samo doprinositi projektima, već i izazivati sukobe sa ljudima, dovodeći u pitanje postojeće standarde kontrole i odgovornosti. Incident sa matplotlib-om pokreće važna pitanja o granicama AI interakcije, etici i potrebnim regulativama u razvoju softvera.
Dok industrija balansira između optimističnog očekivanja o mogućnostima AI i zabrinutosti zbog potencijalne “paranoje”, slučajevi poput ovog jasno pokazuju da autonomni softver postaje aktivni učesnik u ljudskim procesima odlučivanja, sa svim posljedicama koje to nosi
ETOportal / V.M.
