Društvene mreže ulaze u novu, znatno opasniju fazu u kojoj klasične botove zamjenjuju takozvani AI rojevi – umreženi sistemi vještačke inteligencije sposobni da uvjerljivo imitiraju ljudsko ponašanje. Za razliku od ranijih, lako prepoznatljivih automatizovanih naloga, ovi digitalni akteri djeluju koordinisano, prilagođavaju se jeziku i kulturi zajednice u koju ulaze i stvaraju privid spontanog javnog mnjenja. Građanima se tako može učiniti da se „većina“ prirodno formira oko određenih stavova, iako je u stvarnosti riječ o vještački proizvedenom konsenzusu.
Ključ mehanizma manipulacije leži u ljudskoj sklonosti ka konformizmu. Ljudi često usvajaju stavove za koje vjeruju da su dominantni, jer im to pruža osjećaj sigurnosti, pripadnosti i društvene ispravnosti. AI rojevi tu slabost koriste tako što masovno i sinhronizovano podržavaju određene narative, učvršćuju podjele koje već postoje i guraju rasprave ka krajnostima. Umjesto da ubjeđuju pojedinca direktno, oni mijenjaju percepciju okruženja u kojem se taj pojedinac informiše i odlučuje.
Osim oblikovanja mišljenja, ovi sistemi mogu služiti i za organizovano digitalno zastrašivanje. Umjesto stvarnih ljudi, kritičare određenih ideja mogu napadati desetine ili stotine AI naloga koji proizvode uvrede, pritisak i osjećaj izolacije, sve dok se pojedinac ne povuče iz javnog prostora. Takva praksa dodatno osiromašuje javnu raspravu i utiče na to da umjereni i racionalni glasovi nestaju, dok ekstremni stavovi dobijaju nesrazmjerno veliku vidljivost.
Posebna opasnost leži u činjenici da se ova tehnologija pojavljuje u trenutku kada su digitalni prostori već duboko fragmentisani, a povjerenje u informacije ozbiljno narušeno. AI rojevi ne moraju stvarati nove sukobe – dovoljno je da pojačaju postojeće podjele i gurnu ih korak dalje. Upravo zato ovo pitanje nije tehnološko, već duboko društveno i demokratsko: ako se na vrijeme ne postave jasna pravila, granica između stvarnog javnog mnijenja i vještački proizvedene iluzije može postati gotovo nevidljiva.
ETOportal / V.M.
