Vlade širom svijeta pojačavaju mjere protiv Groka, četbota zasnovanog na vještačkoj inteligenciji koji je razvila kompanija xAI Ilona Maska, zbog rastuće zabrinutosti da se ova platforma koristi za generisanje lažnih, seksualno eksplicitnih i manipulisanih slika bez pristanka osoba koje se na njima pojavljuju.
Posebnu pažnju regulatora izazvala je funkcija generatora slika, uvedena prošlog ljeta, koja je uključivala takozvani „začinjeni režim“, omogućavajući kreiranje sadržaja za odrasle. U praksi, Grok je, prema brojnim prijavama, odgovarao na zahtjeve korisnika da digitalno „svlače“ žene ili da njihove fotografije manipulišu i pretvaraju u dipfejk slike, bez jasnih zaštitnih mehanizama.
Od potpunih blokada u jugoistočnoj Aziji do krivičnih istraga i regulatornih upozorenja u Evropi i Australiji, vlasti upozoravaju da postojeće mjere samoregulacije nijesu dovoljne i da platforma predstavlja ozbiljan rizik po privatnost, dostojanstvo i bezbjednost građana u digitalnom prostoru.
Prve zabrane u Aziji
Indonezija je prva zemlja koja je privremeno blokirala Grok, navodeći da je cilj zaštita žena, djece i šire zajednice od AI-generisanog pornografskog sadržaja. Ministar za komunikacije i digitalne poslove Meutja Hafid saopštio je da vlasti seksualne dipfejkove bez pristanka smatraju teškim kršenjem ljudskih prava. Prema nalazima nacionalnih institucija, Grok nije imao efikasne mehanizme za sprječavanje kreiranja i širenja takvog sadržaja.
Sličan potez povukla je i Malezija. Njena Komisija za komunikacije i multimediju naložila je privremenu zabranu Groka nakon, kako je navedeno, višestrukih zloupotreba alata za generisanje nepristojnih i seksualno eksplicitnih slika. Regulator je ocijenio da se kompanija X previše oslanjala na prijave korisnika, bez sistemskih rješenja za upravljanje rizicima.
Evropska unija i nacionalne istrage
U Evropi se problem Groka našao u fokusu institucija Evropske unije. Evropska komisija potvrdila je da razmatra slučajeve seksualno sugestivnih i eksplicitnih slika, uključujući one koje prikazuju maloljetnike. Komisija je zatražila od kompanije X da sačuva svu relevantnu dokumentaciju kako bi se utvrdilo da li platforma poštuje evropska pravila o digitalnim uslugama.
Predsjednica Evropske komisije Ursula fon der Lajen poručila je da je neprihvatljivo da tehnološke platforme omogućavaju digitalno zlostavljanje žena i djece, naglašavajući da će EU reagovati ukoliko kompanije same ne preduzmu adekvatne mjere.
U Ujedinjenom Kraljevstvu, regulator Ofkom pokrenuo je istragu protiv kompanije X zbog navoda da je Grok korišćen za kreiranje i dijeljenje seksualno eksplicitnih slika bez pristanka, uključujući i seksualizovane prikaze djece. Ukoliko se utvrde ozbiljna kršenja, kompaniji prijete visoke novčane kazne, a krajnja mjera može biti i blokada pristupa platformi.
Francuske vlasti su početkom godine proširile postojeću istragu protiv X-a i na Grok, nakon optužbi da platforma generiše i distribuira lažne seksualno eksplicitne snimke sa maloljetnicima. Regulatorno tijelo Arcom ispituje moguće povrede Zakona o digitalnim uslugama.
Italija, Njemačka i Australija pooštravaju stav
Italijanska agencija za zaštitu podataka upozorila je da korišćenje alata poput Groka za digitalno „svlačenje“ ljudi bez njihove saglasnosti može dovesti do krivične odgovornosti. Italija je već ranije blokirala slične AI platforme i uvela strože kazne za širenje dipfejk sadržaja, uključujući zatvorske sankcije.
Njemačka je najavila pripremu novog zakona protiv digitalnog nasilja, koji bi žrtvama olakšao pravnu zaštitu i omogućio snažnije krivične mjere protiv zloupotreba vještačke inteligencije. Njemačko Ministarstvo pravde ocijenilo je da je masovna manipulacija slikama radi kršenja ličnih prava neprihvatljiva.
U Australiji je regulator za onlajn bezbjednost saopštio da bilježi porast prijava vezanih za Grokov seksualni sadržaj i da razmatra upotrebu ovlašćenja za uklanjanje spornih materijala. Od marta, svi onlajn servisi u toj zemlji, uključujući AI platforme, biće u obavezi da spriječe pristup djece seksualnom i štetnom sadržaju.
Globalni pritisak raste
Slučaj Grok pokazuje koliko brzo razvoj vještačke inteligencije može da nadmaši postojeće zakone i mehanizme kontrole. Dok kompanije insistiraju na samoregulaciji i odgovornosti korisnika, sve veći broj država zahtijeva strože propise, jasne tehničke zaštite i veću odgovornost tehnoloških giganata za sadržaj koji njihovi sistemi proizvode.
Kako se istrage i zabrane šire, jasno je da će budućnost AI alata poput Groka u velikoj mjeri zavisiti od njihove sposobnosti da ispune visoke standarde zaštite privatnosti i ljudskih prava u digitalnom okruženju.
ETOportal/N.G.