Tehnologija vještačke inteligencije omogućava sve uvjerljivije imitacije glasa i lika, otvarajući prostor za nove oblike prevara. Saznajte kako funkcionišu „deepfake“ tehnologije i na koji način zaštititi svoj identitet.

AI Fokus: Nataša Goleš

Donedavno je ideja da neko može preuzeti naš glas, lice ili identitet djelovala kao scena iz naučnofantastičnog filma. Danas je, međutim, dovoljno nekoliko sekundi video-snimka objavljenog na društvenim mrežama ili kratka glasovna poruka poslata preko aplikacije da sofisticirani sistemi vještačke inteligencije naprave gotovo savršenu kopiju nečijeg identiteta.

Tehnologija koja je nastala kako bi olakšala svakodnevni život, unaprijedila medicinu, obrazovanje i poslovanje, otvorila je istovremeno vrata potpuno novoj vrsti digitalnog kriminala. Stručnjaci širom svijeta sve češće upozoravaju da su „deepfake“ sadržaji i kloniranje glasa postali jedno od najvećih bezbjednosnih pitanja digitalnog doba.

Kako vještačka inteligencija „krade“ glas i lice?

Savremeni AI alati danas mogu analizirati nekoliko fotografija, kraći video ili desetak sekundi audio-zapisa kako bi kreirali uvjerljivu digitalnu kopiju osobe. Algoritmi proučavaju boju glasa, način govora, mimiku, pokrete lica i karakteristične izraze, a zatim generišu novi sadržaj koji izgleda autentično.

Posebno zabrinjava činjenica da je veliki dio ovih tehnologija postao dostupan širokoj javnosti. Ono što je prije nekoliko godina zahtijevalo tim stručnjaka i skupu opremu, danas se može uraditi pomoću besplatnih ili jeftinih aplikacija dostupnih na internetu.

Zbog toga stručnjaci upozoravaju roditelje i djecu da budu oprezni prilikom dijeljenja glasovnih poruka, video-snimaka i fotografija na društvenim mrežama.

Nova generacija prevara

Posljednjih mjeseci zabilježen je rast broja prevara u kojima kriminalci koriste vještačku inteligenciju kako bi imitirali glas člana porodice, prijatelja ili kolege.

Scenario je gotovo uvijek isti: žrtva prima hitan poziv ili glasovnu poruku od osobe koju poznaje. Glas zvuči potpuno uvjerljivo, a poruka obično sadrži molbu za novac, podatke sa bankovne kartice ili hitnu pomoć zbog navodne nesreće.

Posebno su ugroženi stariji građani, ali i djeca, koja često ne prepoznaju razliku između pravog i sintetički generisanog glasa. Upravo zbog toga škole u pojedinim državama već uvode edukacije o prepoznavanju AI manipulacija.

Osim finansijskih prevara, tehnologija se sve češće koristi za kreiranje lažnih video-snimaka javnih ličnosti, političara i poznatih osoba. Takvi sadržaji mogu izazvati ozbiljne posljedice – od narušavanja ugleda do širenja dezinformacija i manipulacije javnim mnjenjem.

Društvene mreže kao „rudnik podataka“

Najveći saveznik ovih prevara često nijesu hakeri, već sami korisnici interneta.

Fotografije sa ljetovanja, snimci proslava, javno dostupni video-klipovi i glasovne poruke predstavljaju ogroman izvor podataka za sisteme vještačke inteligencije. Svaki objavljeni sadržaj može poslužiti za izgradnju digitalnog profila neke osobe.

Mnogi korisnici i dalje nijesu svjesni da objavljivanjem privatnih trenutaka na društvenim mrežama ostavljaju tragove koje algoritmi mogu analizirati i zloupotrijebiti.

Posebno osjetljiva kategorija su djeca i tinejdžeri, čiji se identiteti sve češće nalaze na internetu prije nego što postanu dovoljno odrasli da razumiju potencijalne rizike.

Kako prepoznati AI prevaru?

Iako tehnologija postaje sve uvjerljivija, određeni znakovi mogu ukazati na to da je riječ o manipulaciji:

• neočekivani pozivi ili poruke sa zahtjevom za hitnu uplatu novca;
• neobične formulacije i ton komunikacije;
• insistiranje na tajnosti;
• video-snimci sa neprirodnim pokretima lica ili usana;
• pozivi u kojima sagovornik izbjegava dodatna pitanja.

Stručnjaci savjetuju da se svaka sumnjiva poruka ili poziv dodatno provjeri – direktnim kontaktom sa osobom preko drugog broja telefona ili drugog kanala komunikacije.

Jedno jednostavno pitanje koje samo članovi porodice znaju može spriječiti ozbiljnu prevaru.

Zakon kasni za tehnologijom

Dok se razvoj vještačke inteligencije odvija gotovo svakodnevno, zakonski okviri u mnogim državama teško prate brzinu tehnoloških promjena.

Evropska unija već uvodi stroža pravila kroz Akt o vještačkoj inteligenciji, kojim se pokušava regulisati upotreba „deepfake“ sadržaja i zaštita privatnosti građana. Međutim, stručnjaci upozoravaju da će zakoni sami po sebi biti nedovoljni ukoliko građani ne razviju osnovnu digitalnu pismenost.

Borba protiv AI prevara zato neće zavisiti samo od države i tehnoloških kompanija, već i od svakog pojedinca.

Budućnost u kojoj ćemo morati da sumnjamo sopstvenim očima i ušima

Vještačka inteligencija nije neprijatelj. Naprotiv, ona već mijenja medicinu, nauku, obrazovanje i svakodnevni život na bolje. Problem nastaje kada moćni alati dospiju u pogrešne ruke.

Vrijeme u kojem je fotografija bila dokaz, a glas garancija identiteta, polako ostaje iza nas. Ulazimo u eru u kojoj će osnovno pitanje postati ne samo „šta vidimo“, već i „da li je ono što gledamo i slušamo zaista stvarno“.

U svijetu u kojem algoritmi mogu da reprodukuju nečiji osmijeh, glas i lice gotovo bez greške, najveća zaštita više neće biti tehnologija, već oprez, informisanost i sposobnost da prepoznamo granicu između stvarnog čovjeka i njegove digitalne kopije.

ETOportal