Nekada je bilo dovoljno da čujemo nečiji glas da bismo znali ko nam se obraća. Danas to više nije pouzdan dokaz. Vještačka inteligencija može klonirati nečiji glas i napraviti poruku koja zvuči toliko uvjerljivo da osoba sa druge strane telefona teško može odmah prepoznati da razgovara sa sintetičkim glasom.
AI Fokus/Nataša Goleš
Zamislimo sasvim običnu situaciju. Zazvoni telefon. Čujemo glas bliske osobe. Glas je poznat, način govora isti, obraća nam se onako kako inače govori. Kaže da je u problemu i da joj hitno treba novac.
Prva reakcija vjerovatno neće biti: „Da li je ovo AI?“
Biće: „Šta ti se dogodilo?“
Upravo na toj ljudskoj reakciji zasnivaju se neke od novih prevara.
Tehnologija kloniranja glasa posljednjih godina postala je dostupnija i uvjerljivija. Kratak audio-snimak može biti dovoljan da sistem napravi imitaciju glasa, nakon čega kriminalac može generisati nove rečenice koje osoba nikada nije izgovorila. FBI je upozoravao na kampanje u kojima se uz pomoć generativne vještačke inteligencije imitiraju glasovi stvarnih osoba, uključujući javne zvaničnike.
Problem nije samo u tome što glas može biti lažan. Problem je što smo glas navikli da doživljavamo kao dokaz identiteta.
Ako stigne poruka sa nepoznatog broja, možda ćemo biti oprezni. Ako dobijemo čudno napisan mejl, možemo posumnjati. Ali kada čujemo glas roditelja, djeteta, prijatelja ili poslovnog partnera, naš mozak mnogo brže prelazi u režim povjerenja.
Jedan od najpoznatijih slučajeva pokazao je koliko ovakva manipulacija može biti ozbiljna. Zaposleni u kompaniji Arup u Hong Kongu prevaren je uz pomoć deepfake tehnologije tokom video-sastanka na kojem su imitirani rukovodioci kompanije. Nakon toga je izvršeno više transfera, ukupne vrijednosti oko 25 miliona dolara.
To ipak ne znači da će svaki telefonski poziv uskoro biti sumnjiv.
Veći problem je što ćemo morati promijeniti jednu staru naviku: više nećemo moći identitet provjeravati samo po onome što čujemo.
Zato je jednostavno pravilo sve važnije – ako neko preko telefona traži novac, lozinku, kod za potvrdu, podatke sa kartice ili hitan transfer, ne treba reagovati samo zato što glas zvuči poznato.
Prekinuti razgovor i pozvati osobu na njen poznati broj može biti dovoljno da se prevara zaustavi. U porodici se može dogovoriti i jednostavna riječ ili pitanje koje bi bilo teško pogoditi nekome ko samo imitira glas.
Možda će upravo to biti jedna od najvažnijih promjena koju nam donosi AI.
Nećemo prestati da vjerujemo ljudima.
Ali ćemo morati naučiti da povjerenje ne zasnivamo samo na glasu koji čujemo.
Jer u vremenu kada mašina može da nauči kako zvučimo, pitanje više nije samo: „Ko mi se obraća?“
Nego i:
„Kako mogu biti siguran da je to zaista ta osoba?“
