Noha számos előnnyel bírnak a techvállalatok által piedesztálra emelt AI-szolgáltatások (chatbotok, kép-, videó- és hanggenerátorok stb.), az általuk jelentett biztonsági kockázatokat megszüntetésére vagy legalább mérséklésére irányuló erőfeszítések távolról sem elégségesek. A bűnözők pedig ki is használják a technológiában rejlő lehetőséget. Előszeretettel használnak például mesterséges intelligenciára támaszkodó hanggenerátorokat, melyeknek köszönhetően sokkal könnyebben át tudják verni gyanútlan áldozataikat, mint akár csak néhány évvel ezelőtt.
Ezzel új szintre emelték a Magyarországon is elterjedt unokázos csalást, amelynek célpontjai rendszerint idős emberek. Az elkövetők jellemzően a gyermek vagy unoka ismerősének adják ki magukat, esetleg a rendőrség munkatársának, és olyasmiket igyekeznek elhitetni kiszemelt áldozatukkal, hogy annak családtagját baleset érte, vagy bevitték a rendőrségre, gyors ellátása vagy szabadulása pedig csak akkor oldható meg, ha azonnal átad egy meghatározott összeget. Az AI-hanggenerátorok bevonásával viszont már közvetlenül a bajba jutott rokont is eljátszhatják.
Ennek legújabb példája az a kaliforniai eset, amelyről az ABC7 híroldal számolt be. Egy a vezetékneve elhallgatását kérő férfi, bizonyos Anthony megtakarításai 25 ezer dollárral (nagyjából 9,2 millió forinttal) csappantak meg, miután csalók felhívták a fia nevében, és az összeg azonnali átutalására kérték arra hivatkozva, hogy balesetet okozott, egészen pontosan elgázolt egy terhes nőt.
Anthony azt hitte, hogy a fia van a vonal másik oldalán, akit a csalók által használt AI-hanggenerátor utánzott abszolút hihetően. Biztosra mentek a bűnözők, megeresztettek második hívást is, amiben egy ismeretlen személy a fia ügyvédjének adta ki magát és 9200 dollárt követelt. A Michael Roberts néven bemutatkozó illető azzal rémisztgette Anthonyt, hogy ha nem fizeti ki a kért összeget az óvadékra, akkor a fia 45 napig rács mögött marad.
Nem dőlt be azonnal, megpróbálta felhívni a fiát, ám folyamatosan a hangposta jelentkezett, ezért a legrosszabbtól tartva mégis a bankba sietett, ahol azt hazudta, hogy napelemet akar felszerelni, nehogy gyanút fogjanak. Ezután arra kérte a lányát, aki a rajtuk egyre jobban eluralkodó pánik miatt szintén nem vette észre, hogy átverik őket, hogy hívja vissza Michael Robertset. Az állítólagos ügyvéd közölte, hogy rövidesen megérkezik valaki Uberrel, hogy átvegye a pénzt.
A boríték gazdát cserélt, de még nem ért véget a történet, a csalók többet akartak. Újabb telefon következett, ezúttal egy másik "ügyvéd", Mark Cohen jelentkezett, hogy közölje a szomorú hírt, miszerint az Anthony fia által elgázolt terhes nő belehalt a sérüléseibe, ennek következtében pedig az óvadék összegét megemelték 15 800 dollárral. Anthony ezt az összeget is átadta az előbb ismertetett eljárást megismételve, minek végén összese 25 ezer dollárral lett szegényebb.
Anthony később azzal mondta a rendőrségnek, hogy annak a személynek, aki először felhívta, pontosan olyan volt a hangja, mint a fiának, ezért nem fogott gyanút. Chelsea Sager, a Los Angeles-i rendőrség nyomozója szerint egyáltalán nem új keletűek az ilyen átverések, az AI-alapú hanggenerátorok bevonása viszont növeli az esélyét annak, hogy a családtagok higgyenek az elkövetőknek.
"Egyre okosabbak és kifinomultabbak a csalók módszerei. A közösségi médiát és a technológiát használják arra, hogy hihető és meggyőző történeteket kreáljanak, elhitetve az emberekkel, hogy családtagjukkal vagy egy kormányzati tisztviselővel beszélnek".
Anthony esete tehát egyáltalán nem példa nélküli, és mivel a technológia fejlődése a bűnözők kezére játszik, még többen eshetnek áldozatul hasonló átveréseknek. Ezért is szeretné, hogy a történetét minél többen megismerjék, és tanuljanak az ő hibájából.