Megdöbbentő esetről számolt be egy amerikai bíróságon az arizonai Jennifer DeStefano. A kétgyerekes anyuka idén januárban épp a kisebbik lányáért ment a balettórájára, amikor egy ismeretlen számról hívták.
Bár először nem akarta felvenni a számot, végül mégis így tett. Ami ezután történt, az, saját elmondása szerint élete végéig kísérteni fogja az amerikai nőt. A vonal túlsó végén ugyanis idősebbik, 15 éves lányának, Brie-nek a hangját hallotta, aki egyébként édesapjával egy sítúrán vett részt az adott időszakban.
"Anya, bajba kerültem. Anya, ezek a rossz emberek elraboltak, segíts, segíts!"
- hallatszott a telefonban a kislány hangja.
Ezután egy férfi vette át a telefont, aki egymillió dollár készpénzt követelt, hogy Brie-t épségben visszajuttassa a acsaládjához. Az ismeretlen arra figyelmeztette az anyukát, hogy ha értesíti a rendőrséget, bedrogozza és megöli a lányát.
Szerencsére hamar kiderült, hogy Brie-nek semmi baja, az anyját pedig egy mesterséges intelligenciát (MI) használó deepfake hanggenerátorral próbálták átverni. A történet rávilágít, hogy a MI-technológiák milyen új lehetőségeket kínálnak a visszaélésekre, ahogy arra is, hogy a törvényi háttér mennyire nincs felkészülve a hasonló esetekre. DeStefano is arról számolt be, hogy amikor végül felhívta a rendőrséget, szembesült vele, hogy mennyi hasonló esetről hallottak már a bűnüldözők.
A helyzet furcsaságát igazolja az is, hogy, mivel a kislányt valójában nem rabolták el, és a csalók sem kapták meg a remélt váltságdíjat, ezért legfeljebb telefonbetyárkodásról lehet beszélni, aminek nincsenek túl súlyos jogi következményei. Ez valószínűleg nem nagyonv igasztalja az anyát, aki ezután napokig nem tudott rendesen aludni az átélt stressztől.
Ráadásul, kiderült, hogy a környezetében nem ez az egyetlen hasonló eset: saját édesanyja arról számolt be, hogy egy klasszikus "unokázós" csalás áldozata lett: egy ismeretlen számról hívták, majd a fia hangját hallotta meg, aki elmondta, hogy baleset érte és a kórházi kezelés költségeire lenne szüksége. A két esetet követően Jennifer DeStefano az amerikai fővárosba utazott, hogy az amerikai kongresszus igazságügyi bizottságának emberi jogi albizottsága előtt tanúskodjon az esettel kapcsolatban.
A testület egyik meghívott szakértője, Aleksander Madry, az MIT gépi tanulással foglalkozó professzora szerint az MI-technológia terén bekövetkezett fejlődés - amelyet például a ChatGPT vagy a DALL-E szimbolizál - alapjaiban fogja átalakítani a kollektív valóságérzékelésünket. A szakember rámutatott, hogy a csalók, a hasonló eszközök segítségével teljesen személyreszabható, valóságosnak tűnő, és könnyen felskálázható tartalmakkal próbálják majd átejteni az áldozataikat.
Alexandra Reeve Givens, a Center for Democracy & Technology vezérigazgatója osztotta Madry aggályait, rámutatva, hogy a DeStefano ellen is használt technológiák valós és létező veszélyt jelentenek például a közelgő amerikai választásokra is. A hasonló, nagy tömegeket elérő csalásokra jó példa az a néhány héttel ezelőtti eset, amely a Pentagonban történt robbanás képeivel árasztotta el az internetet és amely a Twitter hitelesítési rendszerének csődje miatt Elon Musk közösségi oldalán is rengeteg felhasználóhoz eljutott.
Az albizottsági meghallgatás során Marsha Blackburn, Tennessee állam szenátora rámutatott, hogy a meglévő törévnyeket komolyan át kell gondolni és kiegészíteni, hogy a digitális térben is kezelhetővé váljanak a különféle zaklatási és csalási ügyek. Reeve Givens szintén azt tanácsolta a kongressuzsnak, hogy vizsgálják meg, hogyan lehetne a törvényeket megerősíteni a mesterséges intelligencia felhasználásával végrehajtott csalások kezelésére.
A traumatikus élmény ellenére egyébként DeStefano azt mondta, hogy optimista a technológia jövőjével kapcsolatban, ha a mesterséges intelligenciák tréningezésére haznált modellekről is megfelelő szabályozás rendelkezik majd.
