Mióta az első internetes fórum létrejött, léteznek hamis profilok, megtévesztő felhasználók, akik igyekeznek másnak kiadni magukat, hogy így különféle előnyökre tehessenek szert, befolyásolhassanak másokat, csaljanak, vagy egyszerűen csak trollkodjanak. Aztán amikor a fórumokat leváltották a mai értelemben vett közösségimédia-oldalak, mindenki azt hitte, vége az ál-felhasználók idejének, hiszen itt már mindenki saját névvel és profilképpel szerepel, visszakereshető, leinformálható. Gyorsan kiderült persze, hogy hiú ábránd volt mindez, hiszen a trükközők új módszereket találtak, amelyeket eleinte nehéz volt lenyomozni.
Könnyen megtehette bárki például, hogy létrehozott egy magyar felhasználót nem létező, de átlagosnak hangzó néven (a százezernyi Kovács János országában nem tűnik fel az ilyesmi), majd pedig keres egy random európai kinézetű arcképet valahol a neten, mondjuk az Egyesült Államokból vagy épp Norvégiából, akit nagy valószínűséggel senki nem ismer fel errefelé - és már meg is van a kamu-fiók. A közösségi oldalaknak, így még a Facebooknak is évekig tartott, amíg olyan automatizmusokat, mesterséges intelligenciával felturbózott algoritmusokat építettek, amely képes valamelyest átvenni az emberi adminok munkáját és felderíteni, ha John Smith vagy Ragnar Gustaffson fotójával próbál Kovács Jánoskodni valaki.
Na, de az algoritmusok bemutatkozása óta már tényleg minden biztonságos, mondhatná a laikus, de nem úgy van ám az. Az alábbi két úriember például csak azért bukott le, mert valaki két néven is elindította őket Facebookon, pedig itt nem csak arról van szó, hogy Jacobs Guillermo profilképével hamis profilt hoztak létre Duncan Gilbert neve alatt, vagy fordítva. Ugyanis se Guillermo úr, sem Mr. Gilbert nem létezik - és ez a fotó sem, ezt ugyanis deepfake segítségével gép generálta. Ha pedig valaki körültekintően próbál trükközni, és egy profilhoz egy hamis képet használ, jó sokáig ellavírozhat a zavarosban anélkül, hogy bárki lebuktatná.
Mi is az a deepfake?
Ha valaki egy kő alatt, vagy hegyi remeteként töltötte az elmúlt 4-5 évet, esélyes, hogy nem hallott a deepfake jelenségről, de a többiek szinte biztosan igen. Olyan technológiáról van szó, amelyet a modern képalkotási megoldások és az öntanuló mesterséges intelligencia közös használata "termelt ki", és lényegében olyan trükkök összessége, ahol fotókon és videókon a valóságoshoz megtévesztően hasonló "fejcseréket" lehet létrehozni. A legelső olyan esemény, amelyben világszerte sokan megismerhették a szót, a Fappening néven elhíresült botrány környékén kereshető. Ekkor ugyan a fő fókuszban az állt, hogy sztárokról, színészekről, zenei előadókról készült valós intim képeket és videókat loptak el, majd hoztak nyilvánosságra, de ebben az időszakban egyre több olyan fotó és videó is megjelent, amelyekben valódi celebek arcát másolták mások (általában meztelen) testére.
A deepfake ezután ugyanolyan gyakran bukkant fel szórakoztató tartalomként, de akár a megtévesztés eszközeként is. Láthattunk talkshow-ban szereplő standupost Arnold Schwarzenegger fejével beszélni, de híres a Jack Nicholson fejét Jim Carrey-re cserélő videó, ahogy az is, amikor Barack Obama, egykori amerikai elnök tart olyan beszédet, amilyet nem várnánk tőle. Ezeken a felvételeken már nincs szükség arra, hogy a fejcseréket, a szájmozgást vagy akár a mimikát emberi munkával illesszük össze, egyszerűen ráhagyhatjuk a mesterséges intelligenciára, amely képek és videók ezreiből, vagy akár millióiból származó információk alapján saját maga alkotja meg a végeredményt. Álljon itt az egyik legutóbbi, amelyben az egyik legnépszerűbb karácsonyi film gyerekszereplőjének arca Sylvester Stallone-né változik.
Embert teremteni, nem saját képmásra
A deepfake jelenség mostani kivetülése talán még veszélyesebb, és ezzel vissza is érünk a kiinduló felvetésünkhöz a kamu fiókokkal és nem létező felhasználókkal. Míg korábban a csalók egyszerűen csak mások fotóival álcázták a hamis accountokat, most már rendelkezésükre áll a deepfake technológia, tehát egyre kevésbé kell tartaniuk attól, hogy valamilyen emberi vagy automata cenzor lebuktatja őket. Egyszerűen csak elindítják az MI-vel felturbózott grafikai programjukat, amely képes arra, hogy az elérhető valós arcok információiból teljesen automatikusan létrehozzanak olyan fejeket, amelyek nem is léteznek.
Az alábbi képeken egy női arcot látunk, valamint a már korábban bemutatott Jacobs Guillermót, vagy épp Duncan Gilbertet. Elsőre talán semmi nem tűnik fel rajtuk, de igazából szabad szemmel másodjára sem. És a helyzet az, hogy egyelőre csak nagyon szofisztikált számítógépes elemzéssel lehet kijelenteni (és még ekkor sem teljes biztonsággal), hogy deepfake eljárással létrehozott, a valóságban nemlétező arcokról van szó.
Mindkét arckép egy deepfake-kel foglalkozó átfogó kutatás során bukkant elő, amelyben több szervezet (többek között a The Atlantic Council digitális törvényszéki laboratóriuma, valamint a dezinformációra szakosodott Graphika) mélyrehatóan elemzett közösségi oldalakra feltöltött profilképeket. Ez a két kép pedig épp a Facebook egyik nemrégiben elhíresült törlési hullámában bukkant elő - és az igazán ijesztő az, hogy nem azért talált rájuk a közösségi oldal algoritmusa, mert felismerte a tökéletesen összerakott fotós hamisítványokat, hanem azért, mert ezeket a fotókat a csalók egyszerre több profilon is használták.
A szálak ezen esetben egy The Epoch Times nevű konzervatív hírportálhoz és az ahhoz kapcsolódó Epoch Media Grouphoz kapcsolódnak, amelyek a jelek szerint nem létező Facebook és Instagram felhasználók tömegét használták álhírek terjesztésére. A Facebook december végén több száz olyan fiókot törölt, amely ehhez a körhöz köthető.
Ki véd meg a nem létező emberektől?
Mi az esetben az igazán ijesztő? Az, hogy ezek a hamis fiókok tényleg nem azon buktak le, hogy valaki észrevette a csalást a képeken, egyszerűen a sokszorosított fiókok miatt derült fény erre a körre. És pont ezért figyelmeztetnek a szakértők egy újfajta veszélyre: ha valaki tényleg körültekintően és óvatosan használja a deepfake-kel generált hamis fejeket és egyet csak egy hamis fiókhoz kapcsol, egyelőre szinte lehetetlen kiszűrni őket a valódi felhasználók közül.
Épp ezért simán előfordulhat, hogy valamilyen csoportban olyan emberek terelgetnek majd minket egy bizonyos vélemény vagy álláspont felé, akik valójában nem is léteznek, de mi magunk észre sem vesszük az átverést. És lehet, hogy egyvalakinek még nem hiszünk, de az álhíreket terjesztő, közösségi véleményformáló hálózatok akár hamis felhasználók százait is rászabadíthatják a fontosabbnak ítélt csoportokra és oldalakra, és mint tudjuk, amit egyvalaki mond, az vélemény, amit százak hangoztatnak, az egy idő után igazsággá válik.
A mostani esetben az Epoch Media Group természetesen tagad, illetve olyasmiket állít, hogy a hamis fiókokat egy volt alkalmazottjuk által indított új szervezet készítette és üzemeltette, a nyomozás pedig simán elveszhet a jog és a bizonyítékok útvesztőjében. De ez az eset inkább csak rávilágít arra, mire kell felkészülni a közeljövőben, amikor egyesek képesek ilyen szintű megtévesztéseket is bevetni azért, hogy ebből politikai vagy gazdasági előnyöket kovácsoljanak. Egy olyan világban, amikor a Facebooktól kiszivárgott felhasználói információt a Cambridge Analytica botrányban bizonyíthatóan arra használták, hogy a választópolgárok véleményét befolyásolják, a deepfake-kel felturbózott ál-felhasználók a dezinformációs hadviselés új szuperkatonái lesznek, és egyelőre nincs biztos fegyver a felderítésükre. Szóval most jön a legvadabb összeesküvés-elméletekre hajazó, de mégis valós alapokra épülő figyelmeztetés: tessék jól körülnézni, amikor új ismerősöket szerzünk be a közösségi oldalakon - lehet, hogy van valami titkos céljuk, és bizony az is lehet, hogy nem is léteznek.
