Már Mark Zuckerberg szenátusi meghallgatása előtt is elég gyakori téma volt világszerte, hogyan képes a Facebook kiszűrni a gyűlöletbeszédet, álhíreket, vagy épp az ezekhez sok esetben kapcsolódó kamuprofilokat, amik a valós és "normális" felhasználókat joggal zavarják, sőt egyes esetekben akár konkrét politikai és gazdasági eseményekbe is beavatkozhatnak. A közösségi oldal persze nem csak a károsnak ítélt appokat irtja, hanem igyekszik több módszerrel küzdeni a fals tartalmak és profilok ellen is, de a jelek szerint még bőven van igény a javulásra.
A Facebook hivatalos híre szerint az idei első negyedévben 837 millió spamet és egyéb olyan bejegyzést távolítottak el a közösségi oldal moderátorai, amelyek valamilyen formában nem feleltek meg a Facebook hivatalos felhasználási feltételeinek. Ebből például 2,5 milliót töröltek azért, mert a gyűlöletbeszéd kategóriába estek, 21 milliót pedig szexuális vagy egyéb felnőtt tartalmak miatt távolítottak el. Erőszakosnak 3,5 millió megosztást minősítettek, ezek nagy részét eltávolították, a maradékra pedig egy figyelmeztető szűrőt tettek. Szintén nagyot arattak az olyan profilok között is, amelyek mögött nem álltak valós személyek, vagy mások nevében hozták létre őket. Ilyenből év elejétől március végéig összesen 583 millió bukott meg a valódiság-teszteken: ez elég soknak tűnik, ahogy az eltávolított bejegyzések száma is durva első látásra, pedig ennél sokkal mélyebb tisztításra lenne szükség.
Kamuprofilokból ugyanis a Facebook belső becslései szerint még jócskán akad, még a mostani tisztogatás után is a maradék összes felhasználó 3-4 százalékát szokták emlegetni. Ha a jelenlegi két és fél milliárdos felhasználói tábort vesszük alapul, alsó hangon is 80 milliót jelent. Ezeket pedig jóval nehezebb felfedezni, ezért a jelenlegi módszerekkel nem is lehet azt garantálni, hogy Facebookról az utolsó darabig eltűnnek a hamis profilok.
Gépek és emberek
A közösségi oldal persze bármit is tesz a kamu és spam visszaszorítására, folyamatosan kapja a kritikákat. A harcos beszólogatók szerint, ha Zuckerbergéknek van ideje randialkalmazást fejleszteni, vagy különféle karitatív tevékenységekbe kezdeni, akkor simán áldozhatnának többet a biztonság oltárán is.
Tény, hogy a Facebook mindeddig képtelen volt gépi és humán erőforrásokkal lefedni a moderálási feladatokat. A mostani elemzésükben is jelzik, hogy bár az egyértelmű spameket szinte száz százalékosan már a felhasználói bejelentések előtt ki tudja szűrni a rendszer, az erőszakos tartalmaknál ez az arány már csak 86 százalék, míg a gyűlöletbeszéd esetében csak a kritikus bejegyzések 38 százalékát találja meg magától a mesterséges intelligencia vagy egy emberi moderátor. Ugyanígy a kamuprofilok közül is sok képes sokáig ellavírozni a radar alatt. De vajon miért?
A magyarázat természetesen az emberi faktor. A gyűlöletbeszéd például egy régóta fejfájást okozó fogalomkör, ugyanis szinte mindenki máshol húzná meg a határt a vélemény szabad kinyilvánítása és az egyértelmű gyűlöletbeszéd között. Mondunk egy példát.
Ha például valaki azt írja Facebookon, hogy "tegnap nem volt jegyem, lemeszelt az ellenőr, hogy pusztulna el az összes", az ugyan nem egy szép mondat, de mégis más szinten mozog, mintha valaki azt postolná, hogy "holnaptól gyújtsatok fel minden ellenőrt".
Míg az utóbbi sokkal több szempont szerint minősül valóban uszításnak és gyűlöletkeltésnek, és sem az olvasók, sem az írója nem köthetne bele abba, ha moderálnák, az első kijelentés esetében már érdekes jogi hercehurca keveredhetne abból, hogy milyen alapon törölnek ilyesmit. A mesterséges intelligenciát értelemszerűen mindig óvatosabbra programozzák ilyen esetekben, a Facebooknál dolgozó emberi moderátor-csapat létszáma pedig egyszerűen nem elég arra, hogy az ilyen határesetek közül az összeset megtalálják, felismerjék és a helyén kezeljék.
Szóval egy ilyen döntés mindig olyan lesz, mint a tipikus vicc: ha van rajta sapka, azért verjük meg, ha meg nincs, akkor azért. A Facebook kapja a kritikát azért is, ha túl sok a kamuprofil, álhír és helytelen bejegyzés, de azért is folyton bírálják, ha valaki szerint túl erős a cenzúra, és egy vállalat hogy képzeli egyáltalán, hogy önkényesen dönt egy magánszemély szólásszabadságával kapcsolatban.
A közösségi oldalnál jelenleg az automatikusan szűrő mesterséges intelligencia mellett jelenleg is egy 15 ezres nagyságrendű emberi moderátor-csoport dolgozik, és annak ellenére, hogy ez már egy nemrég végrehajtott erős létszámbővítés eredménye, még mindig kevesen vannak. Ráadásul még nehezebb azt megítélni, hogy valaki létező személy vagy sem: a kamuprofilokat ugyanis csak akkor jelöli meg az automatikus rendszer, ha valami valóban kirívót csinálnak (egyszerre túl sok csoportba postolják ugyanazt, spamelnek, vagy sok bejelentés érkezik a tartalmaikkal kapcsolatban).
Ilyenkor ráadásul még érzékenyebb kérdés az, hogy azonnal törölhetnek-e egy profilt, hiszen lehet, hogy nem kamu, hanem egy túlzottan elhivatott, hibbant, vagy fanatizált személyt takar - ebben az esetben ugyebár a profilt nem lehet kamuként törölni, mert abból megint jogi balhé származik. Szóval ilyenkor maradnak a hagyományos megerősítési módszerek, például a személyi igazolvány vagy hasonló dokumentumok bekérése. Ez pedig macerás és hosszadalmas, ezért míg egy ilyen fiókot tisztáznak, időközben száz kamut hoznak létre valamilyen kínai vagy épp dél-texasi álhírgyárban.
Indul a kísérlet!
A kamuprofilok lebuktatásának rendszere, folyamata és hatékonysága valószínűleg az átlagos felhasználók számára mindig valamilyen szinten érthetetlen marad. Mindenesetre mi nemsokára megpróbálunk végigvinni egy tesztet: hamarosan létrehozunk egy fals felhasználói profilt, amelyet először csak normális szintű kapcsolatteremtésre és bejegyzések közlésére használunk, majd (ha addig nem ismeri fel a rendszer kamuként), megpróbálunk egyre nagyobb őrültségeket véghezvinni vele, hogy lássuk, milyen esetekben gyullad ki a vörös fény a moderátoroknál. Szóval hamarosan jön Pécévé Béla (vagy valami hasonló nevű csodalény) kalandjainak első része!
