Nagyon sok olyan tartalom kering az interneten, amelyben kiskorúak szerepelnek valamilyen bántó, megalázó, kihasznált helyzetben - nem ragozzuk, nagyjából mindenki sejti, mikről van szó. Természetesen az ilyen képek, videók és egyebek esetében a legjobb az lenne, ha azonnal a forrást, tehát a bántalmazót, elkövetőt lehetne leállítani, de már az is nagy segítség, ha az efféle tartalmakat sikerül kilőni a hálóról, hogy a terjedés megállításával a készítők kedve is elmenjen a további ténykedésüktől.
Tavaly csak az Egyesült Államokban 69,1 millió ilyen fájlt jelentettek a jelenség ellen harcoló szervezetnek, ami háromszor annyi, mint 2017-ben volt, és 15 ezer százaléknyit nőtt 15 év alatt. Szóval nagyon jól jön a nemrég bemutatott, Safer nevű eszköz, amely mesterséges intelligencia segítségével azonosítja az ilyen veszélyes és káros tartalmakat - sőt, sok esetben meg tudja határozni az eredetüket, tehát végső soron az áldozatokhoz és az elkövetőkhöz is segít eljutni.
A fejlesztő non-profit csapat, a Thorn olyan szervezetek számára készítette a megoldást, amelyek nem rendelkeznek szűrő megoldásokkal az ilyen tartalmakhoz. Iskolák, helyi közösségi platformok és fórumok például kiválóan tudják használni a Safer rendszerét, de nagyobb webes tartalomszolgáltatók is kiválóan alkalmazhatják, mivel rövid gépi tanulási időszak után képes 99 százalékos pontossággal azonosítani minden káros tartalmat és megjelölni eltávolításra. Emellett megkeresi azokat a digitális "ujjlenyomatokat", amelyek alapján azonosítani lehet személyeket, az elkészítés helyét és egyéb "bűnjeleket", amelyek alapján akár a hatóságoknak is át lehet adni az adott ügyet.
Amikor a Safer megvizsgál képet vagy videót, összehasonlítja az adatbázisában már meglévő többmilliónyi fájl tartalmával, így gyorsan kiderül, ha hasonlóan károsnak tekinthető. Ezután vagy eltávolítja, vagy ideiglenesen eltünteti, miközben továbbítja a "humán" moderátoroknak, közben pedig automatikusan jelzi az amerikai eltűnt és bántalmazott kiskorúakkal foglalkozó hivatalnak, amelynek adatbázisába szintén bekerül a fájl.
A Safer egyik legnagyobb partnere a Flickr képmegosztó, amely sikerrel használja az eszközt, ráadásul a segítségével már sikerült 21 eltűnt illetve bántalmazott kiskorút felderíteni 18 hónapostól 14 éves korig, valamint elkövetőt is börtönbe juttatni.
