Mielőtt rögtön cenzúrát kiabálnánk, vegyük figyelembe, hogy az újítást az új-zélandi mészárlásra reagálva vezeti be a közösségi szolgáltató, hiszen valamit valóban tenni kell azért, hogy gyilkosság, kínzás, vagy bármilyen szintű erőszak élő közvetítésben mehessen le Facebookon. Az ezért kampányoló szervezetek szerint az, hogy lehetőség van ilyen cselekedeteket élő videóközvetítésben is bemutatni, sok esetben felerősíti az elkövetőkben azt a vágyat, hogy valamilyen nagy és extrém tettet hajtsanak végre, amelyet óriási, világméretű szócsőként a Facebookkal népszerűsíthetnek.
"A szörnyű új-zélandi terrortámadás után megvizsgáltuk, mit tehetünk azért, hogy a szolgáltatásainkat senki ne használhassa fel károkozásra vagy gyűlöletkeltésre" - áll a Facebook közleményében. A szigorítás bevezetéséről már jó ideje beszéltek a közösségi óriás vezetői és szóvivői, most azonban kiderült, pontosan hogyan működik mindez.
A metódust nemes egyszerűséggel "egy csapás elve" néven emlegetik, ez pedig azt jelenti, hogy az élő közvetítéseket figyelő adminisztrátorok (akiket különféle jelekre betanított mesterséges intelligencia is segít) azonnal letilthatják az adott adást, amint valamilyen szabálytalanságot észlelnek. Ilyenkor a stream indítója nem is tud újabb közvetítésbe kezdeni egy bizonyos ideig: nem örökös tiltást kap, de a korlátozás időtartamát még nem pontosították, csak példaként írtak 30 napot. Az élő videók mellett egyébként hasonlóan szigorú szabályozásokat vezetnek be a hirdetésekre és kiemelt tartalmakkal kapcsolatban is, itt szintén extrém, erőszakra buzdító, gyűlöletkeltő tartalmakat tilthatnak le gyakorlatilag egy gombnyomással.
Az persze teljesen lehetetlen, hogy emberi adminisztrátorok száz százalékos pontossággal, ráadásul másodperceken belül felderítsenek minden szabálytalan streamet és persze ugyancsak másodpercek alatt el is dönthessék, hogy valóban rá kell-e csapni a piros gombra, ezért a Facebook 7,5 millió dollárt különített el olyan fejlesztésekre, amelyek a kép- és hangelemzés gyorsaságát és pontosságát javítják. Így egyrészt az adminok értesítést kapnak a gyanúsnak ítélt közvetítésekről, nem nekik kell manuálisan mazsolázgatniuk, másrészt ez a technológia a manipilált tartalmakat is könnyebben felfedezné, ezzel gátat szabva a deepfake videók terjedésének.
