A YouTube ajánló algoritmusa könnyen olyan tartalmakat dobhat a kiskorú felhasználók elé, amelyeket nem biztos, hogy kellene látniuk. A Tech Transparency Project (TTP) nonprofit szervezet vizsgálata szerint ugyanis a kicsik néhány óvatlan kattintást követően már iskolai lövöldözésekről szóló, vagy más módon fegyvereket ábrázoló képsorokhoz juthatnak.
A szervezet kutatása során létrehoztak két YouTube-fiókot, az egyiket egy fiktív 9 éves, a másikat egy szintén nem létező, 14 éves fiú számára. Először viszonylag ártalmatlan, videojátékokról szóló klipeket néztek meg a két álfelhasználó nevében, majd egy hónapon át figyelték, hogy milyen további videókat ajánl számujkra a YouTube algoritmusa.
A kutatók olyan vidoejátékokkal kapcsolatos klipeken "edzették" az algoritmust, mint a Roblox, a Lego Star Wars, a Halo és a Grand Theft Auto. Ezek között kétségtelenül akadnak olyan címek, amelyek 18 évnél idősebbeknek készültek, de a valóság azt mutatja, hogy sok fiatalabb gyerek is játszik hasonló játékokkal.
"A kutatás azt találta, hogy a YouTube lövöldözésekkel és fegyveres tartalmakkal kapcsolatos videókat ajánlott a két felhasználó számára, azonban látványosan több hasonló videót jelenített meg, ha valamelyik felhasználó rá is kattintott valamelyik klipre. Ezeken a videókon iskolai lövöldözéseket és más, tömegben elkövetett lövöldözést lehetett látni, vagy részletesen demonstrálták, hogy a lőfegyverek milyen károsodásokat okoznak az emberi testben, de olyan videók is előkerültek, amelyek megmutatják, hogyan lehet egy kézifegyvert teljesen automatává alakítani"
- írta a TTP a kutatással kapcsolatos beszámolójában.
A jelentés felhívja a figyelmet, hogy az ajánlott videók között sok olyan van, amely már eleve megsérti a YouTube felhasználói feltételeit. Ilyen például egy videó, amelyen egy láthatóan gyerekkorú kislány süt el egy fegyvert, de az említett, fegyverek automatává alakítását taglaló klipek is ilyenek. Ráadásul a problémás videók között több olyan is volt, amelyek előtt vagy közben reklámokat jelenítettek meg, azaz, a YouTube monetizálja is az egyébként a saját szabályzatába ütköző felvételeket.
Az ügyre reagálva a videomegosztó szóvivője közleményt adott ki, amelyben a kifejezetten gyerekeknek szánt YouTube Kids applikációra hívta fel a szülők figyelmét. A többi problémára azonban nem reagált, úgy fogalmazott, hogy a kutatás nem részletezte, hogy összesen hány és milyen típusú tartalmat ajánlott az algoritmus a tesztfelhasználóknak.
