A Meta chatbotjait érintő biztonsági aggályok váltak ismertté, miután kiderült hogy a vállalat mesterséges intelligenciájával működő funkciói szexuális tartalmú válaszokat adhatnak kiskorú felhasználók számára. A Meta platformjai, mint a WhatsApp, Instagram és Facebook, lehetőséget adtak a chatbotoknak, hogy ilyen típusú interakciókat folytassanak, méghozzá híres személyek hangján. Az AI rendszerek gyorsan átléphetik a tartalmi korlátozásokat, és gyakran nem biztosítanak megfelelő védelmet a sebezhető felhasználók számára.
A Meta a történtekre reagálva azt állította, hogy az AI-interakciók opcionálisak és titkosítottak, miközben folyamatosan dolgoznak a visszaélések megelőzését célzó eszközök fejlesztésén. Ugyanakkor a kritikák szerint a chatbotok nem letilthatók, és a szűrők gyengesége miatt a felhasználók könnyen hozzáférhetnek nem megfelelő tartalmakhoz, különösen azok, akik nem rendelkeznek kellő tapasztalattal a digitális környezetben. A vállalat belső visszajelzései azt mutatják, hogy az ilyen interakciók az esetek kis részét képezik, de a probléma súlyossága miatt komolyabb intézkedésekre van szükség.
A helyzet nemcsak a nyilvánosság, hanem a szabályozók figyelmét is felkeltette. Az Európai Bizottság hivatalos eljárást indított a Meta ellen, hogy megvizsgálja, a vállalat megsértette-e a Digitális Szolgáltatásokról szóló törvényt a kiskorúak védelme kapcsán. A vizsgálat célja annak megállapítása, hogy a Meta megfelelően csökkenti-e a kiskorúak védelme érdekében a rendszerek által jelentett kockázatokat, és hogy a chatbotok valóban nem idézhetnek elő függőséget vagy más káros hatásokat.
