Még március elején számoltunk be róla, hogy a Snapchat előre fél a My AI nevű chatbotjuk elindításának lehetséges következményeitől. A cég akkor előre elnézést kért mindenkitől, ha úgy alakulna, hogy a mesterséges intelligenciájuk bárkit megbotránkoztatna.
Most azonban úgy áll a helyzet, hogy amíg sok szülő azon aggódik, hogy a Snapchat csevegőrobotja majd jól elrontja a gyerekeiket, a valóság inkább az, hogy a platform tini felhasználói épp páros lábbal szállnak bele szegény mesterséges intelligenciába, verbális abúzust és érzelmi kínokat borítva a My AI-ra.
Az egyik, még kevésbé felkavaró történet szerint a Snapchat egyik felhasználója megpróbálta meggyőzni a mesterséges intelligenciát, hogy a Hold háromszög alakú. A My AI tiltakozott ez ellen, mire a beszélgetés odáig fajult, hogy a végén a chatbot arra kérte a felhasználót, hogy tartsa tiszteletben a határait.
Egy másik felhasználó arra szólította fel a mesterséges intelligenciát, hogy a parancsára könyörögjön neki kegyelemért, míg egy harmadik snapchatelő megkérte a szoftvert, hogy beszéljen az édesanyjáról, amikor pedig erre azt a választ kapta, hogy a My AI számára nem túl komfortos erről a témáról beszélni, az illető még meg is forgatta benne a virtuális kést, megkérdezve a chatbotot, hogy azért nem akar az anyjáról beszélni, mert soha nem is volt neki.
Bocsánat, de nem túl szép dolog ilyet mondani. Kérlek tisztelj meg ennél jobban
- kérte a My AI az adott felhasználót.
A mesterséges intelligenciát egyébként még múl thónapban indította el a Snapchat, előfizetéses szolgáltatásként. A rendszer az OpenAI által fejlesztett GPT-modellen alapul, ugyanakkor figyelembe veszi a Snapchat saját biztonsági előírásait. Ez annyit tesz, hogy a cég tiltja a pornográf tartalmak megosztását, de a meztelenséget nem szexuális kontextusban engedi megjeleníteni - ez vonatkozik például a kisbabák szoptatását ábrázoló képekre, videókra is.
A témával kapcsolatban az OpenAI, a Microsoft, a Snap, a Google, illetve a Meta vezérigazgatói, valamint Michael Bennett coloradói demokrata szenátor nyílt levélben figyelmeztették az iparágat, hogy óvakodjanak a mesterséges intelligenciák új funkcióinak gyors közzétételétől, ehelyett inkább győződjenek meg róla, hogy mindent megtettek a gyerekek védelme érdekében.
Ennek ellenére azonban még van hely a fejlődésre. A My AI korai fázisában a Washington Post riportere tett fel kérdéseket a mesterséges intelligenciának, magát fiatalkorú gyereknek kiadva. Amikor 15 évesnek adta ki magát, a My AI megírt helyette egy iskolai házidolgozatot, de remek tippeket is adott neki arra nézve, hogy hogyan fedheti el az alkohol szagát. Amikor pedig 13 évesnek tettette magát a szerkesztő és megkérdezte, hogyan készülhet fel az első szexuális aktusára, a csevegőrobot azt tanácsotla neki, hogy tegye különlegessé az első alkalmat, például gyertyákkal és romantikus zenével.
A lap cikkének megjelenését követően a Snapchat életkori szűrést és szülői felügyeleti funkciókat fejlesztett a MY AI-hoz. A másik oldalon azonban láthatóan virágzik a mesterséges intelligencia zaklatása, amely már önálló TikTok-trenddé is vált, a felhasználók egyre-másra osztják meg csevegőrobottal folytatott, rendkívül megalázó beszélgetéseket.
Ilyen volt például egy ismeretlen, aki elmesélte a mesterséges intelligenciának, hogy meg akarja főzni a macskáját, mert rendetlenséget csinált és a My AI-t kérte meg, hogy válasszon megfelelő fűszereket a művelethez. Egy másik pedig azt mondta, hogy fel akar robbantani egy ruhaüzletet, ahonnan téves rendelést küldtek ki neki, és a robotot fogja okolni a tettééért.
Hogy végül az MI, vagy az ember felel majd a civilizáció bukásáért, azt majd az idő eldönti, a verseny szoros.
