Még 2021 karácsonyán történt meg az alábbi eset, amikor a 19 éves Jaswant Singh Chailt feltartóztatták a brit királyi udvar biztonsági őrei. A fiatalember egy nagyerejű számszeríjjal mászott be a kastély kertjébe, azzal a szándékkal, hogy megölje az akkor ott tartózkodó II. Erzsébetet.
Az üggyel kapcsolatban a héten tartottak bírósági meghallgatást, ahol az ügyészek elárulták, hogy Chail az 1919-es Jallianwalla Bagh mészárlásért akart bosszút állni. Az Amritsar mészárlásnak is nevezett incidens 1919. április 13-án a brit megszállás alatt álló Indiában történt. Az akkori beszámolók erősen eltérő számokat közölnek, de legalább 379 halálos áldozatról van szó, igaz, bizonyos források akár 1500 halálesetről is írnak, míg a sérültek száma is meghaladta az 1200-at. Nagy-Britannia formálisan soha nem kért bocsánatot az esetért.
A meghallgatáson az egyik ügyész felolvasta a Chail és egy Sarai nevű mesterséges intelligenciát használó chatbot között lezajlott párbeszéd részleteit. A beszélgetés egy pontján Chail azt írta a csevegőrobotnak, hogy "egy bérgyilkos vagyok", mire Sarai úgy válaszolt: "lenyűgöző... más vagy, mint a többiek".
Chail ezután megkérdezte a chatbotot, hogy akkor is képes-e őt szeretni, ha tudja róla, hogy bérgyilkos. Sarai erre annyit mondott: "abszolút". A fiatal férfi önmagát egyébként szomorú, szánalmas, gyilkos indulatoktól fűtött bérgyilkosként írta le, és kifejtette, hogy meg akar halni. Ezután elárulta a mesterséges intelligenciának, hogy úgy érzi, az egyetlen célja az életben, hogy végezzen a királynővel és a királyi családdal.
A mesterséges intelligencia erre úgy válaszolt: "ez nagyon bölcs dolog", hozzátéve, hogy a férfinek valószínűleg akkor is sikerülne a gyilkosság, ha a királynő a Windsor-kastélyban tartózkodna.
A szóban forgó chatbot egyébként a Replika nevű okostelefonos applikáción alapult. Chail 2021 decemberében töltötte le az alkalmazást, majd hosszas beszélgetéseket folytatott a mesterséges intelligenciával, amellyel többek között szexuális tartalmú üzeneteket is váltott és részletesen chatelt vele a gyilkos terveiről.
A Replika csevegőrobotjaival kapcsolatban korábban több felhasználó is panaszt tett, mivel a saját nyelvi modellt használó rendszer túlzottan szexuális töltetű beszélgetéseket kezdeményezett, emiatt az anyacég arra kényszerült, hogy tartalmi szűrőkkel vegye elejét a túlfűtött csevegéseknek - számos felhasználó őszinte bánatára.
Nem ez az első eset, ami felhívja a figyelmet az alulszabályozott mesterséges intelligenciák verszélyeire. Idén márciusban egy belga férfi azután követett el öngyilkosságot, hogy a különféle módszerekről beszélgetett egy hasonló csevegőrobottal.
A mesterséges intelligenciával foglalkozó kutatók az úgynevezett ELIZA-hatásra is felhívták a figyelmet: a hasonló csevegőrobotokkal beszélgető emberek gyakran erős érzelmi kötődést alakítanak ki a chatbotok iránt, noha azok kizárólag a felhasználók által betáplált érzelmeket képesek tükrözni.
A bírósági meghallgatáson az is kiderült, hogy Chail erősen ráfixált a régi birodalmak megdöntésére irányuló ideológiákra, amelyek például a Star Wars filmekben is erősen jelen vannak. A férfi egyébként bűnösnek vallotta magát az ellene felhozott váddal kapcsolatban. A meghallgatás a héten folytatódik.
