Több mint két éve robbant be a köztudatba a ChatGPT, és bár az OpenAI folyamatosan fejleszti, az egyik legnagyobb problémát továbbra sem sikerült megoldani: a hallucinációkat, vagyis a valótlan információk tényként való közlését. Most az osztrák Noyb jogvédő szervezet újabb panaszt nyújtott be az OpenAI ellen, miután a chatbot hamisan állította egy norvég férfiról, hogy gyilkosság miatt elítélték.
A jelentések szerint a ChatGPT nemcsak azt közölte, hogy a férfi 21 év börtönt kapott két gyermeke meggyilkolásáért és harmadik gyermeke megölésének kísérletéért, hanem valós adatokat is összekevert a kitalációval. A válaszban szerepelt a férfi valódi szülővárosa, valamint gyermekei száma és neme is. A Noyb szerint ez egyértelműen sérti az EU adatvédelmi rendeletét (GDPR), mivel a személyes adatoknak pontosnak kell lenniük, és ha nem azok, a felhasználóknak joguk van kérni a helyesbítést.
Mint arra az Engadget is rámutatott, nem a mostani az első eset, hogy a ChatGPT alaptalan vádakkal illette az embereket. Korábban egy férfit csalással és sikkasztással, egy bírósági tudósítót gyermekbántalmazással, egy jogászprofesszort pedig szexuális zaklatással vádolt meg tévesen. A Noyb először 2024 áprilisában nyújtott be panaszt egy közéleti szereplő születési dátumának téves közlése miatt, de akkor az OpenAI azzal védekezett, hogy nem tudja módosítani a rendszeren belüli információkat, legfeljebb bizonyos kérdésekre adott válaszokat tilthat le.
A ChatGPT jelenleg egy apró figyelmeztetésre támaszkodik, amely szerint "hibázhat". De kérdés, hogy a világszerte egyre szélesebb körben használt chatbot mögött álló vállalat meddig úszhatja meg az ilyen bakikat egy sima bocsánatkéréssel. Mindenesetre ez az eset világossá teszi, hogy nem a legjobb ötlet kizárólag a ChatGPT-re információira támaszkodni, és azokat szentírásként kezelni, akár a munkánkhoz, akár tanuláshoz vennénk igénybe a szolgáltatásait.