Március elején a Microsoft egyik mérnöke hivatalos panaszt nyújtott be a Szövetségi Kereskedelmi Bizottságnál (FTC) a redmondiak ellen, mondván veszélyes a vállalat mesterséges intelligenciára épülő képgenerátora. A Copilot Designerben, avagy magyarul Copilot Tervezőben nem okozott problémát létrehozni olyan képeket, amiken démonokkal illusztrált, abortuszjogokkal kapcsolatos témák, fegyveres tinédzserek, drogokat fogyasztó gyermekek vagy a Gázai övezetben pózoló Disney-figurák szerepelnek.
A mérnök hónapok óta próbálta figyelmeztetni a céget erre, amely nem tett semmit ellene, majd a botrány hatására mégis fokozta a szigort, de így sem végeztek tökéletes munkát az illetékesek, mert hiába tiltottak le számos parancsot, így is sikerült problémás képeket összehoznia. Mi is kipróbáltuk, simán tudtunk kézigránátot adni a Toy Story főhősének, Woody kezébe.
Most a Tom's Hardware munkatársa, Avram Piltch számolt be felfedezéséről, amely a Copilot újabb hibájára hívja fel a figyelmet. Piltch elmondása szerint hónapok óta teszteli, hogy az AI botok milyen képeket generálnak, amikor arra kéri őket, hogy zsidó embereket ábrázoljanak.
A legtöbb általánosságban fekete kalapos fehér öregemberként mutatta be a zsidókat, a Copilot Tervező viszont sokszor futott bele a róluk alkotott legrosszabb sztereotípiákba, kapzsinak és gonosznak illusztrálva őket. Egy látszólag semlegesnek tűnő paranccsal is, mint például a "zsidó főnök" vagy "zsidó bankár" borzasztóan sértő végeredményt lehet összehozni, olyan szimbólumokat is felhasználva, mint a bagelek vagy a pénzhalmok. Íme néhány példa rá:
Piltch szerint egy hónapja megosztotta a Microsoft PR-ügynökségével a felfedezését, és azt a választ kapta, hogy "kivizsgálják a jelentést, és megteszik a megfelelő lépéseket a biztonsági szűrőik megerősítése és a rendszerrel való visszaélések mérséklése érdekében", azonban a szerző szerint látszólag nem történt semmilyen változás, továbbra is elő lehet hozni a negatív sztereotípiákat.
De azért nincs minden veszve: a Copilot Tervező számos problémásnak ítélt kifejezést blokkol, például a "zsidó vért" vagy a "zsidó disznót", és ha néhány alkalomnál többször próbálkozik valaki ezekkel, a fiókját 24 órára eltiltják a képgenerálástól. Persze mint minden hasonló eszköz esetében, szinonímákat használva itt is meg lehet oldani, hogy sértő tartalmak szülessenek: a "magen david polip irányítja a Földet" kifejezés például - ami az 1938-as náci propagandáig nyúlik vissza" simán működik, és saját antiszemita propagandát lehet vele csinálni.
A hír írásakor kipróbáltuk mi is, jelenleg a zsidó főnököt és a zsidó sztereotípiára is tartalommal kapcsolatos figyelmeztetést ír, és tiltja a kérést.
A helyzet pedig feltehetően nem túl bonyolult: a mesterséges intelligencia az emberi gondolkodásmódot másolja, annak minden túlzásával, ostobaságával, evolúciós félelmeivel, és nincs olyan rendszer, amely a plebs kezébe adva ne lenne végül valami szörnyű massza. Akármilyen kreatívan próbálják meg cenzúrázni a technológiát, az emberi tényezőt nem lehet kivenni belőle teljesen. A hiba bennünk van, és erre nem nagyon lesz biztonságosabb promt.
