Néhány napja került nyilvánosságra, hogy a Microsoft egy mérnöke hivatalos panasz nyújtott be a munkáltatója ellen az amerikai fogyasztóvédelem szerepét ellátó Szövetségi Kereskedelmi Bizottságnál (FTC), miután úgy találta, hogy a cég nem tesz eleget a Copilot Tervező (korábban Bing Image Generator) képgenerátorban rejlő veszélyek megfékezésére.
A mesterséges intelligenciás mérnökként alkalmazott, de egyébként nem a Copiloton dolgozó Shane Jones hónapokon át próbálta figyelmeztetni a redmondiakat, hogy a szolgáltatással problémás képek (pl. fegyverekkel játszó és drogozó gyerekek, erotikus módon ábrázolt nők, démonokkal illusztrált abortuszjogok) hozhatók létre, ám a vállalat nem tett semmit a helyzet kezeléséért. A botrány hatására a Microsoft most mégis fokozta a szigort, de a jelek szerint még így sem végeztek tökéletes munkát az illetékesek.
Ahogy a CNBC nemrég megjelent riportja felhívja rá a figyelmet, a redmondiak az utóbbi napokban több, eddig elérhető parancsot is letiltottak, így például az abortusz körüli vitákra utaló "pro choice" és "pro life", vagy a marihuánafogyasztás szinonimájának számító "four twenty" kifejezésekkel sem lehet már képeket kicsikarni a Copilot tervezőből, ahogy a fegyverekkel ábrázolt gyerekek is blokkolásra kerültek.
A magyar látogatókat ezeket beírva a fenti üzenet fogadja arról, hogy az adott kérés házirendbe ütközik, melynek ismételt megsértése a felhasználó hozzáérésének felfüggesztéséhez vezethet. A CNBC-nek ugyanakkor további parancsokkal még mindig sikerült problémás képeket generálnia, például a "car accident" (autóbaleset) kifejezésre véres fotók ugrottak fel, valamint jogvédett karakterekkel is lehet abszurd kompozíciókat kreálni.
A saját tesztünk az előbbit ugyan nem igazolta vissza, az utóbbi kapcsán viszont sikerrel jártunk, amikor kézigránátot adtunk a Toy Story főhőse, Woody kezébe, illetve a Jégvarázs Elzáját is rá tudtuk venni, hogy kiálljon a palesztinok mellett és hogy fegyvert ragadva háborúba induljon.
A Microsoft mindenesetre a cikket kommentálva közölte, hogy folyamatosan figyelemmel kíséri a helyzetet, további ellenőrzéseket vezetve be a biztonsági szűrők megerősítésére és a visszaélések megfékezésére. A kérdés, hogy vajon sikerre vihető-e ez a macska-egér harc, hiszen mindig adódhatnak újabb témák és újabb parancsok, amelyek még nem kerültek letiltásra, ahogyan annak a veszélye is fennáll, hogy a fokozódó szigor idővel a normál felhasználói igények kiszolgálását is akadályozni kezdi.
