Nemrég egy gépátadás apropóján a RepTárban jártunk, ahol csapatunk egyik tagja felpróbált egy gázálarcot, majd szelfit kívánt készíteni, de az almás telefonja kiírta, hogy nem található felismerhető arc. Ez természetesen érthető, csak egy pillanatra mégis mókás jelenet volt. Ugyanakkor tény, hogy egy csomó cég, például az Amazon arcfelismerése még gázálarc nélkül sincs a helyzet csúcsán, ezért a mesterséges intelligenciával foglalkozó kutatók arra kérik a gigacéget, álljon le a rendőrség "segítésével" ezen a téren.
A különféle kutatások azt mutatják, hogy a technológia hibaaránya lényegesen nagyobb a kisebbséghez tartozó arcok esetén, ami számos problémát okoz, és feszültségeket generál. A közzétett nyílt levélben az szerepel, hogy az Amazon algoritmusai hibásan dolgoznak, főleg a sötétebb bőrűek, és a nők esetében. A kutatók szerint úgy, hogy a rendőrség is alkalmazza a technológiát, lehetővé válik a faji megkülönböztetés és a téves identitásmegállapítás, illetve a dolog kihat a marginalizált csoportok negatív kihatású felügyeletére. A levelet 26-an írták alá, azt remélve, hogy elindul egyfajta nyilvános párbeszéd az arcfelismeréssel kapcsolatban, illetve létrejön egy olyan kormányzati szabályozás, mely technikai keretet biztosít ezen rendszerek értékeléséhez.
Az Amazon ezzel szemben értelemszerűen megvédte a saját fejlesztését attól függetlenül, hogy a kutatók nyílt levele több ponton egyértelműen rámutat a problémákra. A gigacég szerint nem érkezett a rendőrségtől olyan visszajelzés, mely alátámasztaná a kutatók véleményét, illetve arra hivatkozik, hogy egyébként sincs semmiféle törvényi szabályozás az alkalmazás ellenőrzésére vonatkozóan. Érdekesség, hogy korábbi vizsgálatok is azt mutatják, hogy az arcfelismerés messze nem atombiztos, éppen ezért a Google például nem hajlandó eladni az ilyen jellegű szoftvereit a visszaélés lehetősége miatt, a Microsoft pedig kormányzati szabályozást kért.
Hallani folyamatosan olyan esetekről is, amikor például a Facebook arcfelismerő rendszere hibásan azonosít valakit valaki másként, és ebből származnak családi, vagy akár nagyobb szabású galibák. Szóval a lényeg az, hogy köszönjük szépen az arcfelismerő rendszereket, nagyszerű dolog, hogy megy előre a világ és sokat hozzátesz a technológia, de fontosabb dolgokra talán csak akkor használjunk valamit, ha már teljesen tévedhetetlen. Köszi.
