Emberi jogi szervezetek és velük egyetértő politikusok évek óta kongatják a vészharangot, hogy az mesterséges intelligencia-alapú megfigyelési technológiák veszélyt jelenthetnek a társadalom szabadságára. Az elrettentő példa a Kínában kiépített komplex rendszer, melyben még pontozzák is az állampolgárok viselkedését.
Az Európai Adatvédelmi Testület (EDPB) és az európai adatvédelmi biztos (EDPS) most közös véleményben javasolja, hogy az Európai Unió területén tiltsák be az MI-alapú nyilvános megfigyelést, valamint a mesterséges intelligenciára épülő társadalmi besorolást és pontrendszereket.
A javaslat a közös jogszabályok kezdeményezéséért is felelős Európai Bizottság felkérésére reagál, amely egy átfogó uniós AI-reguláció megalkotását indítványozta. Az EDPB és az EDPS konkrétabban az "arcfelismerés, a járás, az ujjlenyomatok, a DNS, a hang, a billentyűleütések és egyéb biometrikus, vagy viselkedési jelek" bármely kontextusban történő rögzítésének betiltását kéri a nyilvános helyeken.
A közös javaslat szerint ugyancsak törvényileg kell ellehetetleníteni az emberek AI-rendszerekkel történő profilozását, azaz, hogy "csoportokba sorolják őket etnikai, nemi, politikai, vagy szexuális irányultság alapján", vagy bármely osztályozás mentén, ami miatt diszkriminációt szenvedhetnek el. Az EDPB és az EDPS továbbá azt is szeretné elérni, hogy tilos legyen AI segítségével következtetés levonni egy természetes személy érzelmeivel kapcsolatban.
Ez utóbbit használják a hatóságok például akkor, amikor egy merénylet elkövetőjét igyekeznek kiszúrni egy nagyobb tömegben, a technológia kritikusai szerint viszont könnyű visszaélni az eljárással. Ebbe a témába vág, hogy a javaslat a valós időben történő, mesterséges intelligenciára épülő személyazonosítást is szigorúan korlátozná, csupán "konkrét, jelentős és közvetlen fenyegetés" (pl. terrortámadás erős gyanúja) esetén engedélyezve azt a hatóságoknak.
Az Európai Adatvédelmi Testület (EDPB) független európai szerv, amely az adatvédelmi szabályok következetes alkalmazását segíti az Európai Unió területén, valamint előmozdítja az uniós adatvédelmi hatóságok közötti együttműködést. A testület tagsága a nemzeti adatvédelmi hatóságok képviselőiből és az európai adatvédelmi biztosból (EDPS, jelenleg a lengyel Wojciech Wiewiórowski) áll.
