2015-ben komoly kritika érte a Google-t, amiért a képfelismerő algoritmusa automatikusan gorillaként jelölte meg a fekete bőrszínű embereket. Az óriás azonnali cselekvést ígért, hogy megelőzze a hasonló hibákat.
Mi volt a megoldás? A Wired magazin oknyomozása szerint annyit tett a Google, hogy megtiltotta a Google Fotóknak, hogy bármilyen képet is felcímkézzen a gorilla, csimpánz vagy majom szavakkal.
A Wired több mint 40 000 állat fotóját tesztelte a szolgáltatással, mielőtt erre a következtetésre jutott. A rendszer hatékonyan ismerte fel a pandákat, uszkárokat, azonban a gorillákra és a majmokra nem volt találat. Viszont a páviánokat, a gibbonokat és az orangutánokat felismeri.
A Google megerősítette a Wired eredményeit: a 2015-ös botrány következményeként valóban törölték ezeket a címkéket a rendszerből. Az óriás elmondta azt is, hogy a képfelismerő és -címkéző technológia még annyira gyerekcipőben jár, hogy messze nem tökéletes.
A gorillavakság a Google Fotók mellett a Google Lens appot is jellemzi, bár a Google Assistant már mutat hajlandóságot a főemlősök azonosítására, ahogyan a Google Cloud Vision is.
Az, hogy maga a Google is képtelen volt két év alatt megoldást találni a problémára, a szakértők szerint azt mutatja, hogy a képfelismerő funkciók mögött álló gépi tanulás még erősen gyerekcipőben jár. Az ilyen technológiákat gyakran feketedoboznak nevezik, mert bár látványos eredményeik vannak, maguk a fejlesztők sem tudják, hogyan és miért hozzák a rendszerek a döntéseket.
Hasonló botrányba keveredett anno a Flickr is, amelynek ugyanilyen problémái akadtak - és ugyanilyen megoldást alkalmazott.
