IBM stopt met de ontwikkeling van gezichtsherkenning en zal ook geen software meer aanbieden waarin de technologie verwerkt zit. Volgens Big Blue wil het niet meer meewerken aan technieken die gebruikt kunnen worden voor raciale profilering en massasurveillance.
IBM maakte zijn besluit bekend in een brief van ceo Arvind Krishna aan het Amerikaanse Congres. ‘IBM is fel gekant tegen het gebruik van gezichtherkenningstechnologie zoals die door andere leveranciers wordt aangeboden voor massasurveillance, raciale profilering, schendingen van fundamentele mensenrechten en vrijheden, of enig ander doel dat niet in overeenstemming is met onze waarden en principes van vertrouwen en transparantie’, aldus Krishna in de brief. ‘Wij geloven dat het nu tijd is om een nationale dialoog te beginnen over de vraag of en hoe gezichtsherkenningstechnologie moet worden gebruikt door binnenlandse wetshandhavers.’
Gezichtsherkenningstechnologie ligt al een tijdje onder vuur omdat veel software last heeft van ‘bias’ of vooringenomenheid. Eind vorig jaar berichtte de New York Times nog over een studie van het National Institute of Standards and Technology waaruit blijkt dat gezichten van zwarte mensen of Aziaten tien tot honderd keer vaker verkeer geïdentificeerd worden dan van blanken. Voor veel software was het ook moeilijker om vrouwen te identificeren dan mannen en ook bij ouderen waren er veel meer ‘false hits’ dan bij mensen van middelbare leeftijd. Het NIST testte 189 algoritmes van 99 bedrijven, waaronder Microsoft, Cognitec en het Chinese Megvii.
Voorstanders van gezichtsherkenning zien er een uitstekende bondgenoot in in de strijd tegen criminelen en terroristen, maar veel experts waarschuwen ook dat dit soort software een inbreuk kan vormen op het recht van vrije meningsuiting en verplaatsing. Verschillende Amerikaanse steden, waaronder San Francisco, Berkeley en Oakland, hebben al een formeel verbod uitgevaardigd voor overheidsinstanties om dit soort software te gebruiken.
In een poging om zijn software accurater te maken, haalde IBM begin vorig jaar zowat een miljoen foto’s van Flickr af, zonder dat de makers daarvan op de hoogte waren. Hoewel de foto’s onder een ‘Creative Commons’-licentie vielen, kwam daar toch veel kritiek op.
