IBM stopt met gezichtsherkenning door vooroordelen en ongelijkheid

IBM CEO Arvind Krishna kondigt aan dat het bedrijf zal stoppen met de verkoop van gezichtsherkenningsdiensten. Ook roept hij op tot een nationale dialoog om te bespreken of we dit soort diensten überhaupt wel moeten gebruiken. Verder maakte Krishna bekend een nieuwe wet gericht op het verminderen van politiegeweld te ondersteunen.

In een brief schrijft Krishna het volgende: “IBM is sterk tegen het gebruik van om het even welke technologie voor grootschalige bewaking, etnisch profileren en schendingen van fundamentele mensenrechten en vrijheden. Wij geloven dat dit het moment is om een nationale dialoog te beginnen over het gebruik van gezichtsherkenningstechnologie door nationale wetshandhavingsinstanties.”

De voorzichtige benadering die IBM aanneemt bij het ontwikkelen en toepassen van de technologie is niet nieuw. Vorig jaar trainde IBM zijn gezichtsherkenningstechnologie met een database aan gezichtsdata die meer divers was dan alle andere databases die op dat moment beschikbaar waren. Voor gezichtsherkenningssoftware geldt immers hetzelfde als andere programma’s: het systeem is zo goed als de informatie die je gebruikt om ze te voeden.

Kritisch naar concurrenten

Gezichtsherkenningssoftware leverde IBM waarschijnlijk nog niet veel op. De technologie staat nog in de kinderschoenen. Daarnaast zijn er nog weinig applicaties waarvoor de gezichtsherkenningsdiensten van IBM echt nut hebben. Ook de concurrerende en controversiële Rekognition dienst van Amazon is nog amper goed genoeg om in de praktijk toe te passen. 

Krishna schrijft in zijn brief dat “leveranciers en gebruikers van AI-systemen de gezamenlijke verantwoordelijkheid hebben om te zorgen dat het algoritme is getest op bias. Dit geldt des te meer als het algoritme gebruikt wordt in wetshandhaving. De bias tests moeten daarbij gecontroleerd en gerapporteerd worden.”

Met dat statement verwijst Krishna naar de concurrerende partijen die actief zijn. Amazon is bijvoorbeeld al op het matje geroepen voor de slechte kwaliteit van zijn gezichtsherkenningssystemen, maar blijft ze alsnog promoten. Het is nog onduidelijk of IBM zijn AI-onderzoek naar gezichtsherkenning zal hervatten.

Wetsvoorstel door Krishna

Met zijn brief voegt Krishna een wetsvoorstel toe, dat al wordt ondersteund door tientallen co-sponsors in de Amerikaanse senaat. Het voorstel richt zich op diverse problemen waar politieafdelingen tegenaan lopen. Met zijn voorstel wil Krishna de eisen voor bodycams uitbreiden. Hij wilde gezichtsherkenning waaraan de bodycams gekoppeld zijn juist beperken.

Over zijn voorstel zegt Krishna het volgende: “We moeten investeren in technologieën die kunnen helpen de digitale verdeling te elimineren. Daarbij moeten we juist stoppen met technologieën die een maatschappij gericht op toezicht promoten en die politiegeweld en structureel racisme verergeren.”