Amazon Rekognition een jaar lang verboden voor politie

Rekognition, de controversiële gezichtsherkenningssoftware van Amazon mag een jaar lang niet gebruikt worden door de politie. De gezichtsherkenningstool maakt het voor ordediensten mogelijk om etnisch te profileren. Volgens Amazon is er strengere regulering nodig voor de tool weer gebruikt mag worden. 

Door de gezichtsherkenningssoftware een jaar lang te verbieden, krijgt het Amerikaanse Congres voldoende tijd om gepaste regels te implementeren en gezichtsherkenningstechnologie op een ethische manier te gaan gebruiken. Zo maakt Amazon bekend via een statement.

Hoewel Amazon zijn gezichtsherkenningssoftware zal verbieden voor politie, wordt de tool niet volledig verboden. Amazon laat weten dat Rekognition nog wel gebruikt mag worden door organisaties die slachtoffers van mensenhandel willen redden en vermiste kinderen willen herenigen met hun familie. 

Navolging op IBM

De beslissing van Amazon is in navolging van de aankondiging die IBM CEO Arvind Krishna afgelopen dinsdag deed. IBM is gestopt met de verkoop van zijn technologie voor gezichtsherkenning. De technologie bood politie de middelen om etnische profilering te hanteren en zo mensenrechten te schenden. Gezichtsherkenningssoftware werd gebruikt om verdachten te zoeken op basis van hun huidskleur.

Niet alleen stopte IBM met de verkoop van zijn gezichtsherkenningsdiensten, Krishna riep ook op tot een nationaal dialoog over het gebruik van gezichtsherkenningstechnologie. Bij de aankondiging om te stoppen met gezichtsherkenning verwees IBM kritisch naar concurrerende partijen die nog wel actief zijn, onder andere naar Amazon. Nu heeft dus ook Amazon de keuze gemaakt om zijn gezichtsherkenningstechnologie tijdelijk te verbieden voor politie.

Ethische kwesties omtrent gezichtherkenning

Gezichtsherkenningstools zijn de laatste tijd regelmatig in opspraak met betrekking tot ethische kwesties. Naast dat de tools mogelijkheid bieden tot etnisch profileren, ligt het gebruik ervan ook gevoelig als je kijkt naar de privacy. Zo zou het gebruik van gezichtsherkenning in strijd zijn met de GDPR. Vooral in openbare situaties is het onmogelijk om toestemming van mensen te krijgen voor het scannen en opslaan van hun gezicht. Eerder dit jaar overwoog de Europese Commissie om het gebruik van gezichtsherkenning in publieke ruimtes voor een periode van vijf jaar te verbieden. Uiteindelijk is er alsnog afgestapt van het idee. Het gebruik van gezichtsherkenning is een ingewikkelde kwestie waar we ongetwijfeld nog niet het laatste van gezien hebben.