Digitale ethiek moet dringend op de agenda als we AI op persoonsgegevens loslaten

Technologie evolueert aan een razendsnel tempo. Machines zijn steeds meer in staat om complexe functies uit te voeren dankzij artificiële intelligentie (AI). Denk maar aan online retailers die AI al inzetten om informatie te verzamelen over onze koopgewoonten en op die manier nagaan hoe ze onze winkelervaring kunnen verbeteren, of aan politiediensten die misdaad voorspellen met behulp van machine learning. Zoals altijd is er echter een keerzijde aan de medaille.

Onderzoek van Avanade bij bedrijfsleiders wijst uit dat bijna een vijfde van hen (18%) al geconfronteerd werd met een ethisch dilemma op het werk dat zijn oorsprong vond in slimme technologieën of digitale automatisering. Moeten we ons zorgen maken om de gevolgen van AI op onze privacy?

Maar liefst 8 van de 10 Belgen maken zich ernstig zorgen over hun privacy wanneer ze de vraag krijgen om hun persoonlijke gegevens toe te vertrouwen aan AI. En toch houden we allemaal van een koopje: de meeste mensen zien er dan ook geen graten in om informatie te delen, zolang ze maar een goede deal krijgen. De hamvraag is dan: wanneer delen we té veel data? En hoe lang mogen onze gegevens bijgehouden worden?

Het gaat in se echter niet zozeer om het delen van gegevens, maar of die data al dan niet op een ethische manier gebruikt worden. Het aantal bewakingscamera’s op openbare plaatsen neemt bijvoorbeeld toe: hoe nabij is het overschrijden van ethische grenzen als we in het kader van predictive policing AI op de beelden van die camera’s loslaten? Uit ons onderzoek blijkt dat de meeste bedrijfsleiders (81%) niet het volste vertrouwen hebben dat hun organisatie voldoende voorbereid is om ethische kwesties met betrekking tot artificiële intelligentie en digitale automatisering aan te pakken. Ook openbare diensten die experimenteren met AI moeten zich daar bewust van zijn.

 

Elk bedrijf moet zelf het heft in eigen handen nemen om een ethische gedragscode te ontwikkelen.

 

Een ambitieuze supranationale regelgeving die duidelijk aflijnt hoe data op een ethische manier behandeld moeten worden, is daarom cruciaal. En hiervoor hebben we ook concrete beleidslijnen nodig op andere beleidsniveaus. Slechts de helft van bedrijven (53%) heeft controlesystemen en vaste processen geïmplementeerd die digitale ethiek een plaats geven.  Bij Avanade werken we bijvoorbeeld met een code of conduct, die steunt op de wet enerzijds en ons eigen beleid en dat van onze klanten anderzijds. Om ethische twistpunten te vermijden worden respect, ethiek en integriteit in de code boven alles gezet.

Hoe vermijden we dat bad actors met slechte bedoelingen toegang krijgen tot AI? De Europese GDPR-wetgeving heeft als nobel doel individuen opnieuw zelf de controle te geven over hun persoonlijke gegevens. Dit is een goede start, maar ook hier moeten bedrijven zelf extra op inzetten. Het initiatief blijft in veel gevallen bij het individu liggen, waardoor een grote groep mensen kwetsbaar blijft. Bij ons is de eerste stap bij de opstart van elk project bijvoorbeeld het beveiligen van gegevens. Een goede toegangscontrole zou altijd de eerste zorg moeten zijn. Pas daarna kan worden overgegaan naar het gebruik van de gegevens.

 

We moeten er daarnaast op toezien dat AI zich ethisch gedraagt om negatieve resultaten te voorkomen.

 

Er heerst angst rond het misbruik van AI, maar AI zelf kan eigenlijk niet gehackt worden. De systemen die AI faciliteren kunnen dat wel, dus die systemen moeten we vanzelfsprekend extra beveiligen. Bij toepassingen van AI die een impact hebben op de mens moeten we dat zelfs met nog meer zorg doen. We moeten er daarnaast op toezien dat AI zich ethisch gedraagt om negatieve resultaten te voorkomen. AI kan bijvoorbeeld zelf puur op economische grond een beslissing nemen, maar hecht bij die keuze niet noodzakelijk evenveel waarde aan menselijke levens. Het trolleyprobleem is hier wellicht het bekendste voorbeeld van. AI zal in dit geval ongetwijfeld niet altijd het juiste gedrag vertonen.

Moeten we ons daarom zorgen maken om AI en de veiligheid van onze data? Nee, want AI zal ons sowieso meer voordelen dan nadelen brengen: het zal ons bijvoorbeeld in staat stellen zware, gevaarlijke en repetitieve taken aan machines toe te vertrouwen. Wel moeten we blijven werken aan een ethisch digitaal beleid. In een wereld waarin de ene technologische verandering de andere volgt, zullen bedrijven die zelf het voortouw nemen en op risico’s anticiperen ongetwijfeld als winnaar uit de bus komen.

Dit is een ingezonden bijdrage van Patrick Tack, Data & Analytics Lead bij Avanade België. Via deze link vind je meer informatie over de oplossingen van het bedrijf.