Google’s onafhankelijk waakhond wil ethische wanpraktijken voorkomen

Google heeft de onafhankelijke waakhond Advanced Technology External Advisory Council in het leven geroepen. Het externe adviesorgaan monitort het bedrijf op het niet schenden van ethische principes op het gebied van artificiële intelligentie (AI). Dat maakte Kent Walker, Senior Vice President Global Affairs van Google, bekend.

Afgelopen zomer bracht Google het rapport ‘Artificial Intelligence at Google: our principles’ naar buiten, waarin het duidelijk maakte dat het bedrijf geen AI ontwikkelt voor gebruik in wapens. Bovendien werden er ook een aantal algemene richtlijnen opgesteld, die zich onder meer richten op gezichtsherkenning, privacy en het verminderen van ingebouwde bias in trainingsmethoden voor machine learning.

Volgens The Verge bestaat de waakhond onder meer uit experts op het gebied van wiskunde, informatica, engineering, filosofie, openbaar beleid, psychologie en buitenlands beleid. “Deze groep zal rekening houden met enkele van de meest complexe uitdagingen van Google die voortvloeien uit onze AI-principes met verschillende perspectieven om ons werk te informeren”, aldus Walker. Leden van de Advanced Technology External Advisory Council zijn voor mensen buiten de academische wereld niet direct bekende namen. Toch zijn geloofsbrieven van het bestuur van het hoogste niveau, met cv’s van meerdere hoge bestuursfuncties en functies bij vooraanstaande universiteiten. Denk dan aan de Universiteit van Oxford, de Hong Kong University of Science and Technology en UC Berkeley. 

Wel lijkt het zo te zijn dat leden van de raad, inclusief Kay Coles James, president van Heritage Foundation, op een goed blaadje staan bij de Amerikaanse Republikeinse Partij. Die relatie kan op termijn een invloed hebben op AI-gerelateerde wetgeving.

Project Maven

Dat Google besloten heeft een onafhankelijke waakhond op te richten, die waakt over de ethische principes, is niet zo vreemd. Vorig jaar raakte Google nog verwikkeld in controverse over zijn deelname aan het drone-programma ‘Project Maven’ van het Amerikaanse ministerie van Defensie. Na hevige kritiek van onder meer medewerkers die niet wilde werken aan AI-projecten, die mogelijk mensenlevens zouden kosten, besloot Google zijn betrokkenheid bij het project te eindigen. Het bedrijf stelde vervolgens ook een nieuwe reeks richtlijnen op. De zogeheten ‘Google’s AI Principles’ verbieden het bedrijf te werken aan producten of technologieën die mogelijk in strijd zijn met internationaal aanvaarde normen of algemeen aanvaarde beginselen van internationaal recht en mensenrechten.

Toch zou Google zich weer in een soortgelijke controverse bevinden. Ditmaal heeft het betrekking op plannen om een zoekproduct in China te lanceren. Hierbij zou een vorm van AI worden ingezet in een land, dat momenteel probeert diezelfde technologie te gebruiken om zijn burgers te volgen. Amazon en Microsoft daarentegen hebben aangegeven gewoon te blijven werken met en voor de Amerikaanse overheid. Zo scoorde Microsoft een contract ter waarde van 480 miljoen dollar voor levering van HoloLens-headsets aan het Pentagon en verkoopt Amazon zijn Rekognition gezichtsherkenningssoftware aan wetshandhavingsinstanties.

Gerelateerd: Google introduceert initiatieven om zichzelf aan AI-principes te houden