Googles ethische AI-waakhond valt na een week uit elkaar

Googles onafhankelijke AI-waakhond, de Advanced Technology External Advisory Council, lijkt een week na lancering al uit elkaar te vallen. Leden worden door eerdere uitspraken of functies zwaar bekritiseerd of stappen zelf op. Het externe adviesorgaan monitort het bedrijf op het respecteren van ethische principes op het gebied van artificiële intelligentie.

De waakhond heeft geen vetorecht, maar is bedoeld om critici het hoofd te kunnen bieden, zodat Google lucratieve cloudcomputingdeals kan nastreven. Zo worden beslissingen van het bedrijf gecontroleerd, vinden er regelmatig vergaderingen plaats en produceert de raad rapporten over ontwikkelingen in het veld en de technologie van Google. Alleen zijn het nu de leden zelf, die de nodige kritiek te verduren krijgen, aldus IT Pro Today.

Zo tekenden ruim 500 medewerkers van Google gisteren anoniem een petitie met het verzoek Kay Coles James uit de raad te verwijderen. Coles James is president van de conservatieve denktank Heritage Foundation. Ze streed tegen wetten met betrekking tot gelijke rechten voor homo’s en transgenders.

Het is niet de eerste keer dat Google-medewerkers in actie komen. Eerder streden ze al voor gelijke verloning voor vrouwen en tegen seksuele intimidatie. Daarnaast maakten ze zich hard voor AI-ethiek en waren er gefronste wenkbrauwen voor wat betreft zakendoen met China. Protesten die allemaal effectief bleken te zijn. Google trok zich terug uit een grote deal met het Amerikaanse leger voor de bouw van objectherkenningstechnologie voor drones. Ook veranderde het bedrijf zijn beleid inzake omgaan met klachten over seksuele intimidatie.

Twijfels binnen raad

Maar ook leden zelf hebben bedenkingen over een aantal van hun medeleden. Joanna Bryson, hoogleraar computerwetenschappen aan de Universiteit van Bath, in Engeland, plaatste een bericht op Twitter naar aanleiding van de commotie rondom Coles James. Ze laat weten dat er “slechtere mensen” in de raad zetelen dan de omstreden president van de denktank. Iets waar ze naar eigen zeggen Google over heeft geïnformeerd, maar het bedrijf zou hebben laten weten te willen streven naar diversiteit om de brede samenleving te kunnen overtuigen.

Ook Dyan Gibbens, CEO van dronebedrijf  Trumbull Unmanned, moet volgens critici opstappen. Gibbens zou eerder hebben gewerkt aan de ontwikkeling van Amerikaanse militaire drones. Iets wat opvallend genoemd mag worden, gezien juist het gebruik van AI voor militair gebruik een belangrijk ethisch twistpunt is voor een aantal Google-werknemers.

Alessandro Acquisti, een gedragseconoom en privacyonderzoeker, trok zich afgelopen zaterdag zelf terug uit de raad: ”Hoewel ik me richt op onderzoek, dat worstelt met belangrijke ethische kwesties van rechtvaardigheid, rechten en inclusie bij AI, geloof ik niet dat dit het juiste forum voor mij is.”

Google investeert fors in AI

Google heeft honderden miljoenen dollars uitgegeven aan het kopen van AI-start-ups. Bovendien investeert het bedrijf veel geld in toonaangevende onderzoekers, zodat zij bij het bedrijf komen werken. AI wordt dan ook gezien als Googles toekomstige core-business. De AI-technologie is volgens IT Pro Today ook de sleutel tot het verkooppraatje voor zijn cloudactiviteiten. Dit wordt ook steeds belangrijker, omdat de omzetgroei uit zoekadvertenties afneemt.

Gerelateerd: Microsoft-medewerkers weigeren militaire Hololens te bouwen