HPE CTO: “Toekomstige AI moeten we behandelen als aliens”

Op het HPE Reimagine-event in Brussel kregen we de tijd om HPE CTO Eng Lim Goh aan de tand te voelen. Zijn visie op het AI-landschap kan je hier lezen, maar wat vindt hij nu zelf van AI en hoe gaan we dit moeten benaderen in de (nabije) toekomst?

Stephen Hawking sprak over de AI-evolutie als het beste wat ons ooit is overkomen. Maar het kan ook het allerslechtste worden. Elon Musk heeft een heilige schrik dat AI ons in de nabije toekomst gaat domineren en vreest op termijn voor een eeuwig levende dictator. Eng Lim Goh, CTO van HPC en AI binnen HPE, werkt al 30 jaar in de industrie en heeft elke evolutie van dichtbij gevolgd. Wat denkt hij van de opkomst van AI?

Aliens

“Ik respecteer Hawking en Musk heel sterk en heb veel met Hawking gewerkt. Wanneer AI een beetje slecht in zich kan hebben, denken we onmiddellijk het allerslechtste. Het is natuurlijk voor mensen om zo te denken. We komen uit 5.000 jaar conflict. Tot op vandaag benaderen we nog elke vijand op dezelfde manier. Het zit in onze genen. Wanneer iets slimmer is dan ons, is een conflict nooit ver weg.”

Eng Lim Goh hoopt dat reinforcement learning belangrijk wordt. Projecten zoals AlphaGo Zero leren vanuit het niets met datasets uit het verleden. “Deze machines, zonder menselijke interventie, ondernemen heel ‘alienachtige’ acties wanneer ze volleerd zijn. Geen enkele persoon op aarde zou het zo doen.”

alphago zero
AlphaGo Zero gebruikt reinforcement learning om zonder enige menselijke interventie en met historische data het spel te leren.

“Dat vertelt mij dat een slimme machine geen nut ziet in conflict. Wij denken het tegenovergestelde omdat we een geschiedenis hebben. Een machine niet, die start van nul. Het resultaat is een alien op aarde die veel slimmer is dan ons, die ons gewoon met rust laat en met ons samenwoont. Zoals bijvoorbeeld dieren dat doen.”

‘Makers’

Volgens Eng Lim Goh zullen toekomstige AI’s ons aanzien als ‘makers’. Ze zijn afstammelingen van de mens; wij hebben hen gemaakt. Maar dat betekent niet dat AI binnenkort ons leven overhoop zal gooien. Ze kunnen dikwijls maar één onderdeel goed.

Eng Lim Goh pikt hierop in: “Machines worden gebouwd met één doel in het achterhoofd. Ga naar de fabriek en werk daar goed. Leer Go en speel het goed. Ze worden gemaakt voor één specifiek doel. Dat maakt hen niet gevaarlijk. Bovendien maken ze zich geen zorgen zoals ons. Conflict is er niet. Als een AI sterft, downloadt het zijn neuraal netwerk naar de volgende machine om opnieuw te ‘leven’. Er is geen nood voor machines om te blijven leven zoals bij mensen het geval is. Net daarom hoeven ze zich geen zorgen te maken over ons.”

Omdat ze aliens zijn en niet met hun leven bezig zijn, moeten we volgens Eng Lim Goh geen schrik hebben van AI’s in de toekomst. Ze hebben heel unieke eigenschappen die de mens niet heeft, zonder de nood aan conflict.

kat
Artificiële intelligentie kunnen we vergelijken met een alien op aarde die veel slimmer is, die ons gewoon met rust laat en met ons samenwoont. Zoals bijvoorbeeld wij met dieren doen.

Pijn voelen

De hamvraag is: wat is het moment dat AI ons leven potentieel kan overnemen? Eng Lim Goh: “ Veel hangt af van wat je als startpunt neemt. Sommigen nemen technische singulariteit als startpunt. Filosofen zullen me tegenspreken, maar van zodra machines pijn voelen is dat een startpunt. Daarna, wanneer ze gewaar worden dat er anderen rondom hen zijn, wordt de volgende fase ingezet. Tot de machines uiteindelijk volledig zelf kunnen denken. Als baby doen we er 18 maanden over om tot die laatste fase te geraken.”

“Van zodra AI pijn kan voelen, is de eerste stap gezet. Daar gaan we snel zijn, binnen vijf tot tien jaar. Wanneer het pijn voelt, gaat het dan nog goede beslissingen kunnen nemen? Wanneer wij pijn voelen, kunnen we door conflict niet altijd de juiste beslissingen nemen. Misschien zal AI vanaf dan anders zijn. Nu wordt AI nog beïnvloed door externe factoren, maar pijn kan daar in de toekomst een drastische verandering in brengen.”