IBM treedt toe tot Linux Foundation AI om betrouwbare AI te promoten

IBM sluit zich aan bij Linux Foundation AI. Big Blue wil langs deze weg vertrouwde opensourcetools promoten voor het bouwen van eerlijke, robuuste en verklaarbare AI-systemen.

Volgens Gartner heeft meer dan de helft van de organisaties wereldwijd inmiddels ten minste één AI-implementatie in gebruik. Ook zouden veel organisaties plannen hebben hun AI-acceptatie de komende jaren aanzienlijk te versnellen, aldus ZDNet.

Hoewel de implementatie van AI binnen organisaties steeds snellere vormen begint aan te nemen, worstelen de meeste organisaties met tekortkomingen. Die zijn veelal gericht op het bouwen en implementeren van AI-tools. Bovendien kampt men met de vraag of de ingezette AI-modellen eerlijk, ethisch, veilig of zelfs verklaarbaar zijn.

Geloofwaardigheid

“AI moet naarmate het ouder wordt, rijpen. Dat moet op een manier die het grote publiek kan vertrouwen. We horen te vaak dat AI ‘een zwarte doos’ is, mensen begrijpen niet hoe het tot de resultaten is gekomen. Ook heerst er vooringenomenheid over de modellen. Er moet meer openheid en eerlijkheid zijn. We vonden daarom dat het tijd was de industrie vooruit te helpen”, zegt Todd Moore, vice-president van Open Technology bij IBM.

IBM kent een lange geschiedenis in het ondersteunen van opensource. Volgens Moore is het aansluiten bij de Linux Foundation AI dan ook de juiste manier om snel de lat hoger te leggen. Helemaal als het gaat om het bouwen van betrouwbare AI.

“Door samen te werken, het snel doorgronden, kan veel meer worden bereikt dan een bedrijf alleen kan doen”, aldus Moore. Hij wil dan ook met andere partijen tools bouwen die de geloofwaardigheid van AI verbeteren, op een manier die iedereen kan inspecteren en aan kan bijdragen. Daarbij dient te worden opgemerkt dat het ondersteunen van opensourceprojecten marktkansen voor AI-leveranciers als IBM aanzienlijk vergroten.

Neutraal

Een Linux Foundation-project biedt leden een leverancierneutrale ruimte voor het promoten van opensourceprojecten gericht op AI, machine learning en deep learning. Het project wordt ondersteund door grote organisaties  als AT&T, Baidu, Ericsson, Nokia en Huawei.

IBM streeft ernaar vertrouwde AI-technieken toe te voegen aan alle projecten van de stichting. Big Blue gaat dan ook samenwerken met commissies om referentie-architecturen en best practices te creëren. Dat alles met het oog op het gebruik van opensourcetools bij de productie.

AI Fairness 360 Toolkit

IBM heeft overigens al de eerste inspanningen geleverd met een reeks van toolkits, speciaal ontworpen om vertrouwde AI te helpen bouwen. Zo helpt de AI Fairness 360 Toolkit ontwikkelaars en datawetenschappers ongewenste bias in modellen en datasets van machine learning te detecteren en te verminderen.

De Adversarial Robustness 360 Toolbox is een opensourcebibliotheek. Deze helpt onderzoekers en ontwikkelaars bij het verdedigen van diepe neurale netwerken tegen aanvallen van tegenstanders. De AI Explainability 360 Toolkit biedt een set algoritmen, code, handleidingen, tutorials en demo’s. De toolkit helpt om de interpreteerbaarheid en verklaarbaarheid van machinelearning-modellen te ondersteunen.

Gerelateerd: IBM maakt Power-instructieset opensource