Amerikaanse FDA wil scherpe regelgeving voor medische AI- en ML-apparaten

De Amerikaanse Food and Drug Administration (FDA) wil een regulering voor medische apparaten die afhankelijk zijn van artificiële intelligentie en machine learning. Dat stelt de FDA in een nieuw rapport. Het agentschap maakt hierin onderscheid tussen locked algorithms en adaptive algorithms.

De FDA is het agentschap van de federale overheid van de VS dat de kwaliteit van voedsel en medicijnen controleert. Bovendien controleert het ook de behandeling van bloed, medische producten en cosmetica.

De roep van de FDA voor een betere regulering van AI en machine learning in medische apparaten geen verrassing. Er is een sterke opkomst in het gebruik van deep learning en neurale netwerken in de medische wereld. Veelal gericht op het waarnemen van patronen in medische gegevens voor diagnostisering. Op dit moment zijn volgens The Register de meeste medische apparaten die AI of machine learning gebruiken én FDA-goedkeuring hebben afhankelijk van het gebruik van locked algoritmen.

Voor deze algoritmen geldt dat ze steeds hetzelfde resultaat leveren, iedere keer als ze dezelfde invoer krijgen. Resultaten zijn in dit geval veelal gebaseerd op zaken als opzoektabellen en beslissingsbomen. Bij adaptieve algoritmen verandert het gedrag met behulp van een gedefinieerd leerproces. Het resultaat kan veranderen, afhankelijk van de aangereikte data, terwijl het leerproces in deze wordt voorzien van nieuwe gegevens. Bij adaptieve algoritmen gaat het in wezen dus om moderne deep-learningsystemen, die gesuperviseerde training vereisen om te leren hoe een specifieke taak uit te voeren. 

Opnieuw goedkeuren

Het zijn dan ook voornamelijk adaptieve algoritmen waar de FDA zich zorgen om maakt. Het agentschap stelt in het rapport dat medische apparaten, die afhankelijk zijn van adaptieve algoritmen, eerst goedgekeurd moeten worden alvorens deze op de markt mogen verschijnen. De FDA bekijkt naar eigen zeggen hoe de veranderingen van invloed zijn op de prestaties van de apparaten. Bovendien onderzoekt het ook de impact op de effectiviteit. Het agentschap streeft naar een balans waar de software constant verandert, en dus verbetert, en de veiligheid van de patiënt. 

Zo kan een fabrikant bijvoorbeeld een neuraal netwerk dat mammogrammen analyseert op tumoren omscholen door een grotere dataset toe te voegen. Een vernieuwing die de nauwkeurigheid van de diagnose vergroot. Een andere mogelijkheid zou kunnen zijn dat dezelfde dataset wordt gebruikt, maar dat deze wordt uitgebreid met informatie uit verschillende bronnen, zoals afbeeldingen van de huid van de borsten.

In beide scenario’s moet het algoritme opnieuw worden ingediend voor goedkeuring door de FDA. Zonder goedkeuring mag het niet worden ingezet voor commerciële doeleinden. Iets dat overigens ook geldt als het systeem groter wordt dan aanvankelijk was bedoeld. Zo zou een fabrikant een apparaat dat retinascans voor diabetische retinopathie bestudeert, kunnen uitbreiden met een bloeddrukmeter. Voor dit alles geldt dat FDA-functionarissen het apparaat opnieuw moeten controleren of deze inderdaad geschikt is voor dat wat de fabrikant beweert.

Total Lifecycle

“Het traditionele paradigma van regelgeving voor medische hulpmiddelen was niet ontworpen voor adaptieve AI-technologieën. Het gaat dan om technologieën die de mogelijkheid hebben prestaties van het apparaat in realtime aan te passen. Naast deze ook te optimaliseren om de gezondheidszorg voor patiënten continu te verbeteren. Het zeer iteratieve, autonome en adaptieve karakter van deze tools vereist een nieuwe ‘Total Lifecyle’-benadering. Eén die een snelle cyclus van productverbetering mogelijk maakt. Bovendien stelt het deze apparaten in staat continu te verbeteren, terwijl ze effectieve voorzorgsmaatregelen biedt”, aldus het rapport.

Gerelateerd: Deepmind ontwikkelt AI-tool die complexe oogaandoeningen herkent