Hacken van AI-technologie grootste vrees bij bedrijven

Bedrijven die vandaag reeds artificiële intelligentie binnen hun organisatie gebruiken, delen dezelfde grote zorg. De vrees dat de technologie wordt gehackt, is bovendien niet onterecht. Veel bedrijven zeggen dat hun AI-systemen reeds werden aangevallen.

Eén en ander blijkt uit een nieuwe studie van consultingfirma Deloitte over de staat van AI in de enterprise bij 1.100 Amerikaanse bedrijven. Heel wat bedrijven geloven in de voordelen die AI kan bieden voor hun business, maar early adopters erkennen ook de gevaren die het met zich meebrengt.

Slecht geïmplementeerde artificiële intelligentie kan leiden tot verkeerde strategische beslissingen, onethische praktijken of wettelijke aansprakelijkheden. Het grootste risico dat bedrijven zien, heeft evenwel te maken met het gevaar dat de AI-technologie wordt gehackt.

 

 

“23 procent van de respondenten noemde ‘cybersecuritykwetsbaarheden’ als hun nummer 1 bezorgdheid”, schrijven de auteurs van het Deloitte-rapport. “Deze vrees is waarschijnlijk goed geplaatst: hoewel elke nieuwe technologie bepaalde kwetsbaarheden heeft, lijken de cybergerelateerde risico’s die opduiken voor bepaalde AI-technologieën bijzonder vervelend.”


Lees dit: Jonathan Berte: “Artificiële intelligentie is een storm die op ons afkomt”


Deloitte citeert onderzoek waaruit blijkt dat machine-learningmodellen moeite hebben om vijandige input – data die specifiek geconstrueerd is om het model te misleiden – te herkennen. “Het proces van het trainen van machine-learningmodellen kan ook worden gemanipuleerd met vijandige gegevens. Door opzettelijk onjuiste gegevens in een zelflerend gezichtsherkenningsalgoritme in te voeren, kunnen aanvallers bijvoorbeeld slachtoffers nabootsen bij biometrische authenticatiesystemen”, klinkt het in het rapport.

 

Deloitte State of AI in the Enterprise - Effect of cybersecurity concerns

 

Bijna 30 procent van de respondenten zegt bovendien dat hun bedrijf de voorbije twee jaar te maken kreeg met een security-inbreuk gerelateerd aan de AI-inspanningen. Het rapport gaat verder niet in op de aard van deze inbreuken.

De terechte bezorgdheid over cyberriscio’s bij de implementatie van AI-projecten leidt ertoe dat heel wat bedrijven hun initiatieven vertragen of pauzeren, of zelfs besluiten van er helemaal niet aan te beginnen.