De Europese Unie is een formeel onderzoek gestart naar socialemediaplatform X vanwege mogelijke overtredingen van Europese wetgeving rond illegale en schadelijke content. Aanleiding is de maatschappelijke onrust die ontstond nadat via de xAI-chatbot Grok gemanipuleerde, seksueel getinte beelden werden verspreid.
De Europese Commissie wil volgens Reuters vaststellen of X voldoende maatregelen heeft genomen om risico’s voor gebruikers te herkennen en te beperken bij de inzet van Grok. Daarbij kijkt de Commissie specifiek naar de bescherming van consumenten en kwetsbare groepen binnen de EU. Volgens Brussel is het onduidelijk of het platform voorafgaand aan de Europese uitrol van Grok een gerichte risicoanalyse heeft uitgevoerd.
Het onderzoek volgt kort op soortgelijke stappen van de Britse toezichthouder Ofcom, die zich buigt over meldingen dat Grok seksueel expliciete deepfakebeelden genereerde. Ook meerdere landen in Zuidoost-Azië grepen in. Indonesië, de Filipijnen en Maleisië blokkeerden de chatbot tijdelijk, waarna de toegang in sommige gevallen weer werd hersteld na aanvullende veiligheidsmaatregelen van ontwikkelaar xAI.
De Europese Commissie heeft zich de afgelopen weken scherp uitgelaten over de aard van de beelden die via X circuleerden. Volgens de Commissie ging het onder meer om door AI gegenereerde afbeeldingen van ontklede vrouwen en minderjarigen, wat volgens Europese wetgeving verboden is. Zulke toepassingen van AI worden door Europese beleidsmakers gezien als schadelijk en onacceptabel.
xAI voerde beperkingen in
X heeft eerder aangegeven dat xAI het bewerken van afbeeldingen via Grok heeft beperkt en dat gebruikers in bepaalde landen geen beelden meer kunnen genereren van personen in expliciete of onthullende contexten. Om welke landen het precies gaat, is niet bekendgemaakt. Brussel erkent dat deze aanpassingen een stap in de goede richting zijn, maar stelt dat daarmee niet alle structurele risico’s zijn weggenomen.
Het onderzoek vindt plaats binnen het kader van de Digital Services Act, die grote online platforms verplicht om actiever op te treden tegen illegale content en systemische risico’s. Bij overtredingen kunnen boetes oplopen tot zes procent van de wereldwijde jaaromzet. X kreeg in december al een forse sanctie opgelegd vanwege tekortschietende transparantie onder dezelfde wetgeving.
De Europese aanpak van grote Amerikaanse techbedrijven ligt politiek gevoelig. In de Verenigde Staten is eerder kritiek geuit op wat wordt gezien als een strenge Europese reguleringsdrang, waarbij zelfs handelsmaatregelen zijn gesuggereerd. Europese beleidsmakers benadrukken echter dat de kern van het onderzoek draait om de bescherming van fundamentele rechten van burgers, in het bijzonder die van vrouwen en kinderen.
Binnen het Europees Parlement klinkt ondertussen de roep om scherp te blijven toezien op de handhaving van AI-regels. Wetgeving rond kunstmatige intelligentie moet volgens parlementariërs flexibel genoeg zijn om snel in te grijpen wanneer nieuwe risico’s zichtbaar worden, zeker bij technologieën die zich in hoog tempo ontwikkelen.