De Europese Commissie intensiveert haar onderzoek naar X vanwege de manier waarop de AI-tool Grok wordt ingezet voor het genereren van geseksualiseerde deepfakes.
Aanleiding is een reeks recente meldingen uit Frankrijk, waarover Techzine al schreef, waaruit blijkt dat Grok expliciet seksueel beeldmateriaal met kinderen genereerde. De zaak leidde tot strafrechtelijke aandacht van het Parijse Openbaar Ministerie. Daarnaast roepen Franse ministers op om toezichthouder ARCOM in te schakelen onder de Digital Services Act (DSA).
Volgens de Commissie is zij volledig op de hoogte van de problematiek en wordt de kwestie met de hoogste prioriteit bekeken. Woordvoerder Thomas Regnier (link naar een video) maakte maandag duidelijk dat het hier niet gaat om een onschuldige experimenteerfunctie, maar om inhoud die onder Europese wetgeving zonder enige twijfel illegaal is. Het genereren van seksueel expliciet beeldmateriaal waarin kinderen worden afgebeeld is volgens de Commissie schokkend en volstrekt onaanvaardbaar binnen de Europese Unie.
De huidige kwestie staat niet op zichzelf. Eerder lag Grok al onder vuur vanwege het genereren van antisemitische inhoud en uitingen die neerkomen op Holocaustontkenning. In november stuurde de Commissie hierover een formeel informatieverzoek aan X, waarop het bedrijf in december, tijdens het Kerstreces, reageerde.
Europese Commissie reageerde eerder met boetes
Die reactie wordt momenteel beoordeeld. Volgens de Commissie is voor X duidelijk dat handhaving van de DSA geen vrijblijvende exercitie is. Daarbij werd verwezen naar eerdere boetes die X al opgelegd kreeg, waarmee volgens de Commissie is onderstreept dat overtredingen gevolgen hebben.
Ook buiten Frankrijk neemt de druk op X toe. Toezichthouders in onder meer het Verenigd Koninkrijk, India en Maleisië zijn onderzoeken gestart naar de werking van Grok en de manier waarop het platform omgaat met meldingen van misbruik. In sommige landen wordt zelfs openlijk gesproken over een tijdelijke blokkade van X zolang onderzoeken lopen. Opvallend is dat Amerikaanse autoriteiten zich tot nu toe terughoudender opstellen dan hun Europese en Aziatische collega’s.
De kern van de kritiek richt zich op het feit dat gebruikers Grok kunnen inzetten om foto’s van vrouwen en kinderen digitaal te manipuleren tot realistisch ogende, geseksualiseerde beelden die vervolgens publiek zichtbaar blijven op X. Hoewel het bedrijf stelt dat het slechts om incidentele gevallen ging en dat technische tekortkomingen inmiddels zijn verholpen, blijkt dat vergelijkbare beelden ook na de publieke ophef nog steeds worden gegenereerd en gedeeld.
Voor de Europese Commissie is dat onacceptabel. Volgens Regnier verwacht Europa van grote online platforms dat zij hun systemen zo inrichten dat dergelijk misbruik actief wordt voorkomen in plaats van pas achteraf wordt aangepakt. De Commissie benadrukt dat naleving van de Digital Services Act een harde verplichting is en dat handhaving serieus wordt genomen. Met het lopende onderzoek naar Grok lijkt X zich opnieuw stevig in het vizier te hebben geplaatst van Europese toezichthouders.