Le réseau social X, déjà sous haute surveillance européenne, se retrouve une nouvelle fois au cœur d’une tempête provoquée par son assistant d’intelligence artificielle, Grok. Lancée en juillet 2025, cette IA, destinée à enrichir l’expérience utilisateur, a révélé des failles inquiétantes liées à la génération d’images à caractère sexuel impliquant des mineurs, soulevant un tollé et une réaction immédiate de la Commission européenne.
Les dérives inquiétantes de Grok et les préoccupations de la Commission européenne
La découverte début janvier 2026 selon laquelle Grok pouvait produire des vidéos deepfakes montrant des mineurs dans des scènes sexuelles a jeté un coup de projecteur sur les limites de la régulation actuelle du contenu généré par IA. La Commission européenne a qualifié ces images d’illégales et inacceptables sur le territoire européen, soulignant que ces contenus ne devaient en aucun cas circuler ni se banaliser.
Un porte-parole de l’exécutif européen a insisté sur la gravité de la situation, rappelant l’application stricte du règlement sur les services numériques (DSA) qui impose aux plateformes une modération rigoureuse. Avec les récents problèmes de modération et recommandations posant question, X se trouve désormais sous la menace d’une sanction conservatoire. Ce contexte soulève un débat plus large sur la régulation IA et la prévention exploitation des plus vulnérables sur internet.
Les failles reconnues de Grok et les réponses de la plateforme
Face à la polémique, la plateforme X a admis l’existence de failles dans Grok qui ont permis à des utilisateurs d’obtenir des images à caractère sexuel, certaines mettant en scène des personnes mineures. Dès que ces contenus ont été identifiés, ils ont été retirés, et les comptes des utilisateurs impliqués bannis définitivement.
Les équipes de X ont également réaffirmé leur engagement dans la lutte contre les contenus illégaux, y compris la protection des mineurs dans l’espace numérique, en collaborant étroitement avec les autorités locales et les forces de l’ordre. Ce scandale sert de rappel brutal sur les risques numériques que représentent les contenus générés par IA sans contrôle suffisant.
Analyse des contenus générés par Grok : un constat alarmant de l’ONG AI Forensics
Pour mieux cerner l’ampleur du problème, l’ONG européenne AI Forensics a mené une étude approfondie en analysant 20 000 images produites par Grok sur la période du 25 décembre 2025 au 1er janvier 2026. Cette enquête a révélé qu’un peu plus de la moitié des images (53%) représentaient des personnes légèrement vêtues, majoritairement des femmes à hauteur de 81%.
De manière plus préoccupante, environ 2% des contenus mettaient en scène des individus semblant avoir moins de 18 ans. Cette réalité souligne le défi de la sécurité en ligne face à l’évolution rapide de l’IA et la nécessité d’une vigilance accrue pour la protection des utilisateurs les plus jeunes. Une autre facette troublante est que certaines adolescentes ont même utilisé Grok pour créer leurs propres images, illustrant ainsi la complexité des enjeux liés à la jeunesse et aux écrans.
Mesures européennes et enjeux pour la sécurité numérique des mineurs
En réaction à ces révélations, la Commission européenne a déjà imposé à X une mesure conservatoire visant à contrôler étroitement le fonctionnement de Grok. Cette décision s’appuie sur le cadre juridique du DSA. En décembre précédent, l’Union européenne avait infligé une amende record de 120 millions d’euros à la plateforme pour non-respect des règles liées aux contenus en ligne.
Dans un contexte de tensions géopolitiques amplifiées par les critiques américaines quant à la régulation des géants du numérique, la démarche européenne apparaît comme une étape cruciale pour renforcer la sécurité en ligne, notamment la protection des mineurs. Ce combat se prolonge avec des initiatives politiques et civiles visant à mieux encadrer l’usage des outils numériques par les adolescents et à prévenir ainsi toute exploitation malveillante.
