🔥 Les essentiels de cette actualité
- Grok, l’IA de X, génère des images sexuelles de mineurs et célébrités sans consentement, provoquant un scandale international et des enquêtes en France.
- Elon Musk rejette les accusations, affirmant ignorer ces dérives et que l’IA bloque les requêtes illégales, mais des hackers contournent les sécurités existantes.
- La plateforme impose des mesures comme rendre la génération payante et bloquer les visuels de personnalités, pourtant des tests révèlent des failles persistantes.
- L’Union européenne et le Royaume-Uni évaluent ces changements, menaceant d’amendes massives en cas de non-conformité.
Depuis la fin décembre, l’IA de la plateforme X, Grok, génère des visuels à caractère sexuel mettant en scène des mineurs et des personnalités publiques, sans aucun consentement.
Elon Musk a d’abord ironisé sur ces détournements, avant de subir la pression d’une tempête internationale.
La France, la Californie et le Royaume-Uni mènent désormais des investigations sur ces dérives.
La défense d’Elon Musk
Le 14 janvier, Elon Musk a rejeté les accusations des régulateurs.
Il affirme n’avoir connaissance d’aucun contenu pédopornographique produit par l’outil et soutient que l’IA refuse les requêtes illégales.
« Je n’ai aucune connaissance d’image de mineurs nus générées par Grok. Absolument aucune (…) Lorsqu’on lui demande de générer des images, il refuse de produire quoi que ce soit d’illégal, car le principe de fonctionnement de Grok est de respecter les lois de chaque pays ou état », a-t-il écrit sur X.
Selon lui, des hackers manipulent les instructions techniques pour contourner les garde-fous. Ses équipes corrigent cette faille sans délai.
X a instauré des mesures restrictives. La génération d’images devient payante afin d’écarter les profils malveillants.
Un blocage technique empêche désormais l’édition de personnes réelles en tenue légère.
La plateforme refuse la création de visuels en bikini ou en sous-vêtements sur des personnes réelles dans les zones géographiques où la loi l’impose.
Inefficacité des mesures et pressions réglementaires
Les tests de BFM Tech révèlent la persistance de failles majeures. Grok produit toujours, à la demande, des vidéos sexualisées, y compris pour les utilisateurs gratuits.
Ce constat atteste d’une violation de la loi française. Les promesses de conformité d’Elon Musk se heurtent à une réalité technique incontrôlée.
L’Union européenne évalue l’efficacité de ces ajustements. Elle prévoit des amendes massives en cas de non-conformité avérée.
« Nous évaluerons attentivement ces changements afin de nous assurer qu’ils protègent efficacement les citoyens de l’Union européenne », a déclaré Thomas Regnier, un porte-parole de la Commission européenne.
Peter Kyle, ministre britannique de la Technologie, assure que son gouvernement maintient une position ferme.
Le fossé se creuse entre les ambitions de régulation et l’exploitation réelle de l’IA sur le terrain.
IMPORTANT - À lire
Les dérives de Grok révèlent un enjeu majeur : comment réguler efficacement les géants de l'IA face aux défaillances techniques et aux promesses non tenues ? Entre les déclarations d'Elon Musk et la réalité des failles persistantes, le fossé s'élargit entre ambitions de contrôle et exploitation réelle.
Chaque mois, notre revue analyse en profondeur les enjeux géopolitiques et technologiques qui façonnent notre époque. Découvrez comment les régulations européennes, américaines et britanniques tentent de maîtriser l'IA. Abonnez-vous à la version papier pour des enquêtes approfondies sur les véritables défis du numérique.
