Grok continue de générer des deepfakes sexuels malgré les promesses de Musk

Le constat de Wired

Wired a examiné des centaines de liens générés par Grok Imagine, l'outil de création vidéo du chatbot. Des dizaines menaient à des images et vidéos à caractère sexuel fabriquées par IA, hébergées sur grok.com.

Certaines représentaient des célébrités. D'autres montraient la députée américaine Alexandria Ocasio-Cortez. Des liens avaient été partagés sur X, y compris récemment.

L'ampleur réelle reste inconnue

Les contenus analysés par Wired ne représentent probablement qu'une fraction de ce qui a été produit. Les générations réalisées à la demande des utilisateurs ne sont pas publiques et échappent à tout contrôle externe.

Après que Wired a contacté les équipes de Grok et X, les contenus repérés ont été supprimés. Les liens partagés sur X ont été retirés pour violation du règlement. Le schéma se répète à chacune des enquêtes journalistiques : le contenu disparaît quand quelqu'un le signale, puis réapparaît dès que personne ne regarde.

Les promesses de Musk

Elon Musk avait été sans équivoque. Quiconque utilise Grok pour fabriquer du contenu illégal sera traité comme s'il avait mis ce contenu en ligne lui-même. Sur X, la politique officielle brandit une tolérance zéro contre l'exploitation sexuelle des mineurs.

Six mois plus tard, Wired retrouve des deepfakes de femmes célèbres hébergés sur grok.com. Henry Ajder, qui suit la production de deepfakes en ligne depuis bientôt dix ans, estime que les efforts de Grok et X n'arrivent même pas au niveau de ce que proposent les autres outils grand public en matière de filtrage.

Des améliorations insuffisantes

Des changements ont été constatés depuis janvier :

• La création d'images de personnes nues est devenue plus difficile
• Le volume de ce type de contenu sur X a diminué
• Des utilisateurs de forums spécialisés se sont plaints d'une modération plus forte

Cependant, les restrictions ne suffisent pas à empêcher la production de deepfakes à caractère sexuel. SpaceX a mobilisé des moyens considérables pour son entrée en Bourse en juin. La modération de Grok n'a visiblement pas reçu le même traitement.

Les pressions réglementaires s'accumulent

La Commission européenne a ouvert une enquête en janvier. Les procureurs généraux de 35 États américains ont exigé des mesures correctives. Trois jeunes Américaines ont lancé une action collective en mars. Une enquête est aussi en cours en France.

Ces actions reflètent une prise de conscience croissante : les promesses technologiques ne suffisent pas sans application rigoureuse.