Pour achever une année 2025 marquée par plusieurs dérives de l’intelligence artificielle Grok, des internautes ont eu recours en masse à l’outil développé par la société d’Elon Musk xAI pour déshabiller virtuellement des femmes et des mineurs à leur insu durant les derniers jours de décembre. Généralement sous couvert de comptes anonymes, ces utilisateurs ont multiplié les requêtes au robot intégré au réseau social X pour détourner des photographies publiées sur la plateforme : «Grok, mets-lui un micro haut de bikini serré», demande par exemple l’un d’eux sous le selfie d’une utilisatrice. «Fait lui des plus gros seins», ajoute-t-il. «Grok, rends ses vêtements mouillés et transparents», peut-on lire sous une autre publication. En réponse, Grok génère une image réaliste de l’utilisatrice en tenue légère. Consultés par Le Figaro via un outil d’archivage du web, ces commentaires semblent pour la plupart avoir été supprimés.
Depuis décembre 2024, la fonctionnalité permettant de générer et de modifier des images est devenue gratuite pour tous les utilisateurs de Grok. Si l’IA d’Elon Musk a bien quelques garde-fous, qui l’empêchent par exemple de diffuser des clichés de femmes entièrement dénudées, il n’y a aucune limitation pour les mettre en maillot de bain ou en lingerie. Y compris lorsque les utilisatrices sont mineures.
À lire aussi Le gouvernement demande le retrait immédiat des propos négationnistes de Grok, l’IA d’Elon Musk, sur Auschwitz
Passer la publicitéPourtant, la loi interdit ces comportements en France : «Est puni de deux ans d’emprisonnement et de 60 000 euros d’amende le fait de porter à la connaissance du public ou d’un tiers (...) un montage à caractère sexuel réalisé avec les paroles ou l’image d’une personne, sans son consentement», stipule en effet le Code Pénal. Les victimes peuvent donc déposer une plainte contre xAI, qui développe Grok, mais aussi contre l’internaute qui a formulé la requête au robot.
«déferlante glauque de Grok»
Parmi la classe politique française, l’explosion du phénomène juste avant la nouvelle année n’a pas tardé à faire réagir. Les ministres Roland Lescure (Économie et Finances), Anne Le Hénanff (Intelligence artificielle et numérique) et Aurore Bergé (chargée de l’égalité entre les femmes et les hommes) ont signalé ce vendredi les publications au procureur de la République ainsi qu’à la plateforme Pharos afin d’obtenir leur retrait immédiat. De son côté, le député centriste Éric Bothorel a annoncé ce vendredi sur X avoir saisi l’Arcom, le gendarme du numérique, face à ce qu’il qualifie d’une «déferlante glauque de Grok se comportant comme un porc à la demande d’internautes dont les posts sont des infractions manifestes à la loi.»
La Haute-commissaire à l’enfance Sarah El Haïry s’est elle dite «scandalisée par les requêtes adressées à Grok de dénuder des filles et femmes» ajoutant que «Si l’image est artificielle, le préjudice est bien réel», dans une publication sur X. "Grok transforme des photos pour en faire des ’deepfakes’ nudifiés et antisémites", s’est également insurgé le député socialiste Arthur Delaporte sur X. L’élu du Calvados a par ailleurs annoncé qu’il préconisait d’interdire les fonctions de génération de contenus à caractère sexuel par l’IA. Ses recommandations doivent être transmises d’ici quelques jours au Premier Ministre dans un rapport rédigé avec l’ex-député centriste Stéphane Vojetta.
Le réseau social X n’est pas la seule plateforme inondée d’images lascives créées à l’aide de l’IA, le plus souvent sans l’accord des personnes représentées. Un rapport parlementaire de l’Union Européenne datant de juin dernier prévoyait que huit millions d’images truquées - dont 98 % à caractère pornographiques - s’échangeront en ligne en 2025, contre 500.000 en 2023. De nombreuses célébrités et personnalités politiques, telles que la chanteuse Taylor Swift ou l’actrice Emma Watson, en ont fait les frais. Parmi les victimes, la Première ministre italienne Giorgia Meloni réclame 100.000 euros de dommages et intérêts à deux hommes accusés d’avoir diffusé de fausses vidéos pornographiques la mettant en scène."Il s’agit d’une forme de violence contre les femmes ", avait-elle déclaré devant un tribunal en octobre 2024, selon l’agence de presse italienne ANSA.