Donald Trump armé jusqu’aux dents, Mickey bière à la main... Grok-2, l’IA d’Elon Musk, fait polémique
À peine publiée, et déjà de nombreuses polémiques. La nouvelle version du robot conversationnel d’Elon Musk, Grok-2, censé concurrencer OpenAI ou Google, fait beaucoup parler d’elle depuis sa mise sur le marché mercredi. Ouverte aux utilisateurs Premium et Premium+ de X (ex-Twitter), elle permet, outre des améliorations techniques, de générer des images à partir d’une simple commande écrite. Une fonctionnalité disponible chez Midjourney ou Dall-E d’OpenAI. À la différence cependant de ces deux logiciels, Grok-2 ne semble intégrer que peu de contraintes à la génération d’images.
Le Guardian, qui a pu utiliser ce logiciel, explique ainsi avoir pu générer des images de Donald Trump pilotant un avion vers les tours du World Trade Center, de personnalités politiques ou du monde de la culture (Kamala Harris, Taylor Swift, Alexandria Ocasio-Cortez) en lingerie. D’autres utilisateurs ont pu générer des images violentes, comme Elon Musk avec un fusil d’assaut à la main dans une université, ou Trump armé jusqu’aux dents. D’autres, encore, ont publié des images enfreignant vraisemblablement la législation sur les droits d’auteur, comme une image de Mickey Mouse avec une cigarette et une bière à la main.
À lire aussiElon Musk «entre en guerre» contre les annonceurs qui se sont retirés de X
Défenseur acharné de la liberté d’expression, Elon Musk semble avoir fait en sorte de mettre le moins de garde-fous possibles à son algorithme. Ses pairs sur le marché, que ça soit Dall-E, ou Midjourney, rendent impossible la génération d’images explicites, de personnalités publiques ou de contenus potentiellement violents. Google de son côté, avait carrément suspendu la fonctionnalité de Gemini permettant la génération de visages après une polémique sur les biais racistes de cet outil.
Des dérives possibles
Dans ses conditions d’utilisation pourtant, Grok-2 est très clair sur l’interdiction des contenus violant les droits de propriété intellectuelle, à caractère frauduleux, faux, mensongers ou diffamatoires. C’est également le cas des contenus promouvant la haine, la violence, l’injure envers des individus ou des groupes d’individus. Reste à savoir si les équipes de modération de Musk se chargeront de supprimer l’ensemble de ses contenus publiés depuis quelques jours sur le réseau social X et de suspendre l’utilisation du service aux personnes qui ont réalisé ces montages.
En pleine campagne présidentielle américaine, cet outil pourrait être utilisé à dessein pour la création d’images manipulées. Les dérives pourraient être nombreuses. Sur le réseau social X, une professeure d’informatique de Harvard en parlait d’ailleurs comme « l'une des implémentations d'IA les plus imprudentes et irresponsables» qu’elle ait vue à ce jour. D’un point de vue légal également, Musk risque plusieurs plaintes d’ayants droit.
À lire aussiÉmeutes en Grande-Bretagne, présidentielle américaine : Elon Musk déploie sa propagande très politique
Lancée en novembre dernier, Grok a réussi en l’espace de quelques mois à devenir un concurrent sérieux aux différents modèles de langage du marché. Pour continuer à soutenir son développement, Elon Musk a annoncé fin mai une levée de fonds de 6 milliards de dollars pour sa start-up xAI, qui héberge le robot conversationnel Grok-2. Depuis le lancement, le milliardaire veut en faire « l'intelligence artificielle la plus fun du monde».