Comment la nouvelle IA utilisée par X a poussé l’intox d’une attaque iranienne sur Israël

La vérification en bref : 

• Début avril, plusieurs comptes certifiés sur X (ex-Twitter) ont prétendu que l'Iran avait bombardé la ville israélienne de Tel Aviv, en représailles à l'attaque israélienne contre le consulat iranien de Damas, en Syrie, le 1^er avril. 

• Ces posts s'appuient en fait sur une vidéo décontextualisée d'explosions filmées dans la ville de Sébastopol, en Crimée. Aucune information concernant une éventuelle attaque de l'Iran contre Tel Aviv n'a été publiée dans la presse israélienne ou internationale depuis le 1^er avril.

• Mais Grok, l'outil de curation d'actualités basé sur l'IA et lancé début avril par X, a repris cette intox à son compte. Dans un court paragraphe censé résumer les sujets viraux sur la plateforme, cet outil a indiqué à tort que l'Iran avait attaqué Israël et provoqué la "destruction de plusieurs bâtiments" à Tel Aviv.

La vérification en détails : 

C’est un couac de taille pour Grok, le nouvel outil de curation des tendances basé sur l'IA de la plateforme X, annoncé à grand bruit par Elon Musk depuis plusieurs mois : en fonction depuis début avril, il est censé mettre en avant et résumer les actualités diffusées sur le réseau social mais s’est retrouvé accusé dès le jour de son lancement, le 4 avril, de diffuser des fausses informations. 

C’est à cette date que la plateforme a mis à jour sa rubrique "Explorer", située sur le menu latéral, pour hiérarchiser et éditorialiser les différentes tendances à partir de son nouvel assistant par IA. L’onglet "News" proposé dans "Explorer" est désormais régi par Grok AI. Mais il y a un problème : une intox prétendant que l'Iran avait bombardéla ville israélienne de Tel Aviv début avril s’est retrouvée dans les tendances mises en avant par l’outil dans cet onglet "News" ("Actualités" en français).

L'erreur a rapidement été repérée par plusieurs internautes, mais aussi par le média américain spécialiste de l'actualité des réseaux sociaux, Mashable, qui a publié une capture d'écran faite le 4 avril de l’onglet News affichant le titre : "l'Iran attaque Tel Aviv avec des missiles lourds".

D'autres internautes ont cliqué sur cette tendance ont aussi remarqué que l'outil Grok, qui propose des résumés de chaque tendance, a affirmé à tort dans un court paragraphe que "l'attaque [avait] impliqué l'utilisation de missiles lourds et a causé d'importants dégâts, notamment des incendies et la destruction de plusieurs bâtiments". 

Si ce paragraphe n'est plus disponible, il est encore possible de le retrouver dans une capture d'écran vidéo diffusée par le streamer Hasanabi le 5 avril, accompagnée de plusieurs posts en ligne mentionnant la même intox.

Une vidéo décontextualisée, tournée en Crimée

D'où provient cette intox ? L'outil, qui s'appuie sur les contenus viraux diffusés sur la plateforme pour faire ressortir des tendances, semble avoir repris les propos de nombreux comptes certifiés sur X, qui ont affirmé dès le 3 avril au soir que Tel Aviv subissait "un bombardement intensif".

"Breaking News : l'Iran a commencé à attaquer Tel Aviv", a notamment prétendu un de ces comptes le 4 avril, dans un tweet en anglais cumulant plus de 180 000 vues.

Comme de nombreux autres posts, ce dernier a repris à tort une vidéo de bombardements, présentée comme des explosions à Tel Aviv, en pleine nuit, entre le 3 et le 4 avril.

Sauf que la scène a en réalité été filmée plusieurs jours plus tôt, le 24 mars, lors de bombardements à Sébastopol, en Crimée. Grâce à une recherche d'images inversée via l'outil Google Lens, il est possible de retrouver la vidéo d'origine. Plusieurs médias anglo-saxons, comme NewsWeek, avaient notamment repris la séquence dans des articles mentionnant des attaques contre deux navires russes en mer Noire.

"Grok est une fonctionnalité récente et peut faire des erreurs"

Mis en place début avril, Grok AI a été présenté comme un outil destiné à mettre en avant des "actualités personnalisées en temps réel", a expliqué Elon Musk, propriétaire de la plateforme X, dans un post le 5 avril.

Sous chaque résumé proposé par l'outil, un texte recommande toutefois de "vérifier les résultats" proposés par Grok, qui est "une fonctionnalité récente qui peut faire des erreurs", comme le montrent ces démonstrations filmées par le compte d'information X Daly News. 

Ce n'est pas la première fois que X tente d'éditorialiser les tendances par des titres et de courts résumés. En 2020, la plateforme, alors encore appelée Twitter, avait notamment mis en place une équipe chargée de hiérarchiser et d'éditorialiser les différentes tendances mises en avant par l'algorithme du réseau social.

L'équipe d'éditeurs a toutefois été licenciée à la suite du rachat de la plateforme par Elon Musk en octobre 2022, comme l'avait indiqué Reuters.