« Toutes les cinq minutes, ils prédiront qui sera le prochain terroriste » : Israël développe son propre ChatGPT pour espionner et trier les Palestiniens

C’est un nouveau projet israélien de répression à grande échelle que dévoilent le journal The Guardian et les sites d’investigation +972 magazine et Local call. Dans une enquête publiée conjointement jeudi 6 mars, les trois médias révèlent que l’armée israélienne planche depuis fin 2022 sur sa propre intelligence artificielle (IA), semblable à ChatGPT, afin de surveiller et punir les Palestiniens.

Selon les informations du Guardian, de +972 magazine et de Local call, « une escouade d’élite de cyberguerre au sein de la Direction du renseignement militaire israélien » a développé son propre programme génératif – un Large langage model (LLM) -, qui doit être capable, à terme, d’analyser, de traduire et résumer des millions de conversations en Arabe.

Près de 100 milliards de mots arabes

L’unité en question, nommée 8 200, se baserait sur les informations collectées depuis des années par les services de renseignement israéliens sur la vie quotidienne des Palestiniens – là où ChatGPT puise, par exemple, dans les informations disponibles publiquement sur Internet.

L’IA israélienne aurait ainsi déjà été entraînée à utiliser près de 100 milliards de mots arabes obtenus grâce à cette surveillance à grande échelle du peuple palestinien. Surtout, Tel-Aviv n’hésite pas – dans la continuité de la répression coloniale et autoritaire en cours dans les territoires palestiniens – à puiser dans les vies de civils qui n’ont aucun casier judiciaire, ne sont soupçonnés d’aucun crime et n’ont aucune activité militante.

« Les Palestiniens sont devenus des cobayes dans le laboratoire israélien pour développer ces techniques et utiliser l’intelligence artificielle comme arme, fustige Nadim Nashif, fondateur de 7amleh, un groupe palestinien de défense des droits numériques. Tout cela dans le but de maintenir un régime d’apartheid et d’occupation. »

Les trois médias ont obtenu la certitude de l’existence de l’unité 8 200 grâce aux témoignages de trois sources, qui ont été associées ou mises au courant du projet. « Le modèle était encore en cours de formation au cours du second semestre de l’année dernière, et on ne sait pas encore s’il a déjà été déployé ni comment l’armée l’utilisera exactement, résument-ils. À en juger par la façon dont l’armée utilise déjà des modèles linguistiques plus modestes, il semble probable que le LLM puisse étendre encore davantage l’incrimination et l’arrestation de Palestiniens par Israël. »

L’outil doit permettre aux agences de renseignement de générer des listes de « suspects » à arrêter. Les agents n’auraient ainsi qu’à « poser des questions et obtenir des réponses » de l’IA générative. Cette dernière « serait capable de vous dire si deux personnes se sont déjà rencontrées ou de déterminer instantanément si une personne a déjà commis un acte particulier », résument Local call, +972 magazine et le Guardian.

« La mobilisation massive de réservistes »

Si le développement de cette IA générative date d’avant le 7 octobre 2023, les massacres qui ont suivi et l’impunité accordée par une partie de la communauté internationale au gouvernement israélien ont permis à l’unité 8 200 d’accélérer le développement. Les services de renseignement ont ainsi sollicité des civils israéliens spécialisés sur le sujet, dont la plupart travaillent pour les géants du web, comme Google, Meta ou Microsoft.

« Avec la mobilisation massive de réservistes au début de l’offensive israélienne contre Gaza, des experts du secteur privé ont commencé à s’enrôler dans l’unité, apportant des connaissances qui étaient auparavant “accessibles uniquement à un groupe très exclusif d’entreprises dans le monde” », dévoilent le Guardian, +972 magazine et Local call. Si Meta et Microsoft n’ont pas répondu à leurs sollicitations, Google a justifié la mobilisation de plusieurs employés par le fait qu’un grand nombre d’entre eux « effectuent des missions de réserve dans divers pays », sans donner plus de précisions.

Les services de renseignement israéliens assument, de leur côté, vouloir user de l’intelligence artificielle. L’officier Roger Joseph Sayedoff a ainsi profité d’une conférence intitulée DefenseML, fin septembre 2024, pour aborder succinctement les contours du projet.

« Nous nous sommes dit : “Wow, maintenant nous allons remplacer tous les agents du renseignement par des agents (d’IA). Toutes les cinq minutes, ils liront tous les renseignements israéliens et prédiront qui sera le prochain terroriste” », a-t-il ainsi lancé, après avoir expliqué que l’armée israélienne s’est penchée sur le sujet suite à l’arrivée de ChatGPT, en novembre 2022.

Tel-Aviv a d’ailleurs tenté d’accéder directement au programme développé par OpenAI en 2022, afin d’accélérer le développement de leur propre outil. Demande refusée par l’entreprise états-unienne. L’armée israélienne a finalement réussi à accéder à la technologie d’OpenAI grâce à Microsoft, qui était devenu entre-temps un investisseur de la structure cofondée par Sam Altman, comme l’ont révélé +972 magazine et Local call.

Une nouvelle étape de franchie pour l’unité 8 200, qui surveille déjà depuis plus de dix ans, « des civils sans aucun lien avec des groupes militants », rappellent les auteurs de l’enquête. Les agents de l’unité se sont spécialisés dans l’obtention d’informations personnelles, « par exemple concernant des difficultés financières, leur orientation sexuelle ou une maladie grave qui les affectait ou affectait un membre de leur famille ».

Des recherches que l’IA générative va pouvoir accélérer, la barrière de langue et du temps n’étant plus d’actualité. De quoi permettre à l’armée israélienne de se lancer dans une répression à la chaîne. « Parfois, c’est juste un commandant de division qui veut 100 arrestations par mois dans sa région », a ainsi déclaré une source. Soit une manière de toujours plus déshumaniser les Palestiniens.