Réunion de crise à Bercy. Ce mardi 26 août, la ministre déléguée chargée de l’intelligence artificielle et du numérique, Clara Chappaz, réunissait toutes les autorités et administrations concernées par le décès du streamer Raphaël Graven, alias Jean Pormanove, survenu en direct de la plateforme Kick dans la nuit du 17 au 18 août après 10 jours de sévices. Autour de la table, étaient présents l’Arcom, la Cnil, les représentants de différents ministères et des signaleurs de confiance. Au programme : une réflexion et un partage d’expériences après la diffusion en ligne des violences et humiliations que subissait Jean Pormanove de la part de ses co-streamers, la responsabilité de la plateforme australienne Kick et les moyens d’action contre la haine en ligne.
Suscitant une vive émotion, ce drame a aussi mis en lumière les défaillances des différentes institutions chargées de la régulation des plateformes numériques. Déjà alertée à ce sujet par une enquête de Mediapart publiée en décembre 2024, l’Arcom avait été saisie en février par la Ligue des Droits de l’Homme, sans que cela n’aboutisse. De quoi alimenter de virulentes critiques et une incompréhension sur le rôle du régulateur.
Passer la publicitéFavoriser le partage d’information
Si l’Arcom a répondu aux attaques en expliquant avoir été entravée par l’absence d’un représentant légal de Kick au sein de l’Union Européenne, elle souhaite pouvoir faire davantage. Pour ce faire, la ministre Clara Chappaz a annoncé à l’issue de la réunion du 26 août que l’Arcom allait réactiver son Observatoire de la haine en ligne.
Créé dans le sillage de la loi de juin 2020 visant à lutter contre les contenus haineux sur internet, l’Observatoire de la haine en ligne a pour mission « d’analyser et de quantifier le phénomène de haine en ligne, d’en améliorer la compréhension des ressorts et des dynamiques, de favoriser le partage d’information et le retour d’expérience entre les parties prenantes » peut-on lire sur le site de l’Arcom. Composé d’opérateurs, comme Facebook, Snapchat ou TikTok, d’associations, comme l’InterLGBT, la Ligue des Droits de l’Homme ou le Conseil représentatif des institutions juives de France (CRIF), on y trouve aussi des administrations, comme le ministère de la Justice ou du Numérique, ainsi que des chercheurs spécialisés sur ces enjeux.
Pérenniser les missions à partir d’octobre
L’Observatoire a donc pour mission d’analyser et de quantifier les contenus relatifs à la haine en ligne, d’œuvrer à améliorer la compréhension du phénomène en suivant son évolution et de partager les informations des différents acteurs concernés, publics et privés. Divisé en groupes de travail, l’Observatoire ambitionne d’apporter un regard éclairé pour mieux comprendre le phénomène de la violence numérique.
S’ajoute à cela l’entrée en vigueur du Règlement européen pour les Services Numériques (ou Digital Services Act) en 2024, mettant sous le feu des projecteurs les enjeux de régulation des plateformes numériques. L’observatoire de la haine en ligne devient alors un espace privilégié pour œuvrer à la protection des utilisateurs.
Sauf que ces missions ne sont que ponctuelles et informelles, et ces groupes de travail ne sont mobilisés que sur des événements et périodes précises. Parmi les derniers temps forts : les Jeux Olympiques de Paris 2024. À cette occasion, les différents acteurs s’étaient réunis afin de prévenir les vagues de cyberharcèlement qui pouvaient déferler sur les réseaux sociaux à l’encontre des athlètes. À la clé, de la prévention auprès des plateformes pour partager des tendances constatées. Depuis, les activités de l’Observatoire étaient dormantes.
Passer la publicitéRevoir tous les sites problématiques
Au début de l’été, bien avant le décès du streamer Jean Pormanove, la question de la réactivation de l’Observatoire de la haine en ligne avait déjà été mise sur la table par l’Arcom. Le régulateur affirmait en effet début juillet sa volonté de travailler sur les « conditions générales d’utilisation du service, modération, la prise en compte des tendances émergentes et des pratiques de contournement de la modération » des plateformes numériques.
Le décès de Jean Pormanove accélère la cadence. Une première réunion pour œuvrer à la mise en place de l’Observatoire est prévue pour octobre, a annoncé Clara Chappaz, et l’Arcom entend bien pérenniser les activités de son Observatoire avec des réunions plus régulières. De quoi permettre aux régulateurs de se pencher sur les « contenus gris » dont l’aspect manifestement illicite peut être difficile à démontrer, à l’image des vidéos publiées sur la chaîne de Jean Pormanove.
En parallèle, Clara Chappaz a sommé l’Arcom, de « revoir tous les sites problématiques » que les signaleurs de confiance ont mis en avant afin « de rendre internet plus sûr et mettre fin aux dérives ». La ministre a également annoncé attaquer Kick en justice pour «manquements» et entamer des travaux sur la monétisation de la violence en ligne. De son côté, le parquet de Paris a annoncé l’ouverture d’une enquête ciblant également la plateforme Kick.