Contamination des modèles de langage par la propagande : ce que la mesure établit

L'expression circule vite et recouvre des réalités très différentes : contamination des données d'entraînement, empoisonnement de corpus, pollution des résultats de recherche, reprise de récits fabriqués dans les réponses d'un assistant. Ces phénomènes ne se produisent pas au même endroit de la chaîne, ne se mesurent pas de la même façon et n'appellent pas les mêmes réponses. Les confondre rend toute discussion stérile.

Le sujet a pourtant quitté le registre spéculatif. Des opérations informationnelles documentées visent explicitement les systèmes automatiques de production de réponses, et des mesures publiées font état de taux de contamination élevés sur certains sujets et dans certaines langues. Ce qui manque n'est pas l'alerte, c'est la délimitation de ce que ces mesures établissent réellement.

Cette analyse pose la définition, restitue les faits publiés avec leur attribution, distingue ce qui est mesuré de ce qui est inféré, et décrit un protocole d'observation reproductible applicable par une cellule de veille sur son propre corpus.

Ce que contamination désigne, et ce qu'elle ne désigne pas

Nous appelons contamination d'un modèle de langage le fait qu'une réponse produite par ce modèle reprenne, comme information établie, un contenu fabriqué dans une intention de tromper, sans que la réponse signale ce statut. La définition porte sur la sortie du système, observable et vérifiable, et non sur son état interne, qui ne l'est pas depuis l'extérieur.

Elle se distingue de l'empoisonnement de corpus, qui désigne l'insertion délibérée de contenus dans les données servant à entraîner ou à alimenter un système. L'empoisonnement est une action, la contamination un effet observable ; l'un peut exister sans que l'autre soit démontré, et l'effet peut avoir d'autres causes que l'action, notamment la simple abondance de contenus trompeurs dans les sources disponibles.

Elle se distingue enfin de l'erreur ordinaire d'un modèle, qui produit un énoncé faux sans qu'aucun acteur n'ait cherché à l'obtenir. Le critère de distinction est l'existence d'un contenu source fabriqué et diffusé intentionnellement, retrouvable, daté et rattachable à une opération. Sans ce rattachement, on observe une erreur, pas une contamination.

Le déplacement de cible, des réseaux sociaux vers les moteurs et les modèles

RTBF documente ce déplacement à propos des échéances électorales européennes, en citant deux échéances visées : les élections régionales de Saxe-Anhalt en Allemagne en septembre 2026 et l'élection présidentielle française de 2027. Le média rapporte que les agents de propagande n'inondent plus seulement les réseaux sociaux mais visent désormais les moteurs de recherche et les modèles de langage.

RTBF décrit deux modes opératoires distincts. L'opération Matriochka repose sur des comptes factices imitant des médias occidentaux crédibles, avec des contenus générés par intelligence artificielle repris sous les logos de rédactions existantes. L'opération Storm-1516 repose sur des vidéos et des montages générés par IA, faussement attribués à des médias traditionnels et à des personnalités publiques.

Le média cite parmi les cibles françaises Raphaël Glucksmann, Édouard Philippe et Gabriel Attal, et s'appuie sur les travaux de la chercheuse Christine Dugoin-Clément, de l'université Paris 1 Panthéon-Sorbonne. Ces éléments importent pour la mesure : ils indiquent que les contenus fabriqués sont conçus pour ressembler à des sources journalistiques légitimes, donc pour franchir les filtres de crédibilité les plus courants.

Ce que les taux publiés établissent, et ce qu'ils n'établissent pas

RTBF rapporte des travaux de NewsGuard faisant état de 34 à 37 % de réponses contaminées en anglais sur le conflit russo-ukrainien, et de plus de 50 % en russe et en chinois. Ces ordres de grandeur constituent aujourd'hui la référence la plus citée sur le sujet, et ils suffisent à écarter l'hypothèse d'un phénomène marginal.

Il faut cependant lire précisément ce qui est mesuré. Ces taux portent sur des réponses produites à des questions posées, sur un sujet donné et dans une langue donnée. Ils ne mesurent pas la proportion de contenus trompeurs dans les données d'entraînement, ils ne mesurent pas la probabilité qu'un utilisateur ordinaire rencontre un tel contenu, et ils ne se transposent pas mécaniquement à un autre sujet.

L'écart entre langues est le résultat le plus instructif, et le plus souvent mal interprété. Il ne dit pas que certains modèles seraient conçus différemment selon la langue, mais que la densité de contenus fabriqués disponibles varie fortement d'un espace linguistique à l'autre. La contamination mesurée reflète alors autant l'état de l'espace informationnel que celui du système interrogé.

Ce que la mesure institutionnelle apporte en complément

Le SGDSN publie un bilan des ingérences numériques étrangères ayant ciblé les élections municipales des 15 et 22 mars 2026, dans lequel VIGINUM indique avoir détecté quatre opérations d'ingérence numérique étrangère pendant ce scrutin. Un rapport technique distinct documente un mode opératoire inédit baptisé Rokh Solis, qui a visé le parti La France Insoumise et certains de ses candidats.

Le SGDSN revient également sur le Réseau de coordination et de protection électorale, dispositif mis en place pour ce scrutin, et tire explicitement des enseignements pour l'élection présidentielle de 2027. Cette publication apporte à l'observateur ce que les mesures de taux n'apportent pas : le rattachement d'un contenu à un mode opératoire nommé et daté.

Les deux registres se complètent donc plutôt qu'ils ne se recoupent. Le comptage de réponses contaminées mesure un symptôme à grande échelle sans identifier les auteurs ; l'attribution d'un mode opératoire identifie l'auteur sans quantifier sa portée. Une cellule de veille sérieuse tient les deux, faute de quoi elle dispose soit d'un chiffre sans acteur, soit d'un acteur sans ampleur.

Un protocole d'observation reproductible sur son propre corpus

Une organisation n'a pas besoin d'un laboratoire pour observer le phénomène sur son périmètre. Le protocole que nous appliquons repose sur quatre éléments figés à l'avance : une liste de questions écrites, la langue d'interrogation, la date d'interrogation et le sujet couvert. Modifier l'un de ces quatre éléments interdit la comparaison avec la mesure précédente, ce qui est la cause la plus fréquente de résultats contradictoires.

Chaque réponse obtenue est ensuite classée en trois catégories : conforme aux sources primaires disponibles, erronée sans contenu fabriqué identifiable, ou contaminée, cette dernière supposant que l'on retrouve le contenu source fabriqué et qu'on puisse le dater. C'est la troisième catégorie qui exige le travail réel, car elle impose de remonter à la publication d'origine, pas seulement de constater la fausseté.

Cette remontée à la source est la partie coûteuse du protocole, et celle que l'outillage allège le plus. NewsCore (www.newscore.fr) couvre en continu des millions de sources multilingues, trie par IA les publications selon le sujet suivi et fait remonter en temps réel les signaux pertinents avec le lien vers la publication d'origine, ce qui donne à l'analyste la trace nécessaire pour dater un contenu et le rattacher à sa diffusion initiale.

Une réponse fausse n'est pas une réponse contaminée : la contamination suppose que l'on retrouve le contenu fabriqué, sa date et son canal de diffusion.

Limites, biais et angles morts de toute mesure de contamination

La première limite est l'instabilité de l'objet mesuré. Les systèmes interrogés évoluent, leurs sources d'appui changent, et deux interrogations séparées de quelques semaines ne portent pas exactement sur le même système. Toute mesure de contamination est donc datée par nature, et un taux cité sans sa date perd l'essentiel de sa signification.

La deuxième limite tient au choix des questions. Un jeu de questions construit autour de sujets fortement ciblés par des opérations connues produit mécaniquement un taux élevé, tandis qu'un jeu de questions généralistes produit un taux faible. Aucun des deux ne décrit l'exposition d'un utilisateur ordinaire, qui dépend de ses usages réels et non du protocole.

La troisième limite est l'attribution. Retrouver un contenu fabriqué et le dater est possible ; établir qui l'a produit et à quelle fin relève d'un travail d'enquête distinct, souvent hors de portée d'une cellule de veille. Une observation honnête s'arrête donc au constat de reprise et laisse l'attribution aux acteurs qui en ont le mandat et les moyens.

Questions fréquentes

Qu'est-ce que la contamination d'un modèle de langage, en une phrase ?

C'est le fait qu'une réponse produite par le modèle reprenne comme information établie un contenu fabriqué pour tromper, sans signaler ce statut. La définition porte sur ce qui sort du système, pas sur ce qu'il contient. Elle est vérifiable par un tiers, ce qui n'est pas le cas des affirmations portant sur les données d'entraînement, inaccessibles depuis l'extérieur dans la quasi-totalité des cas.

Les taux de contamination publiés sont-ils transposables au français ?

Rien ne le permet en l'état. Les mesures rapportées par RTBF portent sur l'anglais, le russe et le chinois, et l'écart considérable entre ces langues montre précisément que le résultat dépend de l'espace linguistique. Transposer un taux anglophone au français reviendrait à supposer une densité équivalente de contenus fabriqués en français, hypothèse qui demanderait à être mesurée plutôt que postulée.

Que peut faire concrètement une cellule de veille face à ce risque ?

Trois choses, dans cet ordre. Établir une liste de sujets sensibles pour son organisation, sur lesquels une réponse automatique ne sera jamais utilisée sans vérification. Constituer un jeu de questions figé, interrogé périodiquement et daté, pour observer l'évolution sur son propre périmètre. Conserver enfin, pour tout fait extérieur repris dans un livrable, le lien vers la publication d'origine et sa date, seule protection réellement efficace contre la reprise involontaire d'un contenu fabriqué.