Encadrer un modèle de langage dans une chaîne de veille sans perdre la traçabilité

Le risque propre à l'insertion d'un modèle de langage

Insérer un modèle de langage dans une chaîne de veille pour résumer, synthétiser ou reformuler des documents collectés introduit un risque spécifique, distinct de la simple qualité rédactionnelle du texte produit : la perte de traçabilité entre ce que le document source établit et ce que le modèle affirme dans sa synthèse. Un modèle de langage reformule et parfois généralise ; il peut associer deux informations qui n'étaient pas reliées dans le document, ou attribuer à une source une affirmation qu'elle ne portait qu'implicitement. Ces glissements sont plus difficiles à repérer que les erreurs factuelles grossières, parce qu'ils prennent la forme de phrases parfaitement lisibles et plausibles.

Cette note ne juge pas la qualité rédactionnelle des sorties d'un modèle de langage, question distincte qui relève d'une évaluation propre. Elle traite d'un seul problème : comment organiser la chaîne de veille pour que chaque affirmation produite par un modèle reste rattachable à un document source vérifiable, et pour que la synthèse produite un jour donné puisse être rejouée et réexaminée si elle est contestée.

La traçabilité n'est pas une option de confort. Une synthèse contestée sans possibilité de revenir au document source et à la version exacte du modèle qui l'a produite ne peut ni être défendue ni être corrigée ; elle doit alors être retirée en bloc, ce qui coûte plus cher que la discipline de traçabilité qui l'aurait évitée.

Les points de re-ancrage obligatoires

La chaîne de veille doit prévoir des points de re-ancrage explicites, c'est-à-dire des moments où la sortie du modèle est reliée mécaniquement, et non de mémoire, au document source dont elle prétend rendre compte. Le premier point de re-ancrage se situe à l'entrée : chaque document soumis au modèle doit porter un identifiant stable, conservé avec la synthèse produite, qui permette de retrouver le texte exact qui a servi de base.

Le deuxième point de re-ancrage se situe au niveau de la phrase : toute affirmation de la synthèse qui rapporte un fait précis doit pouvoir être associée au passage du document source qui la fonde, par une référence explicite plutôt que par une simple confiance dans la fidélité générale du résumé. Cette association peut être automatisée en partie, mais elle nécessite une vérification humaine avant diffusion, en particulier pour les affirmations qui combinent des éléments provenant de plusieurs documents distincts.

Le troisième point de re-ancrage se situe à la sortie : la synthèse diffusée doit porter, à côté d'elle, la liste des documents sources effectivement mobilisés, et non une liste générique des documents soumis au modèle qui inclurait des documents dont rien n'a finalement été retenu. Cette distinction évite qu'un document non pertinent, simplement présent dans le lot soumis, serve ensuite de caution à une affirmation qu'il ne soutient pas.

Ces trois points de re-ancrage doivent être vérifiables indépendamment les uns des autres, sans qu'un contrôle unique en fin de chaîne suffise à couvrir les trois. Un dispositif qui ne contrôle que la sortie finale, sans avoir tracé l'entrée ni la correspondance phrase à phrase, ne peut reconstituer que partiellement le cheminement d'une affirmation contestée, ce qui limite la portée de la vérification au moment où elle devient le plus nécessaire.

Ce qu'il faut conserver pour rejouer une synthèse

Rejouer une synthèse contestée suppose de conserver quatre éléments à chaque production, indépendamment du volume que cela représente. Le premier est le texte d'entrée exact, dans son état au moment de la soumission, avant toute troncature ou reformulation ultérieure du document source. Le deuxième est le texte de sortie exact produit par le modèle, avant toute retouche humaine, de manière à distinguer ce que le modèle a produit de ce que l'analyste a ensuite modifié.

Le troisième élément est la version du modèle utilisé, avec son identifiant précis et sa date de mise en service, car deux versions successives d'un même modèle peuvent produire des synthèses différentes à partir d'un texte d'entrée identique. Le quatrième élément est l'horodatage complet de l'opération : date et heure de la soumission, date et heure de la production de la sortie, distinctes l'une de l'autre lorsque l'opération comporte plusieurs étapes.

Ces quatre éléments doivent être conservés ensemble, dans un même enregistrement, plutôt que dispersés dans des systèmes distincts qui rendraient leur recoupement ultérieur incertain. La conservation doit couvrir une durée définie à l'avance, cohérente avec la durée pendant laquelle la synthèse reste diffusée et contestable.

Distinguer l'affirmation du document et l'affirmation du modèle

Un des risques les plus fréquents de cette chaîne consiste à laisser une synthèse affirmer, sans le signaler, une conclusion que le modèle a construite par inférence à partir de plusieurs documents, plutôt qu'une affirmation directement présente dans un document unique. Cette distinction doit apparaître dans la présentation même de la synthèse, par exemple en signalant les passages qui résultent d'un croisement entre sources.

Un modèle de langage tend à lisser cette distinction dans une prose continue qui ne signale pas d'elle-même l'origine de chaque élément. La chaîne de veille doit donc imposer, en sortie, une étape de relecture qui identifie les phrases combinant plusieurs sources et qui vérifie que la combinaison proposée par le modèle est effectivement soutenue par les documents, et non le produit d'un rapprochement injustifié entre deux faits sans rapport.

NewsCore (www.newscore.fr) relie chaque élément de synthèse au document source qui l'alimente et conserve la version du traitement appliqué, ce qui raccourcit le travail de reconstitution lorsqu'une synthèse doit être rejouée. Cette traçabilité de bout en bout constitue la fonction que la présente note recommande d'intégrer dans toute chaîne de veille recourant à un modèle de langage.

Organiser la chaîne en amont

La traçabilité ne se rattrape pas après coup ; elle se construit dans l'organisation même de la chaîne, avant la première utilisation opérationnelle du modèle. Cela suppose de désigner, pour chaque type de synthèse produite, une personne responsable de la vérification du re-ancrage avant diffusion, distincte de la personne qui paramètre le modèle.

Cela suppose également de fixer, avant la mise en production, le format d'enregistrement des quatre éléments à conserver, de sorte que chaque production suive automatiquement le même schéma, sans dépendre de la rigueur ponctuelle d'un opérateur. Un format défini après coup, une fois les premières synthèses déjà diffusées, oblige à reconstituer rétroactivement des enregistrements qui n'existent pas, ce qui n'est en général pas possible avec la même fiabilité.

Enfin, l'organisation de la chaîne doit prévoir la procédure à suivre lorsqu'une synthèse est contestée : qui a accès aux enregistrements conservés, sous quel délai la synthèse contestée peut être réexaminée, et quelles suites sont données selon que le re-ancrage confirme ou infirme l'affirmation contestée.

Cette organisation en amont gagne à être testée avant sa mise en service réelle, par une contestation simulée sur une synthèse volontairement construite pour l'exercice. Ce test préalable révèle si les enregistrements prévus suffisent effectivement à reconstituer le cheminement d'une affirmation, ou si des lacunes de conception subsistent, lacunes qu'il est nettement moins coûteux de corriger avant la première synthèse réellement diffusée qu'après une contestation portant sur un cas opérationnel.

Limites du dispositif

Le dispositif de re-ancrage protège la traçabilité, pas la justesse du contenu du document source lui-même. Un document source erroné produira une synthèse traçable mais tout aussi erronée ; la traçabilité permet de le constater et de corriger, elle ne prémunit pas contre une source de départ défaillante.

Le dispositif suppose par ailleurs une discipline constante de conservation, qui représente une charge opérationnelle réelle, en volume de stockage et en temps de vérification humaine. Une organisation qui ne peut pas soutenir cette charge sur la durée doit réduire le périmètre des synthèses automatisées plutôt que de maintenir un volume de production que la traçabilité ne peut plus suivre.

Enfin, cette note ne fournit aucun critère d'évaluation de la qualité rédactionnelle des sorties du modèle, question qui reste entière et qui doit être traitée par un dispositif distinct, avec ses propres critères et sa propre méthode de test.

Questions fréquentes

Faut-il conserver la sortie brute du modèle si un analyste la corrige systématiquement avant diffusion ? Oui, la sortie brute doit être conservée telle quelle, à côté de la version corrigée, afin de distinguer ce que le modèle a produit de ce que l'intervention humaine a modifié en cas de contestation ultérieure.

Le re-ancrage doit-il porter sur chaque phrase de la synthèse ou seulement sur les affirmations les plus sensibles ? La note recommande de prioriser les affirmations qui rapportent un fait précis ou combinent plusieurs sources, mais un dispositif mature couvre l'ensemble de la synthèse pour éviter qu'une affirmation jugée mineure au moment de la production ne devienne centrale une fois contestée.

Combien de temps faut-il conserver les quatre éléments d'une production donnée ? La durée doit être définie à l'avance et couvrir au minimum toute la période pendant laquelle la synthèse reste diffusée ou consultable, prolongée d'une marge suffisante pour couvrir une contestation tardive.

Un changement de version du modèle oblige-t-il à retraiter les synthèses déjà produites ? Non, mais il oblige à conserver la trace de la version utilisée pour chaque synthèse existante, de sorte qu'une différence de comportement entre deux versions puisse être identifiée si une synthèse ancienne est un jour réexaminée.