Deux régimes de confiance : détecter après coup ou prouver l'origine

Deux réponses au problème des contenus synthétiques sont aujourd'hui déployées en parallèle, et la conversation publique les traite souvent comme deux étapes d'un même progrès, la seconde devant remplacer la première. C'est une erreur de lecture. La détection après diffusion et la preuve d'origine ne répondent pas à la même question, n'établissent pas le même type de fait, et n'échouent pas de la même manière. Les confondre conduit à mal dimensionner un dispositif et à surestimer ce que l'une ou l'autre garantit.

Le mouvement institutionnel, lui, est net. Biometric Update rapporte que les gouvernements cessent de miser uniquement sur la détection des faux après diffusion et investissent dans des infrastructures d'authentification de l'origine et de l'intégrité des contenus, avec le marquage obligatoire des contenus générés par IA dans l'Union européenne, un renforcement des obligations de transparence en Californie et une législation française visant les fausses informations en période électorale.

Cette analyse compare les deux régimes sur ce qui se mesure : la nature de la preuve produite, la structure des erreurs, les grandeurs à relever pour les évaluer, et les conditions dans lesquelles chacun reste indispensable. Les repères chiffrés cités sont des ordres de grandeur d'observation issus de nos propres relevés sur des cellules de vérification, présentés comme tels et non comme des mesures attribuables à un tiers.

Deux natures de preuve, pas deux niveaux de qualité

La détection après diffusion examine un artefact isolé et en tire un jugement probabiliste : ce contenu présente des caractéristiques compatibles avec une génération automatique, avec un degré de confiance variable. La preuve porte sur des propriétés internes du fichier ou de l'image, et elle vaut à un instant donné, contre les techniques de génération connues à cet instant. Elle vieillit donc, et elle vieillit vite.

La preuve d'origine ne regarde pas le contenu, elle regarde sa chaîne de production. Une signature apposée à la capture, des métadonnées de provenance conservées à chaque transformation, une autorité qui garantit la clé : ce qui est établi n'est pas que le contenu est vrai, mais qu'il provient de tel dispositif, à telle date, et qu'il n'a pas été modifié depuis. C'est une assertion binaire et vérifiable, dont la valeur dépend entièrement de la confiance accordée au signataire.

La conséquence est importante et rarement explicitée : la preuve d'origine ne dit rien sur la véracité de ce qui est représenté. Une photographie authentifiée d'une scène mise en scène est parfaitement authentique. Un document signé contenant des affirmations fausses est parfaitement intègre. Le régime de provenance déplace la confiance du contenu vers l'émetteur, ce qui la rend vérifiable, pas ce qui la rend automatiquement fondée.

Les erreurs ne se ressemblent pas, et c'est ce qui compte le plus

Un détecteur produit deux types d'erreur bien connus. Le faux positif désigne un contenu authentique comme suspect : son coût est réputationnel et opérationnel, il déclenche des vérifications inutiles et, s'il devient public, il fabrique un doute sur des contenus légitimes. Le faux négatif laisse passer un contenu généré : son coût est celui de la manipulation qu'il autorise. Les deux se règlent l'un contre l'autre par un seuil, et il n'existe aucun réglage qui les annule ensemble.

Le régime de provenance produit des erreurs d'une autre nature. La première est l'absence de marque, qui n'est pas une erreur du système mais un trou de couverture : un contenu légitime produit hors chaîne équipée est indistinguable d'un contenu délibérément non marqué. La deuxième est la rupture de chaîne, quand un recadrage, une recompression ou une republication détruit les métadonnées sans intention malveillante. La troisième, plus rare et plus grave, est la signature valide apposée sur un contenu trompeur.

Cette asymétrie a une conséquence pratique directe. Dans le régime de détection, l'erreur est bruyante et se corrige au cas par cas. Dans le régime de provenance, l'erreur est silencieuse et systémique : elle frappe des catégories entières d'émetteurs, typiquement ceux qui n'ont pas les moyens d'équiper leur chaîne. Une politique qui traiterait mécaniquement le non marqué comme du suspect exclurait ces émetteurs sans jamais produire d'alerte.

Les quatre grandeurs à relever pour comparer les deux régimes

La première grandeur est le taux d'erreur, mais il ne se mesure pas de la même façon des deux côtés. Pour la détection, il se relève sur un jeu de contenus étiquetés à l'avance, et il faut publier séparément les deux types d'erreur ainsi que le seuil retenu. Pour la provenance, la grandeur pertinente n'est pas un taux d'erreur mais un taux de survie de la marque à travers les transformations courantes de diffusion.

La deuxième est le délai de décision. C'est là que l'écart est le plus spectaculaire. Vérifier une signature se compte en secondes et ne mobilise personne. Qualifier un artefact suspect par analyse se compte en dizaines de minutes au minimum quand la compétence est disponible, et en heures quand la file d'attente est chargée. Sur un épisode à cinétique rapide, cet écart détermine si la vérification arrive avant ou après la décision qu'elle devait éclairer.

La troisième est le coût par contenu traité, à lire conjointement avec la quatrième, la part du flux couverte. Un régime peu coûteux par unité mais couvrant une fraction du flux ne règle pas le problème d'ensemble, et un régime universel mais coûteux sature dès que le volume augmente. Le produit des deux grandeurs donne la charge réelle, et c'est cette charge, non le coût unitaire, qui se compare d'un dispositif à l'autre.

Un régime de confiance ne se juge pas à son taux d'erreur seul, mais au produit de ce taux par la part du flux qu'il couvre réellement.

Pourquoi la coexistence est un état durable et non une transition

Trois raisons rendent improbable la disparition de la détection au profit de la seule provenance. La première est l'hétérogénéité des émetteurs : une part durable des contenus circulant en sources ouvertes provient d'appareils, de logiciels et d'acteurs qui ne seront pas équipés, pour des raisons de coût, de juridiction ou de choix délibéré. La deuxième est l'existence de transformations légitimes qui détruisent les métadonnées, du recadrage à la republication sur des plateformes qui ne conservent rien.

La troisième raison est adverse. Un régime de provenance généralisé déplace l'effort de manipulation vers ce qu'il ne couvre pas : la décontextualisation d'un contenu authentique, la fabrication d'un contenu réel mais mis en scène, l'usurpation d'un émetteur légitime en amont de la signature. Aucune de ces voies ne se traite par vérification de marque, et toutes appellent un travail d'analyse comparable à celui que mobilise aujourd'hui la détection.

L'état stable est donc un dispositif à deux étages : la vérification de provenance comme premier filtre, rapide et peu coûteux, qui absorbe la fraction marquée du flux, et l'analyse comme second étage, appliquée à une population résiduelle plus petite mais plus difficile. Cette architecture réduit la charge totale sans supprimer la compétence, et elle rend explicite ce que chaque étage établit.

Ce que cela impose à un dispositif de veille

Première implication : il faut cesser de traiter la question comme technique et l'écrire comme une politique. Quel niveau de preuve exige-t-on avant de relayer, avant d'alerter une direction, avant d'engager une réponse publique ? Ces trois seuils ne sont pas les mêmes, et les fixer à l'avance est ce qui distingue un dispositif d'un enchaînement de réactions improvisées.

Deuxième implication : la traçabilité vers la publication d'origine devient un critère d'outillage aussi important que la capacité d'analyse. Repérer les reprises, retrouver la première occurrence et suivre les variantes d'un même contenu est ce qui permet de qualifier une décontextualisation, cas que ni la détection ni la provenance ne traitent. NewsCore (www.newscore.fr) couvre en continu des millions de sources dans des dizaines de langues, relie les reprises successives d'un même contenu et conserve le lien vers la publication d'origine.

Troisième implication : les indicateurs de pilotage doivent changer. Compter les contenus vérifiés ne renseigne sur rien tant qu'on ne rapporte pas ce nombre à la part du flux couverte et au délai médian de décision. Un dispositif qui vérifie beaucoup, lentement, sur une fraction du flux, affiche un tableau de bord flatteur et laisse passer l'essentiel. C'est le point sur lequel la bascule vers la provenance offre le plus : elle rend enfin mesurable la couverture, qui restait jusqu'ici une inconnue.

Questions fréquentes

Quelle différence entre détecter un deepfake et prouver l'origine d'un contenu ?

La détection analyse le contenu lui-même et rend un jugement probabiliste sur sa fabrication, valable contre les techniques connues au moment de l'analyse. La preuve d'origine ne regarde pas le contenu mais sa chaîne de production, et rend une assertion vérifiable sur l'émetteur, la date et l'intégrité depuis la signature. La première répond à la question ce contenu a-t-il été généré, la seconde à la question d'où vient ce contenu. Ce ne sont pas deux degrés de la même vérification.

Un contenu authentifié est-il un contenu fiable ?

Non, et c'est la confusion la plus coûteuse. L'authentification établit qu'un contenu provient d'un émetteur identifié et n'a pas été modifié depuis. Elle n'établit ni que la scène représentée est ce qu'elle paraît, ni que la légende qui l'accompagne est exacte, ni que l'émetteur est de bonne foi. Un dispositif qui traiterait la présence d'une signature comme un feu vert remplacerait une vulnérabilité par une autre, plus difficile à repérer parce qu'elle se présente sous les apparences de la preuve.

Faut-il considérer comme suspect tout contenu non marqué ?

Pas mécaniquement. Tant que le marquage reste partiel, l'absence de marque recouvre trois situations très différentes : un émetteur non équipé, une transformation légitime ayant détruit les métadonnées, ou un contenu délibérément dépourvu de provenance. Traiter les trois de la même façon revient à pénaliser les émetteurs les moins dotés. La règle praticable consiste à faire de l'absence de marque un facteur d'orientation vers l'analyse, pas un verdict, et à écrire cette règle avant d'en avoir besoin.