C'est dès qu'un dossier est traité, validé et archivé qu'il est considéré comme définitif et que le document devient fiable. Or, un pipeline d'IA ne cesse pas d'intervenir sur les dossiers une fois ceux-ci archivés. Les tâches de réentraînement réintègrent d'anciens ensembles de données. Les agents retraitent les résultats " définitifs ". Les systèmes des fournisseurs modifient des dossiers qui étaient censés être clos. Aucune de ces actions n’est malveillante par nature, mais aucune n’est visible non plus – et c’est là que réside le problème. Si un fichier est modifié après le moment où tout le monde a décidé de lui accorder sa confiance, et rien n'a permis de consigner ce moment de confiance d'une manière qui permette par la suite de prouver qu'il y a eu falsification, vous n'avez aucun moyen de savoir si ce sur quoi vous vous basez aujourd'hui correspond bien à ce qui a été approuvé.
Ce n'est pas un problème de prévention. Vous ne pouvez pas et ne devez pas essayer d'empêcher qu'un fichier ne soit plus jamais modifié. C'est un problème de détection : toute modification intervenue après le moment où la confiance a été accordée doit pouvoir être prouvée, et non supposée — or, la plupart des programmes de conformité ne disposent d'aucun mécanisme à cet effet. Si votre piste d'audit repose entièrement sur des journaux, les deux sections suivantes expliquent pourquoi cela ne tiendra pas la route comme vous le pensez.
La surface que personne n'a cartographiée
Les pipelines d'IA ne sont pas des systèmes isolés : ce sont des chaînes. Les données sont importées, nettoyées, utilisées pour entraîner un modèle, validées par rapport à des ensembles de test, déployées en production, puis alimentent finalement un cycle de réentraînement qui relance la boucle. Chaque étape de cette chaîne constitue un point où l'état d'un fichier peut changer sans que personne ne le note officiellement.
Le paysage des menaces de l'ENISA à l'horizon 2025, d'après une analyse de 4 875 incidents survenus entre juillet 2024 et juin 2025, a révélé que les pirates s'attaquaient de plus en plus souvent aux modèles d'apprentissage automatique, publiaient des paquets contenant des chevaux de Troie et manipulaient les fichiers de configuration utilisés par les assistants de programmation — ce qui signifie que tC'est le pipeline lui-même, et pas seulement le résultat du modèle, qui constitue désormais une cible active. L'ampleur de l'exposition ne cesse de s'aggraver. Prévisions de Gartner pour 2025 en matière de données et d'analyse a révélé que d'ici 2027, 60% des responsables des données et de l'analyse seront confrontés à des défaillances critiques dans la gestion des données synthétiques, ce qui mettra en péril la gouvernance de l'IA, la précision des modèles et la conformité ; l'étude a également identifié la gestion des métadonnées comme un élément essentiel pour assurer un suivi, une vérification et une gestion responsables des données synthétiques.
Davantage de données, davantage de versions de modèles, davantage de contenu synthétique transitant par un nombre croissant d'étapes de transfert : la prolifération n'est pas un risque futur. C'est la norme actuelle, et La plupart des pipelines n'ont jamais été construits pour démontrer ce qui n'a pas changé.
La barre en matière de conformité réglementaire vient d'être relevée
Il ne s'agit plus seulement d'un enjeu opérationnel, mais aussi d'un enjeu réglementaire. Le Dispositions relatives à la gouvernance des données de la loi européenne sur l'IA permettre explicitement aux organisations de gérer les ensembles de données d'entraînement en tenant compte de facteurs tels que les processus de collecte des données, la préparation des données, les biais potentiels et les lacunes dans les données, et Considérant 67 confirme que cette exigence peut être satisfaite par des tiers proposant des services certifiés en matière de conformité, notamment vérification de la gouvernance des données, de l'intégrité des ensembles de données, ainsi que des pratiques en matière de préparation, de validation et de test des données. Considérant 133 va plus loin, en précisant le mécanisme concret attendu par les régulateurs : les prestataires devraient utiliser méthodes cryptographiques permettant de prouver la provenance et l'authenticité d'un contenu, ainsi que les filigranes, l'identification des métadonnées et les méthodes de journalisation. La directive DORA complique encore davantage la situation pour les entités financières en particulier — L'AMF française précise que les entreprises concernées doivent mettre en place une politique de sécurité de l'information afin de assurer la disponibilité, l'authenticité, l'intégrité et la confidentialité des données, faisant l'objet d'audits internes réguliers.
Un directeur général d'un cabinet d'avocats, répondant précisément à cette question, a parfaitement cerné ce changement : la question que posent désormais les autorités de régulation n'est plus " disposiez-vous de contrôles ? ", mais de savoir si un cabinet "permet de reconstituer, avec une valeur probante, ce que le système a fait, quand et pourquoi" - à plusieurs reprises, dans le cadre de véritables tests de résistance. C'est précisément cette distinction qui pose problème. Un journal vous indique qu'un événement s'est produit. Il ne prouve pas, en soi, que l'enregistrement de cet événement – ni le fichier sous-jacent – n'ait pas été altéré depuis. Un enregistrement stocké dans une base de données modifiable n’est pas inviolable, quelle que soit la personne qui y a accès, et La protection anti-falsification nécessite un mécanisme - un enchaînement cryptographique, un support à écriture unique ou tout autre système équivalent - permettant de détecter toute modification. Selon cette même analyse, les autorités de régulation considèrent l'absence de dispositif anti-falsification comme une lacune dans la piste d'audit elle-même. " Nous disposons de journaux " n'est pas la même affirmation que " nous ne pouvons pas prouver que rien n'a changé "," Et, dans le cadre de la loi DORA et de la loi sur l'IA, c'est précisément cette lacune qui sera mise à l'épreuve lors d'un contrôle de surveillance ou d'un incident contesté.
À quoi ressemble l'intégrité vérifiable ?
La solution ne consiste pas à empêcher toute modification de tout fichier — ce qui n’est ni réaliste ni souhaitable dans un système censé continuer à apprendre. La solution consiste à rendre détectable toute modification apportée après un moment donné, de manière indépendante et sans exposer le contenu sous-jacent. Cela implique de générer une empreinte cryptographique d’un fichier dès sa validation, d’ancrer cette empreinte en externe afin qu’elle ne puisse pas être réécrite à l’insu de tous, puis de revérifier ultérieurement le fichier par rapport à cette empreinte pour confirmer — ou infirmer — qu’il est resté inchangé.
Les recommandations du NIST relatives à la sécurisation des pipelines d'entraînement de l'IA préconisent précisément cette approche: si l'on utilise des ensembles de données d'apprentissage pré-assemblés, il convient d'utiliser, dans la mesure du possible, des données signées afin de garantir leur intégrité et leur provenance peuvent être tracées de manière cryptographique, cette approche pouvant être étendue aux données d'évaluation.
Des travaux universitaires récents formalisent les conditions à remplir pour garantir cela : structures de preuves cryptographiques pour les flux de travail d'IA réglementés doit fournir des preuves contraignantes, permettant de détecter toute altération et ne laissant place à aucune ambiguïté, validées selon des hypothèses cryptographiques standard plutôt que selon des conventions de journalisation ad hoc — et ces mêmes recherches montrent que cela est réalisable avec une surcharge par événement faible et prévisible sur du matériel standard, ainsi, la sécurité ne doit pas nécessairement se faire au détriment des performances.
C'est là le véritable test de défendabilité, et c'est celui que votre architecture actuelle réussit ou échoue : lorsqu'un régulateur, un auditeur ou l'avocat de la partie adverse vous demande comment vous savez qu'un fichier n'a pas été modifié après la date que vous avancez, pouvez-vous répondre en fournissant une preuve vérifiable de manière indépendante — ou seulement à l'aide de vos propres journaux, qui Les études menées par Gartner sur la gouvernance Cela laisse entendre que la plupart des organisations ne sont pas encore en mesure de mettre en œuvre ces mesures au niveau attendu par les autorités de régulation, car très peu d'entreprises ont réussi à mettre en œuvre leurs cadres de gouvernance de l'IA au-delà du stade des politiques.
La solution « scellée et vérifiable » l'emporte sur la solution « enregistrée et fiable », à chaque fois qu'elle est testée. Si vous n'êtes pas en mesure, à l'heure actuelle, de prouver que vos dossiers post-autorisation n'ont pas subi de modifications, il serait judicieux de combler cette lacune avant qu'une autorité de régulation ne la constate à votre place.
.
Essayez-le gratuitement, sans engagement :
Vérificateur de vérité pour les créateurs de propriété intellectuelle : https://truth-verifier.com/landing
Vérificateur de vérité pour les journalistes : https://truthverifier.news/landing
N'hésitez pas à nous contacter pour un bilan gratuit et un entretien : https://www.connecting-software.com/truth-enforcer-sign-up/
Par Francisco RodriguesChef de produit
"J'écris sur la façon dont les intégrations logicielles peuvent s'adapter aux environnements commerciaux et répondre aux demandes spécifiques de l'industrie. Je veux montrer aux entreprises la voie à suivre pour rationaliser les processus, éliminer les goulets d'étranglement et garantir la conformité en dotant les équipes et les dirigeants des bons outils."
Lectures connexes
Responsables de la sécurité des systèmes d'information (RSSI) du secteur public : l'intégrité des données dans le cloud au-delà de l'architecture « Zero Trust »
Intégrité des données DORA : Ce qu'exige le “standard le plus élevé” en réalité
Le problème de la modification : Règle 613 de la SEC - Conformité CAT avec des données dont vous pouvez prouver qu'elles n'ont jamais été touchées