Op het moment dat een dossier wordt verwerkt, goedgekeurd en gearchiveerd – dan wordt het als definitief beschouwd en wordt het dossier betrouwbaar. Maar een AI-pijplijn blijft dossiers bewerken, ook nadat ze zijn gearchiveerd. Bij hertrainingsopdrachten worden oude datasets opnieuw ingelezen. Medewerkers verwerken "definitieve" resultaten opnieuw. Systemen van leveranciers passen records aan die eigenlijk al afgesloten hadden moeten zijn. Dit is allemaal niet met opzet gedaan, maar het is ook allemaal niet zichtbaar – en dat is het probleem. Als een bestand verandert na het moment waarop iedereen ermee had ingestemd het te vertrouwen, en er is niets dat dat moment van vertrouwen zodanig heeft vastgelegd dat later kan worden aangetoond dat er mee is geknoeid, je kunt onmogelijk weten of datgene waarop je je vandaag baseert, ook daadwerkelijk is goedgekeurd.
Dit is geen preventieprobleem. Je kunt en mag niet proberen elk bestand zo te beveiligen dat er nooit meer iets aan veranderd kan worden. Het is een detectieprobleem: wijzigingen na het moment van vertrouwen moeten aantoonbaar zijn, niet alleen verondersteld – en de meeste complianceprogramma’s beschikken daar helemaal niet over. Als je audittrail volledig op logbestanden is gebaseerd, wordt in de volgende twee paragrafen uitgelegd waarom dat niet zo goed zal werken als je denkt.
Het gebied dat niemand in kaart heeft gebracht
AI-pijplijnen zijn geen afzonderlijke systemen, maar ketens. Gegevens worden ingevoerd, opgeschoond, gebruikt om een model te trainen, getoetst aan testdatasets, in productie genomen en uiteindelijk ingezet voor een hertrainingscyclus, waardoor de lus opnieuw begint. Elke overdracht in die keten is een moment waarop de status van een bestand kan veranderen zonder dat iemand dit formeel vastlegt.
Het dreigingsbeeld van ENISA voor 2025, gebaseerd op 4.875 incidenten die tussen juli 2024 en juni 2025 zijn geanalyseerd, bleek dat aanvallers steeds vaker machine learning-modellen besmetten, met trojans geïnfecteerde pakketten publiceerden en configuratiebestanden manipuleerden die door programmeerassistenten worden gebruikt – wat betekent dat tDe pijplijn zelf, en niet alleen de output van het model, is nu een actief doelwit. De omvang van het risico neemt steeds verder toe. Gartners voorspellingen voor 2025 op het gebied van data en analytics uit onderzoek bleek dat tegen 2027 60% van de leiders op het gebied van data en analytics te maken zullen krijgen met ernstige tekortkomingen bij het beheer van synthetische data, waardoor het AI-beheer, de nauwkeurigheid van modellen en de naleving van regelgeving in het gedrang komen; bovendien werd metadata-beheer aangemerkt als essentieel voor het op verantwoorde wijze volgen, verifiëren en beheren van synthetische data.
Meer gegevens, meer modelversies, meer synthetische inhoud die door steeds meer tussenstappen gaat – de toename is geen risico voor de toekomst. Het is de huidige norm, en De meeste pijpleidingen zijn nooit aangelegd om aan te tonen wat er niet is veranderd.
De lat voor naleving van regelgeving is net hoger gelegd
Dit is niet langer alleen een operationele kwestie – het is ook een kwestie van regelgeving. De De bepalingen inzake gegevensbeheer in de EU-AI-wet organisaties uitdrukkelijk toestaan om trainingsdatasets te beheren, waarbij rekening wordt gehouden met factoren zoals gegevensverzamelingsprocessen, gegevensvoorbereiding, mogelijke vertekeningen en gegevenslacunes, en Overweging 67 bevestigt dat hieraan kan worden voldaan via derde partijen die gecertificeerde nalevingsdiensten aanbieden, waaronder controle van het gegevensbeheer, de integriteit van datasets en de werkwijzen op het gebied van gegevenstraining, -validatie en -testen. Overweging 133 gaat nog een stap verder en noemt het concrete mechanisme dat de toezichthouders verwachten: aanbieders moeten gebruikmaken van cryptografische methoden om de herkomst en authenticiteit van inhoud aan te tonen, naast watermerken, het identificeren van metadata en logboekmethoden. DORA maakt dit met name voor financiële instellingen nog ingewikkelder – De Franse AMF bevestigt dat de betrokken ondernemingen een beleid inzake informatiebeveiliging moeten hanteren om de beschikbaarheid, authenticiteit, integriteit en vertrouwelijkheid van gegevens waarborgen, die op regelmatige basis intern wordt gecontroleerd.
Een algemeen directeur van een advocatenkantoor verwoordde, in reactie op precies deze kwestie, deze verschuiving treffend: de vraag die toezichthouders stellen is niet langer "hadden jullie controlemaatregelen?", maar of een kantoor "kan op basis van bewijsmateriaal reconstrueren wat het systeem heeft gedaan, wanneer en waarom" - herhaaldelijk, onder reële stresstests. Juist dat onderscheid is het hele probleem. Een logboek geeft aan dat er een gebeurtenis heeft plaatsgevonden. Het bewijst op zichzelf echter niet dat het verslag van die gebeurtenis – of het onderliggende bestand – sindsdien niet is gewijzigd. Een record dat is opgeslagen in een bewerkbare database is niet fraudebestendig, ongeacht wie er toegang toe heeft, en Om manipulatieaantonen mogelijk te maken, is een mechanisme nodig - cryptografische koppeling, eenmalig beschrijfbare opslag of iets vergelijkbaars – waardoor wijzigingen kunnen worden opgespoord. Volgens dezelfde analyse beschouwen toezichthouders het ontbreken van een bewijs van manipulatie als een tekortkoming in het controlespoor zelf. "We hebben logbestanden" is niet hetzelfde als zeggen: "we kunnen niet bewijzen dat er iets is veranderd," En in het kader van DORA en de AI-wet is dat precies de lacune die bij een toezichtscontrole of een betwist incident aan het licht zal komen.
Hoe aantoonbare integriteit eruitziet
De oplossing bestaat er niet in te voorkomen dat elk bestand ooit wordt gewijzigd – dat is noch realistisch, noch wenselijk in een systeem dat voortdurend moet blijven leren. De oplossing is ervoor te zorgen dat elke wijziging na een bepaald tijdstip detecteerbaar is, op een onafhankelijke manier en zonder de onderliggende inhoud bloot te leggen. Dat betekent dat er een cryptografische vingerafdruk van een bestand wordt gegenereerd zodra het is goedgekeurd, dat die vingerafdruk extern wordt vastgelegd zodat het bestand niet stilletjes kan worden herschreven, en dat het bestand later opnieuw tegen die vingerafdruk wordt getoetst om te bevestigen – of te weerleggen – dat het ongewijzigd is gebleven.
In de op NIST gebaseerde richtlijnen voor het beveiligen van AI-trainingspijplijnen wordt precies dit patroon aanbevolen: indien er gebruik wordt gemaakt van vooraf samengestelde trainingsdatasets, dient waar mogelijk gesigneerde data te worden gebruikt om de integriteit en herkomst ervan waarborgen kunnen cryptografisch worden getraceerd, waarbij dezelfde aanpak ook wordt toegepast op evaluatiegegevens.
In recent wetenschappelijk onderzoek wordt formeel vastgelegd wat hiervoor nodig is: cryptografische bewijsstructuren voor gereguleerde AI-workflows moet bewijs leveren dat bindend is, manipulatiebestendig en ondubbelzinnig, en dat is aangetoond op basis van standaard cryptografische aannames in plaats van ad-hoc logboekconventies – en uit hetzelfde onderzoek blijkt dat dit haalbaar is met een kleine en voorspelbare overhead per gebeurtenis op standaardhardware, dus verdedigbaarheid hoeft niet ten koste te gaan van de prestaties.
Dit is de daadwerkelijke toets of je standpunt verdedigbaar is, en het is de toets waaraan je huidige architectuur al dan niet voldoet: wanneer een toezichthouder, auditor of de advocaat van de tegenpartij vraagt hoe je weet dat een bestand niet is gewijzigd na de datum die je opgeeft, kun je dan antwoorden met een onafhankelijk verifieerbaar bewijs – of alleen met je eigen logbestanden, die Gartners eigen onderzoek naar governance Dit wijst erop dat de meeste organisaties nog niet in staat zijn om op het door de toezichthouders verwachte niveau te functioneren, aangezien slechts zeer weinig ondernemingen erin zijn geslaagd hun AI-governancekaders verder te ontwikkelen dan de beleidsfase.
"Verzegeld en verifieerbaar" is altijd beter dan "geregistreerd en betrouwbaar", telkens wanneer dit wordt getest. Als u op dit moment niet kunt aantonen dat uw documenten na goedkeuring niet zijn gewijzigd, is het de moeite waard om die leemte op te vullen voordat een toezichthouder deze voor u ontdekt.
.
Probeer het gratis uit – geheel vrijblijvend:
Waarheidscontroleur voor IP-makers: https://truth-verifier.com/landing
Waarheidscontroleur voor journalisten: https://truthverifier.news/landing
Neem contact met ons op voor een gratis beoordeling en gesprek: https://www.connecting-software.com/truth-enforcer-sign-up/
Door Francisco Rodrigues, Product Manager
"Ik schrijf over hoe software-integraties zich kunnen aanpassen aan bedrijfsomgevingen en kunnen inspelen op branchespecifieke eisen. Ik wil ondernemingen de weg wijzen om processen te stroomlijnen, knelpunten te elimineren en compliance te garanderen door teams en C-suite executives te voorzien van de juiste tools."