Die Artikel 12 des EU-KI-Gesetzes schreibt vor, dass KI-Systeme mit hohem Risiko Ereignisse automatisch protokollieren müssen, doch ein Protokoll, das nachträglich unbemerkt bearbeitet werden kann, hat für die Aufsichtsbehörden nur geringe Beweiskraft. Speziell bei agentenbasierter KI, Artikel 14'die Anforderung einer menschlichen Überwachung und Artikel 3Der Begriff der 'wesentlichen Änderung" in (23) führt zu einer Beweislast, die durch gewöhnliche Protokollierung nicht erfüllt wird.
Wenn Sie agentenbasierte KI in der Produktion einsetzen, verfügen Sie bereits über Protokolle – Artikel 12 ist erfüllt, sofern diese den Anforderungen entsprechen. Schwieriger wird es, wenn eine Aufsichtsbehörde, ein Prüfer oder Ihr eigenes Incident-Response-Team zum ersten Mal genau rekonstruieren muss, was ein Agent getan hat, und ob der dies belegende Datensatz seitdem nicht unbemerkt und ohne dass es bemerkt wurde, verändert wurde. Die meisten Unternehmen erkennen die Kluft zwischen "Wir protokollieren alles" und "Wir können nachweisen, dass nichts verändert wurde" erst, wenn ein Vorfall diese Frage zwingend aufwirft. Dieser Artikel behandelt, welche Anforderungen das EU-KI-Gesetz an agentische Systeme hinsichtlich der Nachweisführung stellt, warum die Frist, auf die sich die meisten Teams derzeit vorbereiten, bereits falsch ist, und was ein Ebene der stichhaltigen Beweise wie das aussieht.
Die Falle des Artikels 12: Protokollierung ist kein Beweis
Artikel 12 schreibt vor, dass risikoreiche KI-Systeme technisch in der Lage sein müssen, Ereignisse über ihren gesamten Lebenszyklus hinweg automatisch aufzuzeichnen, und zwar in einem Umfang, der ausreicht, um aufkommende Risiken zu erkennen, die Überwachung nach dem Inverkehrbringen zu unterstützen und die Kontrolle über den Betrieb des Systems zu ermöglichen. Die Bestimmung lautet genau in Bezug auf die Absicht Und was den Mechanismus angeht – es wird keine bestimmte Methode zur Manipulationssicherung vorgeschrieben, was bedeutet, dass ein Protokoll, das ein Administrator im Nachhinein unbemerkt bearbeiten kann, technisch gesehen zwar dem Wortlaut von Artikel 12 entspricht, aber nur minimalen Nutzen bietet, sobald jemand es verteidigen muss.
Diese Das Fehlen einer Aufsicht durch die Unternehmensführung ist keine hypothetische Situation. Deloittes Bericht „State of AI 2026“ Die „Enterprise“-Umfrage – an der 3.235 Führungskräfte aus 24 Ländern teilnahmen – ergab, dass nur jedes fünfte Unternehmen über ein ausgereiftes Governance-Modell für agentenbasierte KI verfügt, obwohl drei Viertel davon ausgehen, dass sie innerhalb eines Jahres in mäßigem bis umfangreichem Umfang Agenten einsetzen werden. KPMGs „AI Pulse“-Umfrage zum 4. Quartal Führungskräfte stufen Sicherheit, Compliance und Überprüfbarkeit mittlerweile als wichtigste Anforderungen für den Einsatz von Agenten ein – noch vor der Geschwindigkeit. Der stark regulierte Teil des Marktes ist zu dem Schluss gekommen, dass Nachvollziehbarkeit wichtiger ist als Geschwindigkeit., während der Reifegrad der Governance bei etwa 21% liegt. Die Annahme, dass "wir ein SIEM haben", bereits als Compliance gilt, ist eine Falle: Ein vollständiges Protokoll in einer beschreibbaren Datenbank ist ein Beweis für die Absicht, nicht für die Integrität.
Was Agenten zur Beweislast beitragen
Ein eigenständiges Modell, das auf eine Eingabe reagiert, ist ein begrenztes Ereignis. Ein Agent, der plant, systemübergreifend Werkzeuge einsetzt und sich zur Laufzeit anpasst, ist dies nicht – jede dieser Eigenschaften vergrößert die Kluft zwischen dem, was protokolliert wurde, und dem, was tatsächlich geschehen ist. Der derzeit strengste Wissenschaftliche Kartierung agentischer Systeme In einer im April 2026 veröffentlichten Stellungnahme gegen den AI Act, an der Forscher unter anderem von ForHumanity Europe und SaferAI mitgewirkt haben, wird eine pointierte Feststellung getroffen: Da Modelle anhand von Daten trainiert werden, die Beispiele für Umgehung der Aufsicht, die Möglichkeit, dass Ein Akteur umgeht die menschliche Kontrolle lässt sich nicht allein durch Anweisungen ausschließen – selbst wenn dies ausdrücklich verboten ist.
In derselben Studie wird die Verhaltensabweichung während der Laufzeit als das schwierigste ungelöste Problem im Rahmen des Kriteriums der 'wesentlichen Änderung" gemäß Artikel 3 Absatz 23 bezeichnet. Eine vorhersehbare Anpassung – die Auswahl eines Werkzeugs aus einem dokumentierten Katalog – löst dies nicht aus. Ein Agent, der neuartige Muster des Werkzeugeinsatzes entdeckt oder bisher nicht bewertete Strategien entwickelt, tut dies hingegen. Die Schlussfolgerung der Studie ist eindeutig: Wenn ein Anbieter nicht nachweisen kann, dass das Verhalten eines Agenten innerhalb der bewerteten Grenzen bleibt, und Abweichungen außerhalb dieser Grenzen nicht erkennen kann, werden die wesentlichen Anforderungen an die Überwachung und Protokollierung nicht erfüllt – und zwar als aktuelle Rechtslage, nicht als zukünftiges Risiko.
Wie es um die Compliance tatsächlich steht – und welche Nachweise dafür erforderlich sind
Im Anschluss an die Politische Einigung über den „Digital Omnibus“ der EU, hat die Europäische Kommission bestätigt, dass die Vorschriften für die aufgeführten Hochrisikobereiche – Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Migration und Grenzkontrolle – nun ab 2. Dezember 2027. Beachten Sie, dass der 2. August 2026 weiterhin von Bedeutung ist, allerdings nur im Hinblick auf die Transparenzpflichten gemäß Artikel 50 und Allzweck-KI-Modell Verpflichtungen.
Diese Vorgehensweise löst das Problem der Beweissicherung nicht – sie verändert lediglich die Definition dessen, was unter "bereit" zu verstehen ist. Die spanische Datenschutzbehörde veröffentlichte die ersten EU-Leitlinien, in denen die Agentenarchitektur selbst als Gegenstand der Analyse betrachtet wird. Dabei wird der persistente Agenten-Speicher als risikoreicher Bereich eingestuft, der eine Kompartimentierung sowie technische Unterstützung bei der Löschung erfordert – ebenso wie die abgegrenzte, Prüfbares Design – ein Ansatz zur Wahrung der Integrität der Nachweise das ohnehin erforderlich ist. In der Praxis bedeutet das: Behandeln Sie jedes Governance-Artefakt – Risikobewertung, Genehmigungsprotokoll, Bereitstellungskonfiguration – als etwas, das Sie bei der Genehmigung kryptografisch signieren und mit einem Zeitstempel versehen, sodass jede spätere Änderung nachweisbar ist, selbst wenn das Artefakt niemals nach außen gelangt. Das Ziel besteht nicht darin, die Governance einzufrieren; Richtlinien entwickeln sich weiter. Das Ziel ist, dass Änderungen nachweisbar sind und nicht nur behauptet werden. Das gewinnt wirtschaftlich schnell an Bedeutung: Gartner prognostiziert Rechtsansprüche im Zusammenhang mit KI wird bis Ende 2026 die 2.000er-Marke überschreiten, was vor allem auf unzureichende Sicherheitsvorkehrungen und fehlende Prüfpfade zurückzuführen ist.
Die Entscheidung gegenüber den Vorgesetzten verteidigen
Nichts davon allein beendet die Diskussion über den ROI – Die weltweite Umfrage der ISACA aus dem Jahr 2026 von über 3.400 Fachleuten für digitale Vertrauenslösungen Nur 22% geben an, dass der ROI der KI die Erwartungen erfüllt hat. Ausschlaggebend wird sein, die Integrität der Daten als das zu positionieren, was jede andere KI-Investition ausmacht im Nachhinein vertretbar - schnellere Rekonstruktion von Vorfällen, weniger strittige Prüfungsfeststellungen, eine dokumentierte Antwort auf die Frage, ob das, was tatsächlich läuft, auch dem genehmigten Stand entspricht. Das lässt sich gegenüber der Geschäftsleitung leichter begründen als ein bloßes "Vertrauen Sie unserem Beauftragten", und genau das wird Ihr Prüfer überprüfen.
Sollte der Prüfpfad Ihres Maklers einer zweiten Überprüfung durch die Aufsichtsbehörde morgen nicht standhalten, sollten Sie dies noch vor Dezember 2027 beheben – und nicht erst danach.
.
Möchten Sie sehen, wie eine unabhängige Integritätsprüfung in der Praxis aussieht?
Probieren Sie es kostenlos aus – ganz unverbindlich:
Wahrheitsüberprüfer für IP-Schöpfer: https://truth-verifier.com/landing
Wahrheitsüberprüfer für Journalisten: https://truthverifier.news/landing
Kontaktieren Sie uns, um die Einführung von Truth Enforcer in Ihrem Unternehmen zu besprechen: https://www.connecting-software.com/truth-enforcer-sign-up/
Durch Francisco Rodrigues, Produktmanager
"Ich schreibe darüber, wie sich Software-Integrationen an Geschäftsumgebungen anpassen und auf branchenspezifische Anforderungen reagieren können. Ich möchte Unternehmen den Weg zeigen, wie sie Prozesse rationalisieren, Engpässe beseitigen und die Einhaltung von Vorschriften sicherstellen können, indem sie Teams und Führungskräfte mit den richtigen Tools ausstatten."