Il sito Articolo 12 della legge dell’UE sull’intelligenza artificiale impone ai sistemi di IA ad alto rischio di registrare automaticamente gli eventi, ma un registro che possa essere modificato di nascosto a posteriori ha scarso valore probatorio agli occhi delle autorità di regolamentazione. Per quanto riguarda in particolare l’IA agentica, Articolo 14'il requisito relativo alla supervisione umana e Articolo 3Il concetto di 'modifica sostanziale" di cui al punto (23) crea un onere probatorio che l’ordinaria registrazione non soddisfa.
Se state utilizzando un'IA a agenti in ambiente di produzione, disponete già di registri: l'articolo 12 è soddisfatto se questi sono conformi ai requisiti. La parte più difficile emerge la prima volta che un'autorità di regolamentazione, un revisore o il vostro stesso team di risposta agli incidenti ha bisogno di ricostruire esattamente ciò che un agente ha fatto e di verificare se il registro che lo prova non sia stato modificato di nascosto, senza che nessuno se ne accorgesse. La maggior parte delle organizzazioni scopre il divario tra "registriamo tutto" e "non possiamo dimostrare che nulla sia stato alterato" solo dopo che un incidente costringe a porsi la domanda. Questo articolo illustra cosa richiede la legge UE sull’IA ai sistemi agenti in materia di prove, perché la scadenza su cui la maggior parte dei team sta pianificando il proprio lavoro è ormai errata e cosa un livello delle prove difendibili come appare.
La trappola dell’articolo 12: i registri non costituiscono una prova
Articolo 12 impone che i sistemi di intelligenza artificiale ad alto rischio consentano tecnicamente la registrazione automatica degli eventi durante tutto il loro ciclo di vita, in misura sufficiente a identificare i rischi emergenti, a supportare il monitoraggio post-commercializzazione e a consentire la supervisione del funzionamento del sistema. La disposizione è preciso riguardo all'intento e, per quanto riguarda il meccanismo, non impone alcun metodo specifico di prevenzione delle manomissioni; ciò significa che un registro che un amministratore può modificare silenziosamente a posteriori soddisfa tecnicamente la lettera dell’articolo 12, pur offrendo un valore minimo nel momento in cui qualcuno debba difenderlo.
Questo la mancanza di controllo da parte delle autorità di governance non è un'ipotesi. Il rapporto di Deloitte sullo stato dell'IA nel 2026 Dal sondaggio Enterprise — condotto su 3.235 dirigenti in 24 paesi — è emerso che solo un'organizzazione su cinque dispone di un modello di governance maturo per l'IA agentica, nonostante tre quarti di esse prevedano un utilizzo da moderato a esteso degli agenti entro un anno. Sondaggio "AI Pulse" di KPMG relativo al quarto trimestre È emerso che i dirigenti considerano ormai la sicurezza, la conformità e la verificabilità come i requisiti principali per l’implementazione degli agenti, prima ancora della velocità. La parte del mercato soggetta a una forte regolamentazione ha stabilito che la verificabilità è più importante della velocità, mentre la maturità della governance si attesta intorno a 21%. Considerare il fatto di "disporre di un SIEM" come un requisito di conformità è una trappola: un log completo in un database modificabile è prova di intento, non di integrità.
Il contributo degli agenti all'onere probatorio
Un modello autonomo che risponde a un prompt è un evento circoscritto. Un agente che pianifica, ricorre a strumenti in diversi sistemi e si adatta durante l’esecuzione non lo è: ciascuna di queste proprietà amplia il divario tra ciò che è stato registrato e ciò che è realmente accaduto. L’approccio attuale più rigoroso mappatura accademica dei sistemi agenziali Il documento contro l’AI Act, pubblicato nell’aprile 2026 da un gruppo di ricercatori, tra cui alcuni collaboratori di ForHumanity Europe e SaferAI, formula un’osservazione pertinente: poiché i modelli vengono addestrati su dati contenenti esempi di elusione dei controlli, la possibilità che un agente elude il controllo umano non può essere escluso solo sulla base delle istruzioni - anche quando è espressamente vietato.
La stessa ricerca definisce la deriva comportamentale in fase di esecuzione come il problema aperto più complesso nell’ambito del criterio di 'modifica sostanziale" di cui all’articolo 3, paragrafo 23. L’adattamento anticipato – ovvero la selezione di strumenti da un catalogo documentato – non la fa scattare. Un agente che scopra nuovi modelli di utilizzo degli strumenti o sviluppi strategie mai valutate, invece, lo fa. La conclusione dell’articolo è netta: se un fornitore non è in grado di dimostrare che il comportamento di un agente rimanga entro i limiti valutati, né di rilevare eventuali derive al di fuori di essi, i requisiti essenziali in materia di supervisione e registrazione non vengono soddisfatti – e si tratta di una situazione giuridica attuale, non di un rischio futuro.
Qual è la situazione attuale in materia di conformità – e quali prove sono necessarie
A seguito del Accordo politico sull’Omnibus digitale dell’UE, la Commissione europea ha confermato che le norme relative ai settori ad alto rischio elencati – dati biometrici, infrastrutture critiche, istruzione, occupazione, migrazione e controllo delle frontiere – si applicano ora a partire dal 2 dicembre 2027. Si noti che il 2 agosto 2026 rimane una data rilevante, ma solo ai fini degli obblighi di trasparenza previsti ai sensi di Articolo 50 e modello di IA generico obblighi.
Quella via d'uscita non risolve il problema delle prove, ma cambia il significato stesso del termine "pronto". L’autorità spagnola per la protezione dei dati ha pubblicato le prime linee guida dell’UE che considerano l’architettura dell’agente stessa come oggetto di analisi, segnalando la memoria persistente dell’agente come un’area ad alto rischio che richiede compartimentazione e supporto tecnico per la cancellazione – la stessa limitata, progettazione verificabile: un approccio basato sull'integrità delle prove è comunque necessario. In pratica: considerate ogni artefatto di governance – valutazione dei rischi, registro delle approvazioni, configurazione di implementazione – come qualcosa a cui attribuire un’impronta crittografica e un timestamp al momento dell’approvazione, in modo che qualsiasi modifica successiva sia rilevabile anche se l’artefatto non viene mai esposto all’esterno. L’obiettivo non è quello di congelare la governance; le politiche si evolvono. L’obiettivo è che, quando cambiano, ciò sia dimostrabile, non solo dichiarato. Questo sta rapidamente acquisendo rilevanza commerciale: Previsioni di Gartner Controversie legali relative all'intelligenza artificiale supererà quota 2.000 entro la fine del 2026, dovuto in gran parte a misure di sicurezza insufficienti e alla mancanza di tracciabilità.
Difendere la decisione a livelli superiori
Nessuno di questi aspetti basta da solo a chiudere il dibattito sul ROI - Sondaggio globale 2026 dell'ISACA su oltre 3.400 professionisti del settore della fiducia digitale individuati solo 22% affermano che il ROI dell’IA ha soddisfatto le aspettative. Ciò che farà davvero la differenza sarà presentare l’integrità delle prove come l’elemento che rende ogni altro investimento nell’IA giustificabile a posteriori - ricostruzione più rapida degli incidenti, minor numero di risultati di audit contestati, una risposta documentata quando qualcuno chiede se ciò che è in esecuzione corrisponda a quanto approvato. È un argomento più facile da sostenere nei confronti dei superiori rispetto a un semplice "fidatevi del nostro agente", ed è proprio quello che il vostro revisore verificherà.
Se la tracciabilità dei dati del vostro agente non fosse in grado di superare un secondo controllo da parte delle autorità di vigilanza domani, è opportuno risolvere la questione prima del dicembre 2027, non dopo.
.
Vuoi vedere come funziona nella pratica una verifica indipendente dell'integrità?
Provalo gratuitamente, senza alcun impegno:
Verificatore di verità per i creatori di PI: https://truth-verifier.com/landing
Verificatore di verità per giornalisti: https://truthverifier.news/landing
Contattaci per discutere dell'implementazione aziendale di Truth Enforcer: https://www.connecting-software.com/truth-enforcer-sign-up/
Da Francisco Rodrigues, Responsabile di prodotto
"Scrivo di come le integrazioni software possano adattarsi agli ambienti aziendali e rispondere alle esigenze specifiche del settore. Voglio mostrare alle aziende la strada per snellire i processi, eliminare i colli di bottiglia e garantire la conformità, mettendo a disposizione dei team e dei dirigenti C-suite gli strumenti giusti".