Nel momento in cui un file viene elaborato, approvato e archiviato, è allora che viene considerato definitivo e il documento diventa attendibile. Ma una pipeline di intelligenza artificiale non smette di intervenire sui file una volta che questi sono stati archiviati. Le attività di riaddestramento reimportano i vecchi set di dati. Gli agenti rielaborano i risultati "definitivi". I sistemi dei fornitori modificano i record che avrebbero dovuto essere chiusi. Nulla di tutto ciò è intenzionale, ma nulla è nemmeno visibile: ed è proprio questo il problema. Se un file subisce delle modifiche dopo il momento in cui tutti hanno deciso di considerarlo attendibile, e nulla ha immortalato quel momento di fiducia in un modo tale da poter dimostrare in seguito che vi sia stata manomissione, non hai modo di sapere se ciò su cui ti basi oggi sia effettivamente ciò che è stato approvato.
Non si tratta di un problema di prevenzione. Non è possibile, né si dovrebbe cercare di impedire che ogni singolo file venga mai più modificato. È un problema di rilevamento: qualsiasi alterazione successiva al momento in cui il file è stato ritenuto affidabile deve essere dimostrabile, non semplicemente supposta – e la maggior parte dei programmi di conformità non dispone affatto di alcun meccanismo a tal fine. Se la vostra traccia di audit si basa interamente sui log, le prossime due sezioni spiegano perché ciò non funzionerà come pensate.
La superficie che nessuno ha mai mappato
Le pipeline di intelligenza artificiale non sono sistemi singoli, ma catene. I dati entrano, vengono puliti, vengono utilizzati per addestrare un modello, vengono convalidati rispetto a set di test, vengono distribuiti in produzione e, infine, alimentano un ciclo di riaddestramento che fa ripartire il ciclo da capo. Ogni passaggio di consegne in quella catena rappresenta un punto in cui lo stato di un file può cambiare senza che nessuno se ne accorga formalmente.
Il panorama delle minacce dell'ENISA per il 2025, sulla base di 4.875 incidenti analizzati tra luglio 2024 e giugno 2025, ha rilevato che gli autori degli attacchi hanno sempre più spesso compromesso i modelli di apprendimento automatico, pubblicato pacchetti contenenti trojan e manipolato i file di configurazione utilizzati dagli assistenti di programmazione - il che significa che tora è la pipeline stessa, e non solo l'output del modello, a costituire un obiettivo attivo. L'entità dell'esposizione sta aumentando in modo esponenziale. Previsioni di Gartner per il 2025 in materia di dati e analisi ha rilevato che entro il 2027, il 60% dei responsabili dei dati e dell’analisi si troverà ad affrontare gravi problemi nella gestione dei dati sintetici, mettendo a rischio la governance dell’IA, l’accuratezza dei modelli e la conformità, e ha identificato la gestione dei metadati come essenziale per tracciare, verificare e gestire i dati sintetici in modo responsabile.
Più dati, più versioni dei modelli, più contenuti sintetici che passano attraverso un numero sempre maggiore di passaggi: la proliferazione non è un rischio futuro. È la realtà attuale, e La maggior parte delle condutture non è mai stata costruita per dimostrare ciò che non è cambiato.
Gli standard di conformità normativa sono appena cambiati
Non si tratta più solo di una questione operativa, ma anche di una questione normativa. Il Le disposizioni in materia di governance dei dati contenute nella legge dell'UE sull'intelligenza artificiale consentano espressamente alle organizzazioni di gestire i set di dati di addestramento tenendo conto di fattori quali i processi di raccolta dei dati, la preparazione dei dati, i potenziali pregiudizi e le lacune nei dati, e Considerando 67 conferma che tale requisito può essere soddisfatto tramite soggetti terzi che offrono servizi di conformità certificati, tra cui verifica della governance dei dati, dell'integrità dei set di dati e delle pratiche relative alla preparazione, alla convalida e al collaudo dei dati. Considerando 133 va oltre, indicando il meccanismo concreto che le autorità di regolamentazione si aspettano: i fornitori dovrebbero utilizzare metodi crittografici per dimostrare la provenienza e l'autenticità dei contenuti, oltre alle filigrane, all’identificazione dei metadati e ai metodi di registrazione. DORA complica ulteriormente la situazione proprio per gli enti finanziari - L'AMF francese conferma che le imprese interessate devono adottare una politica in materia di sicurezza delle informazioni al fine di garantire la disponibilità, l'autenticità, l'integrità e la riservatezza dei dati, sottoposto a revisione interna a cadenza regolare.
Un amministratore delegato di uno studio legale, rispondendo proprio a questa questione, ha descritto con precisione il cambiamento: la domanda che le autorità di regolamentazione pongono non è più "avevate dei controlli?", ma se uno studio "è in grado di ricostruire, con valore probatorio, cosa ha fatto il sistema, quando e perché" - ripetutamente, nel corso di veri e propri test di stress. È proprio questa distinzione il nocciolo della questione. Un log indica che un evento si è verificato. Di per sé, però, non dimostra che la registrazione di quell’evento – o il file sottostante – non sia stata alterata da allora. Una registrazione memorizzata in un database scrivibile non è a prova di manomissione, indipendentemente da chi vi abbia accesso, e La funzione antimanomissione richiede un meccanismo - concatenamento crittografico, supporto di memorizzazione a scrittura singola o equivalente - che consenta di rilevare eventuali modifiche. Secondo la stessa analisi, le autorità di regolamentazione considerano l’assenza di prove di manomissione come una lacuna nella stessa traccia di audit. "Abbiamo i registri" non equivale ad affermare che "non possiamo dimostrare che nulla sia cambiato"," E, ai sensi del DORA e dell’AI Act, è proprio questa la lacuna che verrà messa alla prova da una revisione di vigilanza o da un incidente contestato.
Come si presenta l'integrità dimostrabile
La soluzione non consiste nell’impedire che ogni file possa mai subire modifiche: ciò non è né realistico né auspicabile in un sistema che dovrebbe continuare ad apprendere. La soluzione consiste nel rendere rilevabile qualsiasi modifica apportata dopo un determinato momento, in modo indipendente e senza esporre il contenuto sottostante. Ciò significa generare un’impronta crittografica di un file nel momento in cui viene approvato, ancorare tale impronta esternamente in modo che non possa essere riscritta di nascosto e, in seguito, verificare nuovamente il file confrontandolo con quell’impronta per confermare – o smentire – che sia rimasto invariato.
Le linee guida in linea con il NIST sulla sicurezza delle pipeline di addestramento dell'IA raccomandano proprio questo modello: se si utilizzano set di dati di addestramento già pronti, si dovrebbero utilizzare, ove possibile, dati con segno per garantirne l'integrità e la provenienza può essere tracciato crittograficamente, con lo stesso approccio esteso ai dati di valutazione.
Un recente studio accademico definisce in modo formale quali siano i requisiti necessari a tal fine: strutture di prove crittografiche per i flussi di lavoro di IA regolamentati deve fornire prove vincolanti, in grado di rilevare eventuali manomissioni e prive di ambiguità, comprovate sulla base di presupposti crittografici standard piuttosto che di convenzioni di registrazione ad hoc — e la stessa ricerca dimostra che ciò è realizzabile con un overhead per evento ridotto e prevedibile su hardware standard, quindi la sicurezza non deve necessariamente andare a discapito delle prestazioni.
Questo è il vero e proprio test di difendibilità, ed è quello che la vostra attuale architettura supera o meno: quando un'autorità di regolamentazione, un revisore o un avvocato della controparte vi chiede come fate a sapere che un file non è stato alterato dopo la data da voi dichiarata, siete in grado di rispondere con una prova verificabile in modo indipendente – o solo con i vostri registri, che La ricerca di Gartner sulla governance suggerisce che la maggior parte delle organizzazioni non sia ancora in grado di attuare tali misure al livello previsto dalle autorità di regolamentazione, poiché pochissime imprese sono riuscite a rendere operativi i propri quadri di governance dell’IA al di là della fase delle linee guida.
"Sigillato e verificabile" batte "registrato e affidabile", ogni volta che viene messo alla prova. Se al momento non siete in grado di dimostrare che i vostri documenti successivi all'approvazione non hanno subito modifiche, è opportuno colmare questa lacuna prima che sia l'autorità di regolamentazione a individuarla.
.
Provalo gratuitamente, senza alcun impegno:
Verificatore di verità per i creatori di PI: https://truth-verifier.com/landing
Verificatore di verità per giornalisti: https://truthverifier.news/landing
Contattaci per una valutazione gratuita e un colloquio: https://www.connecting-software.com/truth-enforcer-sign-up/
Da Francisco Rodrigues, Responsabile di prodotto
"Scrivo di come le integrazioni software possano adattarsi agli ambienti aziendali e rispondere alle esigenze specifiche del settore. Voglio mostrare alle aziende la strada per snellire i processi, eliminare i colli di bottiglia e garantire la conformità, mettendo a disposizione dei team e dei dirigenti C-suite gli strumenti giusti".