No momento em que um ficheiro é processado, aprovado e arquivado — é aí que é considerado definitivo e que o registo se torna fiável. Mas um pipeline de IA não deixa de intervir nos ficheiros depois de estes serem arquivados. As tarefas de retreinamento voltam a incorporar conjuntos de dados antigos. Os agentes voltam a processar resultados "finais". Os sistemas dos fornecedores voltam a alterar registos que deveriam estar encerrados. Nada disto é malicioso por natureza, mas também nada disso é visível — e é aí que reside o problema. Se um ficheiro for alterado após o momento em que todos concordaram em confiar nele, e nada registou aquele momento de confiança de uma forma que permita, posteriormente, comprovar que houve manipulação, não tens como saber se aquilo em que te estás a basear hoje é o que foi aprovado.
Isto não é um problema de prevenção. Não se pode nem se deve tentar impedir que qualquer ficheiro volte a ser alterado. Trata-se de um problema de deteção: a alteração após o ponto de confiança deve ser comprovável, não presumida — e a maioria dos programas de conformidade não dispõe de qualquer mecanismo para tal. Se a sua pista de auditoria se baseia inteiramente em registos, as duas secções seguintes explicam por que razão isso não se irá sustentar da forma que imagina.
A superfície que ninguém cartografou
Os pipelines de IA não são sistemas isolados — são cadeias. Os dados entram, são limpos, servem para treinar um modelo, são validados em conjuntos de teste, são implementados em produção e, por fim, alimentam um ciclo de retreinamento que reinicia o ciclo. Cada transferência nessa cadeia é um ponto em que o estado de um ficheiro pode alterar-se sem que ninguém o registe formalmente.
Panorama das ameaças da ENISA para 2025, com base em 4 875 incidentes analisados entre julho de 2024 e junho de 2025, revelou que os atacantes têm vindo a contaminar cada vez mais modelos de aprendizagem automática, a publicar pacotes com trojans e a manipular ficheiros de configuração utilizados por assistentes de programação — o que significa que tO próprio pipeline, e não apenas o resultado do modelo, é agora um alvo ativo. A dimensão da exposição está a agravar-se. Previsões da Gartner para 2025 em matéria de dados e análise constatou que, até 2027, 60% dos responsáveis pela área de dados e análise irão enfrentar falhas críticas na gestão de dados sintéticos, colocando em risco a governação da IA, a precisão dos modelos e a conformidade, e identificou a gestão de metadados como essencial para acompanhar, verificar e gerir os dados sintéticos de forma responsável.
Mais dados, mais versões de modelos, mais conteúdo sintético a passar por mais etapas de transferência — a proliferação não é um risco futuro. É a realidade atual, e A maioria dos oleodutos nunca foi construída para comprovar o que não mudou.
A fasquia da conformidade regulamentar acaba de subir
Isto já não é apenas uma questão operacional — é uma questão regulamentar. O Disposições relativas à governação de dados da Lei da IA da UE permitam explicitamente que as organizações gerem conjuntos de dados de treino, tendo em conta fatores como os processos de recolha de dados, a preparação dos dados, potenciais enviesamentos e lacunas nos dados, e Considerando 67 confirma que este requisito pode ser cumprido através de entidades terceiras que prestam serviços de conformidade certificados, incluindo verificação da governação dos dados, da integridade dos conjuntos de dados e das práticas de formação, validação e teste dos dados. Considerando 133 vai mais longe, indicando o mecanismo concreto que os reguladores esperam: os prestadores devem utilizar métodos criptográficos para comprovar a proveniência e a autenticidade dos conteúdos, a par de marcas de água, identificação de metadados e métodos de registo. A DORA agrava ainda mais esta situação no caso específico das entidades financeiras — AMF da França confirma que as empresas abrangidas devem manter uma política de segurança da informação para proteger a disponibilidade, a autenticidade, a integridade e a confidencialidade dos dados, auditadas internamente de forma recorrente.
Um diretor-geral de um escritório de advogados, ao abordar precisamente esta questão, descreveu a mudança com exatidão: a pergunta que os reguladores fazem já não é "tinha controlos?", mas sim se uma empresa "consegue reconstituir, com valor probatório, o que o sistema fez, quando e porquê" - repetidamente, em condições reais de teste de resistência. Essa distinção é o cerne do problema. Um registo indica que um evento ocorreu. Por si só, não prova que o registo desse evento — ou o ficheiro subjacente — não tenha sido alterado desde então. Um registo armazenado numa base de dados gravável não é à prova de adulteração, independentemente de quem tenha acesso ao mesmo, e A prova de adulteração requer um mecanismo - encadeamento criptográfico, armazenamento de gravação única ou equivalente — que permita detetar alterações. As entidades reguladoras, de acordo com a mesma análise, consideram a ausência de prova de adulteração como uma lacuna na própria pista de auditoria. "Temos registos" não é o mesmo que afirmar que "não podemos provar que nada mudou"," E, ao abrigo da DORA e da Lei da IA, é precisamente essa lacuna que uma revisão de supervisão ou um incidente contestado irá pôr à prova.
Como se traduz a integridade comprovável
A solução não consiste em impedir que todos os ficheiros sejam alterados — isso não é nem realista nem desejável num sistema que se destina a continuar a aprender. A solução consiste em tornar detetável qualquer alteração ocorrida após um ponto definido, de forma independente e sem expor o conteúdo subjacente. Isso significa gerar uma impressão digital criptográfica de um ficheiro assim que este for aprovado, fixar essa impressão digital externamente para que não possa ser reescrita discretamente e, posteriormente, verificar novamente o ficheiro em relação a essa impressão digital para confirmar — ou refutar — que permanece inalterado.
As orientações alinhadas com o NIST sobre a segurança dos fluxos de trabalho de treino de IA recomendam exatamente este padrão: caso sejam utilizados conjuntos de dados de treino pré-compilados, devem ser utilizados dados com sinal, sempre que possível, para garantir a sua integridade e proveniência pode ser rastreado criptograficamente, podendo a mesma abordagem ser alargada aos dados de avaliação.
Trabalhos académicos recentes formalizam o que é necessário garantir para tal: estruturas de provas criptográficas para fluxos de trabalho de IA regulamentados deve fornecer provas que sejam vinculativas, que permitam a deteção de adulterações e que sejam inequívocas, comprovadas com base em pressupostos criptográficos padrão, em vez de convenções de registo ad hoc — e a mesma investigação demonstra que isto é possível com uma sobrecarga por evento reduzida e previsível em hardware comum, por isso, a capacidade de defesa não tem de comprometer o desempenho.
Este é o verdadeiro teste de defensabilidade, e é nele que a vossa arquitetura atual é aprovada ou reprovada: quando um regulador, um auditor ou um advogado da parte contrária perguntar como sabem que um ficheiro não foi alterado após a data que alegam, conseguem responder com uma prova verificável de forma independente — ou apenas com os vossos próprios registos, que A investigação da Gartner sobre governação sugere que a maioria das organizações ainda não consegue implementar as medidas ao nível esperado pelos reguladores, uma vez que muito poucas empresas conseguiram implementar com sucesso os seus quadros de governação da IA para além da fase das políticas.
«Selado e verificável» supera «registado e fiável», sempre que é testado. Se, neste momento, não conseguir comprovar que os seus ficheiros pós-aprovação não sofreram alterações, vale a pena colmatar essa lacuna antes que uma entidade reguladora a detete por si.
.
Experimente gratuitamente — sem qualquer compromisso:
Verificador da verdade para criadores de PI: https://truth-verifier.com/landing
Verificador da verdade para jornalistas: https://truthverifier.news/landing
Entre em contacto connosco para uma análise e conversa gratuitas: https://www.connecting-software.com/truth-enforcer-sign-up/
Por Francisco Rodrigues, Gestor de produtos
"Escrevo sobre a forma como as integrações de software se podem adaptar aos ambientes empresariais e responder às exigências específicas do sector. Quero mostrar às empresas o caminho para simplificar processos, eliminar estrangulamentos e garantir a conformidade, capacitando as equipas e os executivos C-suite com as ferramentas certas."