Deep fake e defesa: a lógica do Chapeleiro e o custo técnico da prova digital

Há uma cena em Alice no País das Maravilhas em que o Chapeleiro Maluco faz uma pergunta, e Alice responde com lógica. O Chapeleiro insiste: "não faz sentido, mude de assunto". A obra de Lewis Carroll é um retrato do nonsense aparente que, examinado de perto, revela estruturas de poder e convenções sociais absurdas. Lembrei dessa dinâmica ao ler a coluna de Reinaldo Azevedo sobre a defesa de Jair Bolsonaro no inquérito das joias e os desdobramentos do vídeo que envolve seu filho, Flávio Bolsonaro. A defesa alega que Bolsonaro "ignorava" que o vídeo em questão havia sido manipulado por inteligência artificial. A contradição é flagrante: se o réu alega que desconhecia a intervenção de IA, então a acusação, indiretamente, sustenta que Flávio produziu um deep fake para ludibriar o pai. É uma lógica de Chapeleiro. Mas, como engenheiro de software e profissional de segurança, o que me interessa não é o debate político, e sim o que isso revela sobre a fragilidade da prova digital e os custos técnicos de uma defesa que usa ignorância tecnológica como argumento.

O caso não é isolado. Em tribunais ao redor do mundo, a inteligência artificial generativa já colocou em xeque a confiabilidade de vídeos, áudios e imagens como provas. No Brasil, o episódio expõe um problema estrutural: o sistema judiciário não está preparado para avaliar, com o rigor técnico necessário, o que é ou não um deep fake. E, pior, a defesa que apela ao argumento da "ignorância tecnológica" cria um precedente perigoso. Se qualquer réu puder alegar que foi enganado por uma IA da qual não tinha conhecimento, a prova digital perde valor intrínseco. A pergunta técnica que fica é: como distinguir, com um grau aceitável de certeza forense, o que é manipulado por IA do que é genuíno?

O paradoxo da defesa baseada em ignorância tecnológica

A linha de defesa apresentada segue uma estrutura lógica frágil: (1) o vídeo que incrimina ou gera contradição na fala de Flávio Bolsonaro existe; (2) a defesa de Bolsonaro alega que ele, Bolsonaro, não sabia que o vídeo havia sido manipulado por IA; (3) portanto, o vídeo não pode ser usado contra ele. O problema é que essa premissa implica, por dedução, que Flávio — ou alguém próximo — produziu uma falsificação digital sofisticada para enganar o patriarca. Ou seja, a defesa de um cria a acusação automática do outro. É logicamente insustentável, como apontou o colunista. Mas, para além do nonsense jurídico, o que me preocupa como profissional de tecnologia é a instrumentalização rasa de conceitos como "inteligência artificial" e "deep fake" em um ambiente que exige precisão: o tribunal.

Eu já atuei em casos corporativos de análise de logs e integridade de arquivos digitais. Sei que o primeiro passo de qualquer perícia é estabelecer a cadeia de custódia do dado. Isso significa: quem produziu o vídeo, em qual dispositivo, com qual software, como foi armazenado, transmitido e quando ocorreu a suposta manipulação. Uma defesa séria que quisesse questionar a autenticidade do vídeo não se apoiaria na alegação genérica de "usei IA". Ela contrataria um perito forense digital para demonstrar, com evidências técnicas, os pontos de alteração no bitstream do arquivo, inconsistências de metadados, artefatos de compressão anormais ou assinaturas de modelos generativos específicos. Ignorar essa etapa e pular diretamente para "não sabia que era IA" é, na prática, admitir que não há defesa técnica — apenas retórica.

A fragilidade da prova digital e o custo da ignorância

Vamos ao cerne técnico: um deep fake de boa qualidade, gerado por modelos como GANs (Generative Adversarial Networks) ou diffusion models, pode enganar até especialistas treinados. Mas a detecção é possível. Ferramentas forenses analisam a sincronização labial, o movimento dos olhos, a consistência da iluminação, o ruído de fundo e, em alguns casos, a taxa de quadros. A Adobe, por exemplo, desenvolveu o Content Authenticity Initiative (CAI) para criar uma espécie de "certificado de origem" para mídias digitais. No entanto, nada disso será útil se o argumento jurídico se baseia em "eu não entendia o que era IA". Nesse cenário, a tecnologia vira um bode expiatório conveniente.

Há um custo real nessa abordagem. Em disputas judiciais, a produção de uma prova técnica de autenticação consome tempo e dinheiro. Um laudo pericial robusto sobre um vídeo de poucos minutos pode custar dezenas de milhares de reais, dependendo da complexidade. Se a defesa opta por não contratar esse serviço e apela à ignorância, ela está, na verdade, terceirizando o ônus da prova para a acusação e para o juiz. O sistema judiciário brasileiro, já sobrecarregado, não tem estrutura para fazer esse trabalho técnico de ofício. O resultado é a erosão da confiabilidade da prova digital como um todo. Cada vez que uma defesa bem-sucedida usa esse expediente, estabelece um precedente que enfraquece o uso de evidências digitais em outros casos — inclusive em investigações de crimes graves como fraudes financeiras, pedofilia ou corrupção.

O risco da banalização do termo "deep fake"

Outro ponto técnico que merece atenção é a banalização do termo. Nem todo vídeo com edição é um deep fake. Editores de vídeo tradicionais (como Adobe Premiere ou DaVinci Resolve) permitem cortes, sobreposições e ajustes de áudio sem o uso de IA generativa. Um deep fake, em sentido estrito, envolve a substituição sintética de rosto ou voz usando redes neurais. A defesa de Bolsonaro usou o termo de maneira genérica, como se qualquer manipulação digital, por mais tosca que fosse, pudesse ser atribuída à IA. Isso é impreciso e pode, inclusive, ser desmontado por uma perícia que demonstre que as alterações no vídeo foram feitas por técnicas convencionais, com marcas de edição tradicionais. Nesse caso, a alegação de "deep fake" cairia por terra, e a defesa ficaria exposta a uma contradição técnica ainda maior.

Em projetos de segurança que liderei, aprendi uma lição valiosa: o conhecimento técnico superficial é mais perigoso que a ignorância total. Quem sabe um pouco acha que pode manipular sistemas sem ser detectado; quem não sabe nada contrata um especialista. A defesa que alega desconhecimento sobre IA está, paradoxalmente, demonstrando um conhecimento seletivo: sabe que o termo "IA" gera desconfiança e dúvida no tribunal, mas não quer se aprofundar nas implicações técnicas de sua própria alegação. É um jogo retórico que, em médio prazo, pode minar a credibilidade de todo o sistema de provas digitais.

Implicações para a operação de produtos digitais e segurança

Para quem trabalha com engenharia de produto e infraestrutura em nuvem, o caso tem implicações diretas. Se você desenvolve plataformas que permitem upload de vídeos (como redes sociais, sistemas de denúncia anônima ou plataformas de compliance), precisa se preparar para o cenário em que qualquer conteúdo pode ser questionado judicialmente com o argumento de "deep fake". Isso afeta a arquitetura de armazenamento, a política de logs e a rastreabilidade. Em projetos que implementei, a recomendação sempre foi a mesma: mantenha metadados imutáveis desde a captura até o armazenamento final. Se o vídeo for gravado dentro do seu aplicativo já anexe informações de hash, timestamp e certificado digital de origem. Se for uploadado, aplique técnicas de verificação de integridade antes de aceitá-lo como prova. Não espere o tribunal pedir — o ônus da comprovação recai sobre quem produziu a evidência.

Outra lição prática está na comunicação de riscos legais para stakeholders não técnicos. Já vi executivos e advogados usarem o termo "IA" como um coringa para explicar qualquer anomalia em dados, sem entender as reais capacidades e limitações da tecnologia. O profissional de tecnologia tem o dever de traduzir esses conceitos com precisão, mostrando, por exemplo, que a detecção de deep fake não é infalível e que a ausência de um laudo pericial não significa que a prova seja inválida. Se o time de produto não educa o jurídico, o jurídico vai tomar decisões baseadas em lógicas de Chapeleiro.

Riscos e limitações: a zona cinzenta das provas digitais

É importante reconhecer que não existe bala de prata. Mesmo com as melhores ferramentas forenses, alguns deep fakes modernos são indetectáveis a olho nu e até mesmo para algoritmos de detecção treinados. O estado da arte da IA generativa avança mais rápido que os métodos de contra-medida. Isso cria uma zona cinzenta perigosa: se um réu alega que o vídeo é falso, e o perito não consegue provar nem a autenticidade nem a falsificação, o benefício da dúvida, em tese, favorece o réu. É aí que o argumento da ignorância se torna letal para a justiça. O tribunal pode ser levado a desconsiderar provas genuínas porque a tecnologia não consegue, hoje, atestar sua veracidade com 100% de certeza.

A solução, na minha avaliação, não é abandonar a prova digital, mas sim estabelecer critérios mais rigorosos para sua admissibilidade. Um caminho técnico é a adoção obrigatória de padrões como os da CAI em todas as gravações oficiais ou de interesse público. Outro é a criação de uma cadeia de custódia digital fortalecida, com blockchain ou ledgers distribuídos. Mas tudo isso exige investimento infraestrutural e, principalmente, educação dos operadores do direito. Enquanto juízes e advogados tratarem "deep fake" como um termo mágico que invalida qualquer vídeo, a lógica do Chapeleiro continuará reinando nos tribunais brasileiros.

Uma perspectiva editorial: o papel do profissional de tecnologia

O caso narrado por Reinaldo Azevedo é, antes de tudo, um sintoma de um problema mais amplo: a desconexão entre o discurso jurídico e a realidade técnica. Como profissional de tecnologia, vejo com preocupação o uso instrumental de conceitos como IA para escapar de responsabilidades. Não estou defendendo ou acusando nenhum dos envolvidos no caso específico — meu foco é o padrão. O padrão de defesa que se apoia em ignorância tecnológica é insustentável a longo prazo e prejudica a credibilidade de todo o ecossistema digital.

Minha recomendação editorial é simples: se você atua em engenharia de software, segurança ou produto, invista em educação forense básica. Entenda como funciona a cadeia de custódia digital, saiba diferenciar deep fake de edição comum e, principalmente, documente todas as decisões técnicas que envolvem a coleta e o armazenamento de evidências digitais. O tribunal do futuro não será composto apenas por juízes, mas também por algoritmos de verificação — e nós, tecnólogos, somos os responsáveis por construir esses algoritmos com rigor. No jogo de lógica do Chapeleiro, quem não entende a regra técnica acaba perdendo a partida.