Deepfake político: por que multa e remoção não resolvem o problema técnico da IA eleitoral

O caso que expôs as fragilidades técnicas da regulação

Quando um vídeo gerado por inteligência artificial com a imagem de Jair Bolsonaro foi exibido na convenção que oficializou a candidatura de Flávio Bolsonaro à Presidência, em 2026, o episódio acendeu um alerta que vai muito além do embate político. O que se desenhou nos bastidores do Tribunal Superior Eleitoral (TSE) foi um divisor de águas na discussão sobre como a Justiça Eleitoral brasileira lida – ou deixa de lidar – com a tecnologia deepfake. Magistrados apontaram que a competência para julgar o caso seria da Justiça Eleitoral, e as sanções cogitadas foram multa e remoção do material, sem qualquer menção a medidas mais severas.

Como engenheiro de software que trabalhou com sistemas de moderação de conteúdo e pipelines de detecção de mídia sintética, preciso dizer: essa abordagem é tecnicamente insuficiente e estratégicamente perigosa. Multar e remover não resolvem o problema central, que é a capacidade de produção e disseminação de deepfakes em escala, com custo praticamente zero e qualidade crescente. O caso não é sobre um partido ou outro, mas sobre como o Estado brasileiro está tecnicamente despreparado para enfrentar a próxima onda de desinformação algorítmica.

O gargalo técnico: detecção e remoção não são equivalentes a prevenção

Quando se fala em remoção de conteúdo gerado por IA, o senso comum imagina um processo simples: o algoritmo identifica o material, um juiz determina a retirada, e pronto. Na prática, quem já implementou sistemas de detecção de deepfake sabe que o cenário é radicalmente diferente. As técnicas de detecção baseadas em análise de artefatos visuais – inconsistências no piscar de olhos, iluminação anômala ou bordas mal resolvidas – são cada vez mais frágeis diante de modelos generativos modernos, como os baseados em difusão latente ou redes adversárias generativas refinadas.

Um trade-off que poucos discutem é o seguinte: sistemas de detecção de deepfake precisam ser atualizados constantemente, porque os geradores evoluem em ciclos de semanas. Manter um repositório de assinaturas forenses atualizado exige infraestrutura de machine learning contínua, equipes especializadas e, principalmente, acesso ao grande volume de dados de treinamento. A Justiça Eleitoral brasileira, com todo o respeito ao trabalho que realiza, não tem esse aparato técnico. Nenhum tribunal no mundo tem – nem o Departamento de Defesa dos Estados Unidos consegue detectar todas as deepfakes em tempo real.

Além disso, a remoção é uma medida que atua sobre o efeito, não sobre a causa. Quando o vídeo já foi exibido em uma convenção, já gerou compartilhamentos, já alimentou bolhas de desinformação. Removê-lo depois é como tampar o poço após o afogamento. A velocidade de propagação de conteúdo sintético em aplicativos de mensageria como WhatsApp e Telegram supera em ordens de grandeza a capacidade de resposta judicial. Esse gap temporal é o verdadeiro calcanhar de Aquiles de qualquer estratégia baseada em remoção reativa.

Multa como incentivo: por que a punição financeira não desestimula a produção de deepfakes

Do ponto de vista de design de produto e regulação, a multa é o incentivo clássico da economia comportamental. Mas ela falha quando aplicada a agentes políticos que já operam em uma lógica de custo-benefício distorcida. O custo de produzir um deepfake de alta qualidade, com modelos abertos como Stable Diffusion ou geradores de vídeo como o Sora (da OpenAI), é de alguns centavos a alguns reais, dependendo do tempo de GPU utilizado. A multa prevista para esse tipo de infração, por outro lado, é fixa ou tem teto baixo, o que torna a equação simples: o ganho eleitoral potencial supera em muito o risco financeiro.

Vivi uma situação similar quando liderei a arquitetura de um sistema de moderação para uma plataforma de vídeos. A equipe jurídica sugeriu multas automáticas para uploads de conteúdo falso. O resultado? Os usuários mal-intencionados simplesmente contabilizaram as multas como "custo operacional" e continuaram produzindo. A única medida que reduziu significativamente o volume foi a combinação de detecção proativa com bloqueio de contas e device fingerprinting – algo tecnicamente complexo e que exige cooperação entre plataformas, algo que a Justiça Eleitoral não consegue impor de forma eficaz.

Outro ponto cego da multa como sanção é a questão da responsabilização. Em uma campanha eleitoral, quem produziu o deepfake? O candidato, o marqueteiro, a agência contratada, o militante voluntário? A cadeia de produção de conteúdo sintético é difusa, e provar dolo específico é quase impossível no modelo jurídico atual, que exige autoria clara e individualizada. Sem identificar quem apertou o botão do "gerar", a multa vira um custo difuso, diluído entre os envolvidos, perdendo qualquer poder dissuasório.

O dilema da competência jurisdicional e a lacuna técnica

A disputa de bastidores sobre se o caso deveria ser julgado pela Justiça Eleitoral ou pelo Supremo Tribunal Federal revela algo mais profundo: o Poder Judiciário brasileiro não tem, hoje, um corpo técnico capaz de analisar deepfakes com critérios forenses robustos. Os laudos periciais em crimes cibernéticos no Brasil ainda se baseiam majoritariamente em metodologias de perícia tradicional – análise de hash, metadados, logs de acesso. Nenhum desses métodos é eficaz para determinar se um vídeo foi gerado por IA, a menos que haja confissão ou vazamento de metadados do próprio gerador.

Há uma lacuna entre o que a lei exige e o que a tecnologia permite provar. A Lei das Eleições (Lei 9.504/1997), atualizada para incluir combate à desinformação, não especifica critérios técnicos para identificação de conteúdo sintético. A resolução do TSE sobre propaganda eleitoral menciona "conteúdo fabricado ou manipulado", mas não define uma taxonomia técnica. Em sistemas que projetei para detecção de fraude documental, aprendi que qualquer regra sem especificação técnica vira letra morta na primeira iteração do adversário.

Proponho uma provocação técnica: por que não exigir que todo conteúdo político veiculado em campanhas inclua uma assinatura digital de proveniência, como as propostas pelo C2PA (Coalition for Content Provenance and Authenticity)? A implementação não é trivial – exige que plataformas e produtores de conteúdo adotem padrões abertos –, mas é a única forma de rastrear a origem de um vídeo ou áudio com garantia criptográfica. Sem isso, continuaremos discutindo multas e remoções enquanto o próximo deepfake viraliza em minutos.

Implicações práticas para produto, operação e mercado

Para quem trabalha com engenharia de software, produto ou infraestrutura em nuvem, esse caso traz lições diretas. Primeiro: qualquer produto que permita upload de conteúdo por usuários – seja uma rede social, um aplicativo de mensagens ou até uma plataforma de eventos – precisa de um pipeline de detecção de mídia sintética. Não dá mais para tratar deepfake como um "problema futuro". Ele já é presente e vai se intensificar com a queda do custo computacional.

Segundo: a escolha entre detecção na borda (edge) ou na nuvem é um trade-off real. Detecção local preserva privacidade e reduz latência, mas exige modelos leves que sacrificam acurácia. Detecção centralizada é mais precisa, mas gera riscos de privacidade e gargalos de processamento. Projetos que implementei mostraram que uma arquitetura híbrida – classificação rápida na borda e análise forense aprofundada na nuvem para casos suspeitos – é o melhor equilíbrio, mas exige investimento em orquestração e filas de processamento.

Terceiro: a regulação brasileira está caminhando para exigir transparência algorítmica, mas sem diretrizes técnicas claras. Quem atua com IA aplicada precisa começar a construir trilhas de auditoria (audit trails) que registrem qual modelo gerou determinado conteúdo, com quais parâmetros e em qual ambiente computacional. Isso não é só compliance – é uma vantagem competitiva para produtos que queiram ser considerados seguros e confiáveis no mercado.

Riscos e pontos de atenção técnicos

Há um risco real de que a reação regulatória ao caso leve a medidas superficiais, como a exigência de "marcas d'água" em conteúdo gerado por IA. Marcas d'água digitais são facilmente removíveis por adversários com conhecimento técnico mínimo. Já vi esquemas de watermarking serem quebrados em horas durante testes de penetração em sistemas de autenticação de documentos. Marcas d'água servem para conteúdo cooperativo, não para adversarial.

Outro risco é a judicialização excessiva. Se cada deepfake gerar uma ação judicial com discussão de competência, o Judiciário vai colapsar sob seu próprio peso. A solução passa por automação de primeira instância: bots de detecção homologados pelo TSE que possam emitir notificações extrajudiciais de remoção com base em critérios técnicos objetivos, reduzindo o tempo de resposta de dias para minutos. Isso exige acordo entre plataformas e tribunal, mas é factível – já existem experiências similares com o combate a discurso de ódio na Europa.

O que podemos fazer agora, como profissionais de tecnologia

Não podemos esperar que o Judiciário resolva sozinho um problema que nasce na camada de software. Como profissionais de engenharia e produto, temos a responsabilidade de desenvolver ferramentas que tornem a detecção de deepfake um recurso padrão, não um diferencial. Grupos de pesquisa como o DAIR (Distributed AI Research) e iniciativas open source como o Deepfake Detection Challenge já fornecem bases, mas a adoção em produtos comerciais ainda é baixa.

Recomendo a quem lida com sistemas de conteúdo que invista em três áreas: (1) coleta e curadoria de datasets de deepfake em português, que são escassos e enviesados para faces europeias e americanas; (2) treinamento de modelos leves para detecção em dispositivos móveis; (3) engenharia de pipeline que integre detecção com triggers de moderação em tempo real. É caro e trabalhoso, mas o custo de não fazer é maior – como este caso no TSE demonstra.

A tecnologia não é neutra. O código que escrevemos hoje define os limites do que será possível regular amanhã. Se a Justiça Eleitoral ainda está discutindo multas e remoções, é porque a indústria de tecnologia não entregou as ferramentas necessárias para um enforcement mais eficaz. Cabe a nós, engenheiros, arquitetos e product managers, fechar essa lacuna.