Deepfake político: o caso Bolsonaro e o que ele revela sobre regulação de IA no Brasil

O caso que vai definir o futuro da propaganda eleitoral com IA

No centro de uma disputa que vai muito além dos nomes envolvidos, o Tribunal Superior Eleitoral (TSE) se prepara para julgar, na semana de 17 de agosto, uma ação do PT contra o uso de um vídeo gerado por inteligência artificial na convenção do PL que oficializou a candidatura de Flávio Bolsonaro. O vídeo, que simula a imagem e a voz de Jair Bolsonaro, levanta questões técnicas e jurídicas que vão pautar não apenas o desfecho eleitoral imediato, mas a forma como engenheiros de software, product managers e equipes de verificação de conteúdo precisarão se preparar para um novo paradigma: o da propaganda política sintética.

Eu, como engenheiro de software que há anos observa a evolução das ferramentas de síntese de mídia, vejo esse julgamento como um marco — não por seu resultado político, mas pelo precedente regulatório que estabelecerá para toda a indústria de IA generativa aplicada a campanhas eleitorais. O TSE já havia sinalizado, em resoluções anteriores, a necessidade de transparência no uso de tecnologias de manipulação de áudio e vídeo. Agora, com um caso concreto de alta visibilidade, as regras saem do abstrato e ganham carne.

O que está em discussão não é apenas se o vídeo foi ou não autorizado pela campanha, mas se o uso de deepfake — mesmo que para fins de "sátira", "homenagem" ou "recriação histórica" — pode ser permitido em um contexto eleitoral sem ferir a lisura do processo. E é aqui que a técnica encontra o Direito de forma brutal.

O que o engenheiro de software precisa entender sobre deepfake político

Deepfakes baseados em modelos generativos, como GANs (Redes Adversárias Generativas) ou difusão latente, funcionam a partir de um princípio computacional relativamente conhecido: dado um conjunto de dados de treinamento (imagens, voz ou vídeo de uma pessoa), o modelo aprende a distribuição dos dados e é capaz de gerar novas amostras que mimetizam a aparência, o timbre vocal e até os maneirismos do indivíduo. Não há "animação" manual: o modelo cria quadros a partir de um ruído estruturado.

No caso específico da política, o desafio técnico para os órgãos reguladores é que a detecção automática de deepfakes ainda engatinha em termos de confiabilidade. Ferramentas como o Deepfake Detection Challenge (DFDC) da Meta, embora tenham avançado, ainda apresentam altas taxas de falso positivo em cenários com baixa resolução, compressão de vídeo ou mudanças de iluminação — justamente as condições típicas de vídeos compartilhados em redes sociais e exibidos em telões de convenções partidárias.

E isso nos leva a um ponto crucial que o julgamento do TSE pode expor: a responsabilidade não pode recair exclusivamente sobre mecanismos técnicos de detecção. A engenharia de software precisa ser complementada por camadas de curadoria humana e por regras claras de disclosure. Não adianta treinar um modelo para detectar deepfake se a legislação permitir que ele seja exibido sem qualquer rótulo, desde que "não engane" — porque o dano reputacional e a confusão do eleitor ocorrem antes mesmo de qualquer verificação.

Os trade-offs entre liberdade criativa e integridade eleitoral

Um dos argumentos que certamente surgirão nesse processo é o da liberdade de expressão e do uso de ferramentas tecnológicas para fins de propaganda política criativa. Afinal, campanhas usam edição de vídeo, montagem e até dublês há décadas. A diferença aqui é o salto qualitativo: uma IA pode gerar um discurso que nunca foi dito, com uma entonação que nunca existiu, em um contexto que nunca ocorreu. Não se trata mais de cortar e colar — trata-se de criar realidades paralelas a partir de dados estatísticos.

Do ponto de vista de produto, quem desenvolve sistemas de moderação de conteúdo precisa entender que deepfakes não são apenas um problema de "verdade vs. falsidade". Eles são um problema de atribuição e consentimento. Um modelo treinado com a voz de Bolsonaro (ou de qualquer figura pública) não precisa de autorização para gerar novos áudios? A engenharia de IA atual permite que qualquer pessoa, com acesso a um GPU razoável e um dataset público (como discursos disponíveis no YouTube), recrie a fala de um político com fidelidade assustadora.

Na prática, o que se discute no TSE é se o vídeo exibido na convenção do PL constitui propaganda enganosa ou se enquadra em um limbo regulatório. Minha posição técnica é clara: qualquer conteúdo gerado por IA que simule a aparência, a voz ou o discurso de uma pessoa real, e que seja veiculado em contexto político, deveria vir acompanhado de metadados obrigatórios e de uma marca d'água digital imperceptível ao olho nu, mas detectável por ferramentas padronizadas. Essa não é uma questão de censura — é de rastreabilidade.

O que o julgamento pode mudar na prática para quem desenvolve IA

Se o TSE decidir pela condenação ou pela imposição de novas regras, o impacto será imediato sobre startups e plataformas que oferecem serviços de geração de vídeo, avatar digital ou clonagem de voz para campanhas políticas. A depender da decisão, pode ser exigido que todo conteúdo de propaganda eleitoral gerado por IA seja submetido a uma auditoria prévia por empresa certificada ou que inclua um selo de "conteúdo sintético" em posição de destaque no vídeo.

Para times de engenharia que trabalham com sistemas de recomendação e delivery de conteúdo, isso significa que os algoritmos precisarão ser capazes de distinguir entre conteúdo gerado por humano e gerado por máquina, mesmo quando a qualidade visual for indistinguível. E isso não é trivial: muitos sistemas atuais de moderação usam hashes de conteúdo (como o PhotoDNA) para detectar cópias exatas, mas um deepfake é uma geração nova a cada execução — a mesma "cena" pode ser gerada infinitas vezes com pequenas variações, tornando a detecção por similaridade ineficaz.

Há um caminho técnico viável, embora custoso: a inserção de assinaturas digitais no momento da renderização do conteúdo. Se a ferramenta de IA que gerou o vídeo incluir uma chave criptográfica no metadata do arquivo, e se essa chave estiver vinculada a um contrato de uso da ferramenta (que, por sua vez, exige a identificação do contratante), o rastreamento se torna possível. Mas isso exige que o TSE imponha essa exigência a todos os provedores de tecnologia — nacionais e estrangeiros — que atuam em campanhas eleitorais brasileiras.

Lições de implementação: por que a detecção reativa não é suficiente

Já implementei sistemas de moderação de conteúdo em plataformas de mídia, e sei que a tentação de confiar cegamente em modelos de detecção de deepfake é grande, mas perigosa. Um modelo de detecção, por melhor que seja, só identifica o que já foi visto. Deepfakes evoluem em ciclos de semanas. O que hoje é detectável com 98% de acerto amanhã pode ser indetectável com 40% de acerto, se o gerador usar uma nova arquitetura de difusão.

A abordagem que recomendo para equipes que precisam lidar com conteúdo político é a combinação de três camadas: (1) detecção técnica automatizada, com modelos treinados especificamente no domínio de deepfakes políticos brasileiros (acentos, paisagens, estilos de produção); (2) curadoria humana treinada para identificar inconsistências perceptuais (sincronia labial imperfeita, reflexos de luz estranhos); e (3) verificação de origem, rastreando se o vídeo foi gerado por uma ferramenta registrada que exige identificação do criador.

Essa terceira camada é a mais frágil hoje, justamente porque não há uma norma que obrigue o registro. O julgamento do TSE pode ser o empurrão que falta para que o Brasil adote algo semelhante ao que a União Europeia discute no AI Act: a obrigatoriedade de rotulagem e rastreabilidade para conteúdos sintéticos de alta fidelidade.

Riscos de uma decisão excessivamente permissiva ou restritiva

Uma decisão excessivamente permissiva, que considere o deepfake como mais uma ferramenta de propaganda, abriria as comportas para um cenário de "vale-tudo" onde cada candidato poderia gerar vídeos falsos de seus oponentes dizendo absurdos. A engenharia de IA atual permite que isso seja feito em minutos, com custo quase zero. O dano à democracia seria profundo e, em muitos casos, irreversível no curto prazo de um ciclo eleitoral.

Por outro lado, uma decisão excessivamente restritiva, que proíba qualquer uso de IA generativa em campanhas, poderia inibir inovações legítimas — como acessibilidade (geração de libras a partir de falas) ou tradução simultânea de discursos para comunidades indígenas. O desafio regulatório é fino: não se trata de banir a ferramenta, mas de controlar seu uso enganoso.

Minha aposta pessoal, baseada na trajetória das resoluções do TSE nos últimos anos, é que o tribunal caminhará para uma solução intermediária: exigirá transparência obrigatória (rótulo de conteúdo sintético) e responsabilização solidária de quem contratou e de quem produziu o conteúdo, mas sem uma proibição total. Essa abordagem, embora mais equilibrada, depende fortemente da capacidade de fiscalização — e aí entramos em um gargalo operacional conhecido de qualquer órgão regulador: como fiscalizar milhares de vídeos gerados por IA em tempo real?

O papel do engenheiro de software nesse novo ecossistema regulatório

Vejo com clareza que o profissional de engenharia de software precisa se envolver ativamente na discussão sobre regulação de IA. Não podemos nos dar ao luxo de tratar esses temas como "assunto de advogados" ou "de cientistas políticos". As decisões sobre como um modelo é treinado, com quais dados, e como o conteúdo gerado é entregue ao usuário final são decisões de engenharia — e têm consequências jurídicas e sociais diretas.

Recomendo que times de produto que atuam em plataformas que podem veicular conteúdo político (redes sociais, aplicativos de mensageria, sistemas de propaganda digital) incluam em suas retrospectivas e processos de design revisões de impacto de conteúdo sintético. Isso não apenas reduz riscos legais, mas constrói confiança pública, que é o ativo mais valioso de qualquer plataforma democrática.

O caso do vídeo de Bolsonaro na convenção do PL é apenas a ponta do iceberg. Daqui para frente, a pergunta que cada engenheiro de software envolvido com IA generativa deve fazer não é "isso é legal?", mas "isso é rastreável?" e "isso é transparente para o eleitor?".

O TSE dará sua resposta em agosto. Nós, da comunidade técnica, precisamos dar a nossa antes, incorporando esses princípios ao código que escrevemos todos os dias.