Quando a IA gera o caos: o custo real de transcrever o "Terceiro Mundo" sem curadoria

Há alguns dias, me deparei com o episódio do podcast "Realpolitik", intitulado "Portugueses, sejam muito bem-vindos ao Terceiro Mundo". A transcrição automática do programa, gerada por inteligência artificial, trazia a seguinte nota de rodapé: "Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões." Essa frase, que muitos considerariam apenas uma formalidade legal, é na verdade um sintoma de um problema estrutural profundo no uso de IA para produtos editoriais. Não bastasse isso, o texto da transcrição que recebi estava truncado, com uma marcação de "[+31016 chars]" no final, indicando que o conteúdo foi cortado abruptamente. A ironia é quase poética: um debate sobre ingerência externa, crise hídrica e polêmicas educacionais termina sendo, ele próprio, vítima de uma "ingerência algorítmica" que fragmenta e potencialmente distorce o discurso.

Este artigo não é sobre política portuguesa, mas sobre o que aquele episódio, ou melhor, a sua transcrição imperfeita, revela sobre o estado da arte da IA aplicada a conteúdos. Trabalho há anos com engenharia de software e IA, e já vi decisões de produto que trocam precisão por velocidade gerarem prejuízos reputacionais enormes. O que parece um atalho tecnológico inofensivo —colocar um modelo de ASR (Automatic Speech Recognition) para transcrever horas de áudio— pode se transformar em uma armadilha de desinformação silenciosa e, pior, aparentemente "neutra".

O que a nota de isenção não diz

A frase "pode conter erros ou imprecisões" é um clássico exemplo de "CYA" (Cover Your Ass) no jargão de produtos. Do ponto de vista jurídico, ela protege o veículo. Do ponto de vista do leitor, ela joga a responsabilidade de validar o conteúdo para quem o consome, que dificilmente terá o áudio original em mãos para conferir cada parágrafo. Na prática, você está dizendo: "Aqui está um texto que parece uma reportagem, mas não confie muito nele". Isso é um péssimo contrato de uso para um produto editorial.

No meu trabalho com engenharia de sistemas de recomendação e moderação de conteúdo, aprendi que a transparência técnica precisa vir acompanhada de uma barra de responsabilidade de curadoria. Você não pode simplesmente colocar um disclaimer e achar que o problema está resolvido. Se a IA errar a fala de um político em uma discussão sobre "Terceiro Mundo", o erro pode viralizar como "fato" antes que a correção chegue. O custo de desmentir uma informação falsa gerada por máquina é muito maior do que o custo de garantir a qualidade na origem.

A armadilha do "algoritmo neutro" em conteúdo quente

Um dos maiores mitos que enfrentamos na indústria é o de que modelos de IA são "neutros" ou "objetivos". Uma transcrição automática, à primeira vista, parece o retrato fiel de uma conversa. No entanto, todo modelo de ASR é treinado em um conjunto de dados que tem vieses: sotaques, entonações, velocidade de fala, contextos ruidosos (como um microfone aberto em um estúdio de podcast, ou pior, uma gravação telefônica). Em um programa como o "Realpolitik", que mistura análise séria com bordões políticos e possíveis sobreposições de fala (algo comum em debates ao vivo), a taxa de erro de palavras (WER, na sigla em inglês) pode disparar facilmente para 15% a 25%.

Isso significa que, a cada 100 palavras transcritas, até 25 podem estar erradas. Em um texto de 31 mil caracteres, estamos falando de potencialmente milhares de palavras trocadas. Se uma dessas palavras for "não" virado "sim", ou um nome próprio for substituído por outro, toda a lógica de um argumento se inverte. Em um debate sobre "ingerência externa", trocar "Portugal" por "Espanha" ou "Trump" por "Biden" não é um simples errinho de digitação — é a criação de um fato alternativo. A IA, sem intenção e sem contexto, vira uma fonte de ruído que pode poluir o debate público.

O dilema do truncamento: quando o algoritmo decide o que é relevante

Outro ponto que me chamou a atenção foi o corte abrupto do texto com "[+31016 chars]". Isso não é um erro de leitura; é uma decisão de design de produto. Alguém, em algum momento, definiu que uma transcrição de podcast não deveria exceder um certo limite de caracteres para não sobrecarregar a interface, ou o modelo de IA foi treinado para sumarizar ou cortar discursos longos. Independentemente do motivo técnico, o efeito é o mesmo: o conteúdo foi deliberadamente truncado sem que o leitor saiba o que foi perdido. A discussão sobre falta de água em Almada ou a polêmica dos exames nacionais foi interrompida no meio.

Para o engenheiro de produto, isso é um trade-off de performance contra integridade. Para o leitor, é uma violação da expectativa de consumo. Imagine assistir a um filme e a sessão ser cortada nos últimos 15 minutos com a explicação: "O restante do filme foi removido para otimizar a experiência." Isso é inaceitável. Por que aceitamos isso com texto? Em qualquer produto digital que se preze, o corte de conteúdo deve ser claramente sinalizado não apenas no final, mas com um indicador de progresso (ex: "Você está vendo 40% do total da transcrição"). Mais do que isso, deveria haver um link para o áudio sincronizado no ponto exato onde o texto termina.

O custo invisível da automação sem curadoria

A decisão de usar IA para transcrever e exibir o conteúdo cru no ar parece ser de baixo custo: "o algoritmo faz tudo de graça". No entanto, o custo invisível é altíssimo. Ele se manifesta em:

• Perda de credibilidade: Leitores atentos percebem inconsistências e param de confiar na plataforma como fonte confiável. Uma vez perdida, a confiança é muito cara para ser reconstruída.
• Aumento do trabalho de correção: Se o conteúdo viralizar com um erro, sua equipe de comunicação terá que gastar horas apagando incêndios, emitindo notas de correção e lidando com a comunidade. Isso anula qualquer economia inicial com o algoritmo.
• Viés de exposição: Leitores que só leem a transcrição (por acessibilidade ou conveniência) recebem uma versão distorcida do debate, criando uma "câmara de eco" onde o erro é tomado como verdade.

O que podemos aprender com isso (e como fazer melhor)

Baseado em implementações que liderei em sistemas de moderação e transcrição, posso afirmar que o caminho não é abandonar a IA, mas sim construir um pipeline que respeite o consumidor final. Se você é um gestor de produto, editor ou engenheiro em uma organização que usa ASR para conteúdo, considere estas práticas:

• Curadoria híbrida obrigatória: Nunca publique a transcrição crua. Use a IA para gerar um rascunho, mas contrate revisores humanos (ou um segundo modelo especializado em detecção de erros de ASR) para validar pelo menos os primeiros 30 segundos ou frases-chave de alta relevância política ou técnica.
• Sincronia temporal: Cada parágrafo da transcrição deve ter um timestamp linkado ao áudio original. Isso permite que o leitor clique e ouça o trecho exato, validando a precisão em tempo real. É a melhor ferramenta contra a desinformação gerada pelo algoritmo.
• Metadados de confiança: Exiba uma pontuação de confiança do modelo para cada segmento de texto. Se o modelo está 99% confiante, a chance de erro é baixa. Se está abaixo de 70%, destaque visualmente o trecho e convide o leitor a ouvir o áudio para verificar.

Um recado para os desenvolvedores de produto

A pressa para integrar IA em todos os produtos é compreensível, mas o "movimento rápido e quebre coisas" não se aplica bem ao jornalismo e à informação pública. Quebrar um servidor é um problema; quebrar a confiança em um debate sobre "Terceiro Mundo" pode ter consequências políticas reais. Precisamos tratar a saída da IA não como um produto final, mas como um rascunho inteligente que exige supervisão. O título do podcast ironiza os portugueses sendo bem-vindos ao "Terceiro Mundo". Na minha visão, a IA mal aplicada é que pode estar nos levando a um "Terceiro Mundo" da informação: ruidoso, truncado e de baixa confiabilidade editorial.

A tecnologia não é o problema; a falta de critério de produto é. Na próxima vez que você ler uma nota de isenção de IA, lembre-se: o algoritmo pode ser o escriba, mas nós, seres humanos, ainda somos os guardiões do significado. Se ignorarmos esse papel, estamos apenas amplificando o caos com eficiência algorítmica.