Por que todo mundo odeia a IA e o que isso significa para produtos digitais

Há um paradoxo crescendo no centro da indústria de tecnologia: enquanto os investimentos em inteligência artificial disparam e os executivos das Big Techs prometem uma transformação global, o público reage com ceticismo, medo e, em alguns casos, hostilidade aberta. O Le Monde Diplomatique traduziu esse sentimento em uma frase direta: “Toda a gente detesta a IA”. Não se trata de uma generalização vazia — pesquisas de opinião em diversos países mostram que uma parcela significativa dos usuários desconfia de sistemas automatizados, teme a perda de empregos e questiona a ética por trás dos algoritmos.

Para engenheiros de software e gestores de produto, esse cenário representa um desafio operacional concreto. Não basta construir modelos precisos ou escalar infraestrutura de nuvem — é preciso lidar com a rejeição do usuário final, que muitas vezes se manifesta como baixa adoção, feedbacks negativos ou até ações regulatórias. A pergunta que fica é: se a IA é tão poderosa, por que ela é tão mal recebida? E, mais importante, o que podemos fazer para mudar essa percepção sem sacrificar a inovação?

A resposta não está apenas em campanhas de marketing ou em promessas vagas de “IA responsável”. Ela exige que olhemos para dentro dos nossos produtos, dos nossos processos de desenvolvimento e das decisões técnicas que tomamos todos os dias. Neste artigo, vou explorar as raízes dessa aversão, os riscos que ela impõe a produtos digitais e as práticas que equipes de engenharia podem adotar para reconstruir a confiança.

Contexto técnico e de negócio

O artigo original do Le Monde Diplomatique aponta que “os investidores só têm olhos para ela” — referindo-se à IA — enquanto “os seus arquitetos desprezam os chefes de Estado”. Essa tensão entre o entusiasmo do capital e a arrogância dos construtores cria um ambiente onde o usuário comum se sente excluído da conversa. As decisões sobre como a IA será usada são tomadas por poucos, em fóruns fechados, e as consequências recaem sobre muitos. Esse desequilíbrio de poder alimenta a desconfiança.

No mundo do desenvolvimento de software, isso se reflete em práticas como o deploy de modelos sem documentação adequada, mudanças unilaterais em sistemas de recomendação que alteram a experiência do usuário da noite para o dia, e a ausência de mecanismos de explicação para decisões automatizadas. Quando um algoritmo rejeita um pedido de crédito ou classifica um e-mail como spam, o usuário raramente entende o motivo. A falta de transparência vira combustível para a hostilidade.

Por que isso importa para engenheiros e gestores

Ignorar essa rejeição não é uma opção viável. Produtos que não conquistam a confiança dos usuários têm taxas de retenção baixas, geram mais reclamações em canais de suporte e atraem a atenção de reguladores. Além disso, funcionários de tecnologia também são usuários — muitos engenheiros resistem internamente a projetos de IA por questões éticas ou por receio de que os sistemas substituam seu próprio trabalho. A resistência não vem só de fora.

Desenvolvimento

A primeira camada da rejeição à IA tem nome: opacidade. Modelos de deep learning, especialmente os baseados em redes neurais profundas, são caixas-pretas. Mesmo os engenheiros que os treinam têm dificuldade em explicar como uma determinada saída foi gerada. Para o usuário comum, isso é inaceitável — especialmente quando a decisão impacta sua vida, como em diagnósticos médicos, aprovação de financiamentos ou triagem de currículos.

A segunda camada é a sensação de perda de controle. Sistemas de IA que modificam a interface ou o comportamento do produto sem aviso, que coletam dados pessoais para treinar modelos sem consentimento explícito, ou que impõem mudanças baseadas em métricas de otimização que priorizam o negócio acima da experiência do usuário, geram um desgaste progressivo. O usuário sente que o produto está sendo usado contra ele.

As raízes da desconfiança: transparência e controle

Em muitos casos, a origem do problema está na própria arquitetura de decisão. Quando um modelo é tratado como uma entidade autônoma — sem supervisão humana, sem fallback, sem explicação — o erro se torna imperdoável. Um exemplo clássico é o uso de chatbots que, ao não entender a pergunta, inventam respostas plausíveis mas incorretas. O usuário percebe a falta de honestidade e abandona o canal. A confiança, uma vez perdida, é extremamente cara de recuperar.

Outro ponto crítico é a performance enviesada. Modelos treinados em dados históricos podem perpetuar preconceitos raciais, de gênero ou socioeconômicos. Quando esses vieses são descobertos — e frequentemente eles o são por jornalistas ou pesquisadores externos — a reação do público é de indignação. Para o produto, o custo vai além da correção técnica: há dano à marca, perda de clientes e intervenção de órgãos reguladores.

O impacto no desenvolvimento de produtos de IA

Para times que constroem produtos com componentes de IA, a rejeição do usuário não é apenas um problema de UX — é um problema de engenharia de software e de governança de dados. Ignorá-la leva a retrabalho, despriorização de funcionalidades e conflitos internos. A solução não está em fazer mais marketing, mas em redesenhar o fluxo de decisões para que o usuário se sinta no controle.

• Implementar explicabilidade como requisito funcional: Toda funcionalidade que utiliza IA deve ter um mecanismo de explicação acessível ao usuário. Isso pode ser um resumo textual dos fatores que influenciaram a decisão, uma visualização de pesos ou um link para uma documentação clara. A explicabilidade não pode ser um “nice to have” — precisa estar nos critérios de aceitação das histórias de usuário.
• Adotar privacidade desde a concepção (Privacy by Design): A coleta de dados para treinamento de modelos deve ser transparente e revogável. O usuário precisa saber exatamente quais dados estão sendo usados, com que finalidade, e ter a opção de excluí-los sem perder funcionalidades essenciais. Ferramentas como consentimento granular e exclusão programada são obrigatórias.
• Criar canais de feedback contínuo para ajuste de modelos: Nenhum modelo é perfeito na primeira versão. Oferecer ao usuário a possibilidade de corrigir resultados, relatar erros ou bloquear recomendações inadequadas cria um ciclo virtuoso de melhoria e mostra que o produto respeita a opinião de quem o usa.

Decisões técnicas ou editoriais

A primeira decisão editorial importante é reconhecer que a rejeição à IA não é simplesmente um problema de comunicação. Muitas empresas respondem às críticas com white papers e campanhas de “IA ética”, mas isso soa vazio se o produto continuar agindo da mesma forma. A mudança precisa ser técnica: revisar quais modelos são realmente necessários, onde a automação pode ser substituída por heurísticas mais simples e onde o usuário precisa de uma intervenção humana.

Outra decisão crítica é investir em interpretabilidade desde a fase de prototipação. Em vez de começar com uma rede neural complexa, avalie se um modelo linear ou uma árvore de decisão atende ao propósito — eles são inerentemente mais explicáveis. Quando a performance exige modelos complexos, é preciso construir camadas de pós-processamento que gerem explicações. Ferramentas como LIME, SHAP ou contrafactuais podem ser integradas à pipeline de inferência.

Por fim, a decisão de priorizar a experiência do usuário sobre métricas de curto prazo (como taxa de clique ou tempo de engajamento) é uma escolha de produto que impacta diretamente a confiança. Um assistente de IA que fornece respostas corretas demoradas mas com explicações é preferível a um que responde rápido e errado. Essa troca precisa ser comunicada claramente aos stakeholders.

Riscos, limitações e perguntas em aberto

O maior risco ao tentar resolver a rejeição à IA é cair no que podemos chamar de “AI washing” de transparência — criar mecanismos de explicação superficiais que não mudam a realidade do sistema. Por exemplo, exibir um gráfico de importância de features sem contexto suficiente pode confundir ainda mais o usuário. A explicabilidade precisa ser projetada para o público-alvo, não para os engenheiros.

Outra limitação importante é o custo computacional. Modelos interpretáveis tendem a ter performance inferior em tarefas complexas, e gerar explicações para cada inferência aumenta a latência e o consumo de recursos em nuvem. Em produtos com alto throughput, isso pode ser inviável. É necessário encontrar um equilíbrio entre inteligibilidade e eficiência, talvez oferecendo explicação apenas quando solicitada ou para decisões de alto impacto.

Há também perguntas em aberto sobre a responsabilidade legal. Se um sistema de IA com explicação falha, a culpa é do engenheiro que projetou a explicação, do modelo que a gerou ou do usuário que não entendeu? O arcabouço regulatório, especialmente com a IA Act europeia e a LGPD brasileira, ainda está se consolidando. Produtos que operam em múltiplas jurisdições precisam de flexibilidade para se adaptar a diferentes exigências de transparência.

Aprendizados práticos

Uma das lições mais valiosas que colhi em projetos de produtos com IA é que a confiança se constrói com consistência, não com sofisticação. Um modelo que falha menos e explica melhor gera mais engajamento do que um modelo quase perfeito que não dá satisfação. Por isso, recomendo que as equipes invistam em testes de usabilidade focados em confiança: peça para os usuários interagirem com o sistema e depois pergunte se eles confiariam nele para uma tarefa importante.

Outro aprendizado prático é a importância de estabelecer métricas de confiança como OKRs do produto. Além de acurácia, precisão e recall, inclua métricas como taxa de aceitação de recomendações, proporção de feedbacks negativos sobre decisões automatizadas e tempo médio até o usuário recorrer ao suporte humano. Isso tira a confiança do campo do abstrato e a transforma em algo mensurável e gerenciável.

Por fim, aprendi que a comunicação interna é tão importante quanto a externa. Engenheiros que entendem o propósito por trás das features de transparência e privacidade as defendem melhor e contribuem com ideias para melhorá-las. Realizar sessões de “mostra e conta” sobre como as decisões são tomadas dentro do produto ajuda a alinhar o time em torno de um objetivo comum: construir IA que as pessoas usem de bom grado.

Conclusão

A afirmação “toda a gente detesta a IA” pode soar pessimista, mas ela esconde uma oportunidade enorme para quem está disposto a ouvir. O mercado está saturado de soluções que priorizam a performance a qualquer custo — e o público está cansado disso. Produtos que conseguirem equilibrar poder preditivo com transparência, controle e respeito ao usuário terão uma vantagem competitiva duradoura. Isso não é utopia; é engenharia de produto bem-feita.

Para engenheiros de software, gestores de produto e tomadores de decisão, o caminho é claro: a IA precisa se tornar um instrumento a serviço do usuário, não o contrário. Isso exige coragem para questionar modelos complexos quando eles não são necessários, disciplina para implementar explicabilidade como parte do ciclo de desenvolvimento e humildade para escutar o feedback — inclusive o raivoso. Afinal, se todo mundo odeia a IA, talvez o problema não seja a IA, mas como a construímos.