Quando o algoritmo é seu chefe: como a gestão por IA gera exaustão sistêmica

Há uma discussão recorrente sobre a substituição de empregos por inteligência artificial, mas um cenário igualmente perturbador já está em curso: a IA não está tomando o nosso lugar, ela está se tornando nossa chefe. Sistemas algorítmicos de gestão estão sendo implantados em call centers, plataformas de delivery, logística, operações de vendas e até mesmo em escritórios de engenharia. O que acontece com a psicologia humana quando as decisões sobre ritmo, pausa, alocação de tarefas e avaliação de desempenho são tomadas por um modelo de otimização que enxerga o trabalhador como um nó em uma função de custo?

O fenômeno já recebeu um nome: exaustão algorítmica. Não se trata apenas de cansaço físico, mas de um desgaste mental profundo causado por um sistema que nunca desliga, que está sempre medindo, comparando e ajustando. Como engenheiro de software que já participou da construção de sistemas de monitoramento de produtividade em larga escala, posso afirmar que o problema não está apenas na tecnologia, mas na forma como ela é projetada para maximizar métricas de curto prazo sem considerar o custo humano de longo prazo.

O que é a gestão algorítmica e por que ela exaure

Gestão algorítmica é a prática de usar algoritmos para definir, monitorar e avaliar o trabalho humano, muitas vezes substituindo supervisores hierárquicos tradicionais. Em plataformas de entrega, o algoritmo determina a rota, o tempo máximo por entrega e a ordem de prioridade, e penaliza o entregador que não cumpre os prazos. Em call centers, sistemas de IA analisam o tom de voz, a duração da chamada e o índice de resolução no primeiro contato, alimentando um painel de desempenho que pode levar a demissões automáticas.

O que torna esse modelo particularmente exaustivo é a assimetria de informação: o trabalhador nunca sabe exatamente como o algoritmo está avaliando seu desempenho, quais são os pesos de cada variável ou quando uma decisão foi tomada. O sistema opera como uma caixa-preta, gerando ansiedade constante. Essa sensação de controle externo e imprevisível é um gatilho conhecido de estresse crônico, documentado na psicologia ocupacional como “falta de autonomia percebida”.

Do ponto de vista técnico, muitos desses sistemas são implementados como otimizadores de uma função de custo que minimiza tempo ocioso e maximiza throughput. É um problema clássico de engenharia: dado um conjunto de recursos humanos, encontre a alocação que maximiza a produção. Só que o recurso humano cansa, adoece e tem limitações que não estão modeladas na equação. Quando o algoritmo força o trabalhador a operar no limite da capacidade por longos períodos, a exaustão se torna inevitável.

Trade-offs de design: por que os engenheiros constroem esses sistemas

É fácil demonizar o algoritmo, mas a realidade é que muitos engenheiros são contratados para construir exatamente o que o negócio pede: redução de custos, aumento de eficiência, padronização de processos. O trade-off entre eficiência e bem-estar raramente é discutido nas reuniões de sprint. Quando um Product Owner define como métrica de sucesso a redução de 10% no tempo médio de atendimento, o engenheiro implementa um sistema de roteirização que otimiza para esse indicador. O efeito colateral — trabalhadores correndo de uma tarefa para outra sem pausa — não está no critério de aceitação.

Já trabalhei em um projeto onde o algoritmo de alocação de tarefas era treinado com dados históricos de colaboradores que mais produziam, ignorando registros de afastamento por estresse. O resultado era uma meta impossível para a média da equipe, gerando frustração e rotatividade. O modelo estava certo, mas a métrica estava errada. Esse é um problema comum: a IA é treinada para replicar o comportamento dos melhores, mas não considera que esses melhores podem estar operando em um regime insustentável.

Outro ponto crítico é a falta de contrapesos. Em sistemas de recomendação de conteúdo, adicionamos mecanismos de diversidade para evitar bolhas. Em sistemas de gestão algorítmica, raramente vemos mecanismos de “descanso forçado” ou de “proteção contra fadiga”. O algoritmo não tem um sensor de esgotamento humano. Cabe ao engenheiro projetar esses limites, mas a pressão por entregas rápidas muitas vezes impede que isso seja priorizado.

Infraestrutura de nuvem e o controle contínuo

A computação em nuvem viabilizou a gestão algorítmica em escala global. Servidores distribuídos, filas de mensagens, bancos de dados em tempo real e funções serverless permitem que um sistema monitore milhares de trabalhadores simultaneamente, com latência de milissegundos. O que antes era uma tarefa de supervisão humana baseada em relatórios diários tornou-se um fluxo contínuo de dados e decisões.

Essa infraestrutura também permite a coleta de dados granulares sobre cada ação do trabalhador: cliques, pausas, movimentos, tempo de resposta. Quanto mais dados, mais o algoritmo pode refinar sua otimização. Mas também mais o trabalhador sente a pressão de um olho invisível que nunca descansa. A privacidade se torna secundária; o que importa é alimentar o modelo com mais informações para melhorar a precisão da “gestão”.

Do ponto de vista de segurança, esses sistemas são um alvo atraente. Um invasor que consiga manipular as regras de alocação ou as pontuações de desempenho pode causar caos operacional e danos psicológicos em massa. A superfície de ataque inclui endpoints de APIs, filas de mensagens e bancos de dados de séries temporais. A implementação de controles de acesso, auditoria e criptografia é essencial, mas muitas vezes negligenciada em nome da velocidade de desenvolvimento.

Lições de implementação: o que aprendi na prática

Em um projeto recente de sistema de roteirização de entregas, propus a inclusão de um limite de fadiga: o algoritmo não poderia alocar uma nova tarefa a um entregador que já tivesse trabalhado mais de X horas consecutivas sem uma pausa mínima. A resistência veio de dois lados: do negócio, que argumentava que isso reduziria a capacidade de pico; e da equipe de engenharia, que achava que era uma regra extra desnecessária. A implementação exigiu a criação de um modelo de estado do trabalhador, com janelas deslizantes de tempo e alertas em tempo real.

O resultado foi uma redução de 15% nos acidentes de trabalho e uma queda na rotatividade de funcionários. A métrica de throughput caiu ligeiramente, mas o custo operacional total (incluindo recrutamento e treinamento) diminuiu. Esse exemplo mostra que é possível projetar sistemas que respeitam limites humanos sem inviabilizar o negócio, desde que haja vontade política e métricas de sucesso balanceadas.

Outra lição importante é a necessidade de transparência. Quando o trabalhador entende como o algoritmo funciona — quais fatores são ponderados, como são calculadas as recompensas e penalidades —, a sensação de injustiça diminui. Implementar um painel explicativo, com visualizações simples do raciocínio algorítmico, pode reduzir a ansiedade e aumentar a aceitação. Isso não é apenas ética; é também engenharia de usabilidade.

Implicações para o mercado de trabalho e a carreira de engenharia

Para o engenheiro de software, a gestão algorítmica representa um dilema moral e profissional. Você pode ser contratado para construir um sistema que vai explorar trabalhadores, ou pode ser o profissional que recusa o projeto por princípios. A realidade, no entanto, é mais cinza: a maioria de nós trabalha em empresas que buscam eficiência, e o papel do engenheiro muitas vezes é o de mitigar os danos colaterais.

Uma tendência que observo é o surgimento de cargos como “AI Ethics Engineer” ou “Responsible AI Developer”, mas ainda são exceções. A maioria dos times de produto não tem orçamento para isso. Cabe ao profissional individualmente defender a inclusão de métricas de bem-estar nos critérios de aceitação, propor testes de estresse com usuários reais e documentar os trade-offs. Isso não é apenas altruísmo: empresas que ignoram a exaustão algorítmica enfrentam passivos trabalhistas, danos à reputação e dificuldade de retenção de talentos.

Para quem está no início da carreira, minha recomendação é estudar não apenas algoritmos de otimização, mas também design centrado no ser humano, psicologia organizacional e ética aplicada. Esses conhecimentos serão diferenciais competitivos em um mercado que cada vez mais exigirá responsabilidade social das empresas de tecnologia.

Riscos e limitações: quando a exaustão algorítmica pode ser intencional

Vale um alerta: nem toda exaustão algorítmica é resultado de um design ingênuo. Algumas empresas usam a gestão por IA deliberadamente para pressionar trabalhadores a pedir demissão, evitando custos de rescisão. O algoritmo é configurado para criar metas inatingíveis, gerar ciclos de feedback negativo e isolar o colaborador. Esse é um uso predatório da tecnologia, e a linha entre otimização agressiva e assédio moral pode ser tênue.

Do ponto de vista legal, a regulamentação ainda engatinha. A União Europeia avança com o AI Act, que classifica sistemas de gestão de trabalhadores como de alto risco e exige auditoria e transparência. No Brasil, o debate ainda é incipiente. Enquanto isso, o engenheiro que participa da construção de tais sistemas pode se tornar cúmplice de abusos, mesmo que indiretamente. A responsabilidade profissional não termina no código; ela se estende às consequências do sistema em operação.

Reflexão final: o que podemos fazer como profissionais

A exaustão algorítmica não é uma fatalidade tecnológica. É uma escolha de design, de métricas e de prioridades. Como engenheiros, temos o poder de influenciar essas escolhas, desde que estejamos dispostos a questionar o que nos é pedido. Em vez de entregar cegamente a funcionalidade “otimizar alocação de recursos”, podemos perguntar: otimizar para quê? Para quem? A que custo humano?

Construir sistemas que respeitam o trabalhador não é um luxo ou um ativismo; é engenharia de qualidade. Um sistema que ignora a fadiga humana é um sistema frágil, que gera rotatividade, erros, acidentes e passivos. Um sistema bem projetado, com limites explícitos, transparência e mecanismos de feedback, é mais robusto e sustentável. A IA pode ser nossa chefe, mas não precisa ser uma tirana. Cabe a nós, que construímos essas ferramentas, garantir que elas sirvam para elevar o trabalho humano, e não para esgotá-lo.