TERCEIRIZAÇÃO DO JULGAMENTO

Quando a inteligência artificial faz com que decisões inaceitáveis ​​pareçam normais

Por Cornelia C. Walther

Uma gerente está se preparando para uma conversa difícil sobre desempenho. Ela abre um assistente de inteligência artificial (IA) e pede que ele aprimore suas anotações. Algumas semanas depois, ela usa o mesmo sistema para identificar padrões no desempenho do funcionário. Em seguida, para comparar esse funcionário com outros. Depois, para sugerir quem parece pronto para uma promoção. Durante uma reestruturação, a ferramenta começa a apontar cargos que podem ser eliminados.

Cada etapa é fácil de justificar. O sistema é rápido, útil e aparentemente eficaz. No entanto, em algum ponto do processo, uma ferramenta que começou aprimorando a linguagem de uma decisão passou a participar da tomada de decisão.

É assim que a normalização funciona. Grandes mudanças geralmente chegam como uma série de pequenas conveniências. A repetição elimina o atrito; a familiaridade diminui o escrutínio. A IA generativa está se infiltrando rapidamente no trabalho intelectual porque elabora, resume, compara, prevê e recomenda. O mesmo padrão está entrando na vida privada. As pessoas perguntam à IA se devem confrontar um colega, pedir demissão, confiar em um parceiro, disciplinar um filho, perdoar um amigo ou terminar um relacionamento.

O que acontece quando a IA está presente em tantas etapas de deliberação que paramos de questionar se ela deveria estar ali?

Quando a ajuda começa a moldar o julgamento

O principal risco reside na transição da assistência para a substituição. Pedir à IA que ajude a articular um ponto de vista é diferente de perguntar-lhe qual ponto de vista adotar. Solicitar opções adicionais amplia a tomada de decisão; permitir que o sistema defina as opções começa a estruturá-la. Respostas fluentes podem dificultar a percepção dessa transição, pois a fluência é confundida com raciocínio, e a confiança pode ser confundida com autoridade.

Um estudo de 2025 com trabalhadores do conhecimento descobriu que uma maior confiança na IA generativa estava associada a um menor esforço de pensamento crítico. Os trabalhadores não simplesmente pararam de pensar. Seu trabalho cognitivo passou a se concentrar em verificar, integrar e gerenciar o que o sistema já havia produzido. A verificação ainda exige reflexão. Ao verificar, você faz uma pergunta mais específica: ‘‘Isso parece plausível?’’. O trabalho mais árduo vem antes: ‘‘No que acredito, com base em quê e pelo que estou disposto a me responsabilizar?’’.

É aqui que a deterioração da agência se torna útil como lente analítica. Ela pode se desdobrar em quatro estágios: experimentação, integração, dependência e vício. Uma ferramenta começa como uma opção. Ela se torna parte do fluxo de trabalho. O fluxo de trabalho se adapta a ela. Eventualmente, trabalhar sem ela parece mais lento, incompleto ou estranhamente difícil. A mudança psicológica é sutil: ‘‘Será que a IA poderia me ajudar a pensar sobre isso?’’ se transforma em ‘‘Por que eu pensaria sobre isso sem IA?’’.

Um estudo de 2026 sobre transferência de agência cognitiva traça uma distinção relacionada entre descarregamento autônomo, onde a IA auxilia o pensamento individual, e descarregamento dependente, onde o sistema estrutura cada vez mais o problema, pondera as evidências e fornece a conclusão. O uso dependente foi associado a uma percepção mais fraca de julgamento independente, processamento profundo e capacidade autônoma. O estudo não estabelece um declínio cognitivo a longo prazo. Seu alerta mais imediato é suficiente: usuários autônomos e dependentes podem experimentar benefícios semelhantes a curto prazo. O e-mail está pronto. A análise é mais rápida. A recomendação chega na hora certa. A produtividade parece boa, enquanto a autonomia pode estar sendo transferida internamente.

A mudança psicológica é sutil: ‘‘A IA poderia me ajudar a refletir sobre isso?’’ se transforma em ‘‘Por que eu refletiria sobre isso sem a IA?’’

O problema moral é a atenção

A situação se complica quando a IA entra em decisões com uma dimensão moral. O julgamento ético começa com a percepção de que existe uma questão moral.

Imagine um líder de recursos humanos (RH) revisando dezenas de recomendações de remuneração. Um funcionário recebe um aumento menor após retornar da licença parental. Por si só, a discrepância pode gerar preocupação. Dentro de uma longa sequência de recomendações geradas por IA, cada uma acompanhada de uma justificativa plausível, ela pode passar como apenas mais um dado.

Um estudo de 2025, intitulado ‘‘Aceitando o Inaceitável na Era da IA’’, examinou um mecanismo semelhante. Em experimentos envolvendo gerentes, as recomendações da IA ​​puderam reduzir a consciência moral quando as pessoas estavam lidando com múltiplas decisões organizacionais, tornando mais fácil a aceitação de recomendações antiéticas.

Isso é importante porque decisões questionáveis ​​raramente são rotuladas como problemas éticos. Elas surgem como escolhas de pessoal, classificações, compensações em compras, avaliações de seguros, decisões de preços, metas de produtividade ou reduções de custos. Uma recomendação pode ser analiticamente coerente, mas afetar a justiça, a dignidade ou as oportunidades. Essas consequências só entram na decisão quando alguém as percebe. Em um processo de otimização rápida, o inaceitável não precisa de aprovação entusiástica. Basta que pare de chamar a atenção.

A mesma tendência sutil adentra a vida privada.

Decisões privadas tornam o problema ainda mais íntimo. Uma pessoa cola mensagens em um chatbot e pergunta se o parceiro é manipulador. Um pai pergunta como responder a um filho distante. Um profissional pergunta se abandonar a carreira é a escolha ‘‘certa’’. Alguém pede à IA para escrever uma mensagem de término de relacionamento e, em seguida, pergunta se enviá-la é moralmente justificável.

Um experimento de 2026 descobriu que os conselhos do ChatGPT influenciavam os julgamentos das pessoas em um dilema moral, mesmo quando não continham nenhum argumento moral de apoio. Em outras palavras, a influência não dependia inteiramente da persuasão pela razão. Às vezes, uma resposta tem poder porque reduz o peso da escolha.

Esse alívio merece ser analisado. A dúvida pode nos forçar a examinar nossas motivações. A hesitação nos dá tempo para perceber quem mais é afetado. A inquietação pode sinalizar que algo está genuinamente em conflito com nossos valores. O julgamento humano costuma ser lento porque a realidade é moralmente complexa.

Há um segundo efeito. Pesquisas sobre ciclos de feedback entre humanos e IA descobriram que a interação repetida com a IA pode amplificar vieses em julgamentos humanos posteriores, enquanto os participantes frequentemente subestimam essa influência. Uma vez que um sistema define repetidamente o que importa, quais variáveis ​​merecem atenção e o que conta como evidência, sua lógica pode começar a moldar a nossa. A IA não precisa da palavra final para influenciar a estrutura de uma decisão. Quando aquilo que antes parecia incomum se torna rotineiro, conveniente, semiautomatizado e não precisa mais de explicação, passa a ser aceito.

O risco de gestão que se esconde à vista de todos

Os líderes empresariais já se preocupam com privacidade, segurança cibernética, alucinações, propriedade intelectual, discriminação e conformidade. Outra preocupação surge ao lado: qual o impacto do uso repetido de IA na qualidade do julgamento humano dentro da organização?

Uma pessoa pode permanecer formalmente ‘‘no circuito’’ enquanto, na prática, se move para etapas subsequentes no processo automatizado. O analista ainda elabora relatórios. O gerente ainda assina. O executivo permanece responsável. Contudo, a formulação inicial, a lista restrita de opções e a primeira recomendação podem ter sido geradas em outro lugar. A responsabilidade humana permanece, enquanto a autoria humana diminui.

Isso cria um arranjo de governança problemático: as organizações mantêm a responsabilidade enquanto terceirizam gradualmente partes da capacidade que tornam a responsabilidade significativa.

Criar atrito antes da decisão

A IA generativa pode ampliar a capacidade humana ao expandir a reflexão, a comparação e a imaginação. A disciplina prática consiste em preservar a autoria humana nos momentos que importam. Antes de um uso significativo, quatro questões podem criar atrito suficiente para tornar isso visível:

1. Que parte do meu julgamento estou prestes a delegar?
2. O que eu pensei antes da IA ​​responder?
3. Quem viverá com as consequências?
4. Posso defender a decisão final por conta própria?

Essas perguntas levam menos de um minuto. Seu objetivo é interromper a progressão da conveniência para o hábito e do hábito para a dependência.

A capacidade de escolha sempre foi tão fundamental para a vida humana que nunca a percebemos ou tratamos como algo que exigisse proteção ativa. A IA altera as condições em torno dessa capacidade. Ela agora pode ocupar o espaço entre a percepção e a decisão, assumindo parte de nossa carga cognitiva e moral.

A normalização do inaceitável acontece um pequeno estímulo após o outro. A familiaridade torna a transição do julgamento independente para o raciocínio assistido e, finalmente, para o julgamento delegado, suave, até que se torne algo natural na vida. É uma ladeira escorregadia: quando o que antes parecia incomum se torna rotineiro, conveniente, semiautomatizado e não precisa mais de explicação, é aceito.

Estar vigilante significa perceber essa transição enquanto a fronteira ainda está visível. Caso contrário, terceirizar o julgamento acabará por parecer algo completamente normal – e podemos eventualmente esquecer por que mantê-lo em nossas mãos parecia importante em algum momento.

Quem é Cornelia Walther

Cornelia C. Walther é pesquisadora visitante na Wharton AI & Analytics Initiative. Ela também é diretora da POZE, uma aliança global para mudanças sistêmicas que beneficia as pessoas e o planeta, e é autora de mais de cinco livros sobre influência, impacto e transformação social, incluindo o potencial de alavancar algoritmos aspiracionais para mudanças pró-sociais em escala.

Além disso, Walther passou mais de duas décadas trabalhando para as Organização das Nações Unidas (ONU) em situações de emergência de larga escala na África Ocidental, Ásia e América Latina, com foco em advocacy e mudança social e comportamental.

Na Analytics at Wharton, Walther concentra o seu tempo na Wharton Initiative for Neuroscience com foco na AI4IA (Inteligência Artificial para Ação Inspirada).

A Wharton School é a primeira escola de negócios universitária do mundo, fundada em 1881, na Universidade da Pensilvânia, nos Estados Unidos. É uma instituição de referência global em Administração, Finanças e Marketing, conhecida por seus programas de graduação e pós-graduação, como o MBA, e por sua forte ligação com a comunidade empresarial.

Extraído de Knowledge at Wharton, o jornal de negócios da Wharton School