TERCEIRIZAÇÃO DO JULGAMENTO

Por que ‘‘ética da IA’’ é um termo impróprio – e por que isso importa para os negócios

Por Cornelia C. Walther

Todas as salas de reuniões já ouviram isso. Todas as listas de verificação de compras incluem isso. Todas as apresentações para investidores agora o apresentam em algum lugar entre a declaração de missão e o modelo de receita. ‘‘Ética em IA’’ tornou-se a expressão que sinaliza seriedade sem necessariamente concretizá-la. Essa lacuna merece ser examinada – porque a fragilidade da expressão é estrutural, e fragilidades estruturais tendem a vir à tona em momentos dispendiosos.

As duas palavras – ‘‘inteligência’’ e ‘‘ética’’ – contêm erros de categoria distintos. Corrija esses erros e surgirá uma questão mais útil: uma que pertence ao início da estratégia de IA, antes da construção, antes do contrato e muito antes do incidente.

O primeiro equívoco: inteligência

Podemos chamar isso de uma ficção útil que escapou da gaiola. ‘‘Inteligência artificial’’ começou como uma abreviação na pesquisa e se tornou infraestrutura. Ao longo do caminho, a palavra ‘‘inteligência’’ adquiriu um passageiro que nunca pediu para carregar: a suposição de que o que as máquinas fazem se assemelha ao que os humanos fazem, só que mais rápido, melhor e mais poderoso.

Não. Os sistemas de IA atuais preveem, classificam, geram e otimizam. Eles executam tarefas específicas com notável rapidez e encontram dificuldades em questões que exigem contexto, incorporação ou significado vivenciado. O Índice de IA de Stanford de 2026 documenta a adoção de IA em organizações em 88%, com quatro em cada cinco estudantes universitários utilizando IA generativa. Essa é a marca de uma tecnologia que evoluiu de ferramenta para ambiente cognitivo. Nesse contexto, é importante ter em mente as diferenças fundamentais entre inteligência natural e artificial.

A inteligência natural é um processo vivo, moldado por aspiração, emoção, pensamento e sensação corporal. Ela se desenvolve por meio da ação e da consequência, do pertencimento social e da formação moral, através do longo currículo de erros. A inteligência híbrida distingue cuidadosamente entre a inteligência natural – enraizada na biologia humana, na biografia e na comunidade – e a simulação computacional de resultados selecionados dessa inteligência.

Essa distinção é importante porque organizações que confundem a simulação com a coisa em si tendem a alocar autoridade de forma inadequada. Elas permitem que sistemas carreguem um peso que exige julgamento humano e, em seguida, expressam surpresa quando os resultados são tecnicamente corretos, mas humanamente errados. A palavra “inteligência” em IA simplifica demais o que o ecossistema cognitivo natural abrange.

Uma ferramenta automatizada de recrutamento que filtra variáveis ​​como gênero ou localização geográfica por meio de indicadores indiretos não está demonstrando falta de ética. Ela está executando cálculos matemáticos corretos com base em premissas equivocadas. O problema ético reside na origem do processo, na decisão humana de automatizar esse julgamento específico, com base nesse conjunto de dados específico, visando esse objetivo organizacional específico. O artigo de 2021 ‘‘Sobre os Perigos dos Papagaios Estocásticos: Os Modelos de Linguagem Podem Ser Grandes Demais?’’ afirmou isso claramente: a fluência na linguagem não é sinônimo de compreensão, e tratá-la como tal gera custos que recaem – de forma desigual – sobre pessoas reais.

É importante ter em mente as diferenças fundamentais entre inteligência natural e inteligência artificial.

O segundo equívoco: ética

A segunda compressão ocorre com a palavra ‘‘ética’’. Na vida corporativa, a ética tornou-se conformidade: um conjunto de regras, revisões e categorias de risco criadas para evitar problemas para as organizações. Essa é uma função legítima. Mas também representa uma redução significativa do que a ética realmente exige.

Agir corretamente em relação às pessoas é um princípio que precede o aprendizado de máquina em vários milênios. O que a IA introduz é um novo ambiente operacional para uma antiga questão: o que devemos uns aos outros? Quais decisões merecem deliberação humana e quais podem ser delegadas à análise de padrões em larga escala? A ética não é um problema novo que surgiu com o advento dos grandes modelos de linguagem. É o problema mais antigo da humanidade, presente hoje em sistemas de recomendação, triagem clínica, compras automatizadas, plataformas de aprendizado personalizado e chatbots de interação com o consumidor.

A abordagem de listas de verificação – métricas de imparcialidade, auditorias de viés, pontuações de explicabilidade, trilhas de responsabilidade – oferece valor genuíno. Esses instrumentos fazem parte da infraestrutura necessária. Eles se tornam superficiais quando as organizações os tratam como um fim em si mesmos. O trabalho mais árduo envolve questionar que tipo de inteligência um sistema cultiva nas pessoas que o utilizam diariamente.

Uma ferramenta de IA no ambiente de trabalho aprimora o julgamento ou o terceiriza gradualmente? Um sistema voltado para o cliente constrói confiança ou a mina? Uma plataforma educacional aprofunda a curiosidade ou fabrica o engajamento? Todo sistema ensina algo por meio do contato repetido. A maioria das organizações não está mensurando a influência que seus sistemas exercem sobre seus funcionários.

Esta é a zona que as estruturas de governança abordam, mas raramente exploram. A Recomendação da Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco) sobre a Ética da Inteligência Artificial coloca a dignidade humana e a supervisão no centro. Os Princípios de IA da Organização para a Cooperação e o Desenvolvimento Econômico (OCDE) apelam a uma IA confiável que apoie o bem-estar e o desenvolvimento sustentável. A Lei de IA da União Europeia (UE) enquadra a abordagem europeia em torno do design centrado no ser humano. Estas são arquiteturas necessárias. A questão cultural e prática que elas deixam em aberto é a seguinte: que tipo de ser humano – e que tipo de organização – o uso contínuo de um determinado sistema de IA produz?

O que a IA introduz é um novo ambiente operacional para uma velha questão: o que devemos uns aos outros?

A justificativa comercial para fazer isso da maneira correta

Se reformularmos os equívocos, uma lógica de negócios intrigante emerge. Uma organização que trata a IA como uma simulação de capacidades humanas selecionadas, em vez de um substituto para elas, projeta sua implementação de forma diferente. Ela mantém os humanos envolvidos nas decisões em que o contexto, a dignidade e as consequências importam. Ela mede o impacto do uso da IA ​​na autonomia dos funcionários, e não apenas na sua eficiência. Ela questiona se as ferramentas de IA estão restringindo ou expandindo o leque de pensamento que ocorre na organização. O bem-estar e o desempenho dos funcionários melhoram de forma sustentável.

Uma organização que trata a ética como arquitetura primordial, em vez de auditoria posterior, constrói sua estratégia de IA em torno de um propósito desde o início. O Índice de IA Pró-Social oferece uma estrutura disciplinada para isso: uma avaliação estruturada que questiona se os sistemas de IA são adaptados, treinados, testados e direcionados para extrair o melhor das pessoas e do planeta. Ele transforma a aspiração moral em uma prática de monitoramento, aprendizado e correção, abrangendo as dimensões de propósito, pessoas, lucro e impacto planetário.

Os riscos para os negócios decorrentes da negligência desse fato se acumulam lentamente. A deterioração da capacidade de ação – a erosão gradual da capacidade de julgamento humano por meio da delegação crônica a máquinas – não aparece em um relatório trimestral. Tampouco o estreitamento da imaginação organizacional, o esvaziamento da expertise profissional ou a lenta substituição da sabedoria prática pela confiança em dados. Essas são vulnerabilidades de longo prazo. Líderes que pensam em décadas, e não em trimestres, tendem a achá-las interessantes.

A pergunta que importa

A expressão ‘‘ética da IA’’ continuará em circulação. O trabalho que ela evoca, porém, é muito maior do que o próprio termo sugere. A pergunta que se coloca para cada executivo, membro do conselho e equipe de estratégia é específica: que tipo de inteligência natural (IN) está sendo cultivada pelos nossos sistemas de IA? Essa pergunta deve estar presente desde o início de qualquer estratégia de IA. Deve constar nos critérios de aquisição, nos briefings de design, nas estruturas de desempenho e nas conversas que acontecem antes da assinatura de qualquer contrato.

A resposta molda a forma como encaramos duas questões subsequentes. Nossos colaboradores estão se tornando mais capazes, mais criteriosos e mais responsáveis ​​com essas ferramentas – ou menos? Em quem estamos nos transformando, como organização, por meio do contato contínuo com os sistemas que estamos construindo e adquirindo?

Quatro perguntas para redefinir seu relacionamento com sua IN e sua IA:

• Por que você está usando IA, individualmente e em equipe? Vá além dos argumentos gerais de eficiência e eficácia e analise os motivos reais.
• Quem é você sem suas ferramentas? O que te torna único como pessoa, como líder de equipe?
• Em que ponto você se encontra em sua jornada de IA? Você já chegou a um estágio em que seus recursos estão moldando o seu pensamento?
• O que você está fazendo para alinhar suas aspirações com seus algoritmos e evitar o contrário?

Quem é Cornelia Walther

Cornelia C. Walther é pesquisadora visitante na Wharton AI & Analytics Initiative. Ela também é diretora da POZE, uma aliança global para mudanças sistêmicas que beneficia as pessoas e o planeta, e é autora de mais de cinco livros sobre influência, impacto e transformação social, incluindo o potencial de alavancar algoritmos aspiracionais para mudanças pró-sociais em escala.

Além disso, Walther passou mais de duas décadas trabalhando para as Organização das Nações Unidas (ONU) em situações de emergência de larga escala na África Ocidental, Ásia e América Latina, com foco em advocacy e mudança social e comportamental.

Na Analytics at Wharton, Walther concentra o seu tempo na Wharton Initiative for Neuroscience com foco na AI4IA (Inteligência Artificial para Ação Inspirada).

A Wharton School é a primeira escola de negócios universitária do mundo, fundada em 1881, na Universidade da Pensilvânia, nos Estados Unidos. É uma instituição de referência global em Administração, Finanças e Marketing, conhecida por seus programas de graduação e pós-graduação, como o MBA, e por sua forte ligação com a comunidade empresarial.

Extraído de Knowledge at Wharton, o jornal de negócios da Wharton School