Vieses de Decisão que a IA Não Corrige Sozinha

Um comité de investimento pede a uma ferramenta de análise que avalie um novo mercado antes de decidir entrar nele. A ferramenta devolve um relatório detalhado, cheio de números, que confirma exactamente a intuição que o comité já tinha antes de a pedir. Ninguém questiona o relatório, porque parece objectivo. Mas o comité não eliminou o seu viés inicial. Apenas o vestiu de dados. Este episódio repete-se em muitas empresas todas as semanas, sob formas diferentes, sempre com a mesma estrutura por baixo.

A IA elimina os vieses cognitivos de um gestor?

Não elimina, e a expectativa de que elimine é, em si mesma, um dos enganos mais caros da adopção de IA na gestão. Um algoritmo aprende com padrões do passado, e o passado de qualquer organização contém decisões enviesadas que ninguém corrigiu a tempo. Sem um esforço deliberado para identificar esses vieses antes de treinar ou usar uma ferramenta, a IA limita-se a reproduzi-los, com uma aparência de neutralidade que os torna ainda mais difíceis de questionar do que antes.

Que vieses de decisão a IA pode amplificar em vez de corrigir?

O viés de confirmação é o mais comum: procurar, entre várias recomendações possíveis, precisamente aquela que confirma o que já se queria fazer. O viés de ancoragem também se amplifica com facilidade, quando um primeiro número gerado por um modelo se torna a referência inquestionável de toda a discussão seguinte. E o viés de autoridade cresce de forma particular com a IA, porque uma recomendação que parece vir de um sistema "objectivo" ganha um peso que uma opinião humana equivalente nunca teria na mesma reunião.

Como o viés de confirmação se disfarça de dado objectivo?

Disfarça-se porque a pergunta feita à ferramenta já vem, muitas vezes, moldada pela conclusão que se pretende chegar. Um gestor que pede "mostra-me porque este investimento é uma boa ideia" recebe argumentos a favor, não uma avaliação equilibrada. A ferramenta respondeu bem à pergunta que lhe foi feita. O problema não esteve na resposta, esteve na pergunta, e essa pergunta reflecte sempre um viés que já estava presente antes de qualquer ecrã se acender.

Que ligação existe entre vieses de decisão e a sombra organizacional?

É a mesma lógica que O Último Activo descreve a propósito da sombra: tudo o que uma pessoa ou uma organização recusa reconhecer em si mesma continua activo, apenas escondido. Um viés não examinado funciona como um complexo organizacional, uma força que governa decisões sem nunca ser nomeada em voz alta. A IA não tem meios para ver essa sombra, porque só vê os dados que a organização já produziu, e esses dados carregam a mesma sombra que ninguém quis olhar de frente.

Que exemplo mostra este efeito num contexto de crédito ou recrutamento?

Uma instituição financeira que usa IA para decidir concessão de crédito, sem antes examinar os seus próprios padrões de aversão ao risco herdados de crises anteriores, não está a optimizar a carteira de clientes. Está a escalar, a uma velocidade muito maior, os medos não resolvidos dos gestores que treinaram o sistema com decisões passadas. O mesmo acontece no recrutamento: uma ferramenta que aprende com dez anos de contratações de uma empresa herda também dez anos de preferências não escritas sobre que tipo de perfil essa empresa considerava, sem nunca o dizer em voz alta, um bom candidato.

Porque é mais difícil detectar um viés amplificado por IA do que um viés humano isolado?

Porque um viés humano aparece numa pessoa, num momento, numa conversa que outros podem testemunhar e contestar. Um viés amplificado por IA aparece disperso por centenas ou milhares de decisões automatizadas, cada uma parecendo isolada e razoável, sem que ninguém veja o padrão agregado a tempo de o corrigir. A escala é, ao mesmo tempo, a vantagem que atrai as organizações para a IA e o mecanismo que torna os seus erros mais difíceis de detectar antes de se tornarem sistémicos.

Como um diagnóstico de liderança ajuda a identificar vieses de decisão?

Um diagnóstico de liderança sério não pergunta directamente a alguém se tem vieses, porque quase ninguém reconhece os próprios de forma espontânea. Mapeia, em vez disso, o padrão de decisão real dessa pessoa sob pressão, e é nesse padrão que os vieses aparecem com clareza, muitas vezes de forma óbvia para quem observa de fora e completamente invisível para quem os pratica há anos sem questionar. É por isso que a devolução deste tipo de diagnóstico costuma gerar tanta surpresa, não porque revele algo estranho a quem lidera, mas precisamente porque nomeia algo que sempre esteve ali, disfarçado de bom senso.

Que prática reduz este risco no dia a dia de uma equipa?

Uma prática simples ajuda mais do que parece: antes de aceitar qualquer recomendação de IA numa decisão importante, pedir a alguém da equipa que assuma, de propósito, o papel de advogado do diabo, questionando a recomendação como se ela estivesse errada. Esta prática, combinada com um processo de decisão com IA bem desenhado, obriga a equipa a examinar o que a ferramenta sugere, em vez de a aceitar apenas porque veio embrulhada em dados. Um trabalho de fundo sobre estes padrões, como o oferecido em Deep Leadership 3D, reduz a frequência com que estes vieses aparecem por não terem sido nunca nomeados, e devolve à equipa a autoria das suas próprias decisões, em vez de a delegar, sem perceber, a um sistema que apenas devolve o que já lhe foi ensinado.