Governance de IA: o Papel que Só a Liderança Pode Fazer

Uma empresa instala uma ferramenta de IA para acelerar decisões de crédito e delega a sua implementação ao departamento de tecnologia, sem que ninguém do board reveja o que a ferramenta está, de facto, a decidir. Meses depois, um regulador pergunta quem aprovou o critério usado. Ninguém no board sabe responder, porque ninguém, além da equipa técnica, alguma vez olhou para o assunto. Este cenário deixou de ser hipotético. É, cada vez mais, o ponto de partida real de conversas entre boards e reguladores europeus.

O que exige o AI Act europeu às lideranças?

O Regulamento europeu de Inteligência Artificial, em vigor desde 2024 e com obrigações a entrar em aplicação de forma faseada até 2027, classifica sistemas de IA por nível de risco e exige, para os sistemas de risco elevado, supervisão humana efectiva, documentação clara do funcionamento e responsabilização de quem os utiliza, não apenas de quem os desenvolve. Uma empresa que usa IA em recrutamento, crédito ou avaliação de desempenho de colaboradores entra, com grande probabilidade, nesta categoria de risco elevado, e a lei já não permite tratar isto como um detalhe técnico deixado ao departamento de sistemas.

Quem deve ser responsável pela governance de IA numa empresa?

A responsabilidade final tem de estar na liderança de topo, mesmo quando a implementação técnica é delegada a especialistas. Um comité de IA competente junta perspectivas diferentes, jurídica, técnica, operacional, mas a decisão sobre onde a organização está disposta a usar IA, e onde não está, é uma decisão de gestão de risco, do mesmo tipo que decisões sobre exposição financeira ou reputação de marca. Deixar esta decisão inteiramente ao departamento de tecnologia é abdicar de uma responsabilidade que a lei, e o bom senso, colocam claramente noutro lugar.

Como integrar a governance de IA no ESG?

O ESG trouxe para a mesa de decisão dimensões que o modelo financeiro tradicional ignorava, mas tem uma limitação que raramente se discute: pergunta, sobretudo, se a organização está a cumprir regras já escritas. É um instrumento de conformidade, útil mas limitado. A governance de IA cabe naturalmente dentro da componente de governação do ESG, mas só produz valor real quando vai além da simples verificação de caixas, e passa a perguntar se a organização tem maturidade suficiente para usar estas ferramentas com discernimento, não apenas com autorização legal.

Que erro comete uma empresa que trata isto como conformidade legal e mais nada?

Trata a governance de IA como um exercício de checklist, resolvido uma vez por ano com um parecer jurídico, e esquece que o risco real muda todos os meses, à medida que novas ferramentas entram na organização por iniciativas informais de equipas individuais. Uma organização pode estar legalmente em conformidade e, ainda assim, ter dezenas de ferramentas de IA em uso sem qualquer supervisão real, porque a conformidade documentada e o controlo efectivo são, frequentemente, coisas diferentes.

Que papel tem o Deep Capital Premium nesta governance?

O Deep Capital Premium, descrito em O Último Activo, propõe medir a maturidade real de uma organização através de indicadores como a qualidade de decisão e a resiliência face a crises, indo além da simples conformidade que o ESG tradicional mede. Uma organização com Deep Capital elevado tende a ter melhor governance de IA por consequência natural, porque a mesma maturidade que permite decidir bem sob pressão é a que permite questionar uma ferramenta antes de a adoptar cegamente.

Que sinais mostram que a governance de IA de uma empresa é apenas de fachada?

Um sinal claro é a existência de uma política de IA bem escrita que ninguém na organização conhece ou consulta no dia a dia. Outro é a ausência de qualquer registo de que ferramentas de IA estão realmente em uso, decisão que costuma ficar espalhada por equipas diferentes, cada uma a adoptar o que lhe parece útil sem coordenação central. Um terceiro sinal, mais subtil, é um board que discute IA apenas em termos de oportunidade de negócio, ganhos de produtividade, novos produtos, e nunca em termos do risco que essa mesma adopção está a introduzir na organização.

Que custo tem para uma organização ignorar este tema até ser tarde demais?

O custo raramente aparece como uma multa isolada, embora o AI Act preveja coimas substanciais para incumprimentos graves. Aparece, com mais frequência, como dano reputacional quando se descobre que uma decisão automatizada discriminou um grupo de pessoas, ou como o custo de refazer, sob pressão e sem tempo, um processo inteiro que devia ter sido bem desenhado desde o início. Empresas que tratam a governance de IA como prioridade desde cedo enfrentam este risco de forma ordenada. As que a adiam acabam a resolvê-lo em modo de crise, com um regulador ou um jornalista já a fazer perguntas.

Como começar a construir esta governance sem esperar por uma auditoria?

Comece por um inventário simples: que ferramentas de IA já estão em uso, em que decisões, e quem assumiria a responsabilidade se algo corresse mal. Depois, defina, por escrito, que tipos de decisão nunca podem ser automatizados sem revisão humana, um trabalho que se cruza directamente com o que não deve ser delegado à inteligência artificial. Um diagnóstico de liderança ajuda a avaliar se a sua equipa de topo tem, hoje, a maturidade decisória necessária para assumir esta responsabilidade a sério, em vez de a descobrir apenas quando um regulador, um jornalista ou um cliente lesado a exigir primeiro.