A governança como motor da inovação em inteligência artificial

Um estudo global conduzido pela KPMG em 2025, intitulado Trust, attitudes and use of artificial intelligence, aponta que mais da metade (54%) das 48 mil pessoas entrevistadas em 47 países se mostra cautelosa quanto a confiar nos sistemas de IA. Sete em cada dez entrevistados consideram necessária a regulação dessa tecnologia.

Os mercados não operam de maneira eficiente apenas porque as instituições possuem capacidade técnica, mas porque seus participantes confiam que elas atuam dentro de limites previsíveis e verificáveis. Investidores confiam em relatórios financeiros, consumidores esperam que os sistemas não os exponham a danos arbitrários e reguladores precisam acreditar que as entidades supervisionadas administrarão a inovação em conformidade com as expectativas legais e institucionais.

A economia digital sempre dependeu dessa confiança. Com a inteligência artificial, porém, surge uma exigência adicional: além de confiar nas instituições, os participantes precisam confiar nos próprios sistemas e na capacidade das organizações de supervisioná-los de maneira responsável. Quando os algoritmos começam a moldar as bases informacionais sobre as quais as organizações tomam decisões, a governança desses sistemas torna-se indissociável da governança da própria instituição.

“A confiança nos sistemas de IA é inerentemente mais frágil do que aquela depositada nas formas anteriores de software corporativo. […] Uma decisão algorítmica percebida como enviesada, inexplicável ou desprovida de mecanismos de responsabilização pode colocar em xeque não apenas a funcionalidade do sistema, mas também a legitimidade da própria instituição que o utiliza”, adverte André Rizzo em seu recente livro, Reflections on AI Governance and Compliance.

Falhas dessa natureza podem produzir repercussões imediatas sobre a reputação das instituições, pois encontram eco nas preocupações da sociedade com a automação, a desigualdade e o poder institucional. Controvérsias envolvendo vieses algorítmicos em processos de contratação, erros de reconhecimento facial na segurança pública e sistemas opacos de recomendação que influenciam os fluxos de informação demonstram como questões técnicas podem se transformar em crises de legitimidade. Em casos assim, a controvérsia ultrapassa a arquitetura dos sistemas: mesmo um modelo que satisfaça suas métricas internas pode perder a confiança do público se as pessoas afetadas não compreenderem seu funcionamento nem puderem contestar seus resultados.

A inteligência artificial é frequentemente apresentada como uma tecnologia objetiva, capaz de tomar decisões baseadas exclusivamente em dados. À primeira vista, os algoritmos parecem oferecer consistência em situações nas quais o julgamento humano pode ser influenciado por emoções, hábitos ou preferências inconscientes. Essa percepção, contudo, ignora que a IA é desenvolvida por pessoas, treinada com dados produzidos por instituições e implementada em ambientes moldados por estruturas jurídicas, sociais, econômicas e organizacionais.

Se esses dados incorporam desigualdades históricas, representações incompletas ou vieses presentes em decisões anteriores, os sistemas algorítmicos podem reproduzir — e até ampliar — tais padrões. Algoritmos não compreendem conceitos como equidade, justiça ou responsabilidade social. Suas funções objetivas são formuladas, em geral, para otimizar a capacidade preditiva, a eficiência ou o desempenho operacional, e não para avaliar se um padrão estatisticamente bem-sucedido deve ser reproduzido. A neutralidade, portanto, não é uma propriedade inerente à tecnologia, mas uma questão de governança. A equidade não emerge naturalmente da sofisticação computacional: exige avaliação, testes e supervisão institucional contínuos.

Organizações responsáveis estabelecem processos para examinar dados de treinamento, acompanhar os resultados dos modelos, avaliar seus efeitos distributivos e identificar disparidades não intencionais em contextos reais de tomada de decisão. Essa supervisão pode incluir equipes interdisciplinares, metodologias para testar a equidade, avaliação contínua do desempenho e mecanismos para encaminhar e investigar resultados questionáveis.

Nenhum desses mecanismos pode garantir resultados perfeitamente neutros em todos os contextos. Eles podem, contudo, reduzir o risco de que sistemas algorítmicos reproduzam silenciosamente padrões incompatíveis com valores institucionais ou expectativas regulatórias. A ausência de governança não elimina a complexidade: apenas adia seu enfrentamento até que uma falha ou o escrutínio público imponha suas consequências.

Governar a IA, portanto, não significa conter a inovação, mas criar as condições para sustentá-la. Ao tornar os sistemas mais compreensíveis, passíveis de contestação e sujeitos a mecanismos de responsabilização, as instituições fortalecem a confiança necessária para ampliar sua adoção. É essa confiança que permitirá à inteligência artificial avançar com legitimidade e sustentar novos ciclos de inovação.