A IA está no controle: e agora ?
Impulsionada por avanços recentes em Machine Learning, a adoção da inteligência artificial nas empresas tem crescido de forma exponencial. Segundo a Forbes, três em cada quatro organizações no mundo já utilizam a IA em ao menos uma aplicação de negócio. Esse cenário tem levado analistas a preverem que o mercado irá quadruplicar nos próximos três anos, atingindo US$ 1,4 trilhão até 2030.
Embora a rápida adoção da IA traga benefícios reais, ela levanta preocupações quanto à ampliação dos riscos sistêmicos, incluindo viés algorítmico, falta de transparência, violações de privacidade e até danos à reputação. O resultado é uma crescente responsabilidade regulatória que as organizações devem abordar com urgência, especialmente agora, com a entrada em vigor da EU AI Act, a primeira legislação abrangente do mundo para regular a inteligência artificial.
Criada pela União Europeia, a legislação estabelece regras jurídicas para o desenvolvimento, comercialização e uso de tecnologias de IA. Assim como aconteceu com o GDPR (que inspirou a LGPD no Brasil), a EU AI Act tem efeito extraterritorial, aplicando-se a qualquer empresa do mundo cujos sistemas de IA disponibilizem produtos ou gerem impactos dentro do mercado europeu, sujeitando os infratores a multas pesadas de até 7% de seu faturamento anual.
A preocupação é legítima. Em seu livro mais recente, Reflections on AI Governance and Compliance — obra que disseca com maestria este assunto —, André Rizzo destaca: “O que está em jogo não é simplesmente progresso tecnológico, mas a gradual reconfiguração de como as instituições percebem a realidade, alocam atenção e exercitam autoridade”.
Modelos de Machine Learning não apenas nos ajudam a modernizar aplicações, automatizar processos e criar inovações. Eles atuam principalmente na camada mais básica e fundamental de qualquer iniciativa — a informação —, auxiliando-nos a extraí-la, entendê-la, resumi-la, categorizá-la e até gerá-la, para posterior utilização em cadeias complexas de tomada de decisão. Esta estrutura interpretativa, que antes se apoiava na realidade em si, agora opera à luz de treinamentos fundamentados em dados históricos.
Um caso amplamente divulgado pela Reuters ilustra os perigos dessa dinâmica na prática. Uma das maiores empresas de tecnologia do mundo resolveu deixar a cargo da IA a pré-seleção de currículos para suas vagas de emprego. Com o passar do tempo, o time de RH dessa organização percebeu que o sistema priorizava quase exclusivamente candidatos homens. Ao investigarem o problema a fundo, descobriram que a IA, ao cruzar os dados históricos dos colaboradores atuais — um universo historicamente de maioria masculina —, inferiu de maneira espontânea que havia uma preferência interna por indivíduos desse sexo. A partir disso, a ferramenta passou a avaliar negativamente, de forma sistemática, as candidaturas de mulheres.
Embora este projeto tenha sido descontinuado, ele demonstra como sistemas algorítmicos podem herdar vieses estruturais dos dados utilizados para treiná-los. Rizzo reforça que “quando as instituições dependem de modelos de Machine Learning treinados com dados históricos, esses modelos podem reproduzir padrões institucionais ultrapassados, a menos que se utilizem frameworks de governança para ativamente examinar como estes padrões influenciam os resultados”.
Diferentemente de outras evoluções tecnológicas, a IA é adotada sem grandes pompas ou anúncios. Sem alarde, colaboradores passam a classificar dados por meio de recursos recém-disponibilizados em planilhas eletrônicas. Oportunidades de venda ganham priorização automática com assistentes integrados ao CRM. Reuniões são integralmente transcritas e sintetizadas em ferramentas de colaboração, enquanto e-mails, propostas e contratos são redigidos por agentes autônomos. É precisamente essa infiltração invisível que reforça a urgência de elevar a maturidade da governança nas organizações.
“A inteligência artificial não exige autorização formal para influenciar o ambiente institucional. À medida que esse processo avança, o desafio de governança mais crítico não será o controle da tecnologia em si. Em vez disso, será garantir que as instituições permaneçam capazes de explicar como a autoridade é exercida quando sistemas inteligentes participam da elaboração das informações das quais as decisões dependem”, alerta Rizzo.
Assim como a União Europeia, jurisdições como Coreia do Sul, China e alguns estados americanos — a exemplo de Texas e Califórnia — já possuem marcos regulatórios próprios para a inteligência artificial. Enquanto isso, Brasil, Canadá, Japão e Singapura avançam na tramitação de estruturas similares. Diante desse cenário, as multinacionais enfrentam hoje um verdadeiro quebra-cabeça de compliance. Mapear tendências no ambiente de negócios é sempre complexo, mas uma realidade é incontestável: o avanço da IA nas organizações é um caminho sem volta, o que exigirá um amadurecimento inevitável da governança institucional.