La IA tiene el control: ¿y ahora qué?
Impulsada por los recientes avances en el aprendizaje automático, la adopción de la inteligencia artificial en las empresas ha crecido de forma exponencial. Según Forbes, tres de cada cuatro organizaciones del mundo ya utilizan la IA en al menos una aplicación empresarial. Este panorama ha llevado a los analistas a pronosticar que el mercado se cuadruplicará en los próximos tres años, alcanzando los 1,4 billones de dólares estadounidenses en 2030.
Aunque la rápida adopción de la IA aporta beneficios reales, suscita preocupaciones en cuanto al aumento de los riesgos sistémicos, entre los que se incluyen el sesgo algorítmico, la falta de transparencia, las violaciones de la privacidad e incluso el daño a la reputación. El resultado es una creciente responsabilidad regulatoria que las organizaciones deben abordar con urgencia, especialmente ahora, con la entrada en vigor de la Ley de IA de la UE, la primera legislación global del mundo destinada a regular la inteligencia artificial.
Creada por la Unión Europea, esta legislación establece normas jurídicas para el desarrollo, la comercialización y el uso de las tecnologías de IA. Al igual que ocurrió con el RGPD (que inspiró la LGPD en Brasil), la Ley de IA de la UE tiene efecto extraterritorial y se aplica a cualquier empresa del mundo cuyos sistemas de IA ofrezcan productos o generen repercusiones en el mercado europeo, lo que expone a los infractores a multas elevadas de hasta el 7 % de su facturación anual.
La preocupación es legítima. En su libro más reciente, *Reflections on AI Governance and Compliance* —una obra que analiza con maestría este tema—, André Rizzo destaca: «Lo que está en juego no es simplemente el progreso tecnológico, sino la reconfiguración gradual de cómo las instituciones perciben la realidad, prestan atención y ejercen su autoridad».
Los modelos de aprendizaje automático no solo nos ayudan a modernizar aplicaciones, automatizar procesos y crear innovaciones. Actúan principalmente en el nivel más básico y fundamental de cualquier iniciativa —la información—, ayudándonos a extraerla, comprenderla, resumirla, clasificarla e incluso generarla, para su posterior uso en complejas cadenas de toma de decisiones. Esta estructura interpretativa, que antes se basaba en la realidad en sí misma, ahora funciona a la luz de entrenamientos basados en datos históricos.
Un caso ampliamente difundido por Reuters ilustra los peligros de esta dinámica en la práctica. Una de las mayores empresas tecnológicas del mundo decidió encargar a la IA la preselección de currículos para sus ofertas de empleo. Con el paso del tiempo, el equipo de RR. HH. de dicha organización se percató de que el sistema daba prioridad casi exclusivamente a los candidatos varones. Al investigar el problema a fondo, descubrieron que la IA, al cruzar los datos históricos de los empleados actuales —un colectivo históricamente mayoritariamente masculino—, había deducido de forma espontánea que existía una preferencia interna por las personas de ese sexo. A partir de ahí, la herramienta comenzó a valorar negativamente, de forma sistemática, las candidaturas de las mujeres.
Aunque este proyecto se haya suspendido, demuestra cómo los sistemas algorítmicos pueden heredar sesgos estructurales de los datos utilizados para entrenarlos. Rizzo subraya que «cuando las instituciones dependen de modelos de aprendizaje automático entrenados con datos históricos, dichos modelos pueden reproducir patrones institucionales obsoletos, a menos que se utilicen marcos de gobernanza para examinar activamente cómo influyen estos patrones en los resultados».
A diferencia de otros avances tecnológicos, la IA se adopta sin grandes fastos ni anuncios. Sin hacer mucho ruido, los empleados empiezan a clasificar datos mediante funciones recién incorporadas en las hojas de cálculo. Las oportunidades de venta pasan a tener prioridad automática gracias a los asistentes integrados en el CRM. Las reuniones se transcriben íntegramente y se resumen en herramientas de colaboración, mientras que los correos electrónicos, las propuestas y los contratos son redactados por agentes autónomos. Es precisamente esta infiltración invisible la que refuerza la urgencia de aumentar la madurez de la gobernanza en las organizaciones.
«La inteligencia artificial no requiere autorización formal para influir en el entorno institucional. A medida que este proceso avance, el reto más importante en materia de gobernanza no será el control de la tecnología en sí misma. Más bien, consistirá en garantizar que las instituciones sigan siendo capaces de explicar cómo se ejerce la autoridad cuando los sistemas inteligentes participan en la elaboración de la información en la que se basan las decisiones», advierte Rizzo.
Al igual que la Unión Europea, jurisdicciones como Corea del Sur, China y algunos estados de EE. UU. —como Texas y California— ya cuentan con sus propios marcos normativos para la inteligencia artificial. Mientras tanto, Brasil, Canadá, Japón y Singapur avanzan en la tramitación de estructuras similares. Ante este panorama, las multinacionales se enfrentan hoy en día a un auténtico rompecabezas en materia de cumplimiento normativo. Identificar las tendencias en el entorno empresarial siempre es complejo, pero hay una realidad indiscutible: el avance de la IA en las organizaciones es un camino sin vuelta atrás, lo que exigirá una maduración inevitable de la gobernanza institucional.