Autorizar antes que automatizar: la nueva gobernanza de la inteligencia artificial

Por: Jhonnatan Horna. Profesor de ESAN Graduate School of Business.

Durante los últimos años, hemos dedicado gran parte de la conversación sobre inteligencia artificial a sus capacidades. Nos hemos sorprendido con modelos capaces de escribir, programar, analizar información, generar imágenes o resolver problemas cada vez más complejos. Sin embargo, mientras seguimos maravillándonos por lo que estas tecnologías pueden hacer, una pregunta mucho más importante comienza a ocupar el centro del debate: ¿qué deberían estar autorizadas a hacer dentro de nuestras organizaciones?

A mi juicio, este cambio representa uno de los puntos de inflexión más relevantes en la evolución de la inteligencia artificial. El desafío ya no consiste únicamente en desarrollar agentes más inteligentes. Ahora debemos aprender a delegar responsabilidades en estos agentes sin perder el control sobre las decisiones que toman, los riesgos que asumen y las consecuencias que pueden generar. En otras palabras, estamos pasando de hablar de capacidad tecnológica a hablar de gobernanza organizacional.

Precisamente esa es la principal conclusión del reciente informe AI Agents in Action: A Playbook for Trusted Adoption, Authorization and Scaling, publicado por el World Economic Forum en colaboración con Capgemini. Más que explicar cómo construir agentes de inteligencia artificial, el informe propone un cambio de perspectiva: el verdadero desafío ya no consiste en desarrollar sistemas con mayores capacidades, sino en establecer cómo autorizarlos, supervisarlos y escalarlos de manera responsable dentro de las organizaciones.

De instalar software a incorporar un nuevo integrante del equipo

Uno de los planteamientos que más llamó mi atención es la analogía entre incorporar un agente de inteligencia artificial y contratar un nuevo colaborador. A primera vista puede parecer una comparación exagerada, pero cuando analizamos cómo funcionan los agentes actuales, la idea cobra mucho sentido.

Cuando una organización incorpora un nuevo profesional no basta con entregarle un computador y esperar resultados. Es necesario definir su rol, establecer responsabilidades, delimitar el alcance de sus decisiones, otorgarle determinados permisos, supervisar su desempeño y evaluar progresivamente el nivel de confianza que puede asumir. El informe sostiene que exactamente el mismo principio debería aplicarse a los agentes de IA.

Esta perspectiva cambia completamente la conversación. Los agentes dejan de verse como simples herramientas de automatización para convertirse en actores capaces de ejecutar acciones dentro de procesos organizacionales. Y cuando un sistema comienza a actuar en nombre de una organización, la pregunta deja de ser tecnológica para convertirse en una cuestión de liderazgo, gestión del riesgo y gobierno corporativo.

La autorización será el nuevo diferenciador

Se suele pensar en inteligencia artificial responsable desde una perspectiva ética o regulatoria. Sin embargo, el informe introduce un concepto que considero especialmente relevante: la autorización.

Muchas organizaciones ya saben construir agentes capaces de consultar información, enviar correos electrónicos, aprobar solicitudes, interactuar con clientes o coordinar múltiples aplicaciones. El verdadero problema aparece cuando deben decidir hasta dónde pueden llegar esas acciones.

¿Puede un agente aprobar un pago? ¿Puede modificar información crítica? ¿Está autorizado para negociar con un cliente? ¿Puede tomar decisiones sin intervención humana? Estas preguntas probablemente serán mucho más importantes que la selección del modelo de IA que utilicemos.

Por esa razón el informe propone el Agent Capability and Authorization Profile (ACAP), un modelo que busca conectar las políticas organizacionales con el comportamiento operativo de cada agente. Más que un documento técnico, el ACAP funciona como una autorización formal que define qué puede hacer un agente, bajo qué condiciones, quién supervisa sus acciones y qué evidencia debe existir para mantener esa autorización vigente.

A mi juicio, esta propuesta representa uno de los aportes más interesantes del documento porque traslada la conversación desde la experimentación hacia la operación empresarial.

Gobernar antes de escalar

Otro aspecto que considero especialmente acertado es que el informe insiste en que la gobernanza no puede aparecer cuando los agentes ya están funcionando. Debe diseñarse desde el inicio.

Con frecuencia las organizaciones desarrollan pilotos exitosos y, motivadas por los buenos resultados iniciales, intentan replicarlos rápidamente en otros procesos. El problema es que la complejidad aumenta exponencialmente cuando decenas o incluso cientos de agentes comienzan a interactuar con sistemas, personas y otros agentes. Sin reglas claras, responsabilidades definidas y mecanismos de supervisión, el riesgo deja de ser tecnológico para convertirse en organizacional.

El modelo propuesto plantea un ciclo de vida estructurado que comienza con el diseño y la evaluación del agente, continúa con una etapa de preparación y despliegue controlado y culmina con una fase permanente de monitoreo y mejora. Cada una de estas etapas incorpora mecanismos de validación, responsables claramente definidos y criterios para ampliar o restringir la autoridad otorgada al agente según su desempeño.

Esta visión me parece especialmente valiosa porque reconoce que la confianza no se concede una sola vez. Se construye, se verifica y se mantiene mediante evidencia.

El liderazgo tendrá que evolucionar junto con la IA

Quizá la mayor enseñanza que deja este informe es que la transformación provocada por los agentes de IA no dependerá exclusivamente de los avances tecnológicos. Dependerá, sobre todo, de nuestra capacidad para rediseñar la forma en que gestionamos personas, procesos y decisiones.

Los líderes ya no solo tendrán que comprender cómo funciona la inteligencia artificial. También deberán definir políticas de delegación, establecer límites de autoridad, asignar responsables, crear mecanismos de supervisión y desarrollar nuevas capacidades de gobernanza. En ese contexto, la inteligencia artificial deja de ser únicamente una iniciativa tecnológica para convertirse en un componente de la estrategia organizacional.

Tengo la impresión de que estamos entrando en una etapa completamente distinta de la inteligencia artificial. Hasta ahora competíamos por construir modelos más rápidos, más precisos y con mayores capacidades. A partir de ahora, la verdadera ventaja competitiva estará en las organizaciones que aprendan a gobernarlos de manera responsable.

Hoy los agentes de IA ya son capaces de ejecutar tareas complejas. El desafío será decidir qué autoridad estamos dispuestos a delegarles, bajo qué condiciones y con qué mecanismos de supervisión.

Al final, el éxito no dependerá de cuántos agentes implementemos, sino de la confianza que seamos capaces de construir alrededor de ellos. Y esa confianza no nace de la tecnología. Nace de una gobernanza sólida, de responsabilidades claramente definidas y de la capacidad de las organizaciones para mantener siempre el equilibrio entre autonomía y control.