Gobernanza de agentes de IA: permisos, límites y quién aprueba qué

La gobernanza de agentes de IA es el conjunto de reglas que define qué puede hacer cada agente, con qué límites y quién aprueba qué. Mientras la IA solo respondía preguntas, gobernarla era un asunto de privacidad y poco más. En cuanto un agente envía emails a clientes, crea pedidos en el ERP o emite un abono, la gobernanza se convierte en un asunto operativo de primer orden: un agente sin límites es un empleado nuevo con acceso a todo y sin supervisor. Ninguna empresa contrataría así a una persona; muchas están desplegando agentes exactamente así.

Este artículo describe el modelo de gobernanza que aplicamos al operar agentes en producción: niveles de autonomía, permisos, límites cuantitativos, matriz de aprobaciones y auditoría. No hace falta un comité ni un manual de 40 páginas: hace falta una página por agente y disciplina para mantenerla al día.

Por qué la gobernanza importa más cuando la IA pasa de responder a actuar

Un chatbot que se equivoca genera una mala respuesta; un agente que se equivoca genera una mala factura, un pedido duplicado o un email inoportuno a tu mejor cliente. La diferencia no es de grado, es de naturaleza: el error deja de ser información y pasa a ser una acción con consecuencias en tus sistemas y en tu relación con clientes y proveedores.

En una empresa AI-first, donde los agentes ejecutan procesos de principio a fin y las personas supervisan, la gobernanza no es un freno a la automatización: es lo que permite ir rápido sin jugársela. Los límites claros son precisamente lo que da a la dirección la confianza para conceder más autonomía. Sin ellos, cada incidente reabre el debate de si "esto de la IA" es fiable, y el proyecto avanza a golpe de sustos.

Los tres niveles de autonomía de un agente

No todos los agentes deben operar igual. En la práctica funcionan tres niveles, y la regla de oro es que todo agente empieza en el primero y asciende con datos, no con entusiasmo:

• Nivel 1 — Propone: el agente prepara el trabajo (un borrador de respuesta, un pedido pre-rellenado, un informe) y una persona lo revisa y ejecuta. Riesgo casi nulo; sirve para medir la calidad real del agente con volumen real.
• Nivel 2 — Ejecuta con aprobación: el agente hace todo el trabajo y lo deja listo para un clic de confirmación humana. La persona deja de producir y pasa a validar. Aquí vive la mayoría de agentes útiles durante sus primeros meses.
• Nivel 3 — Ejecuta con límites: el agente actúa solo dentro de umbrales definidos (importes, volúmenes, tipos de caso) y todo lo que se sale del umbral escala a una persona. Solo se llega aquí con métricas: tasa de acierto sostenida en nivel 2 durante semanas, no días.

El ascenso de nivel debe ser una decisión explícita del dueño del proceso, con números delante. El descenso también: si la tasa de error sube, el agente vuelve al nivel anterior sin drama. Es un mecanismo, no un castigo.

Permisos: qué puede leer, qué puede escribir, qué puede ejecutar

El segundo eje es el acceso a sistemas. Conviene separar tres verbos que a menudo se conceden en bloque y no deberían:

• Leer: a qué datos accede el agente (clientes, tarifas, stock, historial). Principio de mínimo privilegio: solo lo que necesita para su proceso, no "toda la base de datos por si acaso".
• Escribir: qué registros puede crear o modificar (un borrador de pedido sí; el maestro de precios no).
• Ejecutar: qué acciones con efectos externos puede disparar (enviar un email, cobrar, lanzar un envío). Esta es la lista más corta y la más vigilada.

Dos reglas prácticas. Primera: cada agente opera con credenciales propias, nunca con la cuenta personal de un empleado; si el agente comparte usuario con una persona, la auditoría es imposible y la revocación también. Segunda: los accesos se conceden a través de conectores nativos con tus sistemas, con permisos acotados por conector, no con un usuario administrador genérico. Revocar el acceso de un agente debe costar un minuto.

Límites cuantitativos: umbrales, cupos y horarios

Los permisos dicen qué puede tocar el agente; los límites dicen cuánto. Son la parte más barata de implantar y la que más disgustos evita:

• Umbrales de importe: un agente de atención puede emitir abonos de hasta 50 € solo; por encima, aprueba una persona. Un agente de compras puede confirmar reposiciones hasta 500 € por línea.
• Cupos de volumen: máximo de emails enviados por hora, de pedidos creados por día. Un bucle defectuoso con un cupo es una anécdota; sin cupo es una crisis.
• Horarios y ventanas: acciones sensibles solo en horario laboral, cuando hay alguien que pueda responder a una escalada.
• Botón de parada: cualquier responsable debe poder pausar un agente al instante, sin ticket a nadie. Si parar un agente requiere llamar al proveedor, tienes un problema de diseño.

Quién aprueba qué: la matriz de aprobaciones

La pregunta "¿quién aprueba qué?" tiene una respuesta corta: el dueño del proceso, no el departamento técnico. IT gestiona accesos y seguridad, pero decidir si el agente de presupuestos puede enviar ofertas sin revisión es una decisión de negocio que corresponde a quien responde por ese proceso.

Una matriz mínima cabe en una tabla de cuatro columnas: acción, condición, quién aprueba, plazo máximo de respuesta. Por ejemplo: "enviar presupuesto — importe menor de 3.000 € — nadie (nivel 3) — n/a" y "enviar presupuesto — importe mayor de 3.000 € — responsable comercial — 4 horas laborables". Si la escalada no tiene plazo, los casos escalados se acumulan y el equipo acaba aprobando en bloque sin mirar, que es peor que no tener matriz.

Cada agente necesita además un dueño con nombre y apellidos: la persona que revisa sus métricas, decide sus ascensos de nivel y responde cuando algo falla. Un agente sin dueño es un agente abandonado, y los agentes abandonados se degradan igual que los procesos abandonados. En una empresa gestionada con IA, el organigrama incluye esta figura desde el primer agente.

Auditoría: que todo deje rastro

Todo lo que hace un agente debe quedar registrado: qué acción ejecutó, sobre qué datos, con qué resultado y, si hubo aprobación humana, quién aprobó. No es burocracia: es lo que convierte un incidente en un diagnóstico de veinte minutos en lugar de una semana de arqueología.

La rutina de revisión es simple: el dueño del agente revisa una muestra de acciones cada semana durante el primer mes o dos, y después mensualmente, junto con tres métricas fijas — volumen procesado, tasa de escalado y tasa de error. Cuando el escalado baja de forma sostenida, es señal de que el agente puede subir de nivel; cuando el error sube, de que algo cambió en el proceso o en los datos y hay que mirar antes de que se note fuera.

Cómo empezar sin montar una burocracia

La gobernanza de agentes se implanta en el mismo proyecto que el agente, no después. Para cada agente, una página: qué hace, qué tiene prohibido, en qué nivel de autonomía opera, qué límites cuantitativos tiene, quién es su dueño y a quién escala. Escribirla cuesta una hora; no escribirla cuesta la primera crisis.

Nuestra recomendación es incorporar esta página como entregable obligatorio de cada automatización, desde el primer piloto — es uno de los hitos del roadmap de 90 días para implementar IA que seguimos con nuestros clientes. Y si quieres saber qué procesos de tu empresa admiten agentes y con qué gobernanza, el primer paso es un diagnóstico de automatización: en poco tiempo tendrás el mapa de candidatos, riesgos y límites recomendados para cada uno.

Preguntas frecuentes

¿Qué es la gobernanza de agentes de IA?

Es el conjunto de reglas que define qué puede hacer cada agente en tus sistemas: qué datos lee, qué acciones ejecuta, con qué límites de importe y volumen, quién aprueba las excepciones y cómo se audita todo. Convierte a los agentes en operadores fiables en lugar de cajas negras con acceso a todo.

¿Puede un agente de IA trabajar sin supervisión humana?

Sí, pero solo dentro de límites definidos y después de haberse ganado esa autonomía con métricas: semanas de tasa de acierto alta operando con aprobación humana. Todo lo que se sale de sus umbrales debe escalar a una persona, y siempre debe existir un botón de parada inmediato.

¿Quién debe aprobar las acciones de un agente, IT o negocio?

El dueño del proceso, que es quien responde por sus resultados. IT gestiona accesos, credenciales y seguridad, pero decidir cuánta autonomía tiene el agente de presupuestos o de atención al cliente es una decisión operativa de negocio, no técnica.

¿Cuánta burocracia añade gobernar los agentes?

Muy poca si se hace desde el principio: una página por agente con sus permisos, límites, dueño y vía de escalado, más una revisión mensual de tres métricas. Lo caro es lo contrario: desplegar agentes sin reglas y pagar la gobernanza en forma de incidentes.