«El agente no puede decidir eso» no es un ajuste en un sistema. Es una afirmación sobre un paso concreto de un proceso concreto – y ahí es exactamente donde debe constar.
La pregunta suele plantearse mal
En la mayoría de las discusiones suena así: ¿Cuánta autonomía le damos a la IA? Con eso la respuesta ya está echada a perder, porque exige una cifra donde haría falta una lista.
La autonomía no es una propiedad del agente. Es una propiedad de la tarea. El mismo agente puede cerrar un paso por su cuenta y, en el siguiente, limitarse a proponer – no porque haya perdido capacidad entretanto, sino porque las consecuencias son otras.
No es el agente quien recibe un nivel de aprobación, sino el paso.
Bastan tres niveles
Quien introduce más de tres niveles obtiene una matriz que nadie mantiene. Tres bastan, si están claramente separados:
1 Por su cuenta
El agente ejecuta y cierra. Ninguna persona ve el resultado antes.
Cuándo es defendible: Cuando un error se nota en el paso siguiente y se corrige sin daño. Ejemplo: generar un modelo a partir del acta de un taller. Si está mal, el negocio lo ve enseguida.
2 Sometido a aprobación
El agente lo prepara todo, una persona aprueba. Sin aprobación no ocurre nada.
Cuándo es necesario: Cuando el resultado tiene efecto hacia fuera o acaba en otro sistema. Ejemplo: crear incidencias en Jira, publicar una página de Confluence, entregar una especificación a un proveedor.
Es el nivel más subestimado. No es el término medio entre los otros dos: es el caso normal.
3 Excluido
El agente no puede ni siquiera proponer.
Cuándo es imperativo: Cuando la decisión asigna responsabilidad o afecta a personas. Un agente no puede asignar un rol, ni conceder una aprobación, ni firmar una recepción.
Por qué un agente nunca lleva la A
Según RACI, A significa que alguien responde de ello. Esa atribución presupone que se puede pedir cuentas a la persona – que soporta consecuencias, que puede cambiar de opinión, que puede negarse.
Nada de eso se aplica a un agente. Un agente que lleva una A genera un vacío con aspecto de asignación.
La regla: R, C e I son admisibles para agentes. A no. Quien despliega un agente lleva la A de ese despliegue.
Por cierto, es la única regla de este tipo que se puede comprobar técnicamente: un modelo puede señalar dónde un agente lleva una A. Para todo lo demás hace falta criterio.
Las cuatro preguntas antes de clasificar
| Pregunta | Si la respuesta es desfavorable |
|---|---|
| ¿Quién nota un error – y cuándo? | Si nadie a tiempo: no por su cuenta |
| ¿Cuánto cuesta la corrección? | Más que el ahorro: anteponer aprobación |
| ¿El resultado tiene efecto externo? | Sí: aprobación, sin excepción |
| ¿Asigna responsabilidad a alguien? | Sí: excluido |
Cuatro preguntas que se responden en cinco minutos. Ahorran el debate de principios, porque se plantean sobre el paso concreto.
Qué sale mal en la práctica
El nivel está en la configuración en vez de en el proceso
Si la obligación de aprobar se ajusta en la herramienta, solo la conoce quien maneja la herramienta. Si consta en el paso del proceso, la ve cualquiera que mire el proceso – y sobrevive al cambio de herramienta.
Aprobar como clic sin mirada
Quien confirma veinte aprobaciones al día no revisa ninguna. Demasiados pasos de aprobación son más peligrosos que pocos, porque simulan seguridad. Mejor pocas aprobaciones reales que muchas de clic.
Nadie revisa la clasificación
Lo que hace un año exigía aprobación quizá hoy corre por su cuenta – y al revés. Sin una fecha fija de revisión, toda clasificación envejece en silencio.
En resumen
La autonomía pertenece al paso, no al agente. Bastan tres niveles: por su cuenta, sometido a aprobación, excluido. Y una regla vale sin excepción: un agente no lleva A.
Seguir leyendo:
Escalado y agentes de IA ·
RACI – quién decide, a quién se consulta ·
Gobernanza y cumplimiento
Deja una respuesta