Dale un Contrato al Agente
Antes de permitir que un sistema de IA actúe, definí qué controla, a qué puede acceder y cuándo debe detenerse.
La conversación empresarial sobre IA está pasando de la asistencia a la ejecución. Investigaciones recientes muestran que las organizaciones más avanzadas ya no utilizan la IA solamente para responder preguntas. Están conectando agentes con contexto interno, software y procesos repetibles para que puedan completar trabajo real. Al mismo tiempo, la gobernanza tiene dificultades para seguir el ritmo de la cantidad de agentes que ingresan en las organizaciones. (OpenAI, BCG)
Esto cambia la pregunta central de la implementación. Ya no se trata simplemente de “¿qué modelo deberíamos utilizar?”, sino de “¿qué autoridad debería tener este sistema?”.
Las empresas suelen responder esa pregunta indirectamente mediante permisos técnicos. Un agente recibe acceso a una base de datos, una carpeta compartida o una plataforma de clientes. Pero acceso no significa responsabilidad. Una persona puede entender que un precio no debe modificarse sin autorización, que un reembolso inusual requiere una investigación o que nunca se debe completar un registro de cliente infiriendo información faltante. Un agente solo conoce esos límites si fueron definidos explícitamente.
Por eso, todo agente en producción necesita algo parecido a un contrato.
El contrato debe establecer qué trabajo controla, qué información puede utilizar, qué acciones puede realizar y qué condiciones requieren intervención humana. También debe identificar a la persona responsable de su desempeño. “Lo hizo la IA” no puede convertirse en un punto muerto dentro de la organización.
Esto no exige comenzar con una plataforma de gobernanza compleja. Un contrato útil para un agente puede ocupar una sola página:
- Propósito: ¿De qué resultado específico es responsable?
- Entradas: ¿Qué fuentes puede consultar y cuáles son consideradas autorizadas?
- Acciones: ¿Qué puede crear, modificar, enviar o aprobar?
- Límites: ¿Qué no debe hacer bajo ninguna circunstancia?
- Escalamiento: ¿Qué condiciones devuelven inmediatamente el trabajo a una persona?
- Evidencia: ¿Qué registro debe conservar para que sus acciones puedan revisarse?
- Responsable: ¿Quién controla sus resultados y puede suspenderlo?
La conclusión práctica es sencilla: no implementes un agente solamente porque puede realizar una tarea. Implementalo cuando la organización pueda describir su autoridad con la misma claridad con la que describiría las responsabilidades de un nuevo empleado.
El agente no necesita primero más autonomía. Necesita un trabajo mejor definido.
