Diseñar Quién Sostiene el Loop

Brent Fitzgerald describió hace poco una escena que cualquiera que trabaje con agentes va a reconocer. Once pestañas abiertas, cada una con un agente a mitad de camino: uno investigando, otro escribiendo código, otro esperando una respuesta que él todavía no había dado. Ninguna de esas pestañas había sido una mala idea. Cada delegación, tomada por separado, tenía sentido. Y sin embargo el conjunto dejaba una sensación rara, difícil de nombrar: mucho movimiento, poca certeza de quién estaba conduciendo. Su conclusión fue que el humano no está en el loop, como se suele decir. El humano es el loop. Si no vuelve a cada pestaña, nada se cierra.

Me interesa esa frase porque corrige una manera de pensar la agencia que damos por obvia. Solemos hablar de ella como algo que se tiene o no se tiene, una propiedad de la persona: tengo agencia sobre mi trabajo, la cedo, la recupero. Pero la escena de las once pestañas sugiere otra cosa. La agencia no se perdió en ningún momento identificable. Nadie decidió entregarla. Se fue diluyendo en una serie de cesiones pequeñas, cada una tan barata que no pareció una cesión. Y eso cambia la pregunta de diseño: si ceder control no cuesta casi nada, el problema no es que la gente lo ceda mal, sino que no nota que lo está cediendo.

El regulador

La cibernética tiene una imagen útil para pensar esto, y es más vieja que las computadoras. El regulador centrífugo de las máquinas de vapor: dos bolas de metal que giran sobre un eje. Cuando la máquina acelera, las bolas giran más rápido, se abren hacia afuera y, al subir, cierran un poco la válvula de vapor. La máquina se frena, las bolas bajan, la válvula se abre otra vez. Nadie lo opera. Es un loop: medir, comparar con lo que se quería, corregir. La palabra misma, cibernética, viene del griego para timonel, el que corrige el rumbo.

Stafford Beer usó esa lógica para pensar organizaciones enteras, y su lectura sirve para la escala de una persona. Leída así, la agencia no es una propiedad sino un rol dentro de un loop: el lugar desde donde alguien compara lo que pasó con lo que quería que pasara, y corrige. Tener agencia sobre una tarea es ocupar ese lugar. Perderla no requiere que nadie te la quite. Alcanza con que el loop empiece a cerrarse por otro lado.

Eso es exactamente lo que puede pasar con un agente. Si delego la ejecución de una tarea pero sigo comparando el resultado contra lo que buscaba, sigo sosteniendo el loop: la máquina mueve, yo regulo. Pero la línea entre comparar y aprobar es fina. Takuma Kakehi lo formuló con una imagen precisa: el telar automático de Toyoda dejaba al trabajador la comprensión y le sacaba la inspección; la IA tiende a hacer lo inverso, nos saca la comprensión y nos deja la inspección. Mirar un resultado y decir que está bien no es lo mismo que haberlo comparado contra una intención propia. En el primer caso soy el regulador. En el segundo, soy la válvula.

Ceder sin darse cuenta

En un artículo anterior escribí sobre el esfuerzo invisible: cómo juzgamos el trabajo de la máquina por señales, porque no podemos verlo. Acá aparece la contracara. Lo invisible no es el esfuerzo de la máquina sino nuestra propia retirada. Cada vez que un agente hace algo que antes hacíamos, el costo de dejar de hacerlo es casi cero, y lo que no cuesta no se registra. No hay un momento en que uno sienta que perdió algo, porque no perdió nada de golpe.

Esto vuelve engañosa la discusión habitual sobre qué delegar. Suele plantearse tarea por tarea: ¿esto lo hace la IA o lo hago yo? Pero la agencia no se juega en cada tarea, se juega en la suma. Ninguna delegación individual me saca el timón. Cien delegaciones razonables, sí. Y como cada una se evalúa sola, la suma nunca se evalúa.

Esa cesión silenciosa tiene, me parece, dos costos que conviene separar, porque uno es emocional y el otro es cognitivo, y se confunden fácil.

El primer costo: el refugio

El psicoanalista Donald Winnicott describió algo que todos vimos alguna vez: el peluche, la mantita, el objeto del que un chico no se separa. Lo llamó objeto transicional. No es un capricho: le permite tolerar la ausencia de la madre, hace de puente entre su mundo interno y el mundo de afuera. En su momento es sano. Y está pensado para dejarse atrás.

Fitzgerald usa una palabra parecida para describir su relación con los agentes, y tiene sentido. Un agente puede funcionar como objeto transicional frente a una tarea que da miedo o que cuesta empezar. Lanzarlo se siente como haber empezado. La tarea queda en movimiento, aparentemente encaminada, y uno no tuvo que tocar la parte que la volvía difícil. El agente no nos ayuda a hacer lo temido: nos protege de tener que hacerlo. Y eso es muy distinto de delegar. Delegar es pasarle a otro algo que uno ya entendió. Refugiarse es pasarle algo para no tener que entenderlo.

No digo que esté mal. Todos necesitamos refugios. Digo que, si el diseño de estas herramientas hace que lanzar un agente se sienta igual que enfrentar un problema, va a ser muy difícil distinguir cuándo estamos avanzando y cuándo estamos postergando con buena conciencia.

El segundo costo: los loops abiertos

En los años veinte, Bluma Zeigarnik observó que la gente recordaba mejor las tareas interrumpidas que las terminadas. El hallazgo original se replicó de forma despareja, así que conviene no apoyarse demasiado en él. Pero la investigación posterior sostiene una versión más robusta: las metas sin cerrar siguen ocupando el pensamiento, se cuelan cuando uno intenta concentrarse en otra cosa. Y lo interesante es que no hace falta terminarlas para que se callen. Alcanza con armar un plan concreto de cuándo y cómo se van a retomar.

Once pestañas con agentes a mitad de camino son once metas abiertas. Aunque no las mire, siguen ahí, consumiendo una parte de la atención que la delegación prometía liberar. La paradoja es fina: delegamos para pensar menos en algo y terminamos pensando en más cosas a la vez, todas a medias. Wira Indra Kusuma propone, para otro contexto, lo que llama microlímites: pequeños cierres deliberados que le devuelven al día sus bordes. Con agentes, un microlímite podría ser algo tan simple como no lanzar una tarea nueva sin decidir antes cuándo se va a revisar la anterior.

La escala de la organización

Todo esto se amplifica cuando la delegación deja de ser una elección personal y se vuelve una política. La ley de Goodhart lo dice en una línea: cuando una medida se convierte en objetivo, deja de ser una buena medida. Si una organización empieza a medir la adopción de IA —cuántos agentes se lanzan, cuántas tareas se delegan, cuántas sesiones por persona—, la gente va a optimizar exactamente eso. El resultado es una especie de serpiente que se muerde la cola: usar las herramientas para maximizar el uso de las herramientas.

El loop que importaba —¿el trabajo salió mejor?, ¿alguien entendió lo que se hizo?— queda reemplazado por un loop que mide la actividad del loop. Y en ese reemplazo, otra vez, nadie decidió nada. Simplemente se midió lo que era fácil de medir.

Diseñar el loop

Si la agencia es un rol y no una propiedad, entonces se puede diseñar. No como un permiso que se otorga, sino como un lugar que el sistema hace visible o borra.

Algunas preguntas concretas cambian cuando se mira así. ¿Dónde se cierra este loop, y pasa por una persona o alrededor de ella? ¿El sistema le pide a quien lo usa que compare el resultado contra lo que buscaba, o solo que lo apruebe? ¿Muestra lo que quedó pendiente, o lo esconde en una pestaña más? Hay ejemplos que ya apuntan en esa dirección. Richa Sehgal diseñó una herramienta de auditoría que, cuando no está segura de su evaluación, le devuelve la pantalla a un humano en lugar de resolverla sola: el sistema sabe cuándo el loop tiene que pasar por alguien. Amelia Wattenberger defiende interfaces que muestran el estado del trabajo y dejan manipularlo, en vez de esconderlo en una conversación.

Y acá vuelve la idea de dosis que me viene persiguiendo. No todo loop necesita una persona. Muchos se cierran perfectamente solos, y sostenerlos a mano sería fricción inútil. La pregunta de diseño no es cómo mantener al humano en todos los loops, sino cómo hacer visibles cuáles pasan por él, para que la cesión deje de ser silenciosa.

Quizás esa sea la prueba más simple de agencia en estos tiempos. No si delegamos mucho o poco, sino si al final del día podríamos decir qué loops siguen pasando por nosotros. Y si la respuesta es que no sabemos, ¿fue porque cedimos el timón, o porque nunca nadie diseñó una forma de saber dónde estaba?