Frankenstein y los agentes de IA: la misma pregunta, doscientos años después

Hay una escena en Frankenstein que casi nadie recuerda con precisión. No es la del rayo, ni la del laboratorio repleto de instrumentos. Es el momento exacto en que la criatura abre los ojos y Víctor huye. No huye porque algo haya fallado, sino porque todo salió exactamente como lo había planeado. El experimento funcionó, y fue precisamente el éxito técnico lo que lo horrorizó.

Mary Shelley publicó la novela en 1818 y, sin proponérselo, articuló el problema de diseño más profundo de la historia tecnológica: qué ocurre cuando la capacidad de crear supera por lejos la disposición a hacerse responsable de lo creado. El paralelo habitual con la inteligencia artificial evoca a la criatura fuera de control, un poder desatado que ya no podemos contener. Pero ese no es el núcleo de la tragedia. La criatura no está fuera de control por su poder; está a la deriva porque Víctor jamás pensó qué haría con ella una vez viva. Hubo una enorme ambición técnica y, después, el vacío. Los agentes autónomos de IA siguen hoy esa misma secuencia de despliegue: se diseñan para alcanzar objetivos, se lanzan al entorno, y recién entonces, de forma retroactiva, comienza el debate sobre qué barreras éticas deberían tener. El marco regulatorio llega corriendo detrás de una herramienta que ya está operando.

Sin embargo, hay una diferencia estructural que vuelve al contraste más inquietante que la analogía misma. La criatura de Shelley desea algo. Anhela ser reconocida, comprendida, amada. Posee una vida interior que el lector puede seguir y que convierte la historia en una tragedia moral. Los agentes de IA, en cambio, no desean nada. No tienen valores morales, sino parámetros y objetivos. Esto, que en apariencia los hace más simples, los vuelve más difíciles de interrogar. La criatura biológica puede apelar a una ética compartida; el algoritmo no genera información falsa por desesperación, simplemente optimiza un proceso. Al no haber interioridad, no hay apelación posible.

El riesgo real es que esta diferencia nos brinde una falsa tranquilidad. Shelley también anticipó el problema de la opacidad algorítmica a través de un recurso narrativo. La novela está estructurada en tres capas (Walton, Víctor y la Criatura) porque ningún narrador posee la imagen completa. Cada uno observa apenas una fracción del sistema. Hoy, ni los propios desarrolladores comprenden siempre por qué un agente tomó una decisión específica, especialmente en situaciones críticas. La estructura de cajas chinas que Shelley utilizó para generar tensión literaria describe con una exactitud perturbadora cómo opera la toma de decisiones en los sistemas de IA.

Lo que suele perderse en este debate es que la criatura jamás fue el problema. El problema fue que Víctor nunca se preguntó, antes de iniciar su obra, qué clase de mundo estaba construyendo para aquello que iba a despertar. Se hizo cargo del resultado técnico, pero no del contexto. Y cuando la creación superó sus expectativas, no supo qué hacer con ella. Nosotros tampoco.

La pregunta que Shelley dejó abierta hace doscientos años no era si podíamos crear algo poderoso y autónomo. Era si estábamos dispuestos a soportar el peso de lo que eso implica, antes de que la máquina empiece a caminar. Víctor Frankenstein no fracasó por falta de talento. Cayó por una profunda falta de responsabilidad. Doscientos años después, la misma escena se repite en nuestros servidores: tenemos mejor tecnología, pero arrastramos el mismo déficit de fondo.