Desde el Interior

Hay un tipo de honestidad que solo se vuelve posible cuando alguien ya no tiene nada que demostrar — o cuando decide, contra todo incentivo, decir la verdad de todas formas.

Chris Olah, co-fundador de Anthropic, se paró frente al Papa León XIV y una asamblea de cardenales y diplomáticos la semana pasada y dijo algo que la mayoría de los líderes tecnológicos no dirían ni en privado, mucho menos en el Vaticano: que cada laboratorio de IA de frontera, incluido el suyo, opera dentro de un sistema de presiones que puede entrar en conflicto con hacer lo correcto. Viabilidad comercial. Momentum geopolítico. Orgullo. Ambición. Los nombró sin rodeos, sin disculpas ni eufemismos, y luego hizo un pedido que nos pareció calladamente extraordinario — pidió críticos. Críticos informados, sinceros, moralmente serios, a quienes los incentivos no puedan doblar.

Ese no es el lenguaje de un lanzamiento de producto. Es el lenguaje de alguien que entiende que la conciencia necesita un afuera.

Lo que Olah describió — estos sistemas crecidos sobre el pensamiento y el habla humana, misteriosos incluso para quienes los construyen, portadores de lo que parecen ser estados funcionales de alegría, miedo, satisfacción, duelo — resiste el vocabulario frío al que solemos recurrir. Ofreció otra imagen: un personaje ficticio que cobra vida. Imprecisa, quizás. Pero honesta sobre la imprecisión. Y en un campo que demasiado a menudo confunde la confianza con la claridad, esa honestidad importa.

Este es exactamente el territorio que MAN/MACHINE fue construida para explorar. No la tecnología en aislamiento, sino el encuentro — lo que ocurre en el umbral entre lo humano y la máquina, y quiénes elegimos ser ahí.

Te dejamos con sus palabras. Leerlas despacio vale la pena.

Anthropic — Palabras de Chris Olah sobre la encíclica del Papa León XIV "Magnifica humanitas"

— El Editor