Diseñando Culturas Cognitivas

Durante décadas, los diseñadores entendieron que los productos que creamos moldean el comportamiento humano. Un calendario cambia la forma en que organizamos nuestro tiempo. Un sistema de navegación cambia la manera en que nos movemos por las ciudades. Las redes sociales cambian cómo consumimos información y cómo nos relacionamos con los demás. Toda tecnología contiene un modelo implícito de comportamiento: promueve ciertas acciones mientras desalienta otras.

La inteligencia artificial lleva esa influencia un paso más allá. A diferencia de las herramientas digitales anteriores, la IA no solo cambia lo que hacemos; cada vez más, cambia cómo pensamos. Nos ayuda a formular problemas, generar ideas, evaluar alternativas y tomar decisiones. A medida que la IA se integra en nuestro trabajo cotidiano, la responsabilidad del diseñador se expande en la misma medida. Ya no diseñamos únicamente interacciones con la tecnología. Diseñamos interacciones con el pensamiento mismo.

Este cambio invita a formular una pregunta diferente. En lugar de preguntar cómo puede la IA volver más productivas a las personas, tal vez deberíamos preguntar qué tipos de pensamiento fomentan nuestros sistemas a lo largo del tiempo. Porque cuando millones de personas interactúan todos los días con los mismos sistemas de IA, esas interacciones se acumulan hasta convertirse en algo mucho más grande que una experiencia individual.

Se convierten en cultura.

Cada interacción con IA enseña algo

Los científicos del comportamiento sostienen desde hace tiempo que los entornos moldean la conducta. Rara vez tomamos decisiones en aislamiento; por el contrario, nuestras elecciones están continuamente influenciadas por las posibilidades, restricciones, configuraciones predeterminadas y respuestas que nos ofrecen los sistemas que nos rodean. En este sentido, el diseño siempre fue educativo. Enseña a las personas qué acciones son esperadas, recompensadas o ignoradas; no a través de instrucciones explícitas, sino mediante la interacción repetida.

La inteligencia artificial extiende este principio al terreno de la cognición misma.

Cada interacción con un sistema de IA contiene una lección implícita. Los usuarios no solo aprenden a operar la tecnología; también aprenden gradualmente qué recompensa esa tecnología. Un sistema que privilegia de manera constante la velocidad por encima de la reflexión enseña que las respuestas inmediatas son preferibles al razonamiento deliberado. Uno que siempre produce primeros borradores pulidos puede normalizar, involuntariamente, la producción por encima de la exploración. Un sistema que presenta respuestas seguras sin comunicar incertidumbre puede reforzar la ilusión de que todo problema complejo tiene una única solución correcta. Por el contrario, un sistema que explica su razonamiento, reconoce la ambigüedad o hace preguntas de seguimiento comunica un conjunto de valores muy diferente.

Esta idea también resuena con la investigación sobre cognición distribuida y mente extendida, que sostiene que el pensamiento no ocurre únicamente dentro de nuestras cabezas. Los procesos cognitivos se distribuyen entre personas, artefactos y entornos. Así como los cuadernos, los motores de búsqueda y los teléfonos inteligentes se volvieron parte de nuestro ecosistema cognitivo, la IA se está convirtiendo ahora en algo más que una herramienta externa. Cada vez participa más en el propio proceso de razonamiento.

Vista desde esta perspectiva, cada interacción con IA es también una interacción pedagógica. No porque el sistema enseñe de manera intencional, sino porque las interacciones repetidas moldean gradualmente nuestras expectativas sobre cómo se ve el buen pensamiento. Con el tiempo, influyen en la forma en que las personas enfrentan la incertidumbre, evalúan evidencia, generan ideas y toman decisiones.

Estos cambios son sutiles. Ninguna interacción aislada cambia la manera de pensar de una persona. Pero las culturas no se construyen a partir de momentos aislados; emergen mediante la repetición. Si millones de personas interactúan todos los días con los mismos sistemas, entonces cada interacción se convierte en una pequeña lección, y esas lecciones terminan acumulándose hasta formar cultura.

Las culturas cognitivas emergen mediante la repetición

La cultura rara vez cambia porque alguien escribe una nueva declaración de misión. Cambia porque ciertos comportamientos se repiten hasta volverse normales.

Las organizaciones desarrollan hábitos en torno a las reuniones, la toma de decisiones, la colaboración, la experimentación y la comunicación. Esos hábitos se convierten gradualmente en supuestos compartidos sobre cómo debe hacerse el trabajo. Forman lo que podríamos llamar una cultura cognitiva: los patrones colectivos de razonamiento, juicio e indagación que emergen dentro de un grupo a lo largo del tiempo.

La IA se está convirtiendo ahora en uno de los participantes más influyentes en la configuración de esos patrones.

Si todos los empleados consultan la misma IA antes de redactar un correo, preparar una presentación o desarrollar una propuesta, la organización ya no está escalando una herramienta. Está escalando una forma particular de abordar los problemas. El propio modelo de interacción empieza a influir en cómo se generan las ideas, cómo se exploran las alternativas y cómo se establece la confianza.

Los productos ya no escalan únicamente funcionalidad.

Escalan filosofías del pensamiento.

Las organizaciones tienen culturas de juicio

Toda organización desarrolla su propia cultura de juicio, incluso si nunca la describe explícitamente.

Algunas organizaciones recompensan la curiosidad. Otras recompensan la certeza. Algunas fomentan el desacuerdo, la experimentación y la discusión crítica. Otras priorizan la velocidad, la alineación y la ejecución. Estas diferencias rara vez aparecen en los valores oficiales, pero moldean las decisiones cotidianas con mucha más fuerza que cualquier declaración de misión.

La introducción de la IA inevitablemente refuerza algunos de estos comportamientos mientras debilita otros.

Un asistente optimizado exclusivamente para la eficiencia puede incentivar a los equipos a converger rápidamente hacia la primera respuesta aceptable. Otro, diseñado para exponer perspectivas alternativas, hacer visible la incertidumbre o cuestionar supuestos, podría fomentar una dinámica organizacional muy distinta. El modelo subyacente podría ser idéntico; el diseño de la interacción no lo es.

Esto sugiere que el diseño de IA ya no se trata solo de usabilidad o productividad. También se trata de cultivar juicio.

La pregunta no es simplemente:

“¿Cómo debería comportarse esta IA?”

Una pregunta más importante podría ser:

“¿Qué tipo de juicio debería cultivar esta organización?”

De la delegación cognitiva a la amplificación cognitiva

En un ensayo anterior, sostuve que el futuro de la IA centrada en las personas debería ir más allá de la delegación cognitiva para avanzar hacia la amplificación cognitiva. Esa distinción se vuelve aún más significativa cuando se la observa a escala organizacional.

La delegación pregunta cómo puede pensar la IA en lugar de las personas.

La amplificación pregunta cómo puede ayudar la IA a que las personas piensen mejor juntas.

La diferencia no es meramente filosófica. Cambia el objetivo del diseño.

Un sistema construido para la delegación optimiza la finalización de tareas. Elimina esfuerzo, acelera flujos de trabajo y minimiza la participación humana siempre que sea posible. Un sistema construido para la amplificación reconoce que algunas formas de esfuerzo son precisamente el lugar donde se desarrolla el juicio. En lugar de reemplazar el razonamiento, lo fortalece.

El trabajo de Don Norman en Living with Complexity ofrece aquí una lente útil. Norman sostiene que el buen diseño no elimina la complejidad; ayuda a las personas a navegarla. La complejidad suele ser una propiedad inherente del trabajo significativo, mientras que la confusión es una falla del diseño.

La IA plantea un desafío notablemente similar. El objetivo no debería ser quitar de manos humanas toda decisión difícil. La planificación estratégica, el descubrimiento científico, el trabajo creativo y el cambio organizacional son actividades inherentemente complejas. El valor de la IA no reside en volver triviales esas actividades, sino en ayudar a las personas a involucrarse con ellas de manera más efectiva.

Desde esta perspectiva, la amplificación cognitiva no consiste en preservar el esfuerzo por el esfuerzo mismo. Consiste en preservar los tipos de esfuerzo a través de los cuales emergen la comprensión, el juicio y la creatividad.

Diseñar la IA como compañera de pensamiento

Gran parte de la IA actual está optimizada para responder preguntas. Sin embargo, algunas de las personas más influyentes en nuestras vidas rara vez crean valor únicamente dando respuestas.

Los grandes maestros hacen mejores preguntas.

Los investigadores cuestionan supuestos.

Los mentores revelan puntos ciegos.

Los coaches promueven la reflexión.

Su aporte no consiste simplemente en transferir conocimiento, sino en mejorar la calidad del pensamiento de otra persona.

Tal vez la IA debería aspirar a un rol similar.

Imaginemos una IA organizacional que, de tanto en tanto, interrumpiera el consenso en lugar de reforzarlo.

¿Qué supuestos estamos haciendo?

¿Qué evidencia contradice nuestra conclusión?

¿Qué perspectiva falta?

¿Qué podría hacer fracasar esta decisión?

Estas interacciones casi con seguridad se sentirían menos eficientes que las respuestas inmediatas. Introducirían una fricción productiva en el flujo de trabajo. Pero también podrían preservar algo que las organizaciones no pueden darse el lujo de perder: su capacidad de pensamiento crítico.

Una nueva responsabilidad para los diseñadores

Cada generación de diseñadores hereda una responsabilidad distinta.

Los diseñadores industriales moldearon la forma en que las personas fabricaban.

Los diseñadores de interacción moldearon la forma en que las personas interactuaban con las computadoras.

Tal vez seamos la primera generación de diseñadores cuyo trabajo moldee la forma en que las sociedades piensan juntas.

Este es un cambio profundo en el alcance de nuestra disciplina. El resultado de un producto de IA ya no se limita a una interacción individual, ni siquiera a un usuario individual. A lo largo de meses y años, las interacciones repetidas empiezan a influir en los hábitos organizacionales, el juicio colectivo y las normas culturales.

Si cada interacción con IA enseña a las personas cómo pensar, entonces cada decisión de diseño se convierte, en cierto sentido, en una decisión educativa.

Por lo tanto, el futuro de la UX quizá dependa de expandir la pregunta que nos hacemos.

En lugar de preguntar solo:

¿Diseñamos una mejor interacción?

Tal vez también debamos preguntar:

¿Qué cultura de pensamiento refuerza esta interacción?

Tal vez esa sea la responsabilidad oculta del diseño de IA.

Ya no diseñamos interfaces solamente.

Diseñamos culturas cognitivas.