Podés Delegar El Trabajo, No El Criterio

Una firma es un gesto pequeño con un peso enorme.

Dice que alguien leyó el documento. Que alguien entiende lo que contiene. Que alguien está dispuesto a defenderlo. Y, sobre todo, le da una dirección a la responsabilidad.

Por eso, el último intento de California por regular el uso de inteligencia artificial en el ámbito jurídico importa mucho más allá de los abogados y los tribunales.

Aprobado por ambas cámaras de la legislatura estatal e inscripto el 4 de septiembre, el proyecto de ley 574 del Senado establece un principio engañosamente simple: un abogado puede utilizar inteligencia artificial generativa como asistencia en su trabajo, pero no puede delegarle el ejercicio del derecho.

La distinción es más profunda de lo que parece.

El proyecto no prohíbe que los abogados utilicen IA. Reconoce que estos sistemas pueden redactar, resumir, organizar, buscar, comparar y acelerar. Pero exige que los profesionales verifiquen la exactitud del material generado, corrijan los resultados erróneos o alucinados, protejan la información confidencial y declaren el uso de IA generativa en los documentos presentados ante un tribunal.

También exige que los abogados verifiquen personalmente todas las citas incluidas en una presentación judicial, hayan sido generadas o no por un sistema de IA. Los árbitros, por su parte, no podrían delegar ninguna parte de su proceso de decisión a una inteligencia artificial generativa.

La máquina puede ayudar a producir el argumento.

No puede convertirse en el abogado.

Es probable que este límite se transforme en una de las grandes cuestiones profesionales de la próxima década. No porque la IA sea incapaz de realizar un trabajo valioso, sino porque su creciente capacidad hace que resulte cada vez más tentador confundir desempeño con responsabilidad.

Un sistema puede generar un argumento jurídico convincente en segundos. Puede identificar precedentes, comparar contratos, reconstruir cronologías y producir textos más pulidos que los de muchos profesionales humanos.

Pero la fluidez no es responsabilidad.

La máquina no entra al tribunal. No pierde su matrícula. No tiene que dar explicaciones al cliente. No experimenta las consecuencias profesionales, económicas o morales de equivocarse.

Produce un resultado y continúa.

El ser humano permanece.

Puede parecer obvio. Sin embargo, buena parte de la conversación actual sobre IA lo ignora silenciosamente. Hablamos de sistemas que “toman decisiones”, “dan consejos”, “evalúan solicitudes” o “determinan riesgos”, como si el sujeto gramatical fuera también un actor responsable.

No lo es.

Un sistema de IA puede participar en un proceso de decisión. Puede modificar su resultado. Incluso puede realizar la mayor parte del trabajo intelectual involucrado. Pero no puede asumir las obligaciones sociales asociadas con esa decisión.

Es ahí donde la delegación se vuelve peligrosa.

En los entornos profesionales tradicionales, delegar crea una cadena de responsabilidad. Un abogado joven prepara un borrador, pero otro con mayor experiencia lo revisa. Un analista elabora una proyección, pero un ejecutivo aprueba la inversión. Un técnico produce un resultado médico, pero un profesional lo interpreta.

El trabajo se desplaza. La responsabilidad no desaparece.

La IA introduce la posibilidad de romper esa cadena. Su respuesta llega sin una biografía humana, una reputación profesional, un interés personal o una vacilación intuitiva. Puede parecer lo suficientemente completa como para eliminar ese instante psicológico en el que alguien se pregunta: ¿realmente creo en esto?

El peligro aumenta porque la IA rara vez expresa su incertidumbre de manera proporcional a su ignorancia. Una respuesta débil puede sonar casi igual que una sólida. Una fuente inventada puede presentarse con la tipografía, el tono y la seguridad de una cita auténtica.

El error no queda expuesto por una mala redacción. Muchas veces queda oculto detrás de una redacción excelente.

La Opinión Formal 512 de la American Bar Association ya había establecido que los abogados que utilizan IA generativa deben comprender sus capacidades y limitaciones, proteger la información de sus clientes, comunicarse adecuadamente, supervisar su utilización y verificar sus resultados de manera independiente.

Su mensaje central es claro: la IA puede servir como base para un trabajo profesional, pero no puede reemplazar el criterio y la experiencia necesarios para asesorar a un cliente.

California intenta ahora incorporar ese principio a la ley de una manera más explícita.

Las implicancias exceden ampliamente el ejercicio del derecho.

Un médico puede utilizar IA para detectar un patrón en un estudio, pero alguien debe decidir qué significa ese patrón para un paciente en particular.

Un ingeniero puede utilizarla para optimizar una estructura, pero alguien debe certificar que las personas pueden entrar en ella de manera segura.

Un asesor financiero puede emplearla para modelar riesgos, pero alguien debe explicar por qué los ahorros de un cliente fueron expuestos a ellos.

Un periodista puede utilizarla para analizar documentos, pero alguien debe decidir que la afirmación resultante es lo suficientemente cierta como para publicarla.

Un ejecutivo puede pedirle a la IA que recomiende qué empleados contratar, ascender o despedir. Pero la decisión no se vuelve moralmente neutra porque una máquina haya ordenado primero a los candidatos.

En todos estos casos, la automatización puede ampliar nuestras capacidades. Puede aumentar la velocidad, detectar conexiones, cuestionar supuestos y revelar alternativas que un ser humano podría pasar por alto.

Pero el acto final no es simplemente otro paso dentro del proceso.

Es el momento en que la información se convierte en consecuencia.

Por eso, mantener a un “humano dentro del circuito” ya no es un principio suficiente. Una persona puede permanecer formalmente dentro de un proceso sin aportar casi nada. Puede hacer clic en aprobar, aceptar la recomendación o firmar el documento sin contar con el tiempo o el conocimiento necesarios para cuestionar a la máquina.

La presencia no es supervisión.

Para que el control humano signifique algo, la persona debe entender lo suficiente como para estar en desacuerdo. Debe tener autoridad para detener el proceso, capacidad para detectar un resultado dudoso y voluntad para aceptar la responsabilidad de permitir que continúe.

De lo contrario, el ser humano se convierte apenas en una interfaz de responsabilidad: una firma biológica colocada debajo de una conclusión generada por una máquina.

Esto crea una nueva tentación para las instituciones: el lavado de responsabilidad.

Cuando el sistema funciona, la organización se atribuye la eficiencia, la inteligencia y la innovación. Cuando falla, el error se adjudica al algoritmo, al proveedor, a los datos o a la naturaleza impredecible de la inteligencia artificial.

El mérito asciende.

La culpa se deposita en la máquina.

La regla propuesta por California se resiste a esa salida. Dice, en esencia, que un profesional no puede señalar a la herramienta después de haber presentado su trabajo. Si tu nombre figura en el documento, el documento sigue siendo tuyo.

El problema es que una verificación verdadera tiene un costo.

Si la IA produce trabajo con mayor rapidez, pero cada conclusión importante debe ser revisada, parte de la eficiencia prometida desaparece. Las organizaciones pueden verse tentadas a debilitar la revisión precisamente porque la velocidad fue la razón por la cual adoptaron el sistema.

Pero esto no demuestra que verificar se haya vuelto innecesario. Demuestra que la productividad real de la IA no puede medirse solamente por la velocidad con la que genera una primera respuesta.

La medida relevante es la eficiencia con la que ayuda a producir una respuesta que una persona responsable pueda defender.

Para lograrlo, no alcanza con advertirles a los empleados que “revisen la IA”. Se necesitan herramientas aprobadas, políticas claras sobre los datos, fuentes rastreables, niveles de revisión definidos y responsables explícitos para las decisiones finales. Los usos de mayor riesgo deben exigir evidencia más sólida y una supervisión más calificada.

Y, sobre todo, hay que preservar la capacidad humana de juzgar.

El profesional del futuro no tendrá que realizar personalmente cada paso. Eso no es necesario ni deseable. Las calculadoras no volvieron ilegítimos a los contadores. Los equipos de diagnóstico no eliminaron la medicina. Los buscadores no terminaron con la investigación.

Pero las herramientas se vuelven peligrosas cuando su comodidad nos convence de que la última decisión humana es ceremonial.

No lo es.

Es el punto en el que alguien deja de preguntarse qué puede hacer la máquina y responde una pregunta mucho más difícil:

¿Estoy dispuesto a hacerme responsable de lo que hizo?

La máquina puede redactar la frase.

Solo una persona puede decir: la leí. La entiendo. La respaldo.