Escándalo en la Justicia argentina: la IA "alucinó" y dejó en evidencia a varios abogados

Ante el incremento del uso de Inteligencia Artificial (IA) entre los profesionales del Derecho, los jueces comenzaron a ponerle un freno a esta herramienta y están alertando a los colegios de abogados de todo el país, ya que detectaron que su inadecuada utilización deriva en graves errores a la hora de presentar diferentes escritos en los tribunales.

Uno de los últimos casos y más llamativo ocurrió en General Roca, Río Negro, donde la Cámara Civil de esa ciudad detectó la cita de 26 fallos inexistentes en recursos presentados por ambas partes en el marco de una causa iniciada por el comprador de un auto contra una empresa automotriz.

Antes de resolver una apelación, los jueces les pidieron explicaciones a los dos abogados porque pese a que realizaron una búsqueda exhaustiva, no encontraron ninguno de los casos mencionados, pero la respuesta que dieron los letrados no les aportó claridad.

Uno adujo que se trataba de un "error material de pluma o de redacción" y aclaró que esas citas no formaban parte sustancial de sus argumentos, mientras que el otro sostuvo que "no se pudo acceder a la revista doctrinaria utilizada" para verificar si los precedentes existían y pidió que se tuvieran por retirados.

La Cámara no solo remitió el caso al tribunal de ética del Colegio de Abogados, sino que también anuló la intervención de los profesionales en esa instancia y resolvió no pagarles los honorarios.

En el análisis efectuado, los jueces encontraron que veinte de las citas cuestionadas pertenecían al escrito presentado por el representante legal del damnificado, mientras que seis estaban incluidas en la apelación de la empresa.

Para llegar a esa conclusión, se hizo una búsqueda minuciosa en la Biblioteca del Poder Judicial y en los registros del Superior Tribunal de Justicia de la provincia, pero ninguno de los precedentes pudo ser verificado.

Sí a la IA, pero con "control humano"

Los magistrados entendieron que ambos letrados, aunque no lo reconocieran expresamente, probablemente recurrieron al uso de herramientas de IA generativa.

Y si no fue así —señaló el fallo— y las citas fueron directamente inventadas por los abogados, "la conducta resultaría mucho más grave aún", ya que equivaldría a intentar inducir a error al tribunal con precedentes fabricados.

En otro tramo de su resolución, los jueces sostuvieron que "el uso de chatbots de IA generativa constituye una herramienta más que puede coadyuvar en el trabajo diario", pero advirtieron que los resultados "deben ser indefectiblemente cotejados", ya que muchas veces "incluyen las denominadas ‘alucinaciones’ y por ello aparecen fuentes lisa y llanamente inexistentes e inventadas".

Aunque no se impusieron sanciones disciplinarias formales, la Cámara hizo un "severo llamado de atención" a ambos profesionales y subrayó que el uso de nuevas tecnologías en la práctica legal debe estar sujeto a "control humano", verificación responsable y respeto por las normas éticas que rigen el ejercicio de la abogacía.

También se resolvió remitir copia de la resolución al Colegio de Abogados de General Roca para que la situación sea puesta en conocimiento de los matriculados y se promuevan acciones preventivas.

Otro antecedente

Otro caso similar se produjo en la sala I de la Cámara de Civil de Morón (Bs.As.), cuando los magistrados comenzaron a analizar una apelación en un expediente contra una compañía de seguros por daños y perjuicios.

Los jueces resolvieron declarar "desierto" el recurso presentado por el abogado del damnificado, es decir, lo dejaron sin efecto, al advertir también que se mencionaba jurisprudencia inexistente.

Los jueces ordenaron que esa parte pague las costas del juicio y solicitaron al Colegio de Abogados del distrito que proceda a difundir entre los matriculados la importancia de verificar cuidadosamente las citas empleadas.

El "fallo Barrios" que no era

Para dejar sin efecto la apelación, uno de los magistrados dejó asentada en la resolución el trabajo que se tomó para dejar en evidencia que el abogado había utilizado IA y no había verificado absolutamente ninguna de las citas mencionadas.

Dijo que el letrado basó casi todo su recurso en una supuesta causa de ese tribunal, "Barrios, Rubén Darío c/ Acuña, Gustavo Gabriel s/ Daños y perjuicios, causa 61.169", pero aseguró que no existe ningún caso con esa carátula ni ese número de expediente.

Además, el fallo fue citado sin fecha (un requisito indispensable en los recursos) y se menciona la tasa activa del Banco Nación, que no es a la que se acude, por regla, en la jurisdicción bonaerense.

El juez llegó a la conclusión de que el abogado quería referirse al fallo "Barrios, Héctor Francisco y otra contra Lascano, Sandra Beatriz. Daños y perjuicios", el cual sí fue dictado por esa Cámara y es conocido en el fuero como "Fallo Barrios".

Sin sanciones para el abogado

La resolución señala que tampoco se pudieron encontrar otros precedentes mencionados como "Ortiz" y "Rodríguez", también inexistentes y solo "hallados" por la IA.

La Cámara entendió que toda esta cuestión se debió al "inadecuado uso de sistemas de la IA por parte de los profesionales" y recordó que a veces se brindan respuestas que luego no se corresponden con la realidad.

No obstante, los jueces resolvieron no imponer sanciones al profesional involucrado, sino que consideraron que este tipo de situaciones deben abordarse desde un "enfoque empático y colaborativo" para fomentar un mejor uso de las herramientas tecnológicas.

El primer fallo sobre esta cuestión fue dictado en agosto último por la sala II de la Cámara de Apelaciones en lo Civil y Comercial de Rosario, que enfatizó que la IA puede ser un complemento valioso para optimizar tareas, pero nunca un sustituto del criterio humano ni de la supervisión profesional.

 

Fuente: IProfesional