• 19/02/2025 03:58

Primera sentencia sobre el mal uso de la IA en la profesión jurídica

Tiempo estimado de lectura: 1 minutos, 59 segundos

El Tribunal Superior de Justicia de Navarra (TSJNA) ha emitido una resolución pionera en España, analizando las implicaciones legales y éticas del uso de herramientas de inteligencia artificial generativa en el ámbito judicial. El auto TSJNA Nº 2/2024, de fecha 4 de septiembre de 2024 (Rec. núm. 17/2024), aborda un caso en el que un abogado utilizó información errónea proporcionada por ChatGPT en la redacción de una querella.

IA - DIARIO JURIDICO

El caso se originó con la presentación de una querella que contenía la cita del artículo 454B del Código Penal, relativa al delito de ocultamiento, alteración o destrucción de pruebas. El Tribunal observó que dicho precepto no pertenecía al ordenamiento jurídico español, sino al colombiano, lo cual «no puede pasar desapercibido a ningún profesional del Derecho», según el auto.

El abogado, tras ser advertido del error, presentó un escrito en el que reconoció que el fallo fue provocado por un uso inadecuado de ChatGPT3 en su despacho, calificándolo como un «error material grosero e involuntario». Asimismo, ofreció sus «más sinceras excusas» al Tribunal, solicitando tener por no puesto el referido párrafo en su querella.

En virtud del artículo 247 de la Ley de Enjuiciamiento Civil (LEC), que exige actuar conforme a las reglas de la buena fe procesal, el Tribunal abrió una pieza separada para determinar si existía abuso de derecho o mala fe procesal. Finalmente, tras valorar las circunstancias, el Tribunal concluyó que no se impondría sanción pecuniaria, destacando la naturaleza novedosa del uso de inteligencia artificial en el ámbito jurídico, así como la rápida reacción del abogado al asumir su responsabilidad y disculparse por el error.

En todo caso, el auto señala que «la revisión y validación de los documentos legales seguirá siendo responsabilidad de los abogados para garantizar la precisión y el cumplimiento normativo». Además, subraya que el caso debe servir como advertencia sobre «las implicaciones legales, deontológicas y éticas que puede plantear el uso descuidado de las nuevas tecnologías».

El auto destaca, además, que las herramientas de inteligencia artificial pueden generar «alucinaciones legales», es decir, errores factuales que pueden inducir a confusión. Según el estudio citado en la resolución, estas alucinaciones ocurren en un 69% de los casos con modelos como ChatGPT 3.5. Por ello, el Consejo de la Abogacía Europea y otras instituciones internacionales recomiendan una supervisión humana efectiva como precondición para el uso de estas herramientas en el ámbito jurídico.

La resolución también hace referencia a precedentes internacionales, como el caso Avianca en Estados Unidos, en el que se impuso una sanción económica de 5,000 dólares por un error similar. En palabras del Tribunal: «No hay nada intrínsecamente incorrecto en que los abogados utilicen la inteligencia artificial como ayuda, pero las normas deontológicas de la abogacía imponen a los abogados una función de control para garantizar la exactitud de sus presentaciones».

Esta resolución establece un precedente clave en España, al abordar los riesgos asociados con el uso de inteligencia artificial en el ejercicio de la abogacía, pues, aunque estas herramientas son útiles para aumentar la eficiencia, el caso subraya que no pueden reemplazar el criterio humano.

A medida que la inteligencia artificial se integre también en otras profesiones, como la medicina o la psicología, será imprescindible analizar los riesgos legales y éticos, y establecer controles internos que garanticen un uso responsable. En definitiva, la supervisión humana seguirá siendo esencial para evitar errores que puedan comprometer la integridad de las decisiones profesionales. 

Enlace al documento AQUÍ


Autora: Natalia San Miguel García

Oficial de Cumplimiento Normativo certificada por la Asociación Española de Compliance (2024) e IFCA (2024)


Artículo de Redaccion DJ publicado en https://www.diariojuridico.com/primera-sentencia-sobre-el-mal-uso-de-la-ia-en-la-profesion-juridica/