Capacitación de operadores de justicia en México sobre el uso ético de la inteligencia artificial
La inteligencia artificial (IA) sirve a los abogados para optimizar el trabajo operativo, analizar grandes volúmenes de información y ganar velocidad en la práctica jurídica.
La Inteligencia Artificial (IA) en la abogacía sirve para agilizar tareas repetitivas y de investigación, pero las alucinaciones (información falsa o inventada que la IA presenta como cierta) representan su mayor riesgo profesional. Ocurren cuando un modelo de lenguaje inventa fallos judiciales, artículos de leyes, doctrina o citas de sentencias que parecen reales, pero que jamás existieron.
Principalmente se conoce su utilidad para:
- Redacción y automatización de documentos: Genera borradores de contratos, demandas, contestaciones, cédulas y oficios a partir de datos del expediente y plantillas inteligentes.
- Investigación y análisis de jurisprudencia: Resume fallos extensos en minutos, busca precedentes y ayuda a encontrar argumentos legales compatibles con la normativa vigente.
- Revisión contractual: Comprueba rápidamente si las cláusulas (como índices de actualización o plazos) cumplen con el marco legal aplicable.
- Comunicación con clientes: Agiliza la edición de mensajes, traduce conceptos jurídicos complejos a un lenguaje claro y mejora los tiempos de respuesta.
- Organización de información: Clasifica expedientes, detecta patrones en datos masivos y optimiza la estrategia del caso.
Más de 50 personas que ejercen como jueces cívicos, mediadores y defensores públicos de la Ciudad de México participaron en la primera capacitación especializada presencial en uso ético de la inteligencia artificial (IA) para operadores del sistema de justicia en el país que implementó la UNESCO.
Participantes analizaron las oportunidades y los riesgos asociados con la incorporación de la IA en los sistemas de justicia, así como los principios éticos y salvaguardas necesarios para garantizar su uso responsable.
A medida que la IA se incorpora de forma creciente a los procesos administrativos y judiciales, la formación de quienes operan estos sistemas se vuelve indispensable para garantizar que estas tecnologías se utilicen de manera transparente, responsable y centrada en las personas, pues son quienes, en última instancia, determinan si una tecnología es útil para la justicia o la obstaculiza.
En caso reciente, un abogado que uso ChatGPT en un juicio en México y metió a su cliente en problemas: la IA se inventó testigos en un caso de asesinato. Testimonios completamente inventados, nombres falsos e informes policiales que nunca fueron redactados. Un abogado penalista de Santa Fe, en Nuevo México, citó a testigos inexistentes en la documentación presentada para defender a su cliente, acusado de asesinato.
Ante las preguntas del juez, el abogado Stephen Aarons afirmó que desconocía los riesgos y las llamadas «alucinaciones» de la inteligencia artificial, es decir, la generación de información falsa o inventada, pero presentada de una manera convincente.
El abogado ha sido condenado a pagar una multa de 5.000 dólares y el caso ha sido remitido al Colegio de Abogados de Nuevo México, que deberá examinar lo ocurrido y determinar si procede adoptar medidas disciplinarias.
