Diego Fierro Rodríguez
Diego Fierro Rodríguez
La irrupción de la inteligencia artificial en los sistemas judiciales plantea un desafío sin precedentes para la protección de datos y la integridad de los procesos judiciales. En un contexto donde las herramientas de inteligencia artificial generativa se utilizan de manera cada vez más extendida, tanto de forma intencionada como inadvertida, la Suprema Corte de Arkansas ha tomado una medida significativa al proponer, el 5 de junio de 2025, la Orden Administrativa nº25, dedicada específicamente a regular el uso de la inteligencia artificial en el ámbito judicial.
Este documento, sometido a consulta pública hasta el 1 de agosto de 2025, establece directrices claras para proteger la confidencialidad de los datos judiciales y prevenir su uso indebido en sistemas de inteligencia artificial. La iniciativa de Arkansas no solo refleja una respuesta proactiva a los riesgos asociados con esta tecnología, sino que también ofrece lecciones valiosas sobre la necesidad de equilibrar la innovación tecnológica con la salvaguarda de los derechos fundamentales y las normas éticas en la administración de justicia.
La Orden Administrativa nº25 parte de un principio fundamental: la concienciación sobre los riesgos inherentes al uso de herramientas de inteligencia artificial generativa. Estas herramientas, basadas en modelos de lenguaje de gran escala, tienen la capacidad de retener y procesar los datos introducidos para mejorar sus bases de conocimiento. En el ámbito judicial, donde la confidencialidad de la información es un pilar esencial, esta característica plantea serias preocupaciones. La introducción de datos sensibles, como registros judiciales sellados o información personal de los litigantes, en sistemas de inteligencia artificial generativa puede derivar en violaciones de normas establecidas, como la Orden Administrativa nº19 de la Suprema Corte de Arkansas, que restringe el acceso a ciertos registros judiciales, o las disposiciones del Código de Arkansas, que limitan la divulgación de datos confidenciales.
Ciertamente, la orden subraya que quienes interactúan con el sistema judicial, ya sean abogados, personal de los tribunales o ciudadanos, deben evaluar cuidadosamente si las herramientas de inteligencia artificial utilizadas retienen datos sensibles, ya que su divulgación, incluso de manera no intencionada, podría contravenir normas éticas y jurídicas, incluyendo el Código de Conducta Profesional de Arkansas y el Código de Conducta Judicial.
La protección de datos en el ámbito judicial no es un asunto meramente técnico, sino que tiene implicaciones profundas para la confianza pública en el sistema de justicia. La Suprema Corte de Arkansas reconoce que la introducción de datos confidenciales en sistemas de inteligencia artificial generativa puede generar riesgos significativos, como la exposición no autorizada de información o su uso para fines distintos a los previstos. Por ejemplo, la retención de datos por parte de estas herramientas podría facilitar su acceso por terceros no autorizados, comprometiendo la privacidad de los individuos involucrados en procesos judiciales.
Además, la directriz destaca que las violaciones de confidencialidad, ya sean intencionadas o accidentales, pueden tener consecuencias jurídicas y éticas graves, especialmente para los profesionales del derecho y el personal judicial sujetos a estrictas normas de conducta. Este enfoque refleja una comprensión clara de que la inteligencia artificial, si bien ofrece oportunidades para mejorar la eficiencia de los tribunales, debe manejarse con extrema cautela para evitar comprometer los principios fundamentales del sistema judicial.
La Orden Administrativa nº25 establece una prohibición expresa dirigida al personal de la Oficina Administrativa de los Tribunales, los secretarios judiciales y cualquier persona con acceso al sistema interno CourtConnect, que gestiona información crítica como la gestión de casos, la presentación electrónica, los pagos en línea y la administración de jurados. Esta prohibición busca impedir la exposición intencionada de datos internos de los tribunales a herramientas de inteligencia artificial generativa, reconociendo el potencial de estas tecnologías para comprometer la seguridad de la información.
Es indispensable reconocer que la claridad de esta restricción es un paso crucial para garantizar que los sistemas judiciales, que manejan datos sensibles a diario, no se vean expuestos a riesgos innecesarios. Al mismo tiempo, la directriz permite excepciones controladas para proyectos de investigación y análisis aprobados por el Comité de Automatización de la Suprema Corte, lo que demuestra un enfoque equilibrado que no rechaza la innovación, sino que la somete a un escrutinio riguroso.
Ha de reseñarse que la excepción contemplada para proyectos de investigación y análisis es particularmente relevante, ya que reconoce el potencial de la inteligencia artificial para mejorar los procesos judiciales, siempre que se implemente de manera responsable. El hecho de que la División de Servicios de Información de los Tribunales esté autorizada a realizar investigaciones sobre el uso de herramientas de inteligencia artificial generativa sugiere un interés en explorar cómo estas tecnologías pueden optimizar funciones como la gestión de casos o el análisis de datos judiciales. Sin embargo, esta autorización está sujeta a estrictas condiciones, lo que garantiza que cualquier iniciativa en este ámbito se realice bajo supervisión y con medidas adecuadas para proteger la confidencialidad de los datos. Este enfoque refleja una visión pragmática que busca aprovechar los beneficios de la inteligencia artificial sin comprometer los principios éticos y jurídicos que rigen el sistema judicial.
La directriz de Arkansas también tiene implicaciones más amplias para el debate global sobre el uso de la inteligencia artificial en la administración de justicia. En un contexto donde los tribunales de todo el mundo enfrentan el desafío de integrar tecnologías emergentes, la Orden Administrativa nº25 ofrece un modelo de regulación preventiva. Al establecer directrices claras sobre la concienciación y la prohibición del uso indebido de datos, la Suprema Corte de Arkansas se posiciona como un referente en la gestión responsable de la inteligencia artificial. Este enfoque contrasta con actitudes más reactivas que han predominado en otros contextos, donde las regulaciones suelen implementarse solo tras la ocurrencia de incidentes significativos. Precisamente, la decisión de someter la directriz a consulta pública hasta el 1 de agosto de 2025 refuerza este carácter proactivo, al permitir que las partes interesadas, desde abogados hasta ciudadanos, contribuyan al perfeccionamiento de las normas propuestas.
Debe tenerse presente que la iniciativa de Arkansas también pone de relieve la importancia de la formación y la sensibilización en el uso de la inteligencia artificial. La directriz enfatiza que todos los actores del sistema judicial, desde los profesionales del derecho hasta el personal administrativo, deben ser conscientes de los riesgos asociados con estas tecnologías. Esta exigencia de concienciación es particularmente relevante en un contexto donde el uso de herramientas de inteligencia artificial generativa puede ser inadvertido, como cuando los staffs interactúan con aplicaciones que integran estas tecnologías sin advertirlo. La educación en este ámbito no solo protege los datos judiciales, sino que también fortalece la confianza pública en la capacidad de los tribunales para adaptarse a los avances tecnológicos sin comprometer sus valores fundamentales.
En última instancia, la Orden Administrativa nº25 representa un esfuerzo significativo por equilibrar la innovación tecnológica con la protección de los derechos fundamentales. La directriz reconoce que la inteligencia artificial tiene el potencial de transformar la administración de justicia, pero también subraya que su implementación debe estar sujeta a estrictas salvaguardas para evitar abusos. Al prohibir la exposición intencionada de datos judiciales a herramientas de inteligencia artificial generativa y establecer mecanismos para proyectos de investigación controlados, la Suprema Corte de Arkansas demuestra un compromiso con la responsabilidad y la transparencia. Esta iniciativa no solo protege la integridad del sistema judicial, sino que también establece un precedente valioso para otros tribunales que buscan navegar los desafíos de la era digital. En un mundo donde la tecnología avanza a un ritmo vertiginoso, el enfoque de Arkansas ofrece una guía clara para garantizar que la justicia siga siendo justa, equitativa y confiable.
La entrada Un buen aviso desde Arkansas sobre protección de datos y uso judicial de la IA se publicó primero en Lawyerpress NEWS.
