• 30/05/2024 06:13

‘Deepfakes’: la inteligencia artificial que desafía la verdad en la Justicia

(origen) juan.manuel.torrico May 16, 2024 , , , , ,
Tiempo estimado de lectura: 2 minutos, 3 segundos

La era digital ha traído consigo un cambio radical en muchos ámbitos. Uno de ellos es la forma de presentar y valorar las pruebas en los procesos judiciales. Ya no se trata solo de documentos, testigos o peritos, sino también de correos electrónicos, publicaciones en redes sociales, grabaciones, imágenes y vídeos. Todos ellos forman parte de la vida diaria y pueden ser decisivos para el desenlace de un caso en sede judicial.

Sin embargo, la seguridad jurídica se ha visto amenazada por la potente irrupción de la inteligencia artificial generativa, ya que ha abierto la puerta a una nueva amenaza que desafía la esencia misma de la verdad legal: los deepfakes. Acrónimo inglés formado por la unión de las palabras deep (profundo, por deep learning) y fake (falso) que ha hecho fortuna para describir aquellos materiales generados artificialmente que pueden construir situaciones que nunca sucedieron con elevados grados de verosimilitud. Además, al realismo de los contenidos se han sumado la facilidad y generalización del acceso a las herramientas de generación y su rápida evolución. Y esto plantea un desafío apasionante, pero crítico, para el sistema de Justicia.

Aunque ya existen regulaciones sobre la falsificación y manipulación de pruebas dirigidas a provocar un error en el juez o tribunal, entre ellas las de los delitos como falsedad documental o contra la Administración de Justicia, la cuestión ahora se centra en la determinación de la falsedad en un terreno donde la realidad y la ficción se mezclan.

Las dificultades residen no tanto en las consecuencias legales, sino en descifrar la verdad en un escenario donde la línea entre lo auténtico y lo fabricado artificialmente se desvanece como una ilusión fugaz. De este modo, lo fundamental es la implementación de mecanismos fiables, consistentes y ágiles que permitan revisar y verificar estos contenidos.

Medidas de detección de ‘deepfakes’

Además del aumento significativo de la carga de trabajo, la detección de deepfakes se convierte en una compleja y larga travesía por sí misma. Entidades de referencia, como el Instituto Nacional de Ciberseguridad, ya han propuesto medidas para su detección. Los procedimientos manuales resultan laboriosos y falibles, con lo que los sistemas de detección automatizados y permanentemente actualizados que proporcionen un alto grado de certeza sobre la autenticidad del material probatorio se vuelven esenciales como los mejores detectores.

En esta línea, algunas empresas de desarrollo de inteligencia artificial ya han anunciado estar trabajando en soluciones técnicas innovadoras dirigidas a incorporar marcas de agua imperceptibles al ojo humano en las imágenes generadas artificialmente, pero identificables por herramientas digitales creadas al efecto, así como en herramientas de detección mediante modelos de análisis en tiempo real de materiales audiovisuales para identificar anomalías en rasgos faciales o mediciones de aspectos como los umbrales de parpadeo o el ritmo cardiaco.

Sin embargo, pese a estos avances, la carrera entre los desarrolladores tecnológicos y los que pretenden eludir los sistemas de detección constituye una amenaza permanente. Por ello, la respuesta que demanda esta nueva amenaza ha de ser global, partiendo del desarrollo y de la inversión en capacidades técnicas para hacer frente a los desafíos futuros e involucrando no solo a los responsables de la aplicación de la ley, sino también a legisladores y a los ciudadanos en general, potenciando la concienciación.

La batalla por la verdad en el mundo judicial se libra ahora en el terreno resbaladizo de los deepfakes. Pero ¿está preparada la Justicia para hacer frente a este desafío?

Te interesa: Desde Rosalía hasta Trump: cómo nos puede afectar el deepfake y qué hacer en esos casos

La entrada ‘Deepfakes’: la inteligencia artificial que desafía la verdad en la Justicia se publicó primero en Red Seguridad.


Artículo de juan.manuel.torrico publicado en https://www.redseguridad.com/especialidades-tic/deepfakes-la-inteligencia-artificial-que-desafia-la-verdad-en-la-justicia_20240516.html