Diego Fierro Rodríguez, Letrado de la Administración de Justicia
Diego Fierro Rodríguez
En el seno de una era tecnológica sin precedentes, el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.° 300/2008, (UE) n.° 167/2013, (UE) n.° 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828, emerge como un faro de guía y seguridad. Publicado en el Diario Oficial de la Unión Europea el pasado día 12 de julio, esta nueva norma se erige como un compendio de normas armonizadas que abordan el vasto y complejo dominio de la inteligencia artificial. A través de sus 13 capítulos, se teje una narrativa que busca no solo la eficiencia del mercado interior, sino también la promoción de una inteligencia artificial que respete la esencia humana y sea fiable.
La publicación de este reglamento marca un momento decisivo en la historia de la tecnología y su regulación. No es meramente una serie de directrices técnicas, sino una reflexión profunda y detallada sobre cómo la inteligencia artificial debe integrarse en nuestras vidas sin comprometer los valores éticos fundamentales. Este acto normativo se presenta como un faro de esperanza y responsabilidad en un mar de incertidumbre tecnológica, guiando a la sociedad hacia un futuro donde la inteligencia artificial y la humanidad coexisten en armonía y con respeto mutuo. A este respecto, el Considerando 1 del Reglamento (UE) 2024/1689 afirma lo siguiente:
«El objetivo del presente Reglamento es mejorar el funcionamiento del mercado interior mediante el establecimiento de un marco jurídico uniforme, en particular para el desarrollo, la introducción en el mercado, la puesta en servicio y la utilización de sistemas de inteligencia artificial (en lo sucesivo, «sistemas de IA») en la Unión, de conformidad con los valores de la Unión, a fin de promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea (en lo sucesivo, «Carta»), incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, proteger frente a los efectos perjudiciales de los sistemas de IA en la Unión, así como brindar apoyo a la innovación. El presente Reglamento garantiza la libre circulación transfronteriza de mercancías y servicios basados en la IA, con lo que impide que los Estados miembros impongan restricciones al desarrollo, la comercialización y la utilización de sistemas de IA, a menos que el presente Reglamento lo autorice expresamente.»
El reglamento se plantea como un baluarte para la protección de los derechos fundamentales consagrados en la Carta, garantizando que la innovación en inteligencia artificial no sea un detrimento para la humanidad, sino un aliado que potencie el progreso sin desvirtuar los valores éticos y morales. En este sentido, el Considerando 1 del Reglamento (UE) 2024/1689 señala lo siguiente:
«Los sistemas de IA pueden desplegarse con facilidad en sectores muy diversos de la economía y en muchas partes de la sociedad, también a escala transfronteriza, y circular fácilmente por toda la Unión. Algunos Estados miembros ya han estudiado adopción de normas nacionales destinadas a garantizar que la IA sea fiable y segura y se desarrolle y utilice de conformidad con las obligaciones relativas a los derechos fundamentales.»
La nueva normativa, lejos de ser un mero conjunto de directrices técnicas, se presenta como una reflexión profunda sobre el papel de la tecnología en nuestras vidas y las responsabilidades inherentes a su desarrollo y aplicación. La esencia de este reglamento radica en su capacidad para anticipar y mitigar los riesgos asociados con la inteligencia artificial, al mismo tiempo que fomenta un entorno de innovación y desarrollo tecnológico responsable.
En su núcleo, el Reglamento (UE) 2024/1689 recoge un sistema de categorización según el riesgo que cada sistema de inteligencia artificial pueda presentar, debiendo atenderse a la definición que se contiene en su artículo 3, por el que resulta ser «un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales». Esta categorización es una herramienta esencial para ajustar las obligaciones y requisitos de transparencia, permitiendo un equilibrio entre innovación y seguridad. Las prácticas prohibidas, tales como la manipulación del comportamiento cognitivo y la puntuación social, revelan una preocupación fundamental por el bienestar y la dignidad humana, evitando que la tecnología se convierta en un instrumento de control y opresión.
La categorización según el riesgo constituye una innovación crucial en el reglamento, ya que permite una evaluación precisa de las amenazas potenciales de cada sistema de inteligencia artificial. Esto significa que no todas las inteligencias artificiales serán tratadas por igual; en cambio, aquellas que presentan mayores riesgos para la seguridad y los derechos humanos estarán sujetas a regulaciones más estrictas. Esta medida no solo protege a los individuos y las comunidades, sino que también proporciona a las empresas y desarrolladores un marco claro para entender las expectativas y requisitos regulatorios.
Debe tenerse presente que la vigilancia predictiva basada en perfiles y los sistemas que utilizan datos biométricos para categorizar a las personas también encuentran su límite en este reglamento, subrayando el rechazo a cualquier forma de discriminación y asegurando un uso ético y responsable de la inteligencia artificial. La creación de la Oficina de la inteligencia artificial como órgano de gobernanza garantiza la aplicación efectiva de estas medidas, estableciendo un sistema de sanciones que refuerza el compromiso con la legalidad y la justicia. Este sistema de sanciones no solo actúa como un disuasivo potente contra las prácticas abusivas, sino que también asegura que los actores de la industria comprendan la seriedad con la que la Unión Europea aborda estos temas.
La implementación de estas medidas de seguridad representa un esfuerzo concertado para asegurar que la inteligencia artificial se desarrolle de manera que beneficie a la sociedad en su conjunto. Al prohibir prácticas como la manipulación del comportamiento cognitivo y la puntuación social, el reglamento protege la integridad mental y emocional de los ciudadanos, evitando que se conviertan en meros sujetos de experimentación tecnológica. La Oficina de la inteligencia artificial, con su estructura robusta y su mandato claro, será fundamental para garantizar que estas normativas se apliquen de manera efectiva y justa en toda la Unión Europea.
El nuevo marco normativo no es solo una respuesta a los desafíos actuales, sino una visión para el futuro. Se aplicará a todos los proveedores que introduzcan sistemas de inteligencia artificial en la Unión, independientemente de su ubicación geográfica, asegurando una cobertura global que proteja a los ciudadanos de la Unión de cualquier posible abuso o mal uso de la tecnología. Importadores, distribuidores, fabricantes y representantes autorizados están igualmente obligados a cumplir con estas normas, creando un ecosistema de responsabilidad compartida.
La amplitud del ámbito de aplicación del reglamento subraya la determinación de la Unión Europea de abordar los riesgos asociados con la inteligencia artificial de manera exhaustiva y global. No se trata simplemente de regular las actividades dentro de sus fronteras, sino de establecer un estándar internacional que otros países y regiones puedan seguir. Esta estrategia no solo protege a los ciudadanos de la Unión Europea, sino que también promueve una cultura global de responsabilidad y ética en el desarrollo y uso de la inteligencia artificial.
Importadores, distribuidores, fabricantes y representantes autorizados están igualmente obligados a cumplir con estas normas, creando un ecosistema de responsabilidad compartida. Esta responsabilidad compartida asegura que cada actor en la cadena de suministro de inteligencia artificial sea consciente de sus obligaciones y contribuya activamente a la protección de los derechos y la seguridad de los usuarios. Además, la inclusión de representantes autorizados de proveedores no establecidos en la Unión amplía aún más el alcance del reglamento, asegurando que todos los sistemas de inteligencia artificial utilizados en la Unión Europea cumplan con los mismos estándares rigurosos.
La implementación de estas responsabilidades también fomenta una cultura de cumplimiento y ética en la industria de la inteligencia artificial. Las empresas deben demostrar que sus sistemas de inteligencia artificial cumplen con los requisitos del reglamento antes de poder operar en el mercado de la Unión Europea, lo que promueve la transparencia y la rendición de cuentas. Este enfoque integral asegura que todos los actores, desde los desarrolladores hasta los distribuidores, compartan la responsabilidad de proteger a los usuarios y garantizar que la inteligencia artificial se utilice de manera segura y ética.
Hay que reseñar que la entrada en vigor del Reglamento será gradual, permitiendo una adaptación adecuada a sus exigencias. Esta progresividad en el inicio de la vigencia y aplicabilidad no es simplemente una cuestión de pragmatismo, sino una muestra del compromiso de la Unión Europea con una implementación eficaz y proporcionada de sus políticas.
El enfoque gradual permite a las empresas y otros actores del mercado interiorizar y adaptar sus procesos a las nuevas regulaciones sin causar disrupciones innecesarias. Este periodo de transición es esencial para asegurar que todas las partes interesadas comprendan plenamente las nuevas obligaciones y tengan tiempo suficiente para implementar los cambios necesarios. La gradación también refleja una comprensión de la complejidad del ecosistema de inteligencia artificial y la necesidad de un enfoque equilibrado para la implementación de reglas tan exhaustivas.
A partir del 2 de agosto de 2026, la mayoría de las medidas serán aplicables, con ciertas excepciones que entrarán en vigor en fechas posteriores. Esta planificación cuidadosa de la entrada en vigor permite una integración paulatina de los nuevos requisitos, facilitando una adaptación más fluida tanto para grandes corporaciones como para pequeñas y medianas empresas. Además, esta estructura temporal proporciona a los órganos reguladores el tiempo necesario para establecer los mecanismos de supervisión y apoyo necesarios para garantizar el cumplimiento efectivo.
Este enfoque de implementación gradual también demuestra el compromiso de la Unión Europea con una política de regulación equitativa. Al permitir un tiempo suficiente para la adaptación, se minimiza el riesgo de que las empresas enfrenten sanciones injustas debido a la falta de preparación. Este periodo de transición no solo facilita el cumplimiento, sino que también promueve una cultura de colaboración y comprensión mutua entre los reguladores y la industria. En última instancia, la gradación en la entrada en vigor del reglamento asegura que todos los actores estén bien preparados para cumplir con las nuevas normativas, promoviendo así una transición ordenada y efectiva hacia un entorno de inteligencia artificial regulado y seguro.
En la intersección entre la tecnología, la legislación y la ética, el Reglamento (UE) 2024/1689 se alza como un monumento a la prudencia y la previsión. Es un recordatorio de que, aunque la tecnología avanza a pasos agigantados, el respeto por la dignidad humana y la protección de los derechos fundamentales deben ser siempre las brújulas a seguir. Este reglamento no solo articula un sistema de prevención ante los riesgos potenciales de la inteligencia artificial, sino que también nos invita a reflexionar sobre nuestro propio papel en el vasto teatro de la innovación tecnológica.
La inteligencia artificial, con su capacidad de transformar empresas, mejorar la calidad de vida y abrir nuevas fronteras del conocimiento, también trae consigo riesgos significativos. El Reglamento (UE) 2024/1689 es una respuesta a esos riesgos, un esfuerzo por garantizar que la inteligencia artificial siga siendo una herramienta para el bien común y no un arma de explotación o control. Al implementar normas claras y precisas, la Unión Europea demuestra su liderazgo en la creación de un marco legal que equilibre la innovación con la protección de los derechos humanos.
A medida que el mundo se adentra en una nueva era digital, la importancia de una regulación como la que propone el Reglamento (UE) 2024/1689 se hace cada vez más evidente. No se trata solo de prevenir abusos, sino de crear un entorno donde la tecnología pueda florecer de manera ética y sostenible. El reglamento es una manifestación de la esperanza de que la inteligencia artificial, con todo su potencial, se desarrolle en armonía con los valores que nos definen como sociedad. En un mundo donde la tecnología puede a menudo parecer deshumanizante, este reglamento es una afirmación de que la humanidad puede y debe guiar su propio destino.
El desafío de regular la inteligencia artificial es monumental, pero no imposible. El Reglamento (UE) 2024/1689 es un testimonio del compromiso de la Unión Europea con este desafío, una declaración de principios que coloca a la dignidad humana y los derechos fundamentales en el centro de la revolución tecnológica. En un mundo donde la tecnología puede a menudo parecer deshumanizante, este reglamento es una afirmación de que la humanidad puede y debe guiar su propio destino. Es una llamada a la responsabilidad, una invitación a todos los actores involucrados a participar en la construcción de un futuro donde la inteligencia artificial sea una fuerza para el bien, respetando siempre los principios que nos hacen humanos. Es un faro de esperanza en un mar de incertidumbre, una promesa de que, con cuidado y atención, podemos navegar las aguas turbulentas de la innovación tecnológica hacia un puerto seguro.
Resulta fácil inferir que el Reglamento (UE) 2024/1689 es un recordatorio de que, aunque el futuro pueda parecer incierto, tenemos el poder de moldearlo. Con la guía de principios sólidos y un compromiso inquebrantable con la dignidad y los derechos humanos, podemos asegurar que la inteligencia artificial no solo mejore nuestras vidas, sino que también refleje lo mejor de nuestra humanidad. En esta encrucijada histórica, el citado reglamento se erige como un testimonio de la capacidad de la humanidad para enfrentar y superar los desafíos del futuro con sabiduría y previsión, si bien habrá que poner voluntad y medios para garantizar la adecuada aplicación del Reglamento (UE) 2024/1689.
La entrada El Reglamento de Inteligencia Artificial como prevención se publicó primero en Lawyerpress NEWS.
