AESIA es el organismo público encargado de garantizar el desarrollo y uso de la inteligencia artificial (IA) en España de manera ética, segura y respetuosa con los derechos fundamentales de los ciudadanos. ¿Cuáles son las competencias clave de la Agencia, con qué recursos cuenta actualmente para ejecutarlas y cuáles son sus principales prioridades de actuación?
La AESIA es la primera agencia creada en el mundo para un buen uso de la IA y aspira a ser el faro confiable de la IA ética.
Nuestras competencias abarcan ámbitos como la supervisión del mercado para el cumplimiento del Reglamento Europeo de IA; el fomento de la innovación responsable, por ejemplo, impulsando entornos de pruebas donde las empresas pueden testar sus productos de IA antes de salir al mercado; la anticipación de los impactos de la IA, con nuestro Laboratorio de Ideas, donde los mejores expertos de nuestro país analizan cómo podemos adelantarnos; la alfabetización en IA, para que nadie se quede atrás; o la colaboración internacional con la Organización de Naciones Unidas (ONU) y numerosos países en favor de una IA ética.
La prioridad de AESIA es doble: por un lado, ayudamos a la ciudadanía y a las empresas a comprender y aplicar correctamente las obligaciones normativas dentro de la IA; por otro, protegemos a las personas frente a los riesgos que pueden derivarse de determinados usos de ella, dándoles herramientas para potenciar sus conocimientos en IA.
Para todo ello, tenemos un equipo de 50 personas que se encuentra a pleno rendimiento en nuestra sede en A Coruña (Galicia).
Desde el 2 de agosto son aplicables nuevas disposiciones del Reglamento Europeo de IA y las autoridades competentes han asumido nuevas facultades para garantizar su cumplimiento. ¿Qué ha cambiado para las organizaciones públicas y privadas europeas en este sentido? ¿Considera que están suficientemente preparadas para cumplir con las obligaciones que establece el Reglamento?
La IA debe cumplir tres ‘S’: sentido (para qué la necesitamos y para qué no), seguridad y sostenibilidad. Las nuevas disposiciones refuerzan especialmente la protección y la seguridad de las personas, con mayor foco en la transparencia en el uso de la IA.
Ahora, las organizaciones deben informar de manera clara a las personas de que están interactuando con un sistema de IA, explicar para qué se utilizan sus datos, qué criterios tiene en cuenta el sistema para generar recomendaciones o tomar decisiones y cuáles son sus limitaciones. Además, tienen que facilitar canales para solicitar información adicional, presentar reclamaciones o pedir la revisión humana de aquellas decisiones que puedan afectar significativamente a las personas. De este modo, se fomenta la confianza, la comprensión y el uso responsable de la tecnología.
En las organizaciones existe una creciente conciencia sobre la necesidad de ponerse al día en el uso de la IA. Las grandes organizaciones suelen estar avanzadas en la gobernanza de IA y, por ello, ponemos gran parte de nuestro acompañamiento en las pequeñas y medianas empresas, para facilitar esa transición.
Según el Instituto Nacional de Estadística, una de cada cinco empresas españolas de 10 o más trabajadores ya utiliza IA; cifra que prácticamente se ha duplicado en un año. Es especialmente oportuno el Plan IA360 recientemente anunciado por el presidente del Gobierno, que permitirá reforzar nuestro músculo tecnológico, convertir la rápida adopción social de esta tecnología en España en motor económico y semillero de talento, construir una gobernanza de la IA que nos permita afrontar estos retos e impulsar un nuevo contrato social para la IA.
El Reglamento de IA contempla importantes sanciones por incumplimiento. ¿Cómo se va a articular en España esta capacidad sancionadora y qué papel desempeñará la AESIA a la hora de garantizar que las organizaciones cumplan con las nuevas obligaciones?
La supervisión y el régimen sancionador forman parte de cualquier sistema regulatorio eficaz. Sin embargo, nuestro principal objetivo no es sancionar, sino favorecer el cumplimiento. Queremos acompañar a las organizaciones para que puedan aprovechar la tecnología con confianza.
La mejor política sancionadora es aquella que apenas necesita utilizarse porque las organizaciones conocen sus responsabilidades y cuentan con herramientas para cumplirlas. Por eso estamos centrando nuestros esfuerzos en la formación, la divulgación, la elaboración de guías informativas y el diálogo permanente con empresas, administraciones públicas y sociedad civil.
«Seguiremos trabajando para impulsar una gobernanza mundial de la IA, donde las personas y sus derechos estén en el centro»
A través del Buzón Ciudadano, la AESIA recibe las dudas y consultas de usuarios y empresas. ¿Cuáles son los riesgos relacionados con la IA que más preocupación están generando y qué tipo de situaciones están requiriendo una mayor atención por parte de la AESIA?
Hemos recibido en torno a 1.200 consultas en el Buzón Ciudadano, que está operativo 24/7 y a disposición de todas las personas en nuestra web. Hemos constatado una creciente demanda, por lo que siempre intentamos ser muy ágiles en las respuestas.
Observamos un interés creciente por cuestiones relacionadas con la transparencia, la protección de datos, cómo identificar contenidos creados con IA o las implicaciones de determinadas decisiones automatizadas. También recibimos consultas de organizaciones que buscan comprender mejor sus obligaciones en el nuevo marco regulatorio europeo.
Más allá de los casos concretos, lo que detectamos es una demanda cada vez mayor de información confiable, orientación práctica y acompañamiento para utilizar la IA de forma segura y responsable.
La IA está avanzando a una velocidad difícil de prever hace apenas unos años. Tanto es así, que algunos de los principales actores de la industria han planteado la necesidad de desacelerar el desarrollo de los modelos más avanzados. ¿Hacia dónde considera que debe evolucionar ahora la IA y, en particular, qué camino debería seguir su desarrollo y aplicación en el ámbito de la ciberseguridad?
Primero, en España y en Europa defendemos una IA siempre bajo la supervisión humana. Para ello, España creó la AESIA.
La IA no necesita frenos. Lo que necesita es volante y un conductor humano. La supervisión humana debe ser el pilar. Es decir, la IA puede ser una gran compañera de viaje, pero el conductor eres tú.
En segundo lugar, regulamos la IA y es necesario seguir haciéndolo, al igual que con cualquier otro sector. La autorregulación no funciona. En Europa disponemos del Reglamento europeo de IA, impulsado por España, entre otras normativas. Cualquier sistema que quiera operar en Europa, aunque sea extranjero, tiene que cumplirlo. Así, empresas y ciudadanía tenemos seguridad jurídica, a diferencia de otros países.
En tercer lugar, seguiremos trabajando a nivel internacional para impulsar una gobernanza mundial de la IA, donde las personas y sus derechos estén siempre en el centro. Nuestra agencia asesora para ello a más de 10 países y a la ONU.
Con respecto a la ciberseguridad en la IA, afianza nuestra soberanía digital. Puede mejorar la detección temprana de amenazas, automatizar tareas de análisis, identificar patrones anómalos y reforzar la capacidad de respuesta ante incidentes. La clave está en desarrollar estas capacidades bajo la supervisión humana, la gestión de riesgos y la protección de los derechos fundamentales, como se recoge en el Plan IA360, presentado por el presidente del Gobierno.
¿Cuáles son, en este sentido, los riesgos asociados a la IA que más le preocupa y los principales desafíos a futuro en lo relacionado con su gobernanza?
Me preocupan especialmente aquellos riesgos que afectan directamente a la confianza de las personas: la desinformación a gran escala, la manipulación mediante contenidos sintéticos, los sesgos discriminatorios, la opacidad de determinados sistemas o la falta de control humano.
Desde el punto de vista de la gobernanza, el gran reto consiste en mantener la capacidad regulatoria y de supervisión en un contexto de enorme aceleración tecnológica. La cooperación internacional, el intercambio de conocimiento entre autoridades y la creación de estándares técnicos compartidos están siendo elementos fundamentales para lograrlo.
El Centro Criptológico Nacional ha advertido de un cambio de paradigma con la consolidación de la IA ofensiva, que permite aumentar la velocidad, la escala, la precisión y la autonomía de los ciberataques. ¿Están las organizaciones, tanto públicas como privadas, preparadas para afrontar este nuevo escenario? ¿Cómo se puede combatir este mal uso de la IA?
Aparecen actores maliciosos y se automatizan procesos que antes requerían más tiempo y recursos. La respuesta pasa por una combinación de tecnología, talento y gobernanza. Por eso se está invirtiendo en capacidades defensivas basadas en IA, en reforzar la formación de profesionales, compartir información sobre amenazas y consolidar mecanismos de cooperación entre administraciones, empresas y centros especializados.
La buena noticia es que la misma IA que puede ser utilizada para atacar puede convertirse también en una de nuestras mejores herramientas de defensa. La ciberseguridad en la IA es estratégica también en el Plan IA360 anteriormente mencionado, en el marco de la gobernanza que se quiere impulsar desde el Gobierno español.
La entrada «La IA no necesita frenos, sino volante y un conductor humano» se publicó primero en Red Seguridad.
