El lanzamiento de Mythos en abril de este año generó una profunda preocupación en organizaciones y Gobiernos de todo el mundo. Según las pruebas de Anthropic, su nuevo modelo de frontera era capaz de encontrar y explotar vulnerabilidades que habían pasado inadvertidas durante décadas. Siendo así, la alarma estaba más que justificada pues suponía el nacimiento de una potente arma si caía en manos malintencionadas. Sin embargo, apenas ocho meses después, el revuelo inicial ha perdido fuelle dando paso a una «nueva normalidad» en la que los grandes laboratorios de inteligencia artificial (IA) presentan modelos cada vez más potentes cada poco tiempo. El peligro sigue presente, pero el temor ha dado paso a la acción.
A día de hoy la IA permite preparar engaños más personalizados, automatizar el reconocimiento de objetivos y acelerar la búsqueda de vulnerabilidades. El desafío está en la combinación: ataques más rápidos, frecuentes, sofisticados, eficaces, a mayor escala y automatizados. A lo cual se suma desde hace no mucho la posibilidad de que cualquiera cree agentes autónomos capaces de realizar tareas y utilizar herramientas. Para cualquier organización que se precie de preocuparse por la seguridad, el riesgo está servido.
Con el fin de analizar la situación actual de la ciberseguridad en la era de los modelos de IA de frontera, NTT Data y Red Seguridad, con la colaboración de Palo Alto Networks, organizaron un desayuno de trabajo en el que participaron expertos de estas empresas y un reducido grupo de CISO y otros perfiles de responsabilidad en ciberseguridad corporativa. José Manuel Moreno, Cybersecurity Principal Director de NTT Data; Iván Pedraza, Cybersecurity Business Development Manager de la misma compañía; David García Cano, Enterprise District Sales Manager de Palo Alto Networks; y Yolanda Duro, directora de Red Seguridad (como moderadora), conversaron sobre los grandes desafíos de la IA y las posibilidades para hacerles frente.
Velocidad y alcance
La situación es tal, que la asimetría que ha existido tradicionalmente entre los atacantes y quienes los sufren ha aumentado. Así lo defendió José Manuel Moreno, de NTT Data, quien explicó que el principal cambio que provocan los nuevos modelos de IA de frontera en relación con la ciberseguridad es la velocidad a la que pueden ejecutarse los ataques. Esto implica «un cambio del sistema de defensa» por parte de las organizaciones para poder responder con la rapidez necesaria a las amenazas.
Iván Pedraza, de NTT Data, coincidió con su compañero en este punto y añadió que la IA está multiplicando todavía más los efectos de los ciberataques. Por un lado, afirmó, la superficie de ataque es ahora mucho más grande, pero además «las soluciones tradicionales ya no son validas porque ahora un individuo puede hacer cosas como lanzar ataques paralelos». En definitiva, los atacantes disponen con gracias a la IA de frontera de mayor alcance, velocidad y potencia en sus acciones.
David García Cano, de Palo Alto Networks, destacó como problema añadido a lo anterior la capacidad de los actores maliciosos de automatizar sus ataques. Aunque los modelos de frontera se desarrollan para facilitar tareas y agilizar los procesos de las organizaciones, igualmente ocurre con las opciones al alcance de los atacantes. En definitiva, que lo que se creó para «mejorarnos la vida en tareas como programación, etcétera», también se la ha facilitado a los malos.
Cambio de filosofía
La realidad actual exige, por tanto, un cambio de paradigma de la ciberseguridad. Pero esa transformación no se limita al uso de la tecnología, sino al modelo de protección dentro de las empresas. Sin embargo, apuntó Moreno, «cambiar la mentalidad de las empresas es una de las partes más complicadas. En ocasiones la solución está identificada, pero es muy difícil llegar hasta ella por los procesos que ya existen».
Por ejemplo, la situación obliga a revisar la manera en la que las organizaciones solventan las vulnerabilidades. Si los nuevos modelos de IA son capaces de descubrir todavía más vulnerabilidades de las que se detectaban hasta ahora, será necesario priorizar cuáles de ellas se abordan rápidamente y cuáles pueden esperar, en función del riesgo real que representen para el negocio.
Algunas claves para la protección frente a los ciberataques con IA pasan por conceptos habituales, pero evolucionados. Así, Pedraza planteó la necesidad de aplicar conceptos como el zero trust o la segmentación, al tiempo que se utiliza la IA para la detección y la respuesta.
La IA agéntica
Otro de los asuntos centrales del encuentro fue la incorporación de agentes de IA a los entornos corporativos. Como señaló García Cano, la creación de estos asistentes plantea, sobre todo, dos grandes retos: por un lado, de gobernanza y, por otro, de identidad. A medida que aumenta el volumen de agentes corporativos, las organizaciones necesitan reforzar los mecanismos de control.
La utilización de agentes exige a las corporaciones definir una identidad verificable para cada uno de ellos y saber qué sistema ejecuta una acción, en nombre de quién actúa y qué autorización tiene. Esa trazabilidad resulta necesaria para limitar los riesgos y establecer responsabilidades cuando los agentes operan con distintos grados de autonomía.
En ese sentido, Pedraza advirtió que el factor humano tiene que estar siempre presente. En el ámbito de la ciberseguridad, propuso que la aplicación de agentes de IA se limite a las tareas repetitivas y tediosas, mientras que las más críticas estén siempre bajo la supervisión de los profesionales.
La visión del CISO
El coloquio en torno a la gobernanza de los agentes de IA se extendió a los responsables de ciberseguridad presentes en el desayuno. Entre las cuestiones planteadas por estos profesionales, figuró la conveniencia de restringir la creación y rango de acción de esos sistemas, de manera que no todos los empleados puedan necesariamente generar y desplegar agentes sin una supervisión previa. No se trata de prohibir su uso, sino de hacerlo de manera controlada.
Los asistentes señalaron la necesidad de establecer una gobernanza que determine quién puede crear un agente, con qué finalidad, qué permisos recibe y durante cuánto tiempo permanece operativo. También consideraron necesario disponer de un inventario actualizado y mantener mapeados y controlados todos los agentes utilizados por la organización.
Este control permitiría reducir la exposición, evitar duplicidades y utilizar los recursos con mayor eficiencia. La adopción de la IA de frontera requiere así combinar nuevas capacidades defensivas con procedimientos que garanticen la identidad, la trazabilidad y la supervisión de cada agente desplegado.
La entrada La ciberseguridad en la era de la IA de frontera se publicó primero en Red Seguridad.
