Accenture y Anthropic anunciaron, el 21 de septiembre, una colaboración para crear un equipo de evaluadores integrados que trabajará junto con los equipos internos y los socios de seguridad de Anthropic para evaluar y someter a los modelos a pruebas con el objetivo de identificar posibles vulnerabilidades, realizar evaluaciones de alineamiento y poner a prueba las salvaguardas de los modelos.
Cada una de las compañías prevé invertir al menos 1.000 millones de dólares durante los próximos cinco años en seguridad de la inteligencia artificial.
Accenture se apoyará en sus décadas de inversión en IA responsable, así como en la profunda experiencia técnica y en seguridad que incorpora a través de la adquisición de Faculty, una de las compañías referentes en IA aplicada. Faculty cuenta con una reconocida experiencia en la realización de pruebas y evaluaciones de modelos para algunos de los principales laboratorios de IA del mundo, así como con una amplia trayectoria en el desarrollo de sistemas complejos de IA diseñados desde su origen para ser seguros y éticos. El trabajo de Faculty abarca los ámbitos de la Administración Pública, defensa, sanidad e infraestructuras, e incluye el desarrollo del Sistema de Alerta Temprana del Servicio Nacional de Salud británico durante la pandemia de COVID-19.
Experiencia conjunta Accenture-Anthropic
«Accenture está reuniendo a un equipo especializado con una amplia experiencia en IA, seguridad y diferentes sectores para trabajar junto a Anthropic», ha afirmado Julie Sweet, presidenta y CEO de Accenture. «La seguridad requiere tanto un profundo conocimiento técnico como una comprensión clara de cómo se utiliza la IA en el mundo real. La evaluación integrada es un ámbito emergente y esperamos colaborar con Anthropic para ayudar a acelerar el desarrollo de evaluadores integrados, que consideramos que serán una parte importante del ecosistema de seguridad en el futuro», completa.
Por su parte, Marc Warner, director de Tecnología de Accenture y CEO de Faculty, añade que su compañía «nació con la convicción de que la IA debe ser segura por diseño, y no segura por casualidad. Esta convicción ha guiado nuestro trabajo con Gobiernos y con sistemas de defensa y sanidad de todo el mundo. Unir fuerzas con Anthropic como evaluadores integrados es exactamente el tipo de trabajo para el que se creó Faculty y, ahora como parte de Accenture, contamos con la plataforma necesaria para llevarlo a cabo a una escala capaz de generar un impacto real en la industria».
La entrada Accenture y Anthropic se alían e invertirán 2.000 millones en seguridad de la IA se publicó primero en Red Seguridad.
