• 24/04/2024 20:11

«Es necesario ir hacia una inteligencia artificial que no reproduzca los sesgos de género”

Tiempo estimado de lectura: 4 minutos

La iniciativa LIDEResA, de iMADES Communication, celebró ayer su III edición con el objetivo de analizar los sesgos de género de la inteligencia artificial y la importancia de su ética para evitar la discriminación hacia las mujeres.

“La limitada participación de mujeres en carreras relacionadas con áreas STEAM es una amenaza” declaró Mª Isabel García, Directora del Instituto de las Mujeres.

María Garzón, Socia Fundadora de iMADES Communication, apuntó que “la inclusión de mujeres en el campo tecnológico no es suficiente, sino que es imprescindible una formación en género de los equipos”.

“Está demostrado por diversos índices que las empresas más igualitarias son más rentables. Hoy en día la sociedad es menos tolerante al purple washing y por ello hay una gran oportunidad para que la tecnología  se programe para cortar la dinámica de una sociedad llena de sesgos” es una de las contundentes conclusiones que se escucharon en la tarde de ayer por parte de María Garzón, socia Fundadora de iMADES Communication, agencia que organizó la III edición de LIDEResA. Se trata de una iniciativa puesta en marcha en 2022 con el objetivo de valorar el talento de las mujeres y su liderazgo en todas sus vertientes, así como visibilizar aquellas situaciones que dificultan la consecución de una igualdad de género real y efectiva en la sociedad.

Personas expertas en inteligencia artificial y representantes de reconocidas empresas se reunieron en la tarde de ayer en el Hotel Índigo Gran Vía de Madrid para debatir acerca del “Género y la Ética de la Inteligencia Artificial”. No en vano, vivimos en un entorno tecnológico que a día de hoy resulta discriminatorio para las mujeres, pues en él nos encontramos con productos tecnológicos, como la inteligencia artificial, que ignoran la diversidad y la inclusión. El problema es que esta tecnología incluye sesgos de género desde sus raíces que afectan al desarrollo de los derechos humanos de las mujeres, los cuales prohíben precisamente la discriminación por razón de sexo.

Una de las razones que explican esta situación desigualitaria, según datos que arrojó Mª Isabel García, Directora del Instituto de las Mujeres, durante la apertura del evento es que solo el 22% de profesionales en inteligencia artificial en España son mujeres y no se encuentran en puestos de toma de decisiones relacionadas con esta tecnología. De hecho, solo hay un 25% de mujeres representadas en puestos de datos y, según un informe de la UNESCO, las mujeres y niñas tienen 4 veces menos de posibilidades de saber programar computadoras”. Todo ello actúa de barrera para el desarrollo de una tecnología más igualitaria y responsable.

Preocupante ausencia de ética en la inteligencia artificial

De la importancia de aplicar la ética en el desarrollo de estas tecnologías intensivas en datos, como la inteligencia artificial, se profundizó en una primera mesa de debate en la que hubo una respuesta contundente a la pregunta de “¿por qué existen dichos sesgos de género y cómo se introducen?”. De acuerdo con María Vázquez Terrés, Directora de Soluciones Empresariales de Microsoft España: “la inteligencia artificial se basa en información histórica y la digitalización es un espejo de lo que somos como sociedad”. Tal y como se explicó, la tecnología y los algoritmos, y con ello la inteligencia artificial, operan en el mundo real, de modo que aprenden de él e interaccionan con él. Por tanto, estos algoritmos que alimentan la inteligencia artificial se ven influenciados por los sesgos de género que están presentes en la cultura de la cual aprenden en su proceso de entrenamiento.

Por ello, Beatriz Medina, Directora General de Freeda España y moderadora de la mesa, incidió en que para garantizar el desarrollo de algoritmos que funcionen hacia la igualdad “es necesario incluir perfiles femeninos en los equipos de datos y equipos de desarrolladores porque estamos infrarrepresentadas”. Así, el reto de conseguir diversidad en los equipos es prioritario, según reclamó también Andrés Visús Jarne, Director de Operaciones y Estrategia en PredictLand, quién aseguró que “a los clientes les interesa que la inteligencia artificial sea ética y para ello el que la información no esté sesgada es la clave”.

También se debatió acerca de la necesidad de que los gobiernos se comprometan con la reglamentación de la inteligencia artificial para conseguir una tecnología justa y auditable si bien, aunque esto es necesario, no quisieron pasar por alto que de nada sirve esto si no se consigue antes la concienciación ética de todos los actores implicados, incluidos los consumidores de los productos tecnológicos. En palabras de Sara Degli-Esposti, Investigadora Científica en Ética e Inteligencia Artificial del Instituto de Filosofía (IFS) CSIC, apuntó que “se puede tener una ley y unos códigos con unos principios maravillosos, pero lo fundamental es que la gente crea en esos principios”.

Una tecnología crucial y rentable para las empresas

Pese a todo ello, existe un compromiso que está uniendo a algunas compañías hacia una nueva corriente denominada “inteligencia artificial responsable“, un enfoque que prioriza el impacto responsable de la tecnología sobre los beneficios y que tiene claro el papel clave de esta tecnología tanto en el entorno empresarial como en el desarrollo de una sociedad más justa e igualitaria.

María Garzón Molina, Socia Fundadora de iMADES Communication, dio paso al final de la jornada a un debate en el que intervino Noelia Morón Tabernero, Software Development Manager de Amazon, quien aseguró que “la inteligencia artificial en el mundo empresarial lo va a poner todo patas arribas. En un futuro bastante cercano un enfoque centrado en la inteligencia artificial será lo que se aplique para resolver cualquier aspecto operativo de una empresa”. Por ello animó a todas las compañías, con independencia de su tamaño, a abrazar un cambio tecnológico necesario para su propia supervivencia.

En este sentido, desde la tecnológica tienen como objetivo que su trabajo en todas las áreas relacionadas con la inteligencia artificial puedan llevarlo a empresas que son más pequeñas o muy lejanas a la tecnología y hacerlo de manera responsable y sostenible, dadas las limitaciones que puedan tener estas empresas más pequeñas para implementar esta tecnología.

Además, Estelle Raso, CEO de KPI Risk Ethics & Compliance, expuso su experiencia en primera persona con respecto a la implementación y uso de una tecnología que considera estratégica para el entorno empresarial. Al respecto explicó que para conseguir un equilibrio en el desarrollo de una tecnología más justa e igualitaria es fundamental poner el foco en la diversificación y no tener miedo ante el riesgo. “La IA conlleva riesgos y oportunidades, pero cuando hay un riesgo hay una oportunidad de diversificación y en mi equipo de trabajo el riesgo se gestiona mediante la diversidad de perfiles profesionales que se complementan en su trabajo” declaró.

En resumen, los sesgos de género persisten en la sociedad, un fenómeno que es acrecentado por el uso de nuevas herramientas y procesos tecnológicos como la inteligencia artificial. Revertir esta situación y conseguir que el entorno tecnológico sea igualitario, inclusivo y representativo es un reto urgente que hay que afrontar no solo para evitar la discriminación hacia las mujeres, sino para impedir que esta tecnología haga retroceder a la sociedad en materia de derechos humanos.