Ir al contenido
Abordamos los sesgos de la IA con tres expertas en la materia: Gemma Galdón, de Eticas.AI; Mónica Sánchez, de Siemens Healthineers, y Esther Morales, de MIOTI
Está en la lógica de los sistemas automatizados, en la medida en que buscan patrones y lo que se escapa se considera “ruido o errores”, también existe riesgo de “expulsar a las minorías”, lo que no encaja en el patrón. “Y a veces, ese ruido, somos las mujeres”, explicó hoy Gemma Galdón, CEO y fundadora de Eticas.AI, toda una pionera en trabajar por la audición del algoritmo. Con la perspectiva del tiempo, hoy admite: “Ya nadie se plantea hoy lanzar un sistema sin testarlo mínimamente”. Ella junto a otras dos expertas en la materia, Mónica Sánchez, directora comercial de Siemens Healthineers, y Esther Morales, directora de desarrolla de MIOTI, formaron parte del coloquio organizado por ASUFIN con motivo del Día Internacional de la Mujer, moderado por su presidenta Patricia Suárez.
Galdón incidió en la necesidad de “intervenir de forma proactiva” en el algoritmo para no excluir del sistema realidades minoritarias como personas en el ámbito rural o con un determinado patrón de comportamiento que se salga de la norma. “Cualquier atributo de tu historia personal que te haga ser diferente, te excluye del sistema”, añadió.
El ámbito sanitario es uno de los que ha penalizado tradicionalmente a la mujer, con una tendencia al infradiagnóstico y a la falta de casos de estudio, explicó Mónica Sánchez. Y tomó como referencia el famoso enfoque de la “medicina del bikini”, es decir, la creencia errónea de que la salud de las mujeres solo se diferencia de la de los hombres en la parte que cubriría la prenda de baño. “No se ha dado importancia a determinados síntomas porque se les atribuía una componente emocional: esta mujer está histérica”, añadió.
A vueltas con falsas creencias, Esther Morales también aludió a que tradicionalmente, las disciplinas técnicas -dominadas por hombres- se han desligado de las competencias sociales, a menudo asociadas al rol femenino. Sin embargo, la evolución actual exige una integración de ambos perfiles. Por ejemplo, hay estudios que demuestran que pese a la mayor incorporación de mujeres en las carreras STEM, la mayoría de las que se ven precedidas del “bio” son las que copan ellas.
Mónica García incidió en este punto: en el ámbito tecnológico los equipos tienen un nutrido número de mujeres, pero en los puestos de decisión “que es un nivel más”, la mayoría siguen siendo hombres. Y con relación a la IA, “que suplirá buena parte del trabajo técnico, estar presentes en los ámbitos de decisión es importante”.
En este sentido Gemma Galdón reconoció que “la única forma que he encontrado de ser libre es fundando mi propia empresa: mejor como cabeza de ratón”. Y eso que los obstáculos siguen siendo importantes, apuntó que “solo el 2% de la inversión en startup va a parar a mujeres”.
En su ámbito, auditar el algoritmo garantiza que el funcionamiento de la IA va a ser el correcto. “La empresa no me va a explicar su algoritmo, pero sí necesito ver el resultado; no te obligo a darme la fórmula de la cocacola, pero sí a que me demuestres que es segura”. Y añadió “a mí no me interesa el código, es como el motor de un coche. Lo que me interesa es ver q las puertas abren y cierran con seguridad, o que se activa el airbag”.
