Hace ya varios años que las Naciones Unidas plantearon una serie de Objetivos de Desarrollo Sostenible de cara al año 2030. En nuestro intento por demostrar cómo la tecnología es una aliada imprescindible para lograr muchos de ellos, en este caso, y con motivo de la celebración el pasado día 8 de marzo del Día Internacional de la Mujer, queremos explicar cómo las TIC facilitarán la consecución del ODS número 5: ‘Lograr la igualdad entre los géneros y empoderar a todas las mujeres y niñas’.
Así, para tratar este objetivo desde un punto de vista tecnológico se deben tener en cuenta dos perspectivas. En primer lugar, debemos asumir que la tecnología ya tiene un papel predominante en el mundo laboral. Esto es, los sistemas informáticos influencian cada vez más la toma de decisiones de las empresas, también en lo referente a la captación de talento. Es por ello que conseguir una tecnología feminista debe ser una prioridad a la hora de afrontar la desigualdad laboral que aún a día de hoy sufren las mujeres en todo el mundo.
Por otro lado, la detección de mensajes de odio y comentarios hirientes hacia este colectivo que supone el 50% de la población mundial, supone un reto difícil de alcanzar sin la ayuda de las TIC.
Explainable AI
El imparable avance tecnológico de los últimos años ha resaltado un reto al que todos los que se dedican a la tecnología tendrán que enfrentarse: La necesidad de hacer de los sistemas tecnológicos algo fácil de entender para los usuarios. No es suficiente con que el operario que utiliza una determinada tecnología sepa cómo funciona ese sistema, sino que es necesario que entienda el motivo por el que el programa informático ofrece una determinada respuesta a su solicitud.
Hace un tiempo, durante una reunión, nuestros compañeros recordaban una anécdota que sirve para explicar cómo el trabajar en el Explainable AI puede contribuir a hacer del mundo un lugar más justo.
Este es el caso de un sistema de Recursos Humanos que utilizaba la Inteligencia Artificial para, de entre un gran número de perfiles, ofrecer el más adecuado para un determinado puesto en una empresa. Los responsables de Recursos Humanos de la identidad se dieron cuenta de que todos los candidatos que el sistema ofrecía para puestos de dirección cumplían con los mismos estándares: eran hombres, de mediana edad y con experiencia previa en el sector.
Esto ocurría debido a que los datos que se habían utilizado para ‘entrenar’ a aquel sistema de IA eran pobres y todos los perfiles de directivos que conocía el sistema cumplían con esas características, por lo que asumió que el ser hombre y de mediana edad era un requisito indispensable para cumplir con las obligaciones de un directivo.
Lo mismo ocurrió con un sistema de Inteligencia Artificial de Google, que mientras calificaba a los hombres cómo hombres de negocios, asociaba a las mujeres a cuestiones puramente estéticas, como la belleza o la sonrisa.
Por eso es tan importante que quien vaya a utilizar un sistema de estas características comprenda su funcionamiento y puntos débiles, porque de esta forma, al detectar un comportamiento sospechoso se puede deducir el motivo del mismo, y buscar una solución al sesgo que el sistema pueda estar teniendo.
Lucha contra el sexismo
La otra función clave que ya se está llevando a cabo gracias a la tecnología es la de detección de mensajes o sesgos sexistas en la red.
La educación es una de las armas más importantes para luchar contra el machismo que se encuentra interiorizado en varias generaciones. Los adultos del futuro, pasan hoy buena parte de su día en Internet, consumiendo todo tipo de contenidos difíciles de controlar.
En Gradiant sabemos que un buen análisis de la red puede convertirla en un lugar más seguro para nuestros jóvenes, y educarlos en valores como la igualdad, el feminismo y el respeto por todos los seres humanos independientemente de su sexo, género, raza o estatus social.
En este sentido, cada vez más, las grandes plataformas de Internet están desarrollando sistemas que detectan mensajes hirientes u ofensivos. Se trata de una tecnología que ya se utiliza para detectar las conocidas Fake News y que en los próximos años se podrá utilizar también para neutralizar a aquellos que quieran perpetuar el sistema patriarcal en el que vivimos.
Tampoco debemos olvidar el importante trabajo que estamos llevando a cabo en el ámbito del reconocimiento facial y la detección de deep fake. Hace unos meses hablábamos de cómo las mujeres estaban siendo las principales víctimas de los montajes con DeepFake, una tecnología que en los últimos años ha sido muy utilizada para falsificar videos pornográficos con la imagen de sus víctimas, en su mayoría mujeres famosas.
Por todo esto en Gradiant apostamos por un uso inteligente y solidario de las TIC conociendo su potencial y teniendo bien presentes los retos a los que se enfrenta la sociedad del s XXI. Sabemos que es difícil y que el ‘mal’ suele llevar la delantera, pero desde aquí nos comprometemos a seguir trabajando a diario por convertir este mundo en un lugar más justo para todos los seres humanos independientemente de su sexo, género, raza o estatus social.
