fAIr

En la era de la inteligencia artificial (IA), especialmente con el auge de los modelos generativos, nos enfrentamos a un escenario de amenazas complejas. La capacidad de crear contenido sintético, como voz, imágenes, vídeos y texto, ha abierto nuevas posibilidades, pero también ha dado lugar a desafíos significativos en términos de seguridad, privacidad y confianza. Cada vez, las herramientas utilizadas para crear o modificar contenido, especialmente en esta nueva era de la IA generativa, son más sencillas de utilizar y se encuentran al alcance de cualquiera. Esto queda claramente ejemplificado con los Deep Fakes y su impacto negativo en cuanto a fraude, desinformación y difamación en diferentes escenarios, incluyendo procesos de verificación de identidad online, videoconferencias (robo de 25M$ en Hong Kong), llamadas telefónicas, y creación de contenido sexual falso (caso Almendralejo) o desinformación en procesos electorales.

Además de los desafíos relacionados con los Deep Fakes, el mundo online se enfrenta a múltiples amenazas. Estas incluyen la creación de documentos de identidad sintéticos o la divulgación de contenido de audio, video e imagen falsos con fines delictivos.

Por ello es necesario trabajar en el desarrollo de una Suite de herramientas basadas en IA multimodal para combatir las amenazas derivadas del uso malicioso de la IA..