La Agencia Española de Supervisión de Inteligencia Artificial (AESIA) ha puesto en marcha, a través de su Laboratorio de Ideas, una serie de iniciativas destinadas a pulsar la opinión de la ciudadanía sobre los retos que plantea la inteligencia artificial (IA). En esta ocasión el foco principal se centro en la desinformación digital y la perpetuación de los sesgos de género Torre Juana IA HUB y AlicanteTEC colaboraron en la organización de este taller realizado en Alicante.
La primera sesión tuvo lugar por la mañana en las instalaciones del Parque Científico de la Universidad de Alicante (PCA), mientras que la de la tarde se trasladó a la sede de la Biblioteca de los Libros Felices, en el centro de la ciudad. El encuentro incluyó una presentación divulgativa sobre inteligencia artificial y desinformación, seguida de un espacio de diálogo y debate para recoger inquietudes, preguntas y propuestas de los asistentes en torno al desarrollo de nuevas políticas públicas sobre IA.
Un «termómetro social» para analizar el contenido generado por IA
Las sesiones combinaron la exposición teórica con dinámicas interactivas. Durante el bloque del Termómetro Social, se proyectaron imágenes generadas íntegramente por inteligencia artificial. Los asistentes indicaron si consideraban que las imágenes eran reales o sintéticas, justificando sus respuestas, lo que sirvió para registrar la tasa de aciertos del público y pulsar la percepción ciudadana sobre la asimetría de género en la IA.
Márgenes de error de la IA: Los ponentes compartieron los fallos geométricos y de textura más comunes que cometen los algoritmos actuales y que facilitan su identificación: pupilas asimétricas, textos de fondo sin sentido, errores estructurales en los fondos y texturas de piel excesivamente pulidas.
A través de demostraciones con herramientas de acceso público, se expuso cómo las plataformas de generación de imágenes reproducen estereotipos de género asociados a las profesiones. Al introducir los términos en inglés para permitir la ambigüedad de género, los algoritmos arrojaron de forma sistemática representaciones masculinas para roles de médicos («Doctor»), jefes («Boss») o trabajadores de la construcción, mientras que asociaron la representación femenina a puestos de enfermería, secretaría o limpieza, visibilizando cómo los sesgos de datos automatizan la discriminación.
La difusión de desinformación y el impacto de la violencia digital
En el bloque de debate se abordó la distinción entre la desinformación accidental (misinformation), emitida sin intención de engañar, y la desinformación intencional (disinformation), difundida de forma deliberada para manipular a la ciudadanía. Para estructurar el examen de campañas masivas, se introdujo el estándar internacional conocido como Marco de Análisis ABCDE, que evalúa las situaciones de riesgo a través de cinco preguntas: Actor, Comportamiento (Behaviour), Contenido, Grado (Degree) y Efecto.
Se expusieron casos reales para ilustrar los riesgos analizados:
- Desestabilización política (Caso Moldavia de 2025): Se analizó la campaña masiva que clonó mediante técnicas de IA la imagen y la voz de la presidenta Maia Sandu para difundir medidas económicas irreales y polarizar a la población.
- Sesgo algorítmico en selección de personal: El caso de una multinacional tecnológica cuyo software de criba curricular, entrenado con datos históricos acumulados durante diez años, penalizaba sistemáticamente las solicitudes que incluían la palabra «mujeres».
Asimismo, se reservó un espacio para tratar la violencia digital, un problema que afecta de manera directa a mujeres y niñas. Los ponentes señalaron que, según datos de la ONU, hasta el 58% de las mujeres y niñas han sido víctimas de violencia en línea, y subrayaron que la mayor parte del contenido deepfake no consentido en internet corresponde a imágenes y vídeos de naturaleza sexual que muestran a mujeres.
Recursos ciudadanos y supervisión de la IA
El cierre del workshop corrió a cargo de los representantes de la AESIA, quienes detallaron las funciones de la agencia, el trabajo de su Comité Asesor y el acuerdo con el Instituto de las Mujeres como marco de escucha activa. También se facilitó una lista de recursos de verificación que incluye portales como Newtral, Maldita.es o EFE Verifica, la plataforma de aprendizaje Learntocheck, y el Canal Prioritario de la Agencia Española de Protección de Datos (AEPD) para denunciar la publicación de contenido sensible o íntimo en internet.