La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) y el Instituto de las Mujeres han firmado un convenio para combatir la violencia digital y corregir sesgos de género en sistemas de inteligencia artificial. Esta colaboración busca proteger los derechos fundamentales de mujeres y menores, abordando la creación y difusión de imágenes manipuladas sin consentimiento. Durante el evento, se destacó la importancia de avanzar en una democracia digital que respete la igualdad y combata el contenido misógino en redes sociales. El acuerdo incluye acciones coordinadas para promover una IA ética y responsable, así como la creación de una Comisión de Seguimiento para garantizar su implementación efectiva.
La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) y el Instituto de las Mujeres, bajo el Ministerio de Igualdad, han establecido una colaboración para abordar la violencia digital y los sesgos de género presentes en los sistemas de inteligencia artificial. Este acuerdo fue formalizado mediante la firma de un convenio y una declaración institucional que busca proteger los derechos fundamentales de mujeres y menores.
Durante el evento, el ministro para la Transformación Digital y de la Función Pública, Óscar López, destacó la importancia de esta colaboración, mencionando casos alarmantes como el uso indebido de vídeos manipulados que afectan a menores. “No vamos a permitir que las redes sociales y la inteligencia artificial se conviertan en una ley de la selva”, afirmó López.
El acto tuvo lugar en el marco del evento "Igualdad Digital Ya", celebrado este jueves por motivo del 8 de marzo, Día Internacional de la Mujer. La ministra de Igualdad, Ana Redondo, subrayó que “la igualdad es paz, democracia y derechos humanos” y enfatizó que los avances en democracia deben reflejarse también en el ámbito digital.
La AESIA se comprometió a compartir evidencias técnicas con la Comisión Europea y la Oficina de IA europea para ayudar en las investigaciones sobre el uso inapropiado de sistemas de inteligencia artificial en redes sociales. Esta iniciativa cuenta con la colaboración del Instituto Nacional de Ciberseguridad (INCIBE).
El Instituto de las Mujeres elaborará un informe sobre la situación en España, recopilando datos y perspectivas tanto del sector público como privado. Este documento tiene como objetivo garantizar el respeto a los derechos fundamentales dentro del marco del Estado de Derecho.
En su declaración conjunta sobre la protección de los derechos fundamentales frente a los retos que plantea la inteligencia artificial, ambas instituciones reconocen el liderazgo europeo en esta lucha. El texto resalta cómo el contenido misógino y sexista en las redes sociales no solo afecta a las mujeres en línea, sino que también repercute negativamente en su salud mental y seguridad física.
El convenio firmado establece un marco colaborativo para integrar la perspectiva de género en todas las fases del uso y supervisión de sistemas de inteligencia artificial en España. AESIA y el Instituto trabajarán juntos para detectar, prevenir y corregir sesgos de género presentes en estas tecnologías.
Este esfuerzo conjunto busca reforzar la protección de los derechos fundamentales durante el despliegue de sistemas considerados como alto riesgo. AESIA también se encargará de alertar sobre posibles riesgos, compartir documentación relevante y capacitar a su personal en temas relacionados con igualdad.
El acuerdo contempla acciones coordinadas para fomentar una cultura ética y responsable respecto a la inteligencia artificial, alineada con principios igualitarios. Ambas entidades llevarán a cabo actividades conjuntas para sensibilizar al público, así como participar activamente en estudios e informes específicos dentro del Laboratorio de Ideas de AESIA.
Además, se creará una Comisión de Seguimiento que asegurará la continuidad y planificación adecuada de estas iniciativas durante toda la vigencia del acuerdo.
El objetivo es combatir la violencia digital y corregir los sesgos de género en los sistemas de Inteligencia Artificial, así como proteger los derechos fundamentales de mujeres y menores en un entorno digital.
Se establecerá un marco de colaboración para integrar la igualdad de género en el ciclo de supervisión y uso de la inteligencia artificial. Esto incluye acciones para detectar, prevenir y corregir sesgos de género en sistemas de IA.
AESIA compartirá evidencias técnicas y documentales con la Comisión Europea sobre el uso de sistemas de inteligencia artificial que permiten la creación y difusión de imágenes manipuladas sin consentimiento, además alertará sobre sistemas de alto riesgo.
El Instituto elevará un informe sobre la situación en España que incluirá visiones y evidencias recopiladas por actores e instituciones públicas y privadas, con el fin de preservar el respeto a los derechos fundamentales.
La violencia digital afecta gravemente a la salud mental, silencia a mujeres y niñas, impide su libre expresión y puede provocar situaciones graves como acecho o violencia física.
Se impulsarán acciones coordinadas para sensibilizar y formar sobre igualdad, participación ciudadana orientada al diálogo, así como eventos y talleres para discutir estos temas.