La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) y el Instituto de las Mujeres, bajo el Ministerio de Igualdad, han establecido una colaboración para abordar la violencia digital y los sesgos de género presentes en los sistemas de inteligencia artificial. Este acuerdo fue formalizado mediante la firma de un convenio y una declaración institucional que busca proteger los derechos fundamentales de mujeres y menores.
Durante el evento, el ministro para la Transformación Digital y de la Función Pública, Óscar López, destacó la importancia de esta colaboración, mencionando casos alarmantes como el uso indebido de vídeos manipulados que afectan a menores. “No vamos a permitir que las redes sociales y la inteligencia artificial se conviertan en una ley de la selva”, afirmó López.
Compromiso con la igualdad digital
El acto tuvo lugar en el marco del evento "Igualdad Digital Ya", celebrado este jueves por motivo del 8 de marzo, Día Internacional de la Mujer. La ministra de Igualdad, Ana Redondo, subrayó que “la igualdad es paz, democracia y derechos humanos” y enfatizó que los avances en democracia deben reflejarse también en el ámbito digital.
La AESIA se comprometió a compartir evidencias técnicas con la Comisión Europea y la Oficina de IA europea para ayudar en las investigaciones sobre el uso inapropiado de sistemas de inteligencia artificial en redes sociales. Esta iniciativa cuenta con la colaboración del Instituto Nacional de Ciberseguridad (INCIBE).
Informe sobre la situación actual
El Instituto de las Mujeres elaborará un informe sobre la situación en España, recopilando datos y perspectivas tanto del sector público como privado. Este documento tiene como objetivo garantizar el respeto a los derechos fundamentales dentro del marco del Estado de Derecho.
En su declaración conjunta sobre la protección de los derechos fundamentales frente a los retos que plantea la inteligencia artificial, ambas instituciones reconocen el liderazgo europeo en esta lucha. El texto resalta cómo el contenido misógino y sexista en las redes sociales no solo afecta a las mujeres en línea, sino que también repercute negativamente en su salud mental y seguridad física.
Ejes del convenio firmado
El convenio firmado establece un marco colaborativo para integrar la perspectiva de género en todas las fases del uso y supervisión de sistemas de inteligencia artificial en España. AESIA y el Instituto trabajarán juntos para detectar, prevenir y corregir sesgos de género presentes en estas tecnologías.
Este esfuerzo conjunto busca reforzar la protección de los derechos fundamentales durante el despliegue de sistemas considerados como alto riesgo. AESIA también se encargará de alertar sobre posibles riesgos, compartir documentación relevante y capacitar a su personal en temas relacionados con igualdad.
Cultura ética en IA
El acuerdo contempla acciones coordinadas para fomentar una cultura ética y responsable respecto a la inteligencia artificial, alineada con principios igualitarios. Ambas entidades llevarán a cabo actividades conjuntas para sensibilizar al público, así como participar activamente en estudios e informes específicos dentro del Laboratorio de Ideas de AESIA.
Además, se creará una Comisión de Seguimiento que asegurará la continuidad y planificación adecuada de estas iniciativas durante toda la vigencia del acuerdo.
Preguntas sobre la noticia
¿Cuál es el objetivo de la colaboración entre AESIA y el Instituto de las Mujeres?
El objetivo es combatir la violencia digital y corregir los sesgos de género en los sistemas de Inteligencia Artificial, así como proteger los derechos fundamentales de mujeres y menores en un entorno digital.
¿Qué acciones se llevarán a cabo en el marco del convenio firmado?
Se establecerá un marco de colaboración para integrar la igualdad de género en el ciclo de supervisión y uso de la inteligencia artificial. Esto incluye acciones para detectar, prevenir y corregir sesgos de género en sistemas de IA.
¿Cómo contribuirá AESIA a la lucha contra la violencia digital?
AESIA compartirá evidencias técnicas y documentales con la Comisión Europea sobre el uso de sistemas de inteligencia artificial que permiten la creación y difusión de imágenes manipuladas sin consentimiento, además alertará sobre sistemas de alto riesgo.
¿Qué tipo de informe elaborará el Instituto de las Mujeres?
El Instituto elevará un informe sobre la situación en España que incluirá visiones y evidencias recopiladas por actores e instituciones públicas y privadas, con el fin de preservar el respeto a los derechos fundamentales.
¿Qué impacto tiene la violencia digital según las declaraciones realizadas?
La violencia digital afecta gravemente a la salud mental, silencia a mujeres y niñas, impide su libre expresión y puede provocar situaciones graves como acecho o violencia física.
¿Qué medidas se implementarán para promover una cultura de IA ética?
Se impulsarán acciones coordinadas para sensibilizar y formar sobre igualdad, participación ciudadana orientada al diálogo, así como eventos y talleres para discutir estos temas.
Si (
No(
