MONTREAL, el 26 de noviembre. 2024 /PRNewswire/ – milá y CEIMIAdos líderes mundiales en el desarrollo responsable de la inteligencia artificial (IA), publicaron hoy el informe más completo hasta la fecha sobre igualdad de género y diversidad en la IA. Basándose en amplias consultas con una amplia gama de voces y expertos, este informe y la guía que lo acompaña ofrecen a los tomadores de decisiones recomendaciones de políticas claras para promover una mayor inclusión en el desarrollo tecnológico.
El informe, una iniciativa del Grupo de Trabajo de IA responsable de Asociación Global sobre Inteligencia Artificialfue presentado hoy en Montreal, en Canadáen el marco de un evento que reunió al Presidente de la Junta del Tesoro de Canadá, Anita Anandasí como líderes mundiales, formuladores de políticas y representantes de la comunidad de IA.
El informe, titulado «Hacia la igualdad real en inteligencia artificial: una política de IA transformadora para la igualdad de género y la diversidad»proporciona a los tomadores de decisiones y a todas las partes interesadas pautas para crear ecosistemas de IA inclusivos, equitativos y justos que promuevan el desarrollo económico y social. El informe explora las mejores prácticas, ofrece perspectivas políticas y proporciona recomendaciones para mejorar la igualdad de género y la diversidad en la IA y desarrollar directrices.
Los rápidos avances en IA están transformando industrias e impulsando el crecimiento económico, ofreciendo un gran potencial para mejorar la calidad y las condiciones de vida en todo el mundo. Sin embargo, corren el riesgo de exacerbar las desigualdades existentes al reflejar y amplificar los prejuicios, la discriminación y los estereotipos sociales, en particular los que afectan a las mujeres y otros grupos históricamente marginados. Ya hay casos documentados en los que los sistemas y procesos de IA han dado lugar, por ejemplo, a la distribución de imágenes personales no consentidas y al acoso en línea. La falta de diversidad en los ecosistemas de IA también puede reforzar los estereotipos y la discriminación al excluir ciertas perspectivas. Esto ha incluido casos en los que los grupos marginados han visto limitadas sus oportunidades de empleo y los recursos se han distribuido de manera inequitativa, particularmente hacia las personas con discapacidad.
“Este informe es esencial porque las recomendaciones abordan las causas profundas de la desigualdad con miras a lograr una igualdad real en la IA y más allá. Los cambios transformadores en el desarrollo e implementación de políticas en torno a la IA promoverán los derechos humanos”, dice Paola Ricaurte Quijiano, profesora titular del Tecnológico de Monterrey, asociada del Centro Berkman Klein para Internet y Sociedad de la universidad. harvard y corresponsable del informe. “Necesitamos crear un marco regulatorio sólido para limitar los efectos nocivos y garantizar un desarrollo beneficioso de los sistemas y procesos de IA para todos. »
Las principales recomendaciones se clasifican en cuatro categorías:
- Fomentar el diseño inclusivo y la innovación democrática : integrar medidas de acción afirmativa y de inclusión institucional, y apoyar el diseño de tecnologías inclusivas.
- Fortalecer una participación significativa en la gobernanza de la IA : promover la participación activa de los grupos marginados en la gobernanza de la IA para garantizar una mejor supervisión de la IA para todos.
- Garantizar la transparencia y la rendición de cuentas en la prevención de efectos adversos: establecer salvaguardias y mecanismos de rendición de cuentas entre todas las partes interesadas en la IA para prevenir daños y garantizar la justicia.
- Garantizar un acceso adecuado al sistema de justicia : Implementar medidas para garantizar que los grupos marginados tengan acceso a recursos legales contra la discriminación y los prejuicios relacionados con la IA.
El informe recomienda, entre otras cosas, dirigir la financiación hacia iniciativas alineadas con principios de diseño de tecnología inclusiva, promoviendo aplicaciones, prácticas y procesos equitativos en los ecosistemas de IA. Las recomendaciones también se centran en el desarrollo de estrategias que permitan a los sectores público y privado llevar a cabo evaluaciones de impacto en los derechos fundamentales antes de implementar sistemas de IA. Otros ejemplos incluyen garantizar la transparencia algorítmica, para permitir que los afectados por un sistema de IA cuestionen sus resultados basándose en información clara y comprensible. Además, se propone reducir la carga de la prueba para los demandantes, facilitando así el acceso a recursos legales contra la discriminación y los prejuicios generados por la IA.
“El establecimiento de un marco regulatorio riguroso es necesario y urgente para prevenir daños y trabajar por la equidad y la diversidad en los ecosistemas de IA que, en última instancia, impactan directamente a los humanos”, añade Benjamín Prud‘man, vicepresidente de políticas públicas, seguridad y asuntos globales de Mila y codirector del informe. “A través de políticas inclusivas de IA, podemos mejorar la calidad, la usabilidad y la eficacia de los sistemas de IA, para lograr un futuro más equitativo, sostenible y próspero para todos. »
Además del informe, CEIMIA y Mila también están publicando una guía complementaria para ayudar a los responsables de políticas a implementar las recomendaciones. Esta guía ofrece un método detallado para construir ecosistemas de IA más inclusivos y pasos concretos para facilitar esta transición industrial esencial.
Basado en un enfoque de derechos humanos para la IA, más de 200 participantes, en representación de más de 50 países y de diversos orígenes, participaron en consultas o ejercicios de consulta. para crear el informe.
Acerca de CEIMIA
CEIMIA es un actor clave en el desarrollo responsable y la adopción de la inteligencia artificial, basada en principios de ética, derechos humanos, inclusión, diversidad, innovación y crecimiento económico. CEIMIA desarrolla e implementa proyectos aplicados de alto impacto en el campo de la inteligencia artificial responsable. Como centro de experiencia de la Asociación Global sobre Inteligencia Artificial (GPAI), CEIMIA trabaja en estrecha colaboración con 29 gobiernos y más de 150 expertos internacionales de múltiples partes interesadas para abordar desafíos y prioridades globales apoyando el desarrollo de soluciones aplicadas en inteligencia artificial responsable. Nuestro papel es actuar como punto focal para asociaciones internacionales para fomentar el desarrollo y despliegue de este tipo de iniciativas para el bien público. Para más información, visite https://ceimia.org/fr/
Acerca de Mila
Fundado por el profesor Yoshua Bengio de La Universidad de Montreal, Mila es el centro universitario de investigación en aprendizaje profundo más grande del mundo y reúne a más de 1.200 investigadores especializados en el campo del aprendizaje automático. Con sede en Montreal y financiado en parte por el gobierno de Canadá Como parte de la estrategia pancanadiense de IA, la misión de Mila es ser un centro global de avances científicos que inspire la innovación y el desarrollo de la IA para el beneficio de todos. Mila es una organización sin fines de lucro reconocida mundialmente por sus importantes contribuciones al campo del aprendizaje profundo, particularmente en las áreas de modelado de lenguaje, traducción automática, reconocimiento de objetos y modelos generativos. Para obtener más información, visite mila.quebec.
FUENTE Mila – Instituto Quebec de Inteligencia Artificial
Fuente: Mila & CEIMIA ; Contacto: Eric Aach, [email protected]+1 514-569-3594; o Gabrielle Landry, [email protected]+1 514-688-5837
