(SenePlus) – ¿Podría la inteligencia artificial ser el reflejo amplificado de nuestros propios prejuicios? Ésta es la pregunta central que plantea Le Monde Diplomatique en su edición de noviembre de 2024, a través de una investigación detallada que deconstruye el mito de la neutralidad tecnológica. “¿Qué es más neutral, dicen, que un ordenador? Error: detrás de sus fríos veredictos, los algoritmos y los autómatas encapsulan todos los prejuicios de los humanos que los diseñan”, advierte inmediatamente el mensual.
El ejemplo más llamativo de estos sesgos es el de Pulse AI, desarrollado en 2020 por la Universidad de Duke en Estados Unidos. Le Monde Diplomatique revela cómo este sistema, que debía despixelar las imágenes, “tendía a blanquear a las personas de color hasta el punto de generar un ‘Obama blanco'”. Este fallo no es baladí y tiene su origen en un efecto dominó tecnológico: Pulse utilizó StyleGAN, otro sistema de inteligencia artificial desarrollado por Nvidia, que “sobrerrepresenta espontáneamente a los hombres blancos debido a su propio aprendizaje”.
“Si el algoritmo Pulse no contenía ningún sesgo intrínseco, integra indirectamente los de StyleGAN: cuando despixeliza el rostro real del señor Barack Obama, el programa lo convierte en un hombre blanco”, explica el periódico, destacando cómo se transmiten los prejuicios desde un solo sistema. a otro.
La publicación mensual destaca que estos sesgos no son simples errores de programación. “Sin necesariamente ser conscientes de ello, los ingenieros transponen los sesgos discriminatorios inherentes a las condiciones en las que se producen los datos que alimentan la máquina”, analiza Le Monde Diplomatique. Esta situación es tanto más preocupante cuanto que “¿acaso las máquinas no son consideradas objetivas y desprovistas de ideología?”
Las implicaciones concretas de estos sesgos van mucho más allá del marco teórico. “Algunos litigantes, víctimas de algoritmos policiales predictivos que integran variables discriminatorias, aprenderán por las malas que no es así”, advierte el periódico.
Una opacidad preocupante
Aún más alarmante es que Le Monde Diplomatique revela que la comprensión misma de estos sistemas escapa a los expertos. “‘Explicar’ cómo funcionan los modelos de IA, es decir, traducir la respuesta del sistema en una serie de pasos unidos entre sí por lo que un ser humano puede interpretar sensatamente como causas o razones” ha pasado a ser secundario. Esta explicación “ya no es una de las condiciones previas para poner en funcionamiento un modelo, sino que sirve como la guinda del pastel”.
La revista va más allá al revelar que “incluso los investigadores más avanzados luchan por comprender lo que sucede en la caja negra de los algoritmos”. Esta situación plantea una cuestión democrática fundamental: “¿Cómo puede el legislador establecer estándares para evaluar sistemas que nadie sabe cómo funcionan, particularmente en los sectores sensibles de la salud o la educación?”
Le Monde Diplomatique pregunta: “¿Corresponde a las empresas privadas decidir por sí solas los objetivos que persiguen estas IA?” Sin embargo, estas “opciones técnico-políticas fundamentales justificarían una deliberación colectiva y un control público más estrecho”.
El periódico recuerda que estos sistemas son desarrollados por “un puñado de actores cuyas capacidades financieras y experiencia en política industrial siguen las de ciertos países del G20”. Esta concentración de poder tecnológico plantea cuestiones democráticas fundamentales.
Hacia una redefinición necesaria
Ante estos desafíos, Le Monde Diplomatique exige un cuestionamiento profundo de nuestro enfoque de la IA. La revista sugiere incluso abandonar el término “inteligencia artificial” en favor de “autómatas computacionales”, una expresión “claramente menos halagadora pero más justa, ya que estas máquinas logran sus objetivos calculando la mejor manera de repetir resultados pasados”.
El escritor británico James Bridle, citado por la revista mensual, plantea la pregunta esencial: “¿Podemos imaginar tecnologías de la información y la comunicación que no nos exploten, engañen o suplanten?” La respuesta, según Le Monde Diplomatique, pasa necesariamente por “una separación del Estado y el mercado” y una toma democrática de estas tecnologías que configuran nuestro futuro.
La revista concluye que la agregación de grandes cantidades de datos no puede sustituir la reflexión democrática y el diálogo crítico. Un recordatorio crucial en un momento en el que la IA se está introduciendo cada vez más profundamente en nuestra vida diaria.
