La palabra “algoritmo”, que alguna vez se usó exclusivamente en determinadas disciplinas científicas, ahora está en todas partes. A veces adornados con virtudes casi mágicas, a veces vilipendiados, los algoritmos se mencionan en los debates sociales y políticos. Sin embargo, en general son poco conocidos y la palabra ha acabado teniendo connotaciones muy alejadas de su significado científico.
Un algoritmo es un método de cálculo. La palabra “algoritmo” ya se utilizaba en este sentido a principios del siglo XVII.mi siglo, o más generalmente en el sentido del arte calculador. Un algoritmo tiene un objetivo: por ejemplo, el algoritmo de multiplicación que aprendemos en la escuela primaria tiene Como objetivo… multiplicar dos números.
Un algoritmo implementa operaciones mecánicas, que no requieren que intervenga la intuición o la inteligencia de quien realiza el cálculo. Varios algoritmos pueden lograr el mismo objetivo, pero requiriendo más o menos operaciones y más o menos espacio de memoria. Evidentemente, a falta de otros factores a tener en cuenta, intentamos minimizar este tiempo de cálculo y espacio de memoria necesarios.
Por ejemplo, existe un algoritmo mucho más rápido que el aprendido en la escuela primaria si quieres multiplicar números con muchos dígitos. Esto puede parecer sorprendente, ya que este algoritmo nos resulta muy familiar y no parece realizar ningún trabajo innecesario. El gran matemático soviético Andrei Kolmogorov conjeturó en 1956 que no existía un algoritmo de multiplicación fundamentalmente más rápido y se sorprendió mucho cuando, en 1960, un joven estudiante que asistía a su seminario, Anatoly Karatsouba, le dijo que había propuesto uno. Las ideas de Karatsouba abrieron una línea de investigación fructífera (algoritmo Toom-Cook, etc.), que permitió, en particular, utilizar un cifrado criptográfico eficaz, utilizado hoy en día para acceder a sitios web, transacciones bancarias, etc.
La ciencia que diseña y analiza algoritmos se llama algorítmica; es un componente de la informática. ¡Una pregunta aparentemente tan simple como ordenar datos o buscar datos en una tabla ha motivado la escritura de largos trabajos académicos!
¿Cómo surgió el término “caja negra”?
¿Cómo partimos de este significado científico y preciso para llegar al de una “caja negra” con resultados impredecibles y poco comprendidos? Veo varios factores.
La primera es que la informática se comprende relativamente poco. Ciertamente, ya no estamos en la época en la que la gente se sorprendía de que pudiéramos obtener doctorados en esta disciplina, pero está menos identificada que, por ejemplo, la historia o la física. De hecho, cuando ciertos investigadores en informática son presentados en los medios de comunicación, se los describe como trabajando “en informática y matemáticas”, tal vez porque la palabra “informático” evoca otras imágenes (técnico que instala equipos, hacker con una sudadera con capucha en la oscuridad frente a una pantalla verde donde se desplazan signos cabalísticos…).
En 2021, un artículo de Libération decía:
Para algunos investigadores, esto sería un error: al observar demasiado los efectos de los algoritmos, nos olvidamos de estudiarlos en sí mismos. Como si fueran “cajas negras” imposibles de abrir, casi autónomas –prueba de ello, todavía hay debates para definir qué es-.
Así, un importante periódico parece negar la existencia de un campo científico, la algorítmica, que diseña y analiza objetos definidos con bastante precisión, algoritmos…
El segundo factor es que un humano no interactúa con un algoritmo, sino con un software, o incluso con un sistema aún más complejo. Cuando buscas tu camino en una aplicación de guía GPS, ciertamente es un algoritmo para encontrar el camino más corto en un gráfico el que responde, pero este algoritmo se basa en un modelo cartográfico, que puede ser incorrecto o inexacto… El mapa n ¡No es el territorio! Como en la física, el diablo se esconde en la forma en que hemos modelado el mundo utilizando cantidades matemáticas, las únicas susceptibles de un proceso algorítmico. Además, el algoritmo intentará optimizar una determinada cantidad, que puede ser una estimación del tiempo (¿suponiendo qué estilo de conducción?), una estimación del consumo de gasolina, según parámetros que no necesariamente están al alcance del usuario.
Del mismo modo, el sistema ParcourSup, que se utiliza en Francia para gestionar las admisiones a la enseñanza superior, no se compone sólo de unos pocos algoritmos de convocatoria de candidatos, muy sencillos y derivados directamente de los textos reglamentarios, sino también de aplicaciones conformes a una ergonomía perfeccionable, y Comisiones de clasificación, humanas y que tienen cada una criterios diferentes. El tan temido “algoritmo” es entonces una metonimia de este conjunto cuyas decisiones a veces no entendemos.
Una “caja negra” puede analizarse en parte
Además, para la mayoría del software de consumo, su código fuente, es decir, la descripción de su funcionamiento interno, no es público. Por lo tanto, es imposible, incluso para un artista, saber lo que realmente hace, aunque a menudo es posible sospecharlo: incluso una “caja negra” puede analizarse parcialmente. ¡Por tanto, es saludable tener cuidado!
Finalmente, el último factor: el despliegue masivo, en los últimos años, de aplicaciones que implican aprendizaje automático, una forma de “inteligencia artificial”. Hemos desarrollado este tipo de enfoque para problemas que no sabíamos atacar utilizando algoritmos clásicos, porque esto requiere modelar el mundo hasta obtener un problema bien definido.
Sin embargo, no podemos producir fácilmente, por ejemplo, una definición matemática de cómo diferenciar un gato de un perro basándonos en los valores de píxeles de una fotografía de un animal. Por lo tanto, procedemos a “aprender” las respuestas correctas de las bases de datos, lo que en términos concretos equivale a un algoritmo que ajusta parámetros, a veces miles de millones de ellos, para que el sistema responda correctamente no sólo en los ejemplos que le proporcionamos, sino también en otros, mediante una forma de analogía.
Por lo tanto, la calidad de un sistema de este tipo depende de la base de datos utilizada para el aprendizaje, que puede tener errores y sesgos de cobertura, y también del cuidado que tuvieron los diseñadores para identificar varios posibles fallos. Sobre todo, un sistema así produce resultados sin justificarlos: la inteligencia artificial explicable es un tema de investigación. Por tanto, podemos hablar aquí de una caja negra, aunque podamos entender ciertas cosas.
La confusión entre algoritmos, soporte de decisiones, software e inteligencia artificial está en pleno apogeo. Por ejemplo, el sitio MonMaster para inscribirse en un máster en las universidades francesas se presenta como “libre de algoritmos”, mientras que el simple hecho de mostrar una lista ordenada de propuestas o poder buscar una solicitud enviada implica algoritmos.
Que hacer ? En un buen número de debates públicos o retransmisiones sobre informática sólo están invitados los promotores o detractores de tal o cual tecnología. Sin embargo, los Estados, y en particular Francia, pagan a personas cuyo trabajo consiste precisamente en analizar los algoritmos y sus límites: los (docentes)investigadores en informática. ¿Quizás deberíamos invitarlos más y escucharlos?
