Es un superlativo que está en boca de todos en la industria de la inteligencia artificial (IA): «superinteligencia»prometido por OpenAI. Podría surgir en “sólo unos pocos miles de días”estimó recientemente Sam Altman, el jefe de la empresa que creó ChatGPT. Todo con motivo del lanzamiento de una nueva familia de modelos de IA, dotados de complejas capacidades de razonamiento y que supuestamente representan un primer paso hacia la IA autónoma.
¿El principio? Los resultados están mejorando y, a este ritmo, se podría alcanzar rápidamente la superinteligencia, superando la inteligencia humana, descifra el ex diputado y autor de la estrategia nacional de IA, Cédric Villani. Ya, “En determinadas tareas, las inteligencias artificiales se desempeñan mucho mejor que los humanos. Esto vale para un diagnóstico de cáncer o de una fractura, o en un juego de go, en definitiva, en todo tipo de actividades”señala el matemático.
Xavier Niel: “Para apoyar la economía necesitamos estabilidad por parte de las autoridades públicas”
Sin embargo, si al hablar de inteligencia nos referimos a “un ser que tiene conciencia de ser un ser y toma una decisión”el medallista de Fields muestra su escepticismo. “No está claro que hayamos avanzado ni un centímetro ahí dentro “. Y para decidir: “La superinteligencia es una forma de recuperar miles de millones”.
Más allá del razonamiento analítico
“La palabra ‘inteligencia artificial’ surgió en una época en la que la inteligencia humana se reducía a inteligencia analítica”dice la doctora algorítmica y emprendedora Aurélie Jean. Una visión que ya no se corresponde con la de la psicología y la neurociencia actuales, que hablan de inteligencias en plural: emocional, creativa o práctica.
En estas condiciones, si la inteligencia general es capaz de dominar, modelar y simular todas las tareas cognitivas de un ser humano, ésta debería incluir “razonamiento analítico, por supuesto, pero también emociones y conciencia”deduce Aurélie Jean. Sin embargo, entrenar un algoritmo sigue siendo un cálculo de optimización, alimentado con miles de parámetros. ¿Qué pasaría si pudiéramos construir un agente conversacional que nos dijera ” te amo “ – Esto no significa que sentirá esta emoción… Entonces, para Aurélie Jean, están por un lado los científicos que no creen en esta posibilidad, y luego, “Unos pocos que hacen marketing y comunicación. Sam Altman es uno de ellos».
Lejos de la superinteligencia general
Un eco similar proviene de Edouard Grave, investigador del laboratorio francés Kyutai. “Conceptos como conciencia o voluntad son algo que, a día de hoy, no están presentes en absoluto en los algoritmos utilizados”. Y si algunos piensan que a largo plazo podrían surgir comportamientos de inteligencia como los que entendemos por los humanos, la escala que se debe alcanzar es “delirante y probablemente poco realista”subraya este especialista.
“Dominar la IA es crucial para la soberanía de Francia” (Clara Chappaz, Secretaria de Estado para la IA y las tecnologías digitales)
Además, considera necesario distinguir la superinteligencia de la IA general. “En cierto modo, ya tenemos superinteligencias que son muy específicas, como la detección del cáncer”confirma. En cuanto a la IA general, “Hemos empezado a tener algoritmos un poco más generales y no sólo específicos, que, en particular, empiezan a ser capaces de realizar tareas para las que no necesariamente han sido entrenados directamente”. De ahí a alcanzar la superinteligencia general, en consecuencia, una máquina que sería capaz de hacer todo mejor que un humano, “De hecho, estamos bastante lejos de ello”.
Crear superinteligencias “seguras”, la nueva obsesión de los gurús de la IA
Una “gran diversión”
Incluso si esto fuera posible algún día, ¿sería todavía deseable? Una superinteligencia sería “¡Una brecha energética fenomenal! »exclama Cédric Villani. Finalmente, incluso suponiendo que se resuelva el problema energético, la cuestión del propósito permanecería. “Si alguien logra crear hiperinteligencia, será un proyecto para dominar el mundo”teme el que también es presidente de la Fundación Ecología Política.
No sin humor, imagina una misión extraterrestre en reconocimiento de lo que sucede en la Tierra, señalando que ante una situación crítica en el planeta, con un clima alterado y guerras, los humanos están construyendo… centros de datos. “Hay algo que parece un desvío muy grande”bromea. También es una forma de desviar la atención de los problemas actuales de la IA. “su impacto ambiental y social, la discriminación tecnológica, el trabajo digital, así como su efecto en la democracia”añade Aurélie Jean.
Lo que no impide, por el contrario, continuar la investigación sobre la superinteligencia. «Estamos en un momento único en la historia de la humanidad donde podremos redefinir lo humano, una conciencia, una emoción, el hecho de pensar y reflexionar, gracias también, entre otras cosas, a la IA»continúa. Por lo tanto, en colaboración con lingüistas y neurocientíficos, el desafío es superar los límites de los modelos de IA con la esperanza de comprender qué somos, a diferencia de una máquina.
