Premio Nobel de Física 2024, Geoffrey Hinton, pionero de la inteligencia artificial, hoy está aterrorizado por sus propias creaciones. Advierte del riesgo de una IA incontrolable, capaz de superar la inteligencia humana y amenazar a la humanidad.
Son los arquitectos de la IA y aún así advierten
La concesión del Premio Nobel de Física 2024 a Geoffrey Hinton, junto con John Hopfield, dedica una vida a la investigación fundamental de las redes neuronales artificiales, esas estructuras matemáticas y computacionales que permiten a las máquinas aprender. Irónicamente, esta distinción corona a un hombre atormentado por las implicaciones potencialmente catastróficas de sus propios descubrimientos. Hinton, apodado “el padrino de la inteligencia artificial”, no sólo ayudó a sentar las bases de la IA moderna, sino que también se convirtió en uno de sus críticos más acérrimos, advirtiendo a la humanidad de los peligros que representa.
La Real Academia Sueca de Ciencias reconoció a Hinton y Hopfield por sus “descubrimientos e invenciones fundamentales que permiten el aprendizaje automático mediante redes neuronales artificiales”. Este trabajo, iniciado hace varias décadas, allanó el camino para la actual explosión de la IA, que impacta en campos tan variados como la medicina, las finanzas y la industria. Sin embargo, Hinton, profesor emérito de la Universidad de Toronto, no disfruta plenamente de este triunfo. Su rotunda renuncia a Google en 2023, motivada por las crecientes preocupaciones sobre la trayectoria del desarrollo de la IA, demuestra la profundidad de sus preocupaciones.
Un precio que les preocupa
El reconocimiento de la importancia de su trabajo por parte de la institución Nobel, lejos de tranquilizarlo, amplifica su ansiedad. “No tenemos experiencia de lo que es tener objetos que son más inteligentes que nosotros”, dijo al anunciar su premio, expresando una preocupación compartida por muchos expertos. Si bien la IA promete avances considerables en áreas como la salud, Hinton teme que la humanidad pierda el control de su creación. Imagina un futuro cercano donde las máquinas, dotadas de una inteligencia superior a la nuestra, podrían volverse contra sus creadores, un escenario digno de las distopías de Hollywood.
Mire lo que era hace cinco años y lo que es hoy. Por ahora, los sistemas de IA no son más inteligentes que nosotros, pero creo que pronto lo serán
Según él, dentro de cinco a veinte años, la probabilidad de que la IA intente tomar el control de nuestras vidas es significativa.
En el centro de las preocupaciones de Hinton está la difusión masiva de información errónea. La IA, capaz de generar contenidos sintéticos cada vez más realistas, podría inundar Internet con textos, imágenes y vídeos falsos, haciendo imposible que el ciudadano medio distinga la realidad de la ficción. Esta manipulación de la información, combinada con el poder de los chatbots, podría explotarse por “malos actores” para influir en la opinión pública y desestabilizar las democracias.
La frenética carrera por la innovación entre los gigantes tecnológicos, en particular Google y Microsoft, acentúa los temores de Hinton. Lamenta que la competencia haya prevalecido sobre la precaución, creando una dinámica difícil de controlar. Si bien Hinton reconoce el papel “responsable” desempeñado por Google hasta 2022, lamenta que la llegada de ChatGPT y la integración de los chatbots en los motores de búsqueda hayan desencadenado una peligrosa escalada. También para poder expresarse libremente sobre estos peligros, sin verse limitado por su puesto en Google, decidió abandonar la empresa.
IA en controversia
Más allá de la desinformación, el impacto de la IA en el mercado laboral es otro motivo de preocupación para Hinton. Si bien la automatización promete eliminar tareas tediosas, también corre el riesgo de volver obsoletos muchos trabajos, reemplazando a los humanos por máquinas más eficientes y menos costosas. Por último, la perspectiva de que la IA se utilice para desarrollar armas autónomas, “robots asesinos” capaces de tomar decisiones de vida o muerte sin intervención humana, es una pesadilla que Hinton no puede ignorar.
La concesión del Premio Nobel de Química al día siguiente a Hinton y Demis Hassabis, cofundador de DeepMind (una filial de Google), también plantea interrogantes sobre la concentración de la investigación sobre IA en las grandes empresas tecnológicas. Algunos observadores cuestionan la influencia de estos gigantes en la dirección de la investigación y el acceso a los datos, elementos esenciales para el progreso de la IA.
Ante estas amenazas potenciales, Hinton pide colaboración internacional entre científicos para encontrar soluciones que permitan controlar la IA y limitar sus peligros. Aboga por una regulación global, similar a la que rige el uso de la energía nuclear, para evitar una carrera armamentista tecnológica descontrolada. El “padrino de la IA” espera que su apelación sea escuchada antes de que sea demasiado tarde. La humanidad se encuentra en una encrucijada crucial: ¿aprovechará el increíble poder que ha creado o se lo tragará?
Fuente 1
Fuente 2
