Dario Amodei, director general de Anthropic, afirma que para el próximo año los modelos de inteligencia artificial podrían “replicarse y sobrevivir en la naturaleza”. Y añade: “Podría estar equivocado, pero creo que podría suceder en el corto plazo.
Dario Amodei es un investigador y emprendedor italoamericano especializado en inteligencia artificial. Es cofundador y director ejecutivo de Anthropic, la empresa detrás de la gran serie de modelos de lenguaje Claude AI. Fue vicepresidente de investigación en OpenAI.
Si bien la IA parece volverse más poderosa cada día, una de las personas clave que invirtieron en hacerla más inteligente dice que pronto podría incluso volverse autónoma y replicarse. En una entrevista con Ezra Klein del New York Times, el director ejecutivo de Anthropic, Dario Amodei, habló sobre “escalamiento responsable” tecnología y explica que en ausencia de gobernanza, podría comenzar a reproducirse.
Como le explicó Amodei a Klein, Anthropic utiliza los niveles de bioseguridad de los laboratorios de virología como analogía de la IA. Según él, el mundo se encuentra actualmente en ASL 2 y ASL 4, lo que incluiría “autonomía” y la “persuasión“, son quizás nuestras puertas.
“ASL 4 se centrará más, desde una perspectiva de abuso, en permitir que los actores estatales amplíen significativamente sus capacidades, lo cual es mucho más difícil que permitir que personas al azar” dijo el señor Amodei. “Por tanto, tememos que Corea del Norte, China o Rusia puedan reforzar significativamente sus capacidades ofensivas en diversos ámbitos militares utilizando la IA, lo que les daría una ventaja geopolítica sustancial.“
Cuando se trata de autonomía, sus predicciones son aún más audaces. “Varias medidas de estos modelos.él continúa, están bastante cerca de poder reproducirse y sobrevivir en la naturaleza.
Cuando Klein le preguntó cuánto tiempo llevaría alcanzar estos diferentes niveles de amenaza, Amodei dijo que solía pensar “en exponenciales“, dijo que pensaba que el nivel “replicarse y sobrevivir en la naturaleza“podría lograrse”en cualquier lugar entre 2025 y 2028“.”Realmente estoy hablando del futuro cercano. No estoy hablando de 50 años.“, dijo el director general de Anthropic. “Dios me conceda castidad, pero no ahora. Pero “ahora no” no significa cuando sea viejo y gris. Creo que esto podría ser a corto plazo.“.
El señor Amodei es una personalidad seria en este campo. En 2021, él y su hermana Daniela abandonaron OpenAI debido a diferencias de dirección tras la creación de GPT-3, que el CEO y cofundador ayudó a construir, y la asociación de la empresa con Microsoft. Poco después, los hermanos fundaron Anthropic con otros expatriados de OpenAI para continuar con sus esfuerzos de escalamiento responsable.
“No sé“, continuó durante la entrevista con Klein.”Podría estar equivocado. Pero creo que podría ser un proyecto a corto plazo.“.
Si bien sembrar miedo sobre la IA es algo común hoy en día, la perspectiva de Amodei añade mucho peso a su argumento y hace que la misión de Anthropic “Para garantizar que la IA transformadora ayude a las personas y a la sociedad a prosperar.“Aún más digno de interés.
Fuente : Entrevista con Ezra Klein del New York Times en un podcast
Y usted ?
¿Crees que estas declaraciones son creíbles o relevantes?
¿Crees que sus fantasías son realistas? ¿O más bien una forma de llamar la atención sobre él? ¿O sería mejor que escribiera libros de ciencia ficción?
Ver también :
¿Cuándo llegará la inteligencia artificial superior AGI, cuando los humanos serán totalmente reemplazados por la IA, el fin del mundo por la IA? Descubra todas las predicciones de 2.778 investigadores
Elon Musk predice que la IA superará al ser humano más inteligente en 2025 o ya en 2026 y que las capacidades de la IA superarán a las de todos los humanos en los próximos 5 años
El CEO de OpenAI, Sam Altman, dice que la IA a nivel humano es inminente, pero no cambiará el mundo tanto como pensamos y que los temores en torno a la AGI son exagerados.
