Las cuestiones éticas en torno a la inteligencia artificial que desarrollan no son el punto fuerte de OpenAI. Los antiguos ejecutivos de la empresa incluso la abandonaron para fundar su propia empresa con el fin de desarrollar un chatbot más virtuoso. Este es el caso de Claude de Anthropics.
Hoy en día, es un colectivo de empleados anteriores y actuales de OpenAI, así como GoogleGoogle DeepMind y Anthropic, que plantea los problemas de seguridad que podría causar la IA. Estos especialistas publicaron una carta abierta afirmando que se encuentran silenciados cuando plantean problemas de seguridad en sus empresas y especialmente en OpenAI. Se encargaron de escribir esta carta para que el público tenga derecho a conocer la realidad de los riesgos que plantea la IA.
Uno de los firmantes, Daniel Kokotajlo, uno de los ex investigadores de OpenAI, también concedió una entrevista a New York Times sobre el tema. El exempleado acusa a la empresa de ignorar los riesgos que plantea elinteligencia artificial generalinteligencia artificial general (AIG). Explica que los responsables de la empresa están tan fascinados por sus posibilidades que se apresuran imprudentemente a ser los primeros en lanzarla.
“No estamos preparados”
Sin embargo, cuando estaba en el cargo, prácticamente habría convencido Sam AltmanSam Altmanel jefe de la empresa, para poner en marcha barandillasbarandillas dominar la tecnología en lugar de seguir haciéndola inteligente. Pero, con el tiempo, el responsable finalmente mostró su desinterés por el tema a favor del desarrollo incondicional de la IA.
Para el ex empleado de OpenAI, la empresa debería conseguir finalizar este AGI para 2027. Según él, seguramente dañará a la humanidad o incluso la destruirá. Durante la entrevista se alarmó al explicar que el mundo no está del todo preparado para soportar los riesgos que estas IA podrían provocar. Y para concretar un poco más esta preocupación, el investigador va aún más lejos al estimar que la probabilidad de que la IA destruya a la humanidad es de alrededor del 70 por ciento. ¡Preocupante!
Por su parte, en reacción a esta carta y a esta entrevista, OpenAI quiso dar tranquilidad diciendo que estaba escuchando estas preocupaciones y explicando que la gestión de riesgos responde a un enfoque científico en el que la empresa dice confiar.
