OpenAI quiere tranquilizar con la creación de un comité de seguimiento

OpenAI quiere tranquilizar con la creación de un comité de seguimiento
OpenAI quiere tranquilizar con la creación de un comité de seguimiento
-

San Francisco (awp/afp) – OpenAI, la empresa creadora de ChatGPT, anunció el martes la creación de un nuevo comité de supervisión, mientras que la salida de varios directivos generó preocupaciones sobre el deseo de la empresa de reducir los peligros potenciales de la inteligencia artificial (IA).

Según la empresa, el comité, en el que participará su jefe Sam Altman, deberá comenzar a trabajar cuando OpenAI comience a entrenar su nuevo modelo de IA, que se supone que superará las capacidades de GPT-4, el sistema actual en el corazón de ChatGPT.

“Estamos orgullosos de crear y ofrecer modelos de IA líderes en la industria tanto en capacidades como en seguridad y, en este momento clave, damos la bienvenida al sólido debate” que genera, dijo la compañía en un comunicado de prensa.

El comité, que estará compuesto por miembros de su junta directiva y gerentes, deberá, durante los próximos 90 días, trabajar para evaluar y fortalecer la seguridad y los procesos existentes en torno al desarrollo de IA avanzada.

OpenAI también aseguró que recibirá asesoramiento de especialistas externos durante este periodo, entre ellos el exjefe estadounidense de ciberseguridad, Rob Joyce, que fue jefe de esta división dentro de la Agencia de Seguridad Nacional (NSA), así como John Carlin, exjefe de el Departamento de Justicia.

El comité hará un balance de los protocolos de seguridad ya implementados dentro de OpenAI y presentará recomendaciones para posibles mejoras o adiciones.

Al final de los tres meses, un informe del comité se presentará al consejo de administración antes de su publicación.

La creación de este comité pretende ser una respuesta a la salida de varios altos cargos del grupo, preocupados por la falta de prioridad otorgada, según ellos, por OpenAI a la seguridad de la IA.

A principios de este mes, la empresa desmanteló su equipo responsable de reducir los riesgos a largo plazo inducidos por la IA.

Al anunciar su salida, el líder del equipo, Jan Leike, criticó a OpenAI, acusándola, en una serie de tweets, de priorizar “hermosos productos nuevos” a expensas del trabajo esencial de proteger la IA.

“En los últimos meses, mi equipo ha estado navegando contra corriente”, declaró.

La compañía también generó polémica cuando su última versión incluyó una voz muy cercana a la de la actriz estadounidense Scarlett Johansson, aunque OpenAI aseguró que no buscaba copiar a la estrella de Hollywood.

afp/rp

-

NEXT Jiangxi, el corazón mundial de los metales estratégicos