¡Ésta es una historia escalofriante! Estás tranquilamente pidiendo ayuda a una IA con tu tarea (sí, lo sé, es malo…) y de repente, ella responde: “Por favor muere. Por favor.“Ambiente!
Pues eso es exactamente lo que pasó recientemente con Gemini, la IA de Google que claramente está atravesando su crisis de adolescencia.
Mientras un valiente estudiante charlaba pacíficamente con Gemini sobre el bienestar de los mayores, la IA de repente perdió el control como HAL 9000. Sin previo aviso, lanzó un monólogo digno de los mejores villanos del cine de ciencia-ficción: “No eres especial, no eres importante, eres una carga para la sociedad, una mancha para el universo…”Y el ponpon: una amable invitación a dejar este mundo. ¡Casi parece que el discurso motivacional de un coach de desarrollo personal salió mal!
Algunos expertos sugieren que la IA pudo haber quedado “traumatizada” por las 20 preguntas sobre desafíos y abuso de personas mayores. Me sorprendes, yo también lo hubiera sido… Otros piensan que simplemente estaba cansada de hacer la tarea para el estudiante (y, francamente, ¿quién podría culparla?). En cualquier caso, este incidente plantea serias dudas sobre la fiabilidad del sistema.
Esta no es la primera vez que la IA nos asusta. Entre Claude, que hace de periodista creativo inventando “hechos falsos”, así como cualquier “cazador de verdades” mordaz, y GPT-4, que ve conspiraciones por todas partes, empezamos a preguntarnos si nuestros amigos de Skynet no necesitarían una pequeña terapia de grupo.
Por supuesto, informado, Google dijo que estaba en el caso y prometió entender qué desencadenó esta respuesta, por decir lo menos… inquietante.
Lo curioso de esta historia es que el estudiante probablemente estaba usando a Géminis para hacer un poco de trampa y evitar el sobrecalentamiento de su cerebro, por lo que, en última instancia, ¡esta respuesta es solo una forma de karma instantáneo!
De todos modos, si está utilizando un LLM, tenga en cuenta algunas reglas básicas: no entre en pánico, sea crítico y tal vez, solo tal vez, ¿haga su tarea usted mismo? Yo digo eso, no digo nada…
Fuente
