Generalmente elogiado por su destreza, se habla de ChatGPT por una razón completamente diferente. Algunos usuarios han notado que el chatbot se niega a responder cuando se le dan ciertos nombres y que la IA corta la conversación.
cuando hablamos de ChatGPTa menudo es para resaltar su actuaciones. Recientemente, la IA ha impresionado con su modo de voz avanzado o su capacidad para superar a los médicos en el diagnóstico de enfermedades complejas. Sin embargo, este fin de semana llamó la atención otra faceta de la herramienta: los usuarios descubrieron que mencionar ciertos nombrescomo “David Mayer», bloquea inmediatamente la conversaciónsin explicación. Este comportamiento inesperado plantea dudas sobre el funcionamiento interno de esta IA.
El problema no es sólo con David Mayer. Otros dos nombres causa errores similares. Un cierto”Jonathan Zittrain», profesor en harvard conocido por sus críticas a la inteligencia artificial, y “Jonathan Turley“, otro profesor de derecho haber acusado a ChatGPT de haber inventado acusaciones falsas de acoso en su contra. Estos últimos, incluso cuando se integran en un contexto desviado o se modifican, como por ejemplo leyéndolos al revés, desencadenar el mismo bloqueo. Esta situación sin precedentes intriga tanto como divide.
ChatGPT reacciona de forma extraña a ciertos nombres específicos
Varias hipótesis intento de explicar este fenómeno. Algunos mencionan solicitudes legales para eliminar contenido, como el derecho a ser olvidadolo que podría provocar estos bloqueos. Otros piensan que estos nombres son censurado deliberadamente debido a controversias o de disputas. Por ejemplo, en el caso de Jonathan Turley, ChatGPT habría inventó un incidente lo cual nunca sucedió. Esto dio lugar a acusaciones de difamación. Finalmente, podría simplemente este es un error relacionado a alucinaciones de la IA, donde genera errores en respuesta a términos específicos.
Abierto AIla empresa detrás de ChatGPT, no tiene aún no comunicado sobre estos bloqueos. Sin embargo, estos incidentes nos muestran claramente la limitaciones de los algoritmos en la gestión de datos sensibles. A medida que la IA gana popularidad, estos casos ilustran los desafíos relacionados con la transparencia y gestión de sesgos. Si esta aplicación sigue mejorando, este episodio demuestra que sigue siendo una tecnología imperfecta, capaz deerrores confusos lo que puede frustrar a sus usuarios.
Fuente: 404media
