Sin embargo, es destacable su uso en el campo médico.
Dr.
- Whisper de OpenAI, una herramienta de transcripción, agrega información falsa.
- Los investigadores descubrieron “alucinaciones” en las transcripciones de Whisper.
- Whisper se utiliza en el campo médico, a pesar de los problemas de precisión.
OpenAI Whisper: una herramienta de transcripción controvertida
Imagínese en el médico, compartiendo sus síntomas y luego descubriendo que su historia ha sido distorsionada por una transcripción errónea. Este es el riesgo que enfrentan los pacientes en los centros médicos que utilizan Susurrola herramienta de transcripción de OpenAI. Según una encuesta realizada por ABC Noticiasmás de una docena de desarrolladores, ingenieros de software e investigadores académicos descubrieron que Whisper genera “alucinaciones”, texto inventado que contiene drogas inexistentes, comentarios raciales y comentarios violentos.
“Alucinaciones” inquietantes
Los ejemplos de estos errores son numerosos y preocupantes. Un investigador de la Universidad de Michigan descubrió texto inventado en ocho de cada diez transcripciones de audio de reuniones públicas. En otro estudio, los informáticos encontraron 187 “alucinaciones” analizando más de 13.000 grabaciones de audio. Un ingeniero de aprendizaje automático encontró errores en la mitad de las transcripciones en un corpus de más de 100 horas, mientras que un desarrollador detectó alucinaciones en casi todas las 26.000 transcripciones que hizo crear a Whisper.
Consecuencias potencialmente graves
El impacto potencial de estos errores de transcripción es aún más grave en el campo médico. Una empresa llamada Nabla utiliza Whisper para su herramienta de transcripción médica, utilizada por más de 30.000 médicos y 40 sistemas de salud, que hasta ahora ha transcrito alrededor de siete millones de visitas. Sin embargo, el sistema para comprobar la validez de las transcripciones plantea problemas. Según Martin Raison, CTO de Nabla, la herramienta elimina todas las grabaciones de audio por “razones de seguridad de los datos”. Además, los proveedores deben editar y aprobar rápidamente las transcripciones, aunque este sistema puede evolucionar.
IA: una herramienta de doble filo
A pesar de estos problemas, la última versión de Whisper se descargó 4,2 millones de veces en la plataforma de código abierto HuggingFace el mes pasado. La herramienta también está integrada en las plataformas de computación en la nube de Oracle y Microsoft, así como en algunas versiones de ChatGPT. Estos datos ponen de relieve la importancia de estar atentos al uso de la IA, cuyos resultados a veces pueden ser engañosos o incluso peligrosos.
