Apple aún no ha respondido
¿Qué acaba de pasar? Apenas unos días después de que la herramienta de resumen de notificaciones basada en inteligencia artificial de Apple publicara un titular falso de la BBC sobre Luigi Mangione, un importante organismo comercial insta a la compañía a eliminar la función por completo. Es el último revés en los intentos de Apple de convencer a los clientes de que vale la pena usar su IA.
El 13 de diciembre, Apple Intelligence, que tiene un historial de cometer errores importantes a la hora de resumir notificaciones, publicó un resumen de varios titulares de la BBC que incluían la afirmación de que Mangione se había suicidado. El incidente ocurrió apenas 48 horas después del lanzamiento de Apple Intelligence en el Reino Unido.
Cortesía de noticias de la BBC
Mangione, quien fue arrestado y acusado del asesinato en primer grado del director ejecutivo de UnitedHealthcare, Brian Thompson, en Nueva York, no se suicidó. Permanece bajo custodia en la Institución Correccional Estatal de Huntingdon en el condado de Huntingdon, Pensilvania.
Ciertamente, esta no es la primera vez que Apple Intelligence comete un error en una notificación resumida. Anteriormente afirmó que el primer ministro israelí, Benjamin Netanyahu, fue arrestado después de que la Corte Penal Internacional emitiera una orden de arresto.
Reporteros sin Fronteras (RSF), una ONG internacional sin fines de lucro dedicada a proteger el derecho a la libertad de información, pide a Apple que desactive la función de resumen de notificaciones.
RSF escribe que este incidente ilustra cómo los servicios de IA generativa aún son demasiado inmaduros para producir información confiable para el público y no deberían permitirse en el mercado para tales usos.
El grupo añadió que la forma probabilística en que operan los sistemas de IA los descalifica automáticamente como una tecnología confiable para los medios de comunicación.
“Las IA son máquinas de probabilidad y los hechos no se pueden decidir tirando los dados. RSF pide a Apple que actúe de forma responsable eliminando esta funcionalidad. La producción automatizada de información falsa atribuida a un medio de comunicación es un golpe a su credibilidad. y un peligro para el derecho del público a una información fiable sobre la actualidad, afirma Vincent Berthier, responsable del departamento de Tecnología y Periodismo de RSF.
“La ley de IA de la UE, a pesar de ser la legislación más avanzada del mundo en esta área, no ha clasificado las IA que generan información como sistemas de alto riesgo, lo que deja un vacío legal crítico. Este vacío debe llenarse de inmediato. »
La BBC se puso en contacto con Apple cuando se enteró del titular falso para expresar su preocupación y pedirle a la empresa que resolviera el problema.
El aviso resumido en cuestión mostraba tres titulares: el falso sobre Mangione y dos titulares correctos, sobre el derrocamiento del régimen de Bashar al-Assad en Siria y una actualización sobre el presidente surcoreano, Yoon Suk Yeol.
Apple dice que la capacidad de resumen de su IA permite a los usuarios analizar notificaciones largas o acumuladas con detalles clave directamente en la pantalla de bloqueo, como cuando un chat grupal está particularmente activo. A menudo se equivoca en los resúmenes o no comprende su contexto, a veces de manera hilarante.
La difusión de noticias falsas siempre causará problemas a Apple, especialmente en un momento en que las empresas intentan convencer a la gente de que la IA es el futuro de casi todo. Apple aún tiene que responder al incidente, pero no espere que elimine la función de forma permanente. Como mucho, Cupertino podría desactivarlo durante un tiempo.
