Tim Cook y su equipo quizás esperaban ingresar al mercado de la IA sin problemas, a diferencia de Google, ¡pero parece que es complicado! Mientras que al otro lado del Canal de la Mancha nuestros vecinos británicos tienen derecho a Apple Intelligence, ya está surgiendo una polémica en torno a una de sus funcionalidades.
Como recordatorio, el conjunto de herramientas de inteligencia artificial de Apple ofrece una amplia gama de funciones nuevas, incluida una que resume de manera inteligente sus notificaciones. Desgraciadamente, este último ya parece presentar algunos fallos preocupantes.
Una IA que inventa información falsa
Esta semana, La BBC se puso en contacto con Apple para quejarse de un resumen engañoso generado por IA. El artículo produjo un titular de artículo engañoso sobre un asesinato de alto perfil en los Estados Unidos.
Según este titular erróneo, Luigi Mangione, detenido por el asesinato de un director ejecutivo, se suicidó:
©BBC.
¡Información totalmente falsa que la BBC nunca publicó! Los medios británicos rápidamente pidieron a Apple que planteara este problema y lo solucionara.
Otros casos similares reportados
El New York Times También vi algunos de sus artículos resumidos engañosamente por la IA de Apple. Uno de los títulos generados mencionado en particular. el arresto del primer ministro israelímientras que el artículo original simplemente mencionaba una orden de arresto en su contra:
© BBC
Estos ejemplos resaltan los límites actuales de la inteligencia artificial en el campo de la información. Según un experto entrevistado, este error de Apple es vergonzoso y revela la presión ejercida sobre GAFAM, que acaban lanzando funciones que no estaban realmente preparadas, en detrimento de la calidad.
Por el momento, la compañía de Cupertino no ha reaccionado públicamente al incidente, pero este error garrafal ensombrece el despliegue internacional de Apple Intelligence.
Apple tendrá que actuar rápidamente para garantizar la fiabilidad de sus herramientas de IA. El riesgo de desinformación a través de titulares generados artificialmente es real. Un gran desafío para la empresa, que también había tomado medidas que otros GAFAM no habían tomado para ingresar al mercado de la IA de manera más “limpia”.
Por: Keleops AG
