La inteligencia artificial (IA) conversacional pronto podría influir en las decisiones de los usuarios sobre el comercio antes de que se hayan tomado, abriendo el camino a una posible manipulación, advierten investigadores de la Universidad de Cambridge en un artículo publicado el lunes. “Ya se están desarrollando herramientas de inteligencia artificial para obtener, inferir, recopilar, registrar, comprender, predecir y, en última instancia, manipular y mercantilizar” las decisiones futuras de los usuarios de Internet, explica Yaqub Chaudhary, uno de los coautores, del Centro Leverhulme para the Future of Intelligence (LCFI) en Cambridge, un centro de investigación interdisciplinario dedicado a la IA. Este comercio estaría centrado en las intenciones de un internauta, por ejemplo sus futuras compras o sus próximos votos. Por lo tanto, iría más allá de la práctica actual, que pretende vender la atención de un usuario al mejor postor, en particular en las redes sociales, y presentar, por ejemplo, publicidad dirigida en función de sus hábitos de navegación o de su historial.
En concreto, una IA podría recopilar datos psicológicos y de comportamiento íntimos de un usuario y luego adaptarse a ellos para establecer un alto nivel de confianza e influir en él más fácilmente, según los autores de este artículo publicado en Harvard Data Science Review. “¿Has pensado en ir a ver a Spiderman esta noche?” o “Dijiste que te sentías sobrecargado de trabajo, ¿puedo reservarte esa entrada de cine de la que hablamos?”, citan los autores del artículo como ejemplos de sugerencias de un “chatbot”. Propuestas “a la venta” a través de un sistema de subasta en tiempo real, que también podrían referirse a un hotel, un alquiler de coches o la votación de un candidato político.
“Manipulación social a escala industrial”
Esta “economía de intención”, como la llaman los investigadores, allana el camino para una posible “manipulación social a escala industrial”, según el comunicado de prensa que acompaña a este artículo. “Deberíamos empezar a pensar en el probable impacto de dicho mercado en las aspiraciones humanas, incluidas elecciones libres y justas, una prensa libre y una competencia leal en el mercado”, dice Jonnie Penn, coautor del estudio. “Lo que la gente dice cuando conversa, cómo lo dice y el tipo de ‘posible’ interferencia son mucho más íntimos que simplemente registrar las interacciones en línea”, enfatiza Yaqub Chaudhary.
Los investigadores señalan que empresas como OpenAI (ChatGPT), Shopify, Nvidia, Meta y Apple han comenzado a investigar estas “tecnologías persuasivas”. La IA ya ha sido criticada por su capacidad de desinformación, por ejemplo, por la manipulación de imágenes durante las elecciones presidenciales de Estados Unidos.
