« Dijiste que te sentías sobrecargado de trabajo, ¿puedo reservarte esa entrada al cine de la que hablamos? » Según el Dr. Yaqub Chaudhary y el Dr. Jonnie Penn, dos investigadores de la Universidad de Cambridge, los gigantes de la inteligencia artificial (IA) pronto venderán nuestro “ intenciones ”, después de que los ganadores de la publicidad dirigida (Google, Facebook) hayan llamado nuestra atención.
Los investigadores del Centro Leverhulme para el Futuro de la Inteligencia (LCFI) de la universidad británica creen que si las autoridades no tienen cuidado, habrá ” Una fiebre del oro para todos aquellos que apuntan, impulsan y venden intenciones humanas. ».
Los dos expertos sostienen, en un artículo publicado en el Revisión de ciencia de datos de Harvard el 31 de diciembre, que ChatGPT, Mistral AI, Gemini, Claude y otras herramientas de inteligencia artificial (IA) generativa pronto podrían “ predecir e influir en nuestras decisiones en una etapa temprana, y vender estas “intenciones” en tiempo real a empresas que puedan satisfacer las necesidades, incluso antes de que hayamos tomado nuestra decisión. ».
Lea también: “Internet se ha convertido en una prisión de vigilancia sin rejas ni salida”, el intransigente análisis de Shoshana Zuboff
Un sistema de subasta
¿Una empresa o un grupo busca impulsar las ventas de un producto en particular, promover un servicio en particular, favorecer a un candidato en particular en las elecciones presidenciales? Entonces bastaría con pagar a los gigantes de la IA, a través de un sistema de subasta similar al que existe para nuestros datos personales, para que “dirijan” la conversación de dicho agente conversacional hacia el producto o servicio ganador de la subasta.
Desde la llegada de ChatGPT y el entusiasmo generado por la IA generativa, estas herramientas tienen acceso ” a grandes cantidades de datos psicológicos y conductuales íntimos, recopilados a través de un diálogo conversacional informal », señalan los investigadores. “ Lo que la gente dice cuando conversa, cómo lo dice y el tipo de inferencias que pueden resultar en tiempo real son mucho más íntimos que simples grabaciones de interacciones en línea. », añaden.
Y desde hace varios meses, las herramientas de IA ya buscan “ Obtener, inferir, recopilar, registrar, comprender, predecir y, en última instancia, manipular y comercializar los planes y objetivos de los seres humanos. “. Los dos autores escriben que “ detrás de las considerables inversiones ”, detrás del “ discursos sensacionales sobre el futuro de los LLM », « la ambición central » Los gigantes de la IA utilizarían la IA generativa para “ inferir preferencias, intenciones, motivaciones y otros atributos psicológicos y cognitivos humanos ».
Lea también: “Los LLM apestan”: el administrador de IA de Meta aborda la IA generativa actual y promete mucho mejor
Como prueba, OpenAI, la empresa detrás de ChatGPT, dijo en una publicación de blog del 9 de noviembre de 2023: « estar interesados en conjuntos de datos a gran escala que reflejen la sociedad humana (…). Buscamos especialmente datos que expresen la intención humana (por ejemplo, escritos extensos o conversaciones en lugar de fragmentos desconectados), en todos los idiomas, sobre todos los temas y en todos los formatos. ».
Una semana después, fue Miqdad Jaffer, entonces director de productos de Shopify –ahora en OpenAI– quien describió, durante la conferencia de desarrolladores de OpenAI, una especie de:
« continuo en el que nos encontramos actualmente. Los chatbots intervienen para obtener explícitamente la intención del usuario (…)». O, ” Comenzamos entendiendo la intención del usuario, luego predecimos la intención del usuario, luego predecimos la acción del usuario. ».
El director ejecutivo de Nvidia también explicó que los LLM se pueden utilizar para comprender la intención y el deseo.
Posible “manipulación social a escala industrial”
En concreto, los agentes conversacionales podrían grabar durante mucho tiempo “ datos conductuales y psicológicos que indican la intención » y que conducen a decisiones. “ Si bien algunas intenciones son fugaces, clasificar y orientar las intenciones que persisten será extremadamente rentable para los anunciantes. », escriben los dos investigadores. Estos datos luego se clasificarían, se correlacionarían con la historia en línea, la edad, el género, el vocabulario, las orientaciones políticas e incluso la forma en que se puede convencer y, por lo tanto, manipular a un usuario en particular.
Lo que preocupa a los investigadores, que creen que es ya es hora de reflexionar sobre el probable impacto de tal mercado de intenciones en nuestros estándares democráticos, “incluidas elecciones libres y justas, prensa libre y competencia leal en el mercado”. Porque para este último, estamos en los albores de una posible “manipulación social a escala industrial”.
???? Para no perderte ninguna novedad de 01net, síguenos en Google News y WhatsApp.
