Cómo la IA puede ayudar (y perjudicar) cuando las personas recaudan fondos para necesidades médicas urgentes

A pesar de algunos tropiezos bien publicitados, los modelos de inteligencia artificial como ChatGPT han manejado de manera impresionante tareas que van desde la investigación de trabajos finales y la escritura de códigos informáticos hasta la composición de sonetos sobre el cambio climático al estilo de Shakespeare. Por lo tanto, es intrigante considerar la diferencia que podrían hacer contribuyendo a algo donde las necesidades son urgentes y lo que está en juego es a menudo de vida o muerte.

Como académico centrado en la intersección de la comunicación, la ciencia de datos y la tecnología, el Dr. Larry Zhiming Xu, profesor asistente de comunicación estratégica en la Facultad de Comunicación Diederich, ha realizado investigaciones durante años sobre uno de esos esfuerzos de alto riesgo: el uso de la gente de plataformas de financiación colectiva para acceder a amplias bases de donantes en línea para ayudar a costear atención médica crucial.

Si bien sus primeros trabajos se centraron en la capacidad del crowdfunding para hacer algo notable (superar la renuencia habitual de las personas a dar dinero a extraños, a menudo aprovechando afinidades como experiencias compartidas con la misma enfermedad), estudios más recientes han revelado las luchas tan humanas. eso hace que estas campañas fracasen. “Si tengo que recaudar dinero para un miembro de la familia, debo estar desesperado”, explica Xu. “Probablemente no tengo el tiempo, la energía y los recursos necesarios para escribir una buena historia, tomar fotografías o tal vez grabar un video. Sin embargo, en realidad esas son cosas muy importantes para persuadir a la gente de que estoy haciendo esto por razones legítimas”.

Por lo tanto, era natural que Xu se preguntara sobre el papel que podría desempeñar la IA generativa en la mejora de los esfuerzos de financiación colectiva de las personas y los problemas prácticos y éticos que la asistencia podría introducir.

Éstas ya no son cuestiones estrictamente académicas, señala Xu. Las plataformas de financiación colectiva como AngeLink y GiveAsia incorporan herramientas integradas para ayudar a los usuarios a perfeccionar sus campañas con “narración impulsada por IA”. Y las personas que enfrentan facturas médicas importantes pueden ejecutar sus borradores de recaudación de fondos a través de un asistente de inteligencia artificial como ChatGPT para obtener ayuda con la redacción.

Esa fue una razón más para que Xu se lanzara a la acción, reclutando colegas docentes de ciencias de la computación y sistemas de información para asociarse en dos estudios de investigación financiados por una subvención de 50.000 dólares del Northwestern Mutual Data Science Institute. Marquette es una institución ancla del NMDSI, junto con la Universidad de Wisconsin-Milwaukee y Northwestern Mutual, y Xu y sus socios de investigación son profesores afiliados al NMDSI. Xu está entusiasmado con la facilitación por parte del instituto de la colaboración y las sinergias entre los profesores. Y en estos estudios, resultaron productivos, lo que llevó a los investigadores a hallazgos que muestran formas significativas en que la IA puede mejorar los llamamientos de recaudación de fondos, al tiempo que revelan una erosión no deseada de la confianza que la participación de la IA puede generar, si se divulga a posibles donantes.

En el primer estudio, Xu se desempeñó como investigador principal y se asoció con el Dr. Praveen Madiraju, profesor de informática, y el Dr. Kambiz Saffarizadeh, profesor asistente de administración, para examinar lo que se conoce como “problemas de alineación” en la adaptación de la IA generativa a los esfuerzos de financiación colectiva, o como dice Xu. preguntando: “Ahora que la IA tiene el potencial de ayudar a las personas con estas campañas, cuando realmente se utilice, ¿es realmente útil? ¿Aumenta esto la eficacia y la confiabilidad, o se producen algunas consecuencias no deseadas?

Para realizar el estudio, el equipo de investigación visitó el popular sitio GoFundMe y accedió a todos sus proyectos de financiación colectiva médica disponibles públicamente, recuperando más de 900 escritos por humanos. Luego, los investigadores utilizaron ChatGPT para reescribir las historias de una manera que el chatbot consideró más efectiva. (Habiendo absorbido todo Internet como material de aprendizaje, ChatGPT está familiarizado con los proyectos de financiación colectiva y los atributos de los exitosos, dice Xu).

Utilizando herramientas de análisis textual establecidas para medir la presencia de elementos asociados con el éxito de la recaudación de fondos, Xu y sus socios observaron en general que la IA superaba a los escritores humanos. Se descubrió que la escritura mejorada con IA era un 8 % más analítica, un 16 % más propensa a utilizar un lenguaje dirigido a objetivos relacionados con el dinero y, entiendan esto, un 10,5 % más cargado emocionalmente que los escritores humanos. “La gente supone que la IA es más robótica, pero eso no es cierto”, afirma Xu. “La IA puede utilizar un mejor vocabulario con palabras más emotivas, porque en este contexto aparentemente la empatía es muy importante. La gente necesita estar emocionalmente conmovida para tomar sus decisiones”.

Aunque ChatGPT incluso utilizó un 37% menos de palabras para lograr estas impresionantes medidas, el análisis arrojó una advertencia. Las historias mejoradas por IA se midieron como un 15,4% menos auténticas que las originales humanas, según un sistema que busca signos de comunicación espontánea o, a veces, defectuosa, que se ve en la vida real. “La IA se consideró menos auténtica”, dice Xu, “tal vez demasiado pulida, demasiado perfecta”.

Para el siguiente estudio, Xu se asoció con el Dr. Terence Ow, profesor de sistemas de información y análisis en la Facultad de Administración de Empresas, y fue más allá: reclutó a 600 jueces humanos para poder comparar su reacción ante la recaudación de fondos tradicional y mejorada con IA, junto con si la presencia de IA afectó su voluntad de apoyar una campaña.

La historia corta, dice Xu, es que los jueces no pudieron identificar si los proyectos fueron mejorados con IA o no, simplemente por los marcadores lingüísticos. Pero cuando un grupo fue informado de la participación de AI en un proyecto y otros quedaron en la ignorancia, sus reacciones divergieron. “Si le decimos a la gente que algo fue generado por IA, de repente creen que es inferior y su confianza se erosiona”, dice Xu. Cuando los participantes conocieron el papel de la IA en un proyecto, el monto de su donación se redujo en un 22,5%.

En medio de crecientes llamados a una total transparencia para los textos, imágenes y videos generados por IA (un movimiento que Xu apoya), estos hallazgos plantean implicaciones que no serán fáciles de resolver, dice. “Estamos viendo esta conclusión un tanto éticamente paradójica de que la honestidad y la transparencia son costosas y están castigadas. Si estoy recaudando dinero para alguien de mi familia, el uso de IA generativa no necesariamente hace que mi práctica sea poco ética. Pero la pregunta es si los recaudadores de fondos quieren incurrir en un costo financiero adicional por ser transparentes”.

A través de su participación en NMDSI (donde Xu también copreside el subcomité regional de talentos del grupo) y una comunidad de ciencia de datos cada vez más sólida en Marquette que abarca disciplinas como comunicación, negocios, estudios de salud e informática, Xu y sus colegas estarán bien posicionados para explorar más a fondo estos y otros desafíos asociados con el uso de la IA y brindar orientación crítica a lo largo del camino.