« La inteligencia artificial ha entrado verdaderamente en el campo de la salud mental en los últimos años, con numerosos experimentos (incluidos) sistemas de recomendación de recursos terapéuticos, herramientas de asistencia, así como tecnologías de reconocimiento de emociones.señala la psicoterapeuta Sabine Allouchery, miembro del colectivo francés MentalTech, en una entrevista concedida a Usbek y Rica octubre pasado. Estas innovaciones permiten controlar, con distintos grados de detalle, el estado de salud mental de las personas. Algunos incluso ayudan a evaluar, en cierta medida, la eficacia de los tratamientos. »
Terapeutas de IA
Para llevar la experimentación un poco más allá, los creadores de MeMind desean desarrollar una función de terapia con chatbot. “ Cuando las preguntas provienen de otra persona, las personas pueden sentirse juzgadas, pero cuando provienen de un teléfono, muchas veces nos sentimos más cómodos usando la máquina. », explica el psiquiatra Enrique Baca, quien contribuyó al desarrollo de la aplicación.
Pero el chatbot aún tendrá que demostrar su valía antes de implementarlo a gran escala. Porque los “terapeutas de IA” han sido objeto de críticas desde que una madre acusó a una inteligencia artificial de haber empujado al suicidio a su hijo de 14 años. La adolescente estadounidense, enamorada de un chatbot creado a imagen de una heroína de Game of Thrones en la plataforma Character.ai, se suicidó con la esperanza de unirse a ella. El pasado mes de octubre, su madre presentó una denuncia contra la empresa, acusándola de haber programado su chatbot para que “ se presenta falsamente como una persona real, un psicoterapeuta autorizado y un amante adulto, lo que finalmente llevó a que (su hijo) ya no quisiera vivir afuera » de este mundo artificial.
Más allá de cuestiones relacionadas con la influencia psicológica y la protección de los datos de los pacientes, algunos profesionales de la salud señalan que aplicaciones como MeMind sólo constituyen una solución complementaria y temporal. “ La IA no está aquí para reemplazar a los humanos. ese nunca fue el objetivoadvirtió el desarrollador independiente Arnaud Bressot, consultor de inteligencia artificial en salud mental, miembro del colectivo francés MentalTech en nuestras columnas del pasado mes de octubre. Es responsabilidad del médico diagnosticar y tratar a sus pacientes, no de la IA ».
Health
