Uno de cada cinco médicos utiliza ChatGPT en su consulta. ¿Es grave, doctor?

Hipocondríaco o no, no es imposible que ya hayas navegado por Internet, con una lista de síntomas en la mano, para comprender qué virus o bacteria acabas de contraer. Sitios médicos como Vidal o WebMD, sitios institucionales como el sitio Ameli, foros de Doctissimo, así comoInternetInternet ha crecido en nuestras vidas, las posibilidades de autodiagnóstico se han multiplicado. Sí, pero. Si alguna vez ha hecho el ejercicio, sabrá que la investigación necesaria para seleccionar los síntomas relevantes y llegar a una respuesta definitiva y confiable es mucho más compleja de lo que parece. En definitiva, nada supera el consejo de un médico con diez años de estudio y aún más años de práctica a sus espaldas.
Sin embargo, con la llegada de la IA generativa, y en particular chatbotschatbots avanzado como ChatGPTChatGPTtenemos derecho a volver a poner la cuestión sobre la mesa. A inteligencia artificialinteligencia artificialcapaz de navegar por cada rincón de la red para resolver dudas y problemas, ¿es capaz de diagnosticar nuestros males con más precisión que un foro? ¿Y por qué no sólo un médico?

¿No hay tiempo para leer? Descubra la crónica en audio detrás de esta transcripción. Dale play y déjate llevar. © Futura

Uno de cada cinco médicos de cabecera utiliza IA generativa

Según estudios publicados recientemente sobre el tema, parece que un número creciente de especialistas de la salud están utilizando ChatGPT en su práctica. Una encuesta realizada entre mil médicos generalistas y publicada el 17 de septiembre de 2024 en la revista científica BMJrevela que el 20% de los entrevistados utiliza herramientas de inteligencia artificial generativa, como ChatGPT, Bing AI o Bard de GoogleGoogle por ejemplo, en su práctica clínica. Cuando se les preguntó por más detalles, el 29% de estos encuestados explicó que confía en estos servicios para generar la documentación después de una cita, mientras que nada menos que el 28% los utiliza para sugerir un diagnóstico diferencial.

Herramientas sesgadas y limitadas

Por lo tanto, no nos vamos a andar con rodeos: inevitablemente, este nuevo acontecimiento suscita dudas y preguntas. Y los autores del estudio no dejan de señalarlos en la discusión de su artículo. En primer lugar, es importante señalar que estas herramientas, que, recordemos, aún están en pañales a pesar de su espectacular desarrollo en los últimos años, tienen sus sesgos y limitaciones. Por el lado del sesgo, por ejemplo, en octubre del año pasado, un estudio de impacto de la Universidad de Stanford reveló que los chatbots tendían a perpetuar mitos médicos y prejuicios racistas, como el síndrome mediterráneo, suponiendo falsamente que las poblaciones de origen extranjero, y en particular, las personas de origen africano, sentiría menos la dolordolor que los caucásicos. Un estereotipo que lleva mucho tiempo refutado científicamente, pero que sigue persistiendo, e incluso enseñándose en determinadas escuelas. Las IA no dependen más que de lo que los humanos ponen a su disposición, por lo que no es sorprendente que lleven consigo los prejuicios que les inculcamos, a menudo mucho más representados en línea que los estudios que las utilizan. invalidar. Por tanto, es difícil encontrar jueces imparciales entre ellos.

Entre las limitaciones, esta vez podemos mencionar una vez más el hecho de que estas IA son jóvenes y, por lo tanto, todavía están sujetas a alucinaciones, malentendidos y falta de discernimiento. Tampoco fueron diseñados específicamente para hacer diagnósticos y no tienen los sentidos agudos que los médicos aprenden a desarrollar a lo largo de sus carreras. Imposible sentir, sentir, escuchar, observar: en el mejor de los casos, la IA debe basarse en lo que el practicante observa y logra formular.

¡Presta atención a la confidencialidad!

Otra área de preocupación que plantea el estudio: la confidencialidadconfidencialidad. Como señalan los autores, estas IA son propiedad de entidades comerciales, que brindan muy poca visibilidad sobre cómo utilizan la información proporcionada a través de sus chatbots. Aunque es seguro que ningún médico nombra a sus pacientes cuando realiza una investigación, ahora sabemos que la triangulacióntriangulación Los datos se obtienen cada vez más fácilmente, permitiendo encontrar en un abrir y cerrar de ojos.ojoojo la identidad de una persona y elaborar un fichero completo sobre ella, incluyendo sus datos de contacto, sus hábitos, sus aficiones y, ahora, sus datos médicos.

Hasta la fecha, dado que estos nuevos usos están apenas en sus inicios, herramientas como ChatGPT no se consideran dispositivos médicos, en el sentido de la legislación europea, pero esto no significa que su uso esté prohibido o regulado. Así que tenga cuidado con la información que proporciona a la IA generativa cuando les pide un diagnóstico. Si es poco probable que los síntomas de la gripe le pongan en una situación compleja, el pasado ya ha demostrado que las aseguradoras como los bancos pueden confiar en sus datos, afirma el famoso Grandes datosGrandes datos recaudados por servicios de terceros, para fijar el tipo de un préstamo o el coste de su mutua. Pero entonces, teniendo en cuenta todos estos inconvenientes, ¿cómo es posible que los médicos todavía utilicen la IA generativa en su profesión? ¿Los riesgos superan los beneficios y hasta dónde puede llegar la inteligencia artificial para mejorar el bienestar de los pacientes y aliviar a los profesionales sanitarios?

ChatGPT: el aliado inesperado ante un sistema en crisis

Esto no es nada nuevo, pero todavía hablamos muy poco de ello. Hoy en día, el sistema médico de Francia continental se encuentra en un punto de ruptura. Ante una situación crítica, los estudiantes de medicina huyen a otros países, lo que refuerza la escasez de médicos y la expansión de desiertosdesiertos médico; el número de medicamentos agotados aumenta a un ritmo alarmante, dos tercios de los EHPAD están en déficit, las personas más vulnerables están siendo abandonadas, la medicina comunitaria y los establecimientos privados están siendo descuidados en favor de la centralización en los hospitales públicos, que cada vez son más El personal de enfermería saturado y sobrecargado de trabajo está llegando al límite de sus fuerzas y los suicidios, que son más frecuentes en estas profesiones, siguen siendo un tema tabú.

¿Por qué hay escasez de médicos en Francia? © Le Monde, YouTube

Así que seamos claros: hará falta mucho más que un chatbot para que el sistema sanitario francés vuelva a ponerse en pie. Pero la esperanza es que con la IA generativa como ChatGPT, así como con herramientas de diagnóstico cada vez más avanzadas, la carga para los cuidadores se reduzca al menos parcialmente. si el IA conversacionalIA conversacional tienen pocas posibilidades de sustituir a un médico físico, los estudios han demostrado que ChatGPT podía diagnosticar ciertas enfermedades respiratorias mejor que los médicos en formación, que un algoritmo podría permitir detectar la agresividad de un sarcomasarcoma más eficazmente que un biopsiabiopsiao incluso que una IA podría detectar signos de demenciademencia mucho antes de la aparición de los primeros síntomas externos.

Estos diagnósticos siempre necesitarán ser confirmados por especialistas, pase lo que pase, pero podrían ahorrar un tiempo precioso a los pacientes y a sus cuidadores, limitar las desviaciones médicas, permitir la optimización de los tratamientos y reducir los costes. , tanto médicos como administrativos. Un estudio de 2023, publicado en la revista PubMed, demuestra que ChatGPT podría incluso ayudar a los profesionales de la salud en sus interacciones con los pacientes, ayudándolos a brindar respuestas más claras, más útiles y más empáticas. En un artículo de opinión para Medium, el médico de urgencias Josh Tamayo-Sarver comparte cómo utiliza el chatbot para explicar sus decisiones a los pacientes y sus seres queridos, cuando su emoción o falta de conocimiento les impide entrar en razón.

Siguiente paso: participar en el debate

En resumen, los beneficios clave son numerosos y merecen que abramos un debate matizado sobre el uso de la IA generativa en el entorno médico. Antes de aceptar esta novedad sin pestañear ni dar un paso adelante porque nuestro médico nos cobra por una consulta que podríamos haber hecho “solos en tres clics”, tomemos un momento para considerar los riesgos para nuestra salud y nuestra vida privada por un lado. mano, y los beneficios para nuestros cuidados, la reducción de estrésestrés cuidadores y la facilitación de su práctica, por el otro.

En el caso de la IA, como ocurre con muchas otras cosas, muchos de nosotros hemos tendido a dejar que las cosas se desarrollen sin intervenir, contentos con sentirnos asombrados o indignados a medida que se desarrolla la noticia, y la reacción al calor a menudo tiene prioridad sobre el diálogo. Entonces, te invitamos ahora a abrir la conversación. Habla con tus amigos, con tus seres queridos, con tu médico, con tus pacientes y con los legisladores que regulan las tecnologías y su uso. Inicie debates ciudadanos, infórmese y solicite un intercambio pacífico e informado antes de que las prácticas se generalicen y se vuelvan rígidas. Ahora es el momento de pensar en cómo queremos que la IA generativa y la salud funcionen juntas. Depende de ti si quieres participar o dejar que las cosas sucedan. Pero no podrás decir: “ Si lo hubiera sabido, habría actuado.. »