El aprendizaje por refuerzo, un enfoque de inteligencia artificial, tiene el potencial de ayudar a los médicos a diseñar estrategias de tratamiento secuenciales para mejorar los resultados de los pacientes. Sin embargo, requiere una mejora significativa antes de su aplicación clínica, según un estudio reciente realizado por investigadores del Hospital Weill Cornell y la Universidad Rockefeller.
El aprendizaje por refuerzo (RL) es una categoría de algoritmos de aprendizaje automático capaces de tomar una serie de decisiones a lo largo del tiempo. Responsable de los avances recientes en IA, incluido el rendimiento sobrehumano en ajedrez y Go, el RL puede analizar la evolución de las condiciones de los pacientes, los resultados de las pruebas y las respuestas previas a los tratamientos para sugerir el mejor siguiente paso en la atención personalizada. Este enfoque es particularmente prometedor para la toma de decisiones en el tratamiento de enfermedades crónicas o psiquiátricas.
Esta investigación, publicada en las Actas de la Conferencia de Sistemas de Procesamiento de Información Neural (NeurIPS) y presentada el 13 de diciembre, presenta “Episodios de Atención” (EpiCare), el primer punto de referencia de RL para el sector de la salud.
Dr. Logan Grosenick
“Los puntos de referencia han llevado a mejoras en muchas aplicaciones de aprendizaje automático, como la visión por computadora, el procesamiento del lenguaje natural y el reconocimiento de voz. Esperamos que ahora ayuden a avanzar en la RL en la atención médica”, dijo el Dr. Logan Grosenick, profesor asistente de neurociencia psiquiátrica y director de esta investigación.
Los agentes de RL refinan sus acciones en función de la retroalimentación que reciben, aprendiendo gradualmente una política que mejora su toma de decisiones. “Sin embargo, nuestros resultados muestran que, aunque los métodos actuales son prometedores, requieren una gran cantidad de datos”, añade el Dr. Grosenick.
Los investigadores primero probaron el rendimiento de cinco modelos RL en línea de última generación en EpiCare. Los cinco modelos superaron un estándar de atención, pero sólo después de haber sido entrenados en miles, si no decenas de miles, de episodios de tratamiento simulados. En realidad, los métodos de RL nunca se entrenarían directamente en los pacientes, lo que llevó a los investigadores a evaluar cinco métodos de evaluación “fuera de políticas” (OPE): enfoques populares destinados a utilizar datos históricos (de ensayos clínicos, por ejemplo) para evitar la necesidad de para recopilar datos en línea. Al utilizar EpiCare, descubrieron que incluso los métodos OPE más avanzados no lograban proporcionar un rendimiento preciso para los datos de salud.
“Nuestros resultados indican que los métodos OPE actuales no pueden considerarse confiables para predecir con precisión el rendimiento del aprendizaje por refuerzo en escenarios de salud longitudinales”, dijo el Dr. Mason Hargrave, primer autor e investigador de la Universidad Rockefeller. Este hallazgo resalta la importancia de desarrollar herramientas de evaluación comparativa más precisas, como EpiCare, para evaluar los enfoques de RL existentes y proporcionar métricas que miden las mejoras.
“Esperamos que este trabajo facilite una evaluación más confiable del aprendizaje por refuerzo en entornos sanitarios y ayude a acelerar el desarrollo de mejores algoritmos y protocolos de entrenamiento adecuados para aplicaciones médicas”, concluyó el Dr. Grosenick.
Adaptación de redes neuronales convolucionales para interpretar datos gráficos
En una segunda publicación presentada el mismo día en NeurIPS, el Dr. Grosenick compartió su investigación sobre la adaptación de redes neuronales convolucionales (CNN), ampliamente utilizadas para procesar imágenes, para hacerlas eficientes para datos estructurados en gráficos, como redes cerebrales, genéticas o de proteínas. . El éxito de las CNN en tareas de reconocimiento de imágenes a principios de la década de 2010 sentó las bases para el aprendizaje profundo y la era moderna de las aplicaciones de IA basadas en redes neuronales.
“A menudo nos interesa analizar datos de imágenes cerebrales que se parecen más a gráficos, con vértices y aristas, que a imágenes. Pero nos dimos cuenta de que no había nada realmente equivalente a las CNN para datos estructurados en gráficos”, dijo el Dr. Grosenick.
Las redes cerebrales generalmente se representan como gráficos donde las regiones del cerebro (representadas como vértices) transmiten información a otras regiones del cerebro a lo largo de “bordes” que las conectan y representan la fuerza de la comunicación entre ellas. Esto también es válido para las redes genéticas y proteicas, los datos de comportamiento humano y animal y la geometría de compuestos químicos como las drogas. Al analizar directamente estos gráficos, podemos modelar con mayor precisión las dependencias y patrones entre conexiones locales y más distantes.
Isaac Osafo Nkansah, un investigador asociado que estaba en el laboratorio de Grosenick en el momento del estudio y primer autor del artículo, contribuyó al desarrollo del marco Quantized Graph Convolution Networks (QuantNets), que generaliza las CNN en gráficos. “Ahora lo estamos utilizando para modelar datos de EEG (actividad eléctrica cerebral) en pacientes. Podemos utilizar una red de 256 sensores distribuidos por el cuero cabelludo, tomando medidas de la actividad neuronal; es un gráfico”, explicó el Dr. Grosenick. “Reducimos estos grandes gráficos a componentes más interpretables para comprender mejor cómo cambia la conectividad cerebral dinámica a medida que los pacientes reciben tratamiento por depresión o trastorno obsesivo-compulsivo”.
Los investigadores prevén aplicaciones generalizadas para QuantNets. Por ejemplo, también buscan modelar datos de pose estructurados en gráficos para rastrear el comportamiento en modelos de ratón y en expresiones faciales humanas extraídas mediante visión por computadora.
“Si bien todavía navegamos por la seguridad y la complejidad de aplicar métodos de inteligencia artificial de vanguardia a la atención al paciente, cada avance, ya sea un nuevo marco de evaluación comparativa o un modelo más preciso, nos está acercando lentamente a estrategias de tratamiento personalizadas con el potencial de mejorar significativamente. resultados de los pacientes”, concluyó el Dr. Grosenick.
Nuestros editores utilizan IA para ayudarlos a cumplir artículos frescos de fuentes confiables a nuestros usuarios. Si encuentra alguna imagen o contenido que sea inapropiado, contáctenos a través del formulario DMCA y lo eliminaremos de inmediato. / Nuestros editores utilizan IA para ayudarles a ofrecer a nuestros lectores artículos nuevos de fuentes confiables. Si encuentra una imagen o contenido inapropiado, contáctenos a través del formulario DMCA y lo eliminaremos de inmediato.
-