La IA tiene el potencial de ayudar a los radiólogos a diagnosticar enfermedades pulmonares y afecciones cardíacas mediante radiografías de tórax. Sin embargo, muchos sistemas de IA funcionan como “cajas negras”, lo que hace que sus procesos de toma de decisiones sean poco claros. Investigadores de la Universidad de Arkansas han desarrollado ItpCtrl-AI, que imita la mirada de los radiólogos para mejorar la precisión y la explicabilidad de las imágenes médicas.
A la hora de interpretar imágenes médicas, la confianza en los diagnósticos asistidos por IA es esencial. “Cuando las personas comprenden el proceso de razonamiento y las limitaciones detrás de las decisiones de IA, es más probable que confíen y acepten la tecnología”, dijo Ngan Le, profesor asistente de ciencias de la computación e ingeniería informática de la Universidad de Arkansas.
ItpCtrl-AI, abreviatura de inteligencia artificial interpretable y controlable, se desarrolló para hacer más comprensibles los diagnósticos asistidos por IA. Los resultados de la investigación se publicaron en Artificial Intelligence in Medicine.
Cómo la IA imita la mirada de los radiólogos
El equipo de investigación registró cómo los radiólogos examinan las radiografías de tórax, rastreando tanto la dirección de su mirada como el tiempo que se enfocaron en áreas específicas. Estos datos se utilizaron para generar mapas de calor, que guían a la IA a la hora de priorizar regiones clave dentro de una imagen. Al reflejar las áreas de enfoque de los radiólogos humanos, ItpCtrl-AI está diseñado para mejorar la precisión del diagnóstico y, al mismo tiempo, garantizar que el razonamiento detrás de sus conclusiones sea transparente.
Este enfoque estructurado permite a los profesionales médicos interpretar los resultados impulsados por la IA de manera más efectiva e intervenir cuando sea necesario. “Si un sistema de asistente médico de IA diagnostica una afección, los médicos deben entender por qué tomó esa decisión para asegurarse de que sea confiable y se alinee con la experiencia médica”, enfatizó Le.
Implicaciones para la práctica médica y la ética
Un sistema de IA transparente también aborda las preocupaciones legales y éticas al permitir que los profesionales médicos asuman la responsabilidad de los diagnósticos informados por la asistencia de la IA. “Si no sabemos cómo un sistema está tomando decisiones, es un desafío garantizar que sea justo, imparcial o alineado con los valores sociales”, dijo Le. La transparencia en la IA es particularmente crucial en los entornos médicos, así como en otras áreas de alto riesgo, como la tecnología de conducción autónoma y las finanzas.
Le y su equipo de investigación, en colaboración con el MD Anderson Cancer Center en Houston, están trabajando actualmente en el perfeccionamiento de ItpCtrl-AI para analizar tomografías computarizadas tridimensionales más complejas.
MEDICA-tradefair.com; Fuente: Universidad de Arkansas
