Publicado en Journal of Medical Internet Research, el artículo recoge las conclusiones de un taller interdisciplinario celebrado en Berlín con 14 especialistas europeos. Plantea que la confianza en la IA médica no se deriva solo de su desempeño técnico, sino del ecosistema de relaciones humanas, marcos éticos e instituciones responsables que la rodean.
Introducción
La confianza se ha convertido en una noción clave en los debates sobre el desarrollo ético de la inteligencia artificial (IA), en especial en el campo de la medicina. Más allá del rendimiento técnico de los sistemas automatizados, existe creciente preocupación por las implicancias sociales, institucionales y políticas de su implementación. ¿Qué hace confiable a un sistema de IA médica? ¿Quién decide los criterios de fiabilidad? ¿Qué mecanismos de control, participación o reparación se ofrecen ante errores?
Este artículo presenta los hallazgos de un taller interdisciplinario celebrado en Berlín los días 5 y 6 de mayo de 2022, convocado por el proyecto europeo EU-STANDS4PM y el equipo editorial de la revista. Participaron 14 expertos en ciencia de datos, derecho, ética médica, filosofía y ciencias sociales de distintos países europeos. El objetivo fue analizar críticamente el concepto de confianza en IA médica, evaluando sus dimensiones técnicas, institucionales y relacionales.
Enfoque y Resultados
El taller se estructuró en torno a cuestionarios previos y sesiones de discusión temáticas, seguidas de un análisis cualitativo sistemático. A través de un enfoque deliberativo con análisis temático, se identificaron tres dimensiones principales para construir confianza en IA aplicada a salud:
- Confianza técnica: incluye la transparencia, validación científica, robustez y explicabilidad de los sistemas algorítmicos. Si bien necesarias, estas condiciones no bastan para generar confianza genuina.
- Confianza institucional: remite a la gobernanza de los sistemas, su regulación jurídica, rendición de cuentas y posibilidad de auditoría externa. Se enfatiza la importancia de mecanismos formales de vigilancia pública.
- Confianza relacional o humana: destaca la relevancia de factores como la empatía, la autonomía del paciente, la inclusión y la participación significativa de actores sociales y profesionales de la salud en el desarrollo y evaluación de las tecnologías.
Los autores subrayan que la confianza en la IA médica no puede imponerse desde el diseño técnico, sino que debe emerger de un proceso colectivo, situado, participativo y éticamente informado. Esta visión contrasta con enfoques que privilegian la fiabilidad funcional o la eficiencia sin considerar la legitimidad social.
Discusión y Conclusión
El artículo propone un cambio de paradigma: en lugar de confiar en las máquinas por sus atributos internos, debe construirse un ecosistema confiable compuesto por normas éticas, marcos regulatorios, instituciones robustas y ciudadanos informados. La IA médica debe ser comprensible, corregible y políticamente supervisable.
Entre las recomendaciones principales figuran:
- Incluir múltiples actores (pacientes, desarrolladores, clínicos, reguladores) durante todo el ciclo de vida de los sistemas.
- Desarrollar estándares éticos y legales robustos, como los promovidos por el EU AI Act.
- Fortalecer capacidades institucionales para monitoreo, auditoría y reparación.
- Promover una educación crítica en salud digital y gobernanza tecnológica.
Para los autores, la confianza no es un atributo técnico sino una relación entre sujetos, tecnologías y sistemas institucionales, y debe ser objeto prioritario de políticas públicas en salud digital.