La inteligencia artificial (IA) está revolucionando el sector sanitario, ayudando con documentación, diagnósticos, tratamientos y adherencia de nuestros pacientes. Sin embargo, como fisioterapeutas y profesionales de la salud, debemos ser conscientes de los riesgos de la inteligencia artificial que pueden afectar tanto a nuestros pacientes como a nuestra práctica clínica.
Este artículo analiza los siete principales riesgos de la IA que todo profesional sanitario debe conocer: errores que pueden dañar pacientes, mal uso de la herramienta de IA, sesgos algorítmicos que perpetúan desigualdades, falta de transparencia, problemas de privacidad y seguridad, lagunas legales en cuanto a responsabilidades, y obstáculos para su implementación efectiva.
1. Daño al paciente debido a errores de la IA
Los errores de la IA en fisioterapia pueden tener graves consecuencias para los pacientes. A diferencia de los errores humanos, los fallos en sistemas de inteligencia artificial pueden ser sistemáticos y afectar a un gran número de pacientes antes de ser detectados. Estos casos son claros cuando los pacientes usan herramientas de IA de forma independiente.
Un ejemplo que aplica a nuestra profesión es que la IA generativa recomiende ejercicios que están contraindicados para ese paciente en particular, basados en un diagnóstico erróneo, ya que el paciente no ha compartido diferentes factores importantes con la IA.
Para minimizar estos riesgos debemos asegurarnos de:
- Mantener siempre la supervisión del fisioterapeuta en los casos en que la salud del paciente esté en juego, principalmente en diagnósticos y tratamientos.
- Utilizar la IA como herramienta de apoyo, no como sustituto del criterio clínico.
- Establecer protocolos de verificación cruzada. Esto significa que el fisioterapeuta haga uso de varias herramientas o procedimientos para cerciorarse de que la información aportada por la IA es correcta.
2. Mal uso de las herramientas de IA
El mal uso de la IA surge cuando los fisioterapeutas y pacientes no han formado parte del desarrollo de las herramientas de IA, cuando no tienen formación en su uso y cuando herramientas de claro carácter médico están accesibles al público.
Problemas frecuentes:
- Fisioterapeutas y/o pacientes que confían ciegamente en las recomendaciones de la IA sin cuestionarlas.
- Pérdida de la capacidad de realizar evaluaciones básicas por parte del fisioterapeuta, debido a la dependencia excesiva en las herramientas de IA.
Como fisioterapeutas, debemos usar la IA para complementar nuestro conocimiento, no para reemplazarlo. El examen clínico sigue siendo fundamentales en nuestro trabajo, y la IA es un gran asistente para muchas de nuestras tareas.
3. Riesgo de sesgo en la IA y perpetuación de las desigualdades
A pesar de los avances en el sector sanitario, persisten desigualdades sanitarias por sexo, edad, etnia, ingresos y geografía. La IA puede amplificar estos sesgos existentes si no se regula adecuadamente.
Algunos ejemplos documentados que nos ayudan a entender este problema son los siguientes:
- Un algoritmo estadounidense discriminaba a pacientes negros en derivaciones médicas.
- Algoritmos de rayos X infradiagnosticaban más a mujeres jóvenes, pacientes negros y pacientes con seguro sanitario público para personas y hogares con rentas bajas.
- Las bases de datos de cáncer de pulmón incluían solo 4% de participantes negros.
- Los algoritmos de detección de cáncer de piel se entrenan principalmente con pieles claras de personas de Estados Unidos, Europa y Australia.
Algunas de las soluciones que se han propuesto para luchar contra este problema son que equipos multidisciplinares incluyan científicos sociales y comunidades diversas, que los datos estén equilibrados por sexo, edad, etnia y geografía, y que haya una supervisión continua durante todo el ciclo de desarrollo de la herramienta de IA.
4. Falta de transparencia
Los algoritmos de IA aún se perciben como tecnologías complejas y opacas difíciles de entender. La falta de transparencia genera desconfianza, reduce la adopción por parte de pacientes, clínicos y sistemas sanitarios, y cuestiona la utilidad y seguridad de las herramientas de IA.
El fisioterapeuta se ve en una situación de falta de comprensión y confianza en las predicciones y decisiones de la IA, encuentra dificultades para reproducir y evaluar de forma independiente los algoritmos de IA, encuentra dificultades para identificar las fuentes de errores de la IA y para definir responsabilidades, y esto lleva a una adopción limitada en la práctica clínica.
Deben haber dos niveles de transparencia:
- Trazabilidad: Documentar transparentemente todo el proceso de desarrollo de la IA, incluyendo detalles del modelo, datos de entrenamiento y monitorización tras la implementación. En la práctica, las empresas raramente proporcionan trazabilidad completa, prefiriendo mantener sus algoritmos como «cajas negras» opacas.
- Explicabilidad: Capacidad de explicar cada predicción y decisión de la IA. El Reglamento General de Protección de Datos (RGPD) europeo establece el «derecho a explicación» en decisiones automatizadas. Sin embargo, las redes neuronales profundas son inherentemente opacas y difíciles de entender.
Los fisioterapeutas necesitamos sistemas que puedan justificar sus recomendaciones de manera comprensible, especialmente cuando se trata de ejercicios terapéuticos o técnicas de tratamiento.
5. Problemas de privacidad y seguridad
La privacidad en IA sanitaria es crucial. Los sistemas de IA requieren grandes cantidades de datos personales y médicos, lo que plantea importantes riesgos de seguridad.
Los principales riesgos son:
- Hackeos que comprometen historiales médicos.
- Uso no autorizado de datos para entrenar nuevos algoritmos.
- Filtración de información sensible sobre afecciones de salud.
6. Lagunas legales en la toma de responsabilidades
Los principales problemas con los que nos encontramos son:
- Lagunas jurídicas de la normativa vigente, que aún no permite definiciones claras en la toma de responsabilidades en IA.
- Dificultades para definir las funciones y responsabilidades de los múltiples actores implicados (por ejemplo, profesionales sanitarios o desarrolladores informáticos).
- Falta de gobernanza ética y jurídica para los fabricantes y las industrias de IA.
7. Obstáculos para la aplicación en la asistencia sanitaria real
Las obstáculos más destacados en la aplicación de IA en la asistencia sanitaria son:
- Calidad de los datos y estructuras limitadas en centros clínicos e historias clínicas electrónicas heterogéneos.
- Posibles alteraciones de las relaciones fisioterapeuta-paciente debido a la introducción de nuevas herramientas de IA y un mayor acceso a los datos de los pacientes.
- Falta de integración e interoperabilidad clínica y técnica de las herramientas de IA con los flujos de trabajo clínicos y los sistemas sanitarios electrónicos existentes.
References
- European Parliament, Panel for the Future of Science and Technology. Artificial Intelligence in Healthcare: Applications, Risks, and Ethical and Societal Impacts. Brussels, Belgium: European Parliamentary Research Service, Scientific Foresight Unit (STOA); June 2022. PE 729.512.
