La inteligencia artificial (IA) está revolucionando el campo de la fisioterapia, ofreciendo herramientas innovadoras para diagnóstico, tratamiento y educación. Sin embargo, como profesionales de la salud, debemos comprender los sesgos de la IA que pueden afectar la calidad de nuestro trabajo.
En este artículo exploraremos cómo identificar y comprender estos sesgos para aprovechar al máximo las ventajas de la IA en fisioterapia, manteniendo siempre la ética y calidad profesional.
1. Sesgo de datos
El sesgo de datos es el problema más frecuente en sistemas de IA porque la IA se «alimenta» de datos, infinidad de ellos. Si los datos están sesgados, la IA también lo estará.
1.1 Sesgo de muestreo
Ocurre cuando el conjunto de datos no representa toda la variedad de personas o situaciones del mundo real.
Ejemplo: Imagina un sistema de análisis de la marcha mediante IA entrenado principalmente con atletas jóvenes de 20-30 años. Este mismo sistema podría no ser de gran utilidad cuando lo utilizamos para otros grupos de edad.
1.2 Sesgo de selección
Se centra en cómo se seleccionan los datos. Tal vez se seleccionan los datos de personas que usan frecuentemente una aplicación, mientras se ignoran a usuarios ocasionales que pueden tener necesidades muy diferentes.
Ejemplo: Una aplicación de ejercicios terapéuticos recopila datos principalmente de usuarios que completan las rutinas diarias. Los datos de pacientes que abandonan por dolor, fatiga o falta de acceso nunca se capturan. El algoritmo «aprende» que todos los pacientes progresan bien, ignorando a quienes más ayuda necesitan.
1.3 Sesgo de exclusión
Ocurre cuando grupos o categorías enteras se quedan fuera, intencionalmente o no.
Ejemplo: Un sistema de IA para recomendar ejercicios de rehabilitación se entrena únicamente con datos de centros deportivos privados en grandes ciudades. Los patrones de lesión y recuperación de trabajadores manuales, agricultores o personas de zonas rurales simplemente no existen en el modelo.
1.4 Sesgo histórico
Ocurre cuando los sistemas de IA aprenden y perpetúan patrones de discriminación o desigualdad que existían en los datos de salud del pasado, convirtiendo injusticias históricas en decisiones automáticas actuales.
Ejemplo: Un algoritmo de riesgo de poblema de salud usado por millones de pacientes estadounidenses favorecía inadvertidamente a pacientes blancos sobre pacientes de color porque usaba el gasto en salud como indicador de necesidades médicas. Como los ingresos y el acceso a salud suelen correlacionarse con la raza, el algoritmo daba a pacientes de color puntuaciones de riesgo más bajas de las que realmente tenían, llevando a cuidados inadecuados.
1.5 Sesgo de medición
Aparece cuando el método usado para etiquetar o medir la realidad no coincide con lo que realmente está pasando.
Ejemplo: Un sistema de evaluación de dolor que usa únicamente la frecuencia de uso de medicación como indicador, no captura que algunos pacientes no toman medicación por creencias culturales, efectos secundarios o falta de acceso económico. El algoritmo concluye incorrectamente que estos pacientes tienen menos dolor.
2. Sesgo algorítmico
Incluso si los datoson equilibrados y completos, la IA puede producir resultados sesgados debido a cómo los algoritmos procesan la información.
2.1 Sesgo del modelo
El problema está en cómo está diseñado el algoritmo. Si el algoritmo es demasiado simple, no detecta las diferencias importantes entre distintos tipos de pacientes. Si es demasiado complejo, puede usar información que no debería importar para tomar decisiones sobre tu salud.
Ejemplo: La implementación de un sistema de IA para predecir riesgo de caídas que usa el código postal como variable importante. El algoritmo asocia ciertos códigos postales con «bajo riesgo» simplemente porque esas áreas tienen población más joven en promedio, ignorando completamente a los adultos mayores que viven allí y que sí tienen alto riesgo.
2.2 Sesgo de optimización
Ocurre cuando el modelo se ajusta para un solo objetivo, como maximizar la precisión general, e ignora otros factores importantes como equidad o experiencia del usuario.
Ejemplo: Un sistema de diagnóstico por imagen optimizado para «precisión general» detecta perfectamente las 5 patologías más comunes (que representan 90% de los casos), pero falla completamente con enfermedades raras que afectan al 10% restante. Los pacientes con enfermedades poco frecuentes quedan sistemáticamente sin diagnóstico.
2.3 Sobreajuste y subajuste
- Sobreajuste: Es como memorizar un examen sin aprender el concepto. El modelo se aferra a peculiaridades en los datos de entrenamiento.
- Subajuste: El modelo es demasiado superficial para capturar patrones reales.
Ejemplo: Un algoritmo de evaluación de rango de movimiento que se sobreajusta funciona perfecto en el laboratorio con las cámaras específicas usadas en entrenamiento, pero falla completamente cuando se usa en clínicas con diferente iluminación o ángulos de cámara. No aprendió los principios generales del movimiento, solo memorizó configuraciones específicas.
2.4 Sesgo de regularización
La regularización está diseñada para evitar el sobreajuste simplificando el modelo. Sin embargo, si se aplica demasiado con demasiada intensidad, puede homogeneizar resultados y pasar por alto diferencias legítimas.
Ejemplo: Un modelo de recomendación de ejercicios que, tras aplicar regularización agresiva, termina sugiriendo prácticamente las mismas rutinas genéricas para todos, eliminando las sutiles variaciones que beneficiarían específicamente a ciertos grupos (embarazadas, personas con artritis, deportistas lesionados, etc.).
2.5 Sesgo de interacción
Aparece cuando las decisiones de la IA influyen en el comportamiento del usuario, generando datos que refuerzan las suposiciones iniciales de la IA.
Ejemplo: Un sistema de triaje en urgencias que inicialmente clasifica más pacientes de cierta comunidad como «no urgentes» basándose en datos históricos sesgados. Estos pacientes esperan más tiempo, algunos se van sin atención, generando menos registros médicos completos. El sistema interpreta la falta de registros como confirmación de que «no era urgente», reforzando el sesgo inicial.
3. Sesgo humano
La IA es creada por personas, personas que prueban, etiquetan y modifican, e inevitablemente trabajan basándose en sus propias experiencias y suposiciones.
3.1 Sesgo cognitivo
Los sesgos cognitivos incluyen sesgo de confirmación o sesgo de anclaje, que pueden distorsionar cómo recopilamos e interpretamos datos.
Ejemplo: Un equipo de desarrolladores asume que «la gente mayor no usa tecnología complicada», así que diseñan interfaces ultra-simplificadas para un sistema de telerehabilitación. Cuando lo lanzan, descubren que muchos adultos mayores se sintieron infantilizados y rechazaron la aplicación, no por falta de capacidad tecnológica sino por el diseño condescendiente basado en el sesgo del equipo.
3.2 Sesgo del programador o desarrollador
Las perspectivas culturales o personales del equipo de desarrolladores de la Ia pueden moldear las características que codifican y las historias de usuario que destacan.
Ejemplo: Un equipo de desarrolladores jóvenes y en forma crea una aplicación de fisioterapia que asume que todos pueden mantener su smartphone en posición mientras hacen ejercicios complejos de equilibrio. No consideran a usuarios con temblores, artritis en las manos o que necesitan dispositivos de asistencia. La aplicación es imposible de usar para muchos de los pacientes que más la necesitan.
3.3 Sesgo del anotador/etiquetador
Muchos sistemas de IA necesitan datos etiquetados. Si las personas que hacen el etiquetado traen sus propios sesgos, eso aparece en el conjunto de datos final.
Ejemplo: Un proyecto de IA para analizar postura corporal contrata personas que etiquetaban posturas según su propio estándar cultural de «postura correcta». Posturas perfectamente saludables de otras culturas (como sentarse en cuclillas, común en Asia) se marcaban como «incorrectas» o «patológicas». El sistema entrenado con estas etiquetas perpetuaba estos sesgos culturales.
4. Sesgo temporal
El tiempo añade otra dimensión al sesgo. La sociedad avanza, y si congelamos nuestras suposiciones y datos en un punto, podríamos terminar reforzando ideas obsoletas.
4.1 Datos desactualizados
Los datos se vuelven obsoletos si ya no reflejan las condiciones reales.
Ejemplo: Un sistema de planificación de tratamientos entrenado con datos pre-pandemia no contempla las secuelas del COVID-19 (fatiga crónica, problemas respiratorios, debilidad muscular post-UCI). Sigue recomendando protocolos estándar que pueden ser contraproducentes para la nueva población de pacientes.
4.2 Perpetuar desigualdades pasadas
Los datos pasados pueden tener patrones discriminatorios. Un modelo de reclutamiento podría aprender de décadas cuando ciertos grupos fueron excluidos, efectivamente bloqueando esos sesgos en sus decisiones.
Ejemplo: Un algoritmo de asignación de citas entrenado con datos históricos aprende que ciertos grupos demográficos históricamente faltaban más a las citas (a menudo por barreras de transporte, trabajo o cuidado infantil). El sistema empieza a darles automáticamente horarios menos convenientes, asumiendo que «probablemente cancelarán de todos modos», perpetuando exactamente las barreras que causaban las ausencias originales.
5. Sesgo contextual
El sesgo contextual nos recuerda que la IA no existe en el vacío. Se encuentra con personas reales en situaciones reales.
5.1 Sesgo socioeconómico
Ocurre cuando un sistema se construye principalmente para grupos privilegiados, dejando fuera a usuarios que carecen de recursos.
Ejemplo: Una plataforma de ejercicios en casa con IA asume que todos tienen: un espacio amplio y despejado, tapete de yoga, bandas elásticas, mancuernas, buena iluminación y conexión rápida de internet. En realidad, muchos pacientes viven en apartamentos pequeños, no pueden permitirse equipo o tienen internet limitado. El sistema es inaccesible para quienes más se beneficiarían de ejercicios en casa gratuitos.
5.2 Sesgo geográfico
Aparece si el modelo está adaptado a una región pero se usa en otra.
Ejemplo: Un sistema de recomendación de actividad física entrenado en países nórdicos sugiere rutinamente ejercicio al aire libre, sin considerar que en países tropicales el calor extremo hace esto peligroso durante gran parte del día. O recomienda natación sin verificar que en la región del usuario haya acceso a piscinas.
5.3 Interpretación cultural errónea
Ocurre cuando la IA trata normas de una cultura como universales.
Ejemplo: Un chatbot de fisioterapia entrenado en cultura occidental interpreta que un paciente latinoamericano que dice «ahorita lo hago» está comprometido a hacer los ejercicios inmediatamente, cuando culturalmente puede significar «más tarde» o incluso «probablemente no». El sistema reporta falsamente alta adherencia cuando en realidad no la hay, perdiendo la oportunidad de ofrecer soporte adicional.
6. Sesgo de lenguaje
El lenguaje es profundamente humano, lleno de matices. Los modelos de IA que procesan texto o habla pueden absorber fácilmente estereotipos y sesgos.
6.1 Sesgo lingüístico
Surge cuando una IA se entrena principalmente en un idioma o dialecto, dejando a otros atrás.
Ejemplo: Un sistema de comandos de voz para guiar ejercicios funciona perfectamente con inglés británico estándar, pero no entiende acentos escoceses fuertes, inglés caribeño o inglés indio. Los pacientes de estas comunidades no pueden usar efectivamente el sistema, no por falta de competencia lingüística sino por limitaciones del modelo.
6.2 Sesgo semántico y de embeddings de palabras
Los embeddings de palabras capturan y reproducen estereotipos del texto con el que se entrenan. Podrían vincular «mujer» con «enfermera» y «hombre» con «ingeniero» por defecto.
Ejemplo: Un sistema de procesamiento de notas clínicas que ha aprendido a asociar fuertemente «varón deportista» con «lesión de ligamento cruzado» y «mujer mayor» con «fractura de cadera». Cuando un hombre mayor presenta fractura de cadera o una mujer joven deportista lesión de rodilla, el sistema asigna menor prioridad porque no coincide con sus patrones estereotipados aprendidos.
7. Sesgo del modelo
Más allá de las preocupaciones algorítmicas generales, elecciones arquitectónicas específicas en redes neuronales y otros modelos pueden integrar sesgo.
7.1 Sesgo de diseño de redes neuronales
Las redes neuronales son poderosas pero pueden ser opacas. El número de capas, cómo se procesan las características y cómo fluyen los datos a través de ellas dan forma a los resultados.
Ejemplo: Imagina un sistema de IA que analiza cómo se mueve la gente para detectar problemas. Este sistema fue construido pensando en movimientos deportivos: saltos grandes, movimientos rápidos, brazos que se extienden completamente. El problema es que cuando una persona mayor camina despacio, con pasos pequeños y cuidadosos, o cuando un paciente con Parkinson tiene temblores sutiles, el sistema no los «ve» bien. No es que los datos sean malos, es que la estructura técnica del sistema está diseñada para fijarse en movimientos grandes y rápidos, y literalmente pierde la información sobre movimientos pequeños y lentos.
7.2 Sesgo de transfer learning
El transfer learning ahorra tiempo reutilizando un modelo entrenado en un dominio para otro. Pero si el dominio fuente difiere mucho del objetivo, la IA podría mostrar suposiciones poco útiles.
Ejemplo: Un modelo de visión por computadora pre-entrenado con ImageNet (fotos de internet de objetos y animales) se adapta para analizar radiografías de rodilla. El modelo trae «conceptos» irrelevantes aprendidos de fotos casuales (como «cielo azul» o «pasto verde») que interfieren con su capacidad de detectar patología sutil en imágenes médicas en escala de grises.
8. Sesgo de evaluación
Después de construir una IA, queremos medir su rendimiento. Pero si nuestra evaluación misma está sesgada, podemos obtener una falsa sensación de seguridad.
8.1 Sesgo de benchmark
Aparece si confiamos en conjuntos de prueba que no cubren la diversidad del mundo real.
Ejemplo: Un algoritmo de detección de compensaciones posturales se prueba solo con el conjunto de datos CMU (Carnegie Mellon University Mocap), que contiene principalmente actores jóvenes realizando movimientos exagerados en laboratorio. Obtiene 98% de precisión. Cuando se despliega en clínicas reales con pacientes de diversas edades, condiciones y calidades de vídeo, la precisión cae a 65%. El benchmark no representaba la realidad clínica.
8.2 Sesgo de métricas de rendimiento
Una sola métrica como «precisión general» puede ocultar grandes disparidades entre subgrupos.
Ejemplo: Un sistema de clasificación de lesiones deportivas reporta 92% de precisión general. Suena excelente hasta que desglosamos: tiene 98% de precisión en esguinces de tobillo (muy comunes), pero solo 45% en lesiones de hombro en nadadores y 52% en fracturas por estrés en corredores. Las lesiones menos frecuentes están siendo sistemáticamente mal diagnosticadas, pero la métrica agregada oculta este grave problema.
8.3 Sesgo de testing
Pasa cuando ajustas tu IA una y otra vez para que funcione perfectamente con un grupo pequeño y específico de casos de prueba. El sistema se vuelve excelente con esos casos exactos, pero fracasa con pacientes reales porque nunca aprendió a generalizar.
Ejemplo: Un equipo desarrolla un sistema de evaluación de equilibrio y lo prueba exhaustivamente con su grupo interno de 50 pacientes post-ictus del hospital universitario donde trabajan. El sistema parece perfecto. Lo lanzan y descubren que falla miserablemente con pacientes de Parkinson, esclerosis múltiple o simplemente adultos mayores sanos. Habían «memorizado» las características específicas de su pequeño grupo de prueba.
9. Sesgo de implementación
Incluso cuando un sistema ha sido probado exhaustivamente, nuevos sesgos pueden emerger una vez que está en uso.
9.1 Sesgo ambiental
Surge si la IA se desarrolló bajo condiciones ideales y luego tiene dificultades en entornos menos óptimos.
Ejemplo práctico: Una aplicación de análisis de movimiento desarrollada y probada en un laboratorio luminoso con fondos blancos y cámaras de alta resolución. Cuando los pacientes intentan usarla en casa con iluminación variable, fondos no ideales y la cámara frontal de sus teléfonos de cuestionable calidad, el sistema no puede rastrear correctamente los puntos anatómicos y da lecturas completamente erróneas.
9.2 Sesgo de escalabilidad y asignación de recursos
Cuando la base de usuarios crece, podemos ver distribución desigual de recursos.
Ejemplo: Un servicio de telerehabilitación con IA funciona perfectamente durante el piloto con 200 usuarios. Se expande a 50,000 usuarios y la empresa decide optimizar costos. Los servidores más potentes se asignan automáticamente a regiones con más usuarios premium (ciudades ricas). Usuarios en áreas rurales o de bajos ingresos experimentan retrasos de 5-10 segundos en las respuestas del sistema, haciéndolo prácticamente inutilizable para ejercicios que requieren feedback en tiempo real.
10. Sesgo social y cultural
La IA refleja el mundo a su alrededor, incluyendo prejuicios sociales. Puede amplificar racismo, sexismo o estereotipos.
10.1 Sesgo racial
Aparece en herramientas de reconocimiento facial que identifican mal a usuarios de piel oscura o en modelos de texto que asocian ciertos nombres étnicos con estereotipos negativos.
Ejemplo: Un sistema de IA es entrenado con imágenes de personas con piel clara, los resultados podrían no ser aplicables a personas con pieles oscuras.
10.2 Sesgo de género
Surge cuando los sistemas de IA refuerzan estereotipos de género.
Ejemplo: Un sistema de evaluación de fuerza muscular entrenado predominantemente con datos masculinos establece rangos «normales» basados en esos patrones. Cuando evalúa a mujeres, sistemáticamente clasifica su fuerza como «por debajo de lo normal» incluso cuando está perfectamente dentro del rango saludable para su sexo y edad. Esto lleva a sobretratamiento innecesario y a que muchas pacientes sanas sean etiquetadas incorrectamente como «débiles».
10.3 Estereotipos ocupacionales
Van más allá del género, extendiéndose a estereotipos culturales o sociales sobre quién «debería» hacer qué trabajo.
Ejemplo: Un algoritmo de recomendación de retorno al trabajo tras lesión ha «aprendido» patrones históricos donde ciertas profesiones son dominadas por grupos específicos. Cuando un hombre presenta lesión de muñeca por movimientos repetitivos (históricamente «trabajo de mujeres» como costura o embalaje), el sistema subestima el impacto ocupacional y recomienda retorno prematuro. Cuando una mujer presenta lesión de espalda por carga (históricamente «trabajo de hombres»), el sistema duda de la causa ocupacional y sugiere orígenes «psicológicos».
Conclusiones
Como hemos visto, los sesgos en IA son multifacéticos y complejos. Desde los datos que usamos hasta cómo implementamos los sistemas de IA, cada etapa del desarrollo de la IA puede introducir o amplificar sesgos existentes.
En el campo de la fisioterapia y la rehabilitación, donde la tecnología tiene el potencial de mejorar significativamente el acceso y la calidad del cuidado, es fundamental que seamos conscientes de estos sesgos y trabajemos activamente para mitigarlos.
Puntos clave para recordar:
- Los sesgos puede perpetuar y amplificar las desigualdades sociales existentes.
- Pueden crear nuevas formas de discriminación.
- Pueden limitar el acceso a servicios esenciales como salud y finanzas.
- Pueden socavar la confianza pública en la tecnología.
- Pueden restringir la autonomía y capacidad de acción humana.
- Puede aparecer en cualquier etapa del ciclo de vida de la IA.
- Los datos diversos y representativos son fundamentales.
- La evaluación debe incluir métricas específicas por subgrupos.
- Los equipos diversos desarrollan sistemas más equitativos.
- El monitoreo continuo es esencial después de la implementación.
Referencias
Obermeyer Z, Powers B, Vogeli C, Mullainathan S. Dissecting racial bias in an algorithm used to manage the health of populations. Science. 2019 Oct 25;366(6464):447-453. doi: 10.1126/science.aax2342. PMID: 31649194.
Ferrara E. Fairness and Bias in Artificial Intelligence: A Brief Survey of Sources, Impacts, and Mitigation Strategies. Sci. 2024; 6(1):3. https://doi.org/10.3390/sci6010003
Kleinberg J, Lakkaraju H, Leskovec J, Ludwig J, Mullainathan S. HUMAN DECISIONS AND MACHINE PREDICTIONS. Q J Econ. 2018;133(1):237-293. doi:10.1093/qje/qjx032
Jon Kleinberg, Jens Ludwig, Sendhil Mullainathan, Cass R Sunstein, Discrimination in the Age of Algorithms, Journal of Legal Analysis, Volume 10, 2018, Pages 113–174, https://doi.org/10.1093/jla/laz001
Asan O, Bayrak AE, Choudhury A. Artificial Intelligence and Human Trust in Healthcare: Focus on Clinicians. J Med Internet Res. 2020;22(6):e15154. Published 2020 Jun 19. doi:10.2196/15154
Caliskan A, Bryson JJ, Narayanan A. Semantics derived automatically from language corpora contain human-like biases. Science. 2017;356(6334):183-186. doi:10.1126/science.aal4230
Gupta O, Marrone S, Gargiulo F, Jaiswal R, Marassi L. Understanding Social Biases in Large Language Models. AI. 2025; 6(5):106. https://doi.org/10.3390/ai6050106
Obermeyer Z, Powers B, Vogeli C, Mullainathan S. Dissecting racial bias in an algorithm used to manage the health of populations. Science. 2019;366(6464):447-453. doi:10.1126/science.aax2342
Ferrara, Emilio. (2023). The Butterfly Effect in Artificial Intelligence Systems: Implications for AI Bias and Fairness. SSRN Electronic Journal. 10.2139/ssrn.4614234.
Gichoya JW, Thomas K, Celi LA, et al. AI pitfalls and what not to do: mitigating bias in AI. Br J Radiol. 2023;96(1150):20230023. doi:10.1259/bjr.20230023
Adedinsewo D, Al-Khatib SM. Understanding AI bias in clinical practice. Heart Rhythm. 2024;21(10):e262-e264. doi:10.1016/j.hrthm.2024.08.004
