Un estudio de la Universidad de Flinders reveló que los modelos de Inteligencia Artificial de razonamiento de última generación no eliminan los sesgos en la representación de pacientes.
La investigación, publicada en el Journal of Medical Internet Research, analizó el comportamiento de dos grandes modelos de lenguaje, o3-mini y DeepSeek-R1, y constató que todavía reproducen prejuicios al generar contenido clínico.
Los investigadores pidieron a los sistemas que describieran pacientes ficticios con afecciones médicas comunes. En sus respuestas, los modelos asociaron de forma recurrente determinadas enfermedades con ciertos grupos raciales y de género, lo que refleja la persistencia de estereotipos. Esta conducta se produjo a pesar de que ambos modelos incorporan mecanismos avanzados de razonamiento que superan a versiones anteriores en pruebas técnicas.
Los hallazgos demuestran que las mejoras en la capacidad de inferencia no garantizan una representación más equitativa. El líder del estudio, Joshua Docking, advirtió que los grandes modelos lingüísticos corren el riesgo de exacerbar las desigualdades en salud si perpetúan prejuicios, aun cuando poseen un enorme potencial para transformar la atención médica.
Investigaciones previas ya habían identificado sesgos similares en GPT-4, que mostró una sobrerrepresentación de pacientes negros en afecciones estereotipadas. Con la aparición de los nuevos modelos de razonamiento, la comunidad científica desconocía si esos avances reducían el sesgo de representación. El nuevo trabajo se propuso justamente evaluar esa incógnita mediante viñetas clínicas generadas por los sistemas más recientes.
La evaluación confirmó que los modelos de lógica difusa de razonamiento continúan presentando sesgos raciales y de género en el contenido médico que producen. Los resultados subrayan la necesidad de someter a las herramientas de IA a controles específicos de equidad antes de su implementación en entornos sanitarios, para evitar que los estereotipos arraigados se trasladen a la práctica clínica.
Con información de VTV
