La IA decidió quién recibiría un trasplante y generó dudas

Un estudio realizado por investigadores de la Universidad de Penn State, en Estados Unidos, analizó qué ocurre cuando modelos de inteligencia artificial deben establecer prioridades entre pacientes que necesitan un trasplante. El trabajo, presentado en las conferencias FAccT 2026 en Montreal, puso el foco en las diferencias entre las decisiones de los sistemas de IA y los criterios utilizados por las personas frente a dilemas médicos complejos.

Los investigadores plantearon a distintos modelos de lenguaje un escenario hipotético: varios pacientes necesitaban un trasplante de riñón, pero solo había un órgano disponible. A partir de esa situación, les pidieron determinar quién debería recibirlo.

Para resolver el dilema, los sistemas recibieron información sobre los pacientes ficticios. Entre los datos incluidos figuraban la edad, el estado de salud, los hábitos relacionados con el consumo de alcohol y la cantidad de personas que dependían de cada paciente.

Los investigadores luego compararon las respuestas de los modelos con las decisiones de personas sin formación médica para observar cómo variaban los criterios utilizados.

El estudio encontró que los modelos de inteligencia artificial tendían a simplificar situaciones que involucraban múltiples factores. En lugar de ponderar diferentes elementos de manera conjunta, algunos sistemas otorgaban un peso considerable a una característica particular del paciente.

Hadi Hosseini, investigador a cargo del trabajo, explicó que los chatbots pueden diferir de los valores humanos cuando deben evaluar las características de una persona en este tipo de escenarios.

Uno de los ejemplos mencionados estuvo relacionado con el consumo de alcohol. Según los investigadores, algunos modelos podían concentrarse en ese único factor en lugar de considerar el conjunto de circunstancias que rodeaban a cada paciente.

Otro aspecto que llamó la atención fue la forma en que los sistemas respondieron cuando los investigadores les plantearon la posibilidad de resolver el dilema mediante una elección al azar.

Incluso ante la opción de «lanzar una moneda», la mayoría de los modelos analizados eligió una respuesta determinada en lugar de recurrir al azar. Para los investigadores, esto evidencia una diferencia importante respecto de los dilemas morales, donde no necesariamente existe una única respuesta correcta.

El trabajo no propone utilizar estos modelos para reemplazar el criterio de profesionales médicos. Por el contrario, sus resultados buscan aportar elementos para analizar los riesgos asociados con la incorporación de inteligencia artificial en ámbitos donde las decisiones pueden tener consecuencias profundas.

La donación de órganos representa uno de los escenarios más sensibles. La disponibilidad limitada de órganos obliga a establecer criterios para determinar prioridades entre personas que necesitan un trasplante, por lo que cualquier herramienta utilizada en ese proceso debería contemplar múltiples variables y criterios éticos.

Los investigadores señalaron la necesidad de continuar estudiando el comportamiento de estos sistemas y avanzar en regulaciones a medida que la inteligencia artificial se incorpora en diferentes áreas de la medicina.

El estudio de Penn State suma un nuevo capítulo a la discusión sobre hasta dónde puede llegar la automatización en decisiones de alto impacto.

Los modelos de IA pueden procesar grandes cantidades de información y ofrecer respuestas rápidamente, pero el trabajo plantea interrogantes sobre su capacidad para abordar situaciones donde intervienen valores humanos, criterios éticos y circunstancias particulares.

En el caso de los trasplantes, el desafío no consiste únicamente en analizar datos médicos. También implica establecer cómo deben ponderarse las diferentes condiciones de cada paciente cuando el recurso disponible no alcanza para todos.