¿Puede la IA decidir de manera justa quién recibe un trasplante de órganos?

Elena Peremet/Getty Images

Las organizaciones de atención médica, como muchas otras empresas, se enfrentan a grandes desafíos en su intento de maximizar la eficiencia operativa ante las limitaciones de recursos. Ya se trate del intento de un hospital de optimizar la dotación de personal o de un gobierno que intenta asignar y distribuir de manera justa dosis limitadas de vacunas contra la COVID-19, estas tareas pueden resultar enormes. Una forma prometedora de gestionar la complejidad es utilizar la analítica basada en datos y la inteligencia artificial (IA).

Sin embargo, estas técnicas, si bien son poderosas, también pueden enmascarar suposiciones éticas subyacentes problemáticas o llevar a resultados moralmente cuestionables. Considere un publicado recientemente estudio sobre los modelos utilizados en algunos de los hospitales más avanzados tecnológicamente del mundo para ayudar a priorizar qué pacientes con una enfermedad renal crónica deben recibir trasplantes de riñón. Descubrió que los modelos discriminaban a los pacientes negros:“ Un tercio de los pacientes negros… habrían pasado a la categoría de enfermedad renal más grave si su función renal se hubiera estimado con la misma fórmula que en los pacientes blancos». Si bien es solo el último de muchos estudios para mostrar las deficiencias de estos modelos, es poco probable que sea el último.

¿Se pueden utilizar la IA y la analítica de manera que se mejore la eficiencia operativa sin poner en peligro nuestros principios éticos? La respuesta es «sí», si los objetivos y restricciones morales, que ahora se tratan a menudo como una idea tardía, se tienen en cuenta desde el principio al diseñar los modelos. Hablaremos de un intento reciente de combinar la ética, el análisis y la eficiencia operativa en el mundo de la asignación de órganos y analizaremos las lecciones que ofrece para otras áreas de la atención médica y más allá.

Centro de información

• Atención médica, transformación digital y eficiencia operativa

  Patrocinado por GE Health

  Mejorar la forma en que prestamos la atención.

Un desafío clave para unir la ética y la eficiencia es lograr que los modelos subyacentes logren un equilibrio entre varios objetivos. Algunos de estos objetivos se refieren únicamente a la eficiencia (por ejemplo, años de esperanza de vida, vidas salvadas, mejoras en la calidad de vida, costes totales) y, a menudo, se pueden formular matemáticamente. Otras se refieren a las dimensiones éticas de las decisiones de asignación y pueden ser difíciles de describir o definir en varios formas mutuamente inconsistentes. En el caso de la asignación de órganos para el trasplante, además de los diferentes parámetros de eficiencia que importan a los responsables políticos, hay una multitud de consideraciones de equidad, posiblemente contradictorias, que deben tenerse en cuenta para que los pacientes no sean discriminados en función de una larga lista de factores, como la raza, el sexo, la edad y la ubicación geográfica.

La práctica actual gestiona la asignación mediante el empleo de una fórmula de puntuación que otorga puntos a los candidatos en función de numerosos criterios diferentes (permitidos), como el tiempo de espera, la urgencia médica, la proximidad al donante, etc. Sin embargo, decidir cuántos puntos conceder por criterio es una tarea abrumadora: ajustar el número de puntos de un criterio podría mejorar los resultados en algunos aspectos, pero empeorarlos, en muchos otros, a menudo de forma impredecible. Para crear un modelo que lleve a cabo la política deseada, las organizaciones suelen elaborar una serie de fórmulas de puntuación y las ponen a prueba mediante simulaciones. Los más prometedores se despliegan entonces en el mundo real y, si se descubre que perjudican a un grupo de pacientes, se refinan. En otras palabras, el análisis de equidad se realiza a posteriori y los efectos discriminatorios se identifican sobre la marcha.

Sin embargo, tener en cuenta las obligaciones éticas tan tarde en el juego hace que sea más difícil lograr resultados moralmente aceptables por tres razones:

• La ejecución de decisiones, como la asignación de órganos, implica procesos, personas y otros recursos que pueden ser difíciles de modificar una vez desplegados.
• Dado que las personas pueden tolerar poco la discriminación u otros resultados injustos, la evaluación ética posterior puede llevar al rechazo rotundo de los modelos y soluciones de atención médica.
• No tener en cuenta la ética desde el principio limita las aspiraciones o, dicho de otra manera, revisar las implementaciones a posteriori puede sesgar la percepción sobre lo que se puede lograr en la práctica.

Un proceso ideal comienza con la comprensión todos de las dimensiones de la meta y, luego, tratar de encontrar la mejor manera de lograrlas todas en la mayor medida posible. Por lo tanto, es imperativo desarrollar modelos y procesos de análisis de datos que, desde el principio, traten de equilibrar todos los objetivos, incluidas las consideraciones éticas.

En cuanto a la asignación de órganos para trasplantes, esto significaría que, incluso antes de empezar a crear los algoritmos o modelos de análisis de la IA, los especialistas en ética harían borrón y cuenta nueva para articular qué resultados de asignación se consideran justos. Por ejemplo, ¿qué porcentaje de órganos se ofrecerá a pacientes negros o mujeres? Una vez que se aborden estas preguntas y haya una estrella polar en el horizonte, aproveche los datos, la inteligencia artificial y los análisis para diseñar una política que alcance o, al menos, se acerque lo más posible a estos objetivos.

Por ejemplo, uno de nosotros ha trabajado en un en línea herramienta que utiliza este enfoque para facilitar el diseño de políticas de asignación de los pulmones. La interfaz de la herramienta utiliza «controles deslizantes» que permiten a las partes responsables del diseño de la política especificar cómo deben cambiarse las importantes métricas de eficiencia y ética en relación con el status quo. Luego, mediante la simulación, el aprendizaje automático y la optimización matemática, la herramienta crea una política de asignación conforme, es decir, cuántos puntos se conceden por cada día de estar en lista de espera, por cada año de vida extra ahorrado, por cada milla que el candidato esté más cerca, etc.

Este tipo de enfoque de «ética desde el diseño» que hemos descrito intenta lograr una especie de «equilibrio reflexivo» (para utilizar un término asociado al filósofo) John Rawls), en el que los especialistas en ética y quienes dirigen las instituciones comienzan por identificar una serie de consideraciones candidatas que parecen importar (en el caso de los órganos, pueden ser el pronóstico, la esperanza de vida, etc.). Luego, los análisis se utilizan para modelar diferentes formas de negociar estas consideraciones y cuáles serían los resultados. El resultado de ese análisis lo presentan y consideran todas las partes interesadas pertinentes, lo que lleva a revisar la lista de consideraciones o su ponderación, lo que lleva a una nueva ronda de análisis, y así sucesivamente. Cuando las partes interesadas digan: «Creo que está dando demasiada importancia a la edad», las barras deslizantes se pueden ajustar para mostrarles exactamente lo que ocurriría si se cambiara la compensación, lo que podría generar más debate y (con suerte) más comprensión.

El ejemplo de la asignación de órganos también contiene lecciones para el lanzamiento de las vacunas contra la COVID-19 aprobadas en los próximos meses. Las autoridades se enfrentarán a un importante desafío de asignación y distribución: dado que la capacidad de producción y distribución tardará meses en satisfacer la enorme demanda, los países de todo el mundo tendrán que decidir primero quién puede vacunarse. Los tipos de herramientas y principios que hemos discutido pueden ayudar.