Cómo cambia la atención médica cuando los algoritmos comienzan a hacer diagnósticos

Jennifer Maravillas para HBR

Imagínese que la próxima vez que vaya al médico, le diga que tiene una enfermedad mortal. ¿El truco? Un ordenador ha realizado su diagnóstico, que es demasiado complejo para que los humanos lo entiendan del todo. Sin embargo, lo que su médico puede explicar es que el ordenador casi siempre tiene la razón.

Si esto suena a ciencia ficción, no lo es. Es lo que la atención médica podría parecer para los médicos, los pacientes y los reguladores de todo el mundo, ya que los nuevos métodos de aprendizaje automático ofrecen más información a partir de cantidades de datos cada vez mayores.

Los algoritmos complejos pronto ayudarán a los médicos a tomar decisiones increíblemente precisas sobre nuestra salud a partir de grandes cantidades de información, basándose en correlaciones en gran medida inexplicables en esos datos.

Este futuro es alarmante, sin duda, debido a la energía que los médicos y los pacientes empezarán a entregar a las máquinas. Pero también es un futuro para el que debemos prepararnos (y abrazar), por el impacto que tendrán estos nuevos métodos y las vidas que podemos salvar.

Tomemos, por ejemplo, un estudio publicado hoy por un grupo de investigadores de la Universidad de Chicago, la Universidad de Stanford, la Universidad de California, San Francisco y Google. El estudio, del que uno de nosotros es coautor, incorporó datos anónimos de cientos de miles de pacientes a una serie de algoritmos de aprendizaje automático impulsados por los enormes recursos informáticos de Google.

Con una precisión extraordinaria, estos algoritmos podían predecir y diagnosticar enfermedades, desde las cardiovasculares hasta el cáncer, y predecir cosas relacionadas, como la probabilidad de muerte, la duración de la estancia en el hospital y la probabilidad de reingreso en el hospital. 24 horas después de la hospitalización de un paciente, por ejemplo, los algoritmos podían predecir con más del 90% de precisión las probabilidades del paciente de morir. Sin embargo, estas predicciones se basaron en patrones de los datos que los investigadores no pudieron explicar del todo.

Y este estudio no es un caso atípico. El año pasado, el mismo equipo de Google utilizó los datos de las gammagrafías oculares de más de 125 000 pacientes para crear un algoritmo eso podría detectar la retinopatía, la principal causa de ceguera en algunas partes del mundo, con una precisión superior al 90%, a la par de los oftalmólogos certificados por la junta. De nuevo, estos resultados tenían las mismas limitaciones; los humanos no siempre podían comprender del todo por qué las modelos tomaban las decisiones que tomaban. Hay muchos más ejemplos de este tipo en camino.

Sin embargo, algunos ya se resisten a estos métodos y piden que se prohíba por completo el uso de «algoritmos inexplicables» en áreas de alto impacto, como la salud. A principios de este año, el ministro de Estado de Francia para el Sector Digital dicho rotundamente que no se debe utilizar ningún algoritmo que no pueda explicarse.

Pero oponerse a estos anticipos al por mayor no es la respuesta. Los beneficios de un enfoque algorítmico de la medicina son simplemente demasiado grandes como para ignorarlos. Detección temprana de dolencias como cáncer de piel o enfermedad cardiovascular podría reducir la morbilidad gracias a estos métodos. Las economías más pobres con acceso limitado a médicos formados también podrían beneficiarse, ya que una serie de enfermedades podrían detectarse y tratarse antes. Las recomendaciones de tratamiento individualizadas también podrían mejorar, lo que salvaría vidas para algunos y aumentaría la calidad de vida para muchos otros.

Esto no quiere decir que los modelos de aprendizaje automático vayan a reemplazar a los médicos. En cambio, lo que es probable es un cambio constante hacia la cesión de la responsabilidad de más tareas repetitivas y programables a las máquinas, lo que permita a los médicos centrarse en las cuestiones más directamente relacionadas con la atención de los pacientes. En algunos casos, los médicos pueden tener la obligación legal de utilizar modelos que sean más precisos que la experiencia humana, como estudiosos del derecho como A. Michael Froomkin haber anotado. Esto no sacará a los médicos del circuito del todo, pero creará nuevas oportunidades y nuevos peligros a medida que la tecnología evolucione y se haga más poderosa.

¿Cómo debemos prepararnos para un futuro en el que la carga del diagnóstico recaiga cada vez más en los algoritmos?

En primer lugar, los proveedores médicos, los centros de investigación y los gobiernos deben dedicar más recursos al campo de la «IA explicable», cuyo objetivo es ayudar a los humanos a entender mejor cómo interactuar con decisiones algorítmicas complejas y aparentemente indescifrables. La Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA), por ejemplo, ha dedicado un todo el proyecto al tema, y una creciente comunidad de investigadores tiene surgió en los últimos años centrado. Esta investigación será crucial para que podamos utilizar estos algoritmos y confiar en ellos cuando lo hagamos.

Los reguladores de la salud también deben explorar nuevas formas de regular el uso de estos métodos. El programa piloto «Pre-CERT» de la Administración de Alimentos y Medicamentos de los Estados Unidos, dirigido a encontrar nuevas formas evaluar tecnologías como el aprendizaje automático, es uno de esos ejemplos. Los reguladores también deberían basarse en los métodos existentes en el sector financiero, conocidos como modelos de marcos de gestión de riesgos, que se desarrollaron en respuesta a desafíos similares. A medida que los bancos adoptaron métodos complejos de aprendizaje automático durante la última década, los reguladores de los Estados Unidos y la Unión Europea implementaron estos marcos para mantener la supervisión.

Los gobiernos deben asegurarse de que las enormes cantidades de datos que requieren estos nuevos métodos no caigan en manos de unas pocas empresas, como ha ocurrido en el mundo intensivo de datos de la publicidad en línea y la calificación crediticia. Los reguladores del Departamento de Salud y Servicios Humanos de los Estados Unidos que hacen cumplir las normas federales de privacidad de los datos médicos, junto con los legisladores federales y estatales, deberían fomentar el intercambio de los datos médicos, con la supervisión adecuada.

Por último, los pacientes deberían poder saber cuándo y por qué sus médicos se basan en los algoritmos para hacer predicciones. Cuando proceda, los pacientes deben conservar la posibilidad de solicitar explicaciones médicas más tradicionales (y comprensibles). Si un algoritmo da al paciente un 90% de probabilidades de morir en la próxima semana, por ejemplo, el paciente debería poder obtener más información sobre la forma en que se creó el algoritmo, se evaluó su precisión y se validó. Y deberían poder ver el diagnóstico junto con una determinación más tradicional, incluso si es menos probable que esta última sea precisa.

Los desafíos para utilizar el aprendizaje automático en el cuidado de la salud abundan. Pero estos desafíos palidecen en comparación con los beneficios que aportarán estos avances. Vidas pueden depender de ello.