He aquí por qué la gente confía en el juicio humano antes que en los algoritmos

Se podría pensar que después de años de usar Google Maps confiamos en que sabe lo que hace. Aun así, pensamos: «Tal vez ir por caminos secundarios sería más rápido».

Es un ejemplo de lo que los investigadores llaman «aversión a los algoritmos»: incluso cuando un algoritmo supera constantemente el juicio humano, la gente prefiere seguir sus instintos. Esto puede tener costes muy reales, desde quedarse atrapado en el tráfico hasta no cumplir un objetivo de ventas o diagnosticar mal a un paciente.

Los algoritmos hacen mejores evaluaciones en una amplia gama de contextos, y puede parecer lógico que si la gente lo entendiera confiaría más. De hecho, ver cómo funcionan los algoritmos empeora las cosas, porque significa que ver el algoritmo de vez en cuando comete un error.

En un artículo publicado el año pasado, Berkeley Dietvorst, Joseph Simmons y Cade Massey de Wharton descubrieron que la gente confía aún menos en los algoritmos si los ve fallar, aunque sea un poco. Y son más duros con los algoritmos en este sentido que con otras personas. Errar es humano, pero cuando un algoritmo comete un error no es probable que volvamos a confiar en él.

En uno de los experimentos, se pidió a los participantes que consultaran los datos de admisión al MBA y adivinaran qué tan bien les había ido a los estudiantes durante el programa. Luego les dijeron que ganarían una pequeña cantidad de dinero por hacer conjeturas precisas y les dieron la opción de presentar sus propias estimaciones o de presentar las predicciones generadas por un algoritmo. A algunos participantes se les mostraron datos sobre qué tan bien habían resultado sus conjeturas anteriores, a otros se les mostró la precisión del algoritmo, a otros no se les mostró ninguna de las dos y a otros se les mostró ambas cosas.

Los participantes que habían visto los resultados del algoritmo tenían menos probabilidades de apostar por él, incluso si se les mostrara su rendimiento y pudieran ver que el algoritmo era superior. Y los que habían visto los resultados tenían muchas menos probabilidades de creer que el algoritmo funcionaría bien en el futuro. Este hallazgo se confirmó en varios experimentos similares en otros contextos, e incluso cuando los investigadores hicieron que el algoritmo fuera más preciso para acentuar su superioridad.

Tampoco todo es egoísmo. Cuando había que elegir entre apostar por el algoritmo y apostar por otra persona, los participantes tenían aún más probabilidades de evitar el algoritmo si habían visto su rendimiento y, por lo tanto, inevitablemente, lo habían visto un error.

Cuando se les pidió que se explicaran, la respuesta más común de los participantes fue que «los pronosticadores humanos eran mejores que el modelo a la hora de mejorar con la práctica [y] aprender de los errores». No importa que los algoritmos también puedan mejorar o que el aprendizaje con el tiempo no formara parte del estudio. Parece que nuestra fe en el juicio humano está ligada a nuestra creencia en nuestra propia capacidad de mejorar.

Si mostrar los resultados no ayuda a evitar la aversión a los algoritmos, permitir la entrada humana sí. En un artículo de próxima publicación, los mismos investigadores descubrieron que las personas están mucho más dispuestas a confiar en los algoritmos y a utilizarlos si se les permite modificar un poco el resultado. Si, por ejemplo, el algoritmo predijera que un estudiante tendría un rendimiento entre el 10% mejor de su clase de MBA, los participantes tendrían la oportunidad de revisar esa predicción al alza o a la baja unos puntos. Esto hizo que fueran más propensos a apostar por el algoritmo y menos probabilidades de perder la confianza tras ver su rendimiento.

Por supuesto, en muchos casos añadir la participación humana empeoró la previsión final. Estamos orgullosos de nuestra capacidad de aprendizaje, pero lo único que parece que no podemos entender es que normalmente es mejor confiar en que el algoritmo sabe más.