Por qué no confiamos en los coches autónomos, ni siquiera cuando deberíamos

El 7 de mayo de 2016, Joshua Brown, un empresario y entusiasta de la tecnología de 40 años de Canton (Ohio), estaba sentado al volante de su sedán Tesla Model S cuando un tractor-remolque se cruzó en su camino. El Tesla, que utilizaba su modo de piloto automático autónomo, no pudo registrar el tractor-remolque blanco contra el brillante y soleado cielo de Florida. El Sr. Brown tampoco puso los frenos a tiempo. Su Tesla chocó contra el camión a 74 millas por hora y lo mató casi al instante.

Más de 30 000 personas mueren cada año en accidentes automovilísticos en los Estados Unidos. En el 90% de los accidentes, el culpable es un error humano. Por eso, la mayoría de los expertos están de acuerdo en que la tecnología de los coches autónomos reducirá el número de choques y muertes. Coches autónomos, Adrienne LaFrance escribe El Atlántico, podría salvar hasta 1,5 millones de vidas solo en los Estados Unidos y cerca de 50 millones de vidas en todo el mundo en los próximos 50 años. Sin embargo, en una encuesta de marzo de 2016 de la Asociación Estadounidense del Automóvil, el 75% de los encuestados dijeron que no están preparados para adoptar los coches autónomos.

Conducir un coche es una de las cosas más personales (y peligrosas) que hacemos. Es comprensible que la gente se muestre escéptica a la hora de entregar las llaves de un algoritmo anónimo y quedarse de brazos cruzados. Si piensa en la palabra «algoritmo», puede imaginarse un ordenador calculando números según una fórmula o siguiendo una secuencia de pasos preprogramada. Pero los algoritmos han recorrido un largo camino en la última década: pueden captar datos, aprender y generar versiones más sofisticadas de sí mismos. Incluso pueden conducir un coche.

Confiamos en los algoritmos para muchas de nuestras decisiones y acciones, desde actividades de bajo riesgo, como decidir qué ver en Netflix o comprar en Amazon, hasta decisiones de alto riesgo, como la forma en que debemos invertir nuestros ahorros. Incluso estamos de acuerdo con que las funciones de piloto automático controlen nuestros aviones. Este escepticismo actual hacia los coches autónomos plantea, por lo tanto, una pregunta: ¿Por qué confiamos en los algoritmos en algunos casos y no en otros?

Nuestra confianza selectiva en los algoritmos

Los humanos no siempre son reacios a los algoritmos. Una investigación realizada por uno de nosotros (Kartik) sobre algoritmos automatizados de recomendación de productos, como «La gente que compró X también compró Y» de Amazon, descubrió que a la gente le gustan las recomendaciones algorítmicas y, a menudo, sigue sus consejos. Por ejemplo, en un estudio reciente realizado con el profesor Dokyun Lee de la Universidad Carnegie Mellon, asignamos al azar a los consumidores de uno de los cinco principales minoristas en línea de Canadá a un grupo tratado que recibía recomendaciones algorítmicas o a un grupo de control que no recibía ninguna recomendación. Descubrimos que las recomendaciones algorítmicas impulsaron un aumento del 25% en el número de productos vistos por los consumidores y un aumento del 35% en los productos comprados. En investigación adicional, descubrimos que la influencia de los algoritmos de recomendación en las elecciones es mayor en los productos hedónicos —caracterizados por un consumo orientado al placer (por ejemplo, películas, perfumes, obras de arte) — que en los productos utilitarios en los que el consumo está motivado por una necesidad funcional (por ejemplo, sujetapapeles, lavavajillas y aspiradoras).

Centro de información

• La era de la automatización

  Patrocinado por KPMG

  Cómo la robótica y el aprendizaje automático están cambiando los negocios.

En otro estudio, descubrimos que incluso las recomendaciones de productos generadas de forma aleatoria podían impulsar un aumento modesto de las compras cuando las recomendaciones se etiquetaban como personalizadas, quizás un efecto placebo. Una encuesta posterior al experimento reveló que la confianza de los consumidores en el recomendador aleatorio de productos no era inferior a la de un motor de recomendaciones sofisticado y personalizado. Más allá de las recomendaciones de productos, el rápido crecimiento de los «roboasesores» como Wealthfront y Betterment demuestra que la gente está dispuesta a confiar en los algoritmos para tomar decisiones de inversión importantes que antes tomaban expertos humanos.

Sin embargo, hay formas importantes en las que las recomendaciones de productos, la gestión de inversiones y los coches autónomos son diferentes. Estas diferencias están relacionadas con el nivel de subjetividad en el juicio, los tipos de usuarios a los que se dirigen estos sistemas y el nivel de control de los usuarios en la toma de decisiones. Jennifer Logg, investigadora de la Universidad de California en Berkeley, diseñó cuatro estudios para averiguar por qué a veces desconfiamos de los algoritmos a pesar de nuestra creciente dependencia de ellos. En el primer estudio, los participantes hicieron dos estimaciones sobre el peso de una persona en una fotografía. La primera estimación se basó en el propio juicio de los participantes. Para la segunda estimación, los participantes recibieron consejos: algunos recibieron una estimación de otras personas y otros vieron una estimación generada por un algoritmo. Logg pudo medir hasta qué punto los participantes confiaban en un algoritmo más que en otras personas basándose en la forma en que las estimaciones de los participantes cambiaban entre la primera y la segunda suposición.

Para las estimaciones y predicciones que tienen una respuesta correcta y verificable (no solo el peso de una persona, sino también preguntas como qué película encabezaría la taquilla o la probabilidad de un determinado acontecimiento político mundial), Logg descubrió que es más probable que la gente confíe en las estimaciones de los algoritmos que en las de otras personas. En otro estudio de la misma serie, en el que los participantes identificaron qué preguntas confiarían a un algoritmo y a los asesores humanos, Logg demostró que las personas confían en los asesores humanos más que en los algoritmos para tomar decisiones más subjetivas. No es sorprendente que la gente confíe en los algoritmos para tomar decisiones más objetivas y confíe menos en ellos para las subjetivas. Sin embargo, Logg descubrió que la confianza en los algoritmos depende no solo del asunto en cuestión, sino también de las características individuales: las personas con un mayor conocimiento numérico confiaban más en la estimación del algoritmo que las personas con un conocimiento numérico más bajo.

Si bien es difícil generalizar las conclusiones de Logg sobre las tareas de predicción a los coches sin conductor, sí apuntan a una teoría interesante: ¿podría ser que la gente dude sobre los coches autónomos porque ven la conducción como una experiencia más subjetiva y personal? Y en lugar de anunciar las capacidades de conducción autónoma en el mercado en general, ¿es más prudente dirigirse a las personas que se sienten más cómodas con las matemáticas y las ciencias y, por extensión, con la tecnología?

Por supuesto, la mayoría de los avances tecnológicos los adopta primero la élite científica y tecnológica. Estos primeros en adoptarla resuelven los problemas y hacen que la tecnología sea comprensible para el público en general. Pero la magnitud del avance tecnológico que representan los coches autónomos (una sustitución total del control humano por el control algorítmico de las máquinas) podría ser especialmente vulnerable a reveses como el que enfrenta Tesla en este momento.

Considere la hallazgos descritos por nuestros colegas en la Escuela Wharton de la Universidad de Pensilvania: Berkeley Dietvorst, Joseph Simmons y Cade Massey. Sus investigaciones mostraron que las personas pierden la confianza en los algoritmos mucho más que en los pronosticadores humanos cuando observan que los dos cometen el mismo error. Además, era menos probable que la gente eligiera un algoritmo que un pronosticador humano, incluso si el algoritmo superaba al humano en general. En resumen, no perdonamos mucho los errores que cometen los algoritmos, aunque cometamos los mismos errores más a menudo. La implicación es escalofriante para los fabricantes y defensores de los vehículos autónomos: la gente podría perder rápidamente la confianza en la tecnología si se producen suficientes incidentes, como el que involucra al Tesla, incluso cuando se demuestre que la tecnología es más segura en conjunto. Las muertes prematuras podrían poner al público en general en contra de los coches autónomos muy rápidamente. Los fabricantes tienen que pensar más en cuándo y cómo introducir las funciones de conducción autónoma.

Dietvorst, Simmons y Massey encontraron buenas noticias para los algoritmos que cometen errores: En otro estudio Los autores informan que los participantes aceptaban más los errores algorítmicos y tenían más probabilidades de optar por utilizar un algoritmo que un humano cuando podían modificar sus previsiones. En el estudio, se pidió a los participantes que pronosticaran los puntajes de los exámenes estandarizados de los estudiantes basándose en nueve puntos de datos. Entonces podrían elegir cuánto confiar en un algoritmo imperfecto. Los participantes que podían modificar el algoritmo tenían muchas más probabilidades de confiar en el algoritmo que los participantes que no podían modificarlo. Lo que es aún más alentador es que los autores descubrieron que a las personas no les importaba el número de modificaciones que pudieran hacer: solo querían tener cierto control sobre el algoritmo. La implicación para los coches autónomos es esperanzadora: si se da a las personas la oportunidad de controlar algunos aspectos de la experiencia de conducción y la toma de decisiones, como la velocidad o la ruta, entonces la gente podría estar más inclinada a dejar que los coches conduzcan ellos mismos. Pero eliminar por completo la toma de decisiones personales del proceso, como Google y muchos fabricantes de automóviles han decidido hacer, podría generar escepticismo entre los clientes.

A medida que la Inteligencia Artificial (IA) avance y el aprendizaje profundo —una rama del aprendizaje automático que tiene como objetivo recrear los procesos reales de las neuronas del cerebro— madure, los algoritmos ocuparán una mayor parte de nuestras vidas. Dicho esto, el escepticismo sobre el vehículo autónomo de Tesla solo demuestra que una buena tecnología por sí sola no garantiza el éxito. La IA y los algoritmos inteligentes tienen que introducirse de manera que se ganen la confianza de sus usuarios humanos.