Para que los consumidores confíen en la IA, muéstreles sus beneficios

La inteligencia artificial (IA) está surgiendo en aplicaciones como los vehículos autónomos y los dispositivos de asistencia médica. Pero incluso cuando la tecnología está lista para usarse y se ha demostrado que cumple con las demandas de los clientes, todavía hay mucho escepticismo entre los consumidores. Por ejemplo, un encuesta de más de 1000 compradores de coches en Alemania demostraron que solo el 5% preferiría un vehículo totalmente autónomo. Podemos encontrar un número similar de escépticos de sistemas de diagnóstico médico basados en la IA, como Watson de IBM. La falta de confianza del público en las aplicaciones de la IA puede hacer que descuidemos colectivamente las posibles ventajas que podríamos obtener de ellas.

Para entender la confianza en la relación entre los humanos y la automatización, tenemos que explorar la confianza en dos dimensiones: la confianza en la tecnología y la confianza en la empresa innovadora.

Centro de información

• La era de la IA

  Patrocinado por Accenture

  Cómo afectará a los negocios, la industria y la sociedad.

En las interacciones humanas, la confianza es la voluntad de ser vulnerable a las acciones de otra persona. Pero la confianza es un fenómeno frágil y en evolución que se puede destruir incluso más rápido de lo que se puede crear. La confianza es esencial para reducir la percepción de riesgo, que es una combinación de incertidumbre y la gravedad del posible resultado implicado. El riesgo percibido en el contexto de la IA proviene de ceder el control a una máquina. La confianza en la automatización solo puede evolucionar a partir de previsibilidad, fiabilidad y fe.).

Tres factores serán cruciales para ganarse esta confianza: 1.) el rendimiento, es decir, la aplicación funciona como se espera; 2.) el proceso, es decir, entendemos la lógica subyacente de la tecnología, y 3.) el propósito, es decir, tenemos fe en las intenciones del diseño. Además, la confianza en la empresa que diseña la IA y en la forma en que la empresa se comunica con los clientes influirá en que los clientes adopten la tecnología. Demasiadas empresas de alta tecnología asumen erróneamente que la calidad de la tecnología por sí sola influirá en que las personas la usen.

Play

Play

00:00

Play

Seek 10 seconds backwards

Seek 10 seconds forward

00:00 / 00:00

Mute

Settings

Picture in picture

Fullscreen

.video-summary-list-container { height: 100%; } .video-summary-list-container .MuiScopedCssBaseline-root { height: 100%; }

Summary & chapters

Read as overview

.chapters-list-module_intro__74vPf { padding: 16px; border-bottom: 1px solid rgba(255, 255, 255, 0.2); } .chapters-list-module_chapter__uKhQh { padding: 0 16px 16px 8px; border-bottom: 1px solid rgba(255, 255, 255, 0.2); .MuiPaper-root .MuiButtonBase-root .MuiAccordionSummary-content { margin-top: 16px; margin-bottom: 0; } .MuiPaper-root .MuiCollapse-root .MuiCollapse-wrapper .MuiAccordionDetails-root { padding-bottom: 0; } } .chapters-list-module_chapter-header__Pu4Xi { width: 100%; margin-right: 8px; } .chapters-list-module_chapter-header-content__JIOjX { flex-grow: 1; padding: 8px; border-radius: 8px; cursor: pointer; } .chapters-list-module_chapter-header-content__JIOjX:hover { background-color: rgba(0, 0, 0, .2); } .chapters-list-module_chapter-header-expand-icon__tLLZ9 { margin-top: 16px; } .chapters-list-module_chapter-header-text__bPoKD { font-size: 11px; font-weight: 400; letter-spacing: 1px; text-transform: uppercase; } .chapters-list-module_chapter-bullet-icon__kCL9n { font-size: 11px; font-weight: 400; letter-spacing: 1px; text-transform: uppercase; } .chapters-list-module_chapter-intro__H-iVR { display: flex; align-items: center; gap: 8px; margin-bottom: 2px; } .chapters-list-module_chapter-description__ziIpd { margin: 0 -16px 0 -8px; } .chapters-list-module_intro-text__Sqgju { } .chapters-list-module_chapter-description__ziIpd, .chapters-list-module_intro-text__Sqgju { font-size: 16px !important; white-space: pre-wrap; }

Para entender cómo las empresas han mejorado sistemáticamente la confianza en la IA aplicada, mis compañeras Monika Hengstler y Selina Duelli y yo dirigimos nueve estudios de casos en las industrias del transporte y los dispositivos médicos. Comparando BMW es semiautónomo y totalmente autónomo coches, El proyecto Future Truck de Daimler, El sistema de asistencia a la conducción de ZF Friedrichshafen, así como Los trenes semiautónomos y totalmente autónomos de Deutsche Bahn y El tren subterráneo totalmente automatizado VAG de Núremberg, comprendimos mejor cómo esas empresas fomentan la confianza en sus aplicaciones de IA. También analizamos cuatro casos en la industria de la tecnología médica, entre ellos Watson de IBM como un sistema de diagnóstico basado en la IA, El sistema de análisis de datos de HP para la detección automática del fraude en el sector de la salud, La aplicación de adherencia médica AiCure que recuerda a los pacientes que deben tomar sus medicamentos, y el Care-o-Bot 3 de Frauenhofer IPA, una plataforma de investigación para las próximas soluciones robóticas de servicios comerciales. Nuestras entrevistas semiestructuradas, seguimientos y análisis de datos de archivo se guiaron por un debate teórico sobre cómo se facilita la confianza en la tecnología y en la empresa innovadora y su comunicación.

Basándonos en este análisis cruzado de casos, descubrimos que seguridad operativa y seguridad de datos son factores decisivos para que la gente confíe en la tecnología. Como la tecnología basada en la IA se basa en la delegación del control, no se confiará en ella si tiene defectos. Y dado que los eventos negativos son más visibles que los positivos, la seguridad operativa por sí sola no es suficiente para generar confianza. Además, se necesitan la compatibilidad cognitiva, la capacidad de prueba y la usabilidad:

Compatibilidad cognitiva describe lo que las personas sienten o piensan sobre una innovación en lo que respecta a sus valores. Los usuarios tienden a confiar en la automatización si los algoritmos son comprensibles y los guían hacia la consecución de sus objetivos. Esta comprensibilidad de los algoritmos y los motivos de las aplicaciones de la IA afecta directamente a la percepción de previsibilidad del sistema, que, a su vez, es una de las bases de la confianza.

Capacidad de prueba señala el hecho de que las personas que podían visualizar los beneficios concretos de una nueva tecnología mediante una prueba redujeron su percepción de riesgo y, por lo tanto, su resistencia a la tecnología.

Usabilidad está influenciado tanto por la intuición de la tecnología como por la facilidad de uso percibida. Una interfaz intuitiva puede reducir la resistencia inicial y hacer que la tecnología sea más accesible, especialmente para las personas menos conocedoras de la tecnología. Las pruebas de usabilidad con el grupo de usuarios objetivo son un primer paso importante para crear esta facilidad de uso.

Pero aún más importante es la equilibrio entre control y autonomía en la tecnología. Para una colaboración eficiente entre humanos y máquinas, se debe definir cuidadosamente el nivel de automatización adecuado. Esto es aún más importante en las aplicaciones inteligentes que están diseñadas para cambiar el comportamiento humano (como los dispositivos médicos que incentivan a los humanos a tomar sus medicamentos a tiempo). La interacción no debe hacer que las personas sientan que están siendo monitoreadas, sino que están siendo asistidas. Los incentivos adecuados son importantes para mantener a las personas interesadas en una aplicación y, en última instancia, motivarlas a utilizarla según lo previsto. Nuestros casos mostraron que las tecnologías con alta visibilidad (por ejemplo, los coches autónomos en la industria del transporte o AiCure y Care-o-Bot en la industria de la salud) requieren esfuerzos más intensos para fomentar la confianza en las tres dimensiones de la confianza.

Nuestros resultados también mostraron que alineación de las partes interesadas, transparencia en torno al proceso de desarrollo e introducción gradual de la tecnología son estrategias cruciales para fomentar la confianza. Introducir las innovaciones de forma gradual puede llevar a un aprendizaje social más gradual, lo que a su vez genera confianza. En consecuencia, las empresas establecidas de nuestra muestra tendían a introducir de forma más gradual sus aplicaciones de IA para permitir el aprendizaje social, mientras que las empresas más jóvenes, como AiCure, tendían a elegir un enfoque de introducción más revolucionario para posicionarse como líderes tecnológicos. Este último enfoque tiene un alto riesgo de rechazo y puede provocar un escándalo si los algoritmos subyacentes resultan ser defectuosos.

Si quiere que los consumidores confíen en una nueva aplicación basada en la IA, la comunicación debe ser proactiva y abierta en las primeras fases de la introducción al público de la tecnología, ya que influirá en la percepción de credibilidad y confiabilidad de la empresa, lo que influirá en la formación de actitudes. En los casos que estudiamos, los usuarios que podían comunicar de forma eficaz los beneficios de una aplicación de IA redujeron su percepción de riesgo, lo que se tradujo en una mayor confianza y en una mayor probabilidad de adoptar la nueva tecnología.