Cómo afecta la IA a nuestro sentido del yo

Si alguna vez hizo un curso de marketing, tal vez recuerde el famoso caso de la década de 1950 sobre el lanzamiento por parte de General Mills de las mezclas para tartas Betty Crocker, que consistía simplemente en añadir agua, mezclar y hornear. A pesar del excelente rendimiento del producto, las ventas fueron decepcionantes al principio. Eso fue desconcertante hasta que los gerentes descubrieron el problema: la mezcla hacía que hornear fuera demasiado fácil y los compradores sentían que de alguna manera estaban haciendo trampa cuando lo usaban. Basándose en esa información, la empresa retiró el huevo en polvo de los ingredientes y pidió a los clientes que partieran un huevo y lo añadieran a la mezcla. Ese pequeño cambio hizo que los panaderos se sintieran mejor consigo mismos y, por lo tanto, impulsó las ventas. Hoy, 70 años después, la mayoría de las mezclas para tartas siguen necesitando que los usuarios añadan un huevo.

Hoy podemos aprender una lección de esa historia. A medida que las empresas adoptan cada vez más productos y servicios automatizados, tienen que entender cómo esas cosas hacen que sus clientes se sientan consigo mismos. Sin embargo, hasta la fecha, los gerentes y los académicos se han centrado normalmente en algo muy diferente: entender lo que los clientes pensar sobre esas cosas. Los investigadores han estado estudiando, por ejemplo, si las personas prefieren la inteligencia artificial antes que los humanos (no), cómo se percibe la IA de forma moral o justa (no mucho) y las tareas por las que es probable que las personas se resistan a la adopción de la automatización (aquellas que son menos cuantificables y más abiertas a la interpretación).

Es importante tener en cuenta todo eso. Pero ahora que las personas comienzan a interactuar de forma frecuente y significativa con la IA y las tecnologías automatizadas, tanto dentro como fuera del trabajo, es hora de centrarse en las emociones que provocan esas tecnologías. Ese tema es tierra incógnita psicológica, y explorarlo será fundamental para las empresas, ya que afecta a una amplia gama de factores de éxito, como las ventas, la lealtad de los clientes, las referencias boca a boca, la satisfacción de los empleados y el rendimiento laboral.

Llevamos más de siete años estudiando las reacciones de las personas ante la tecnología autónoma y las barreras psicológicas para adoptarla. En este artículo, basándonos en investigaciones recientes de nuestro laboratorio y revisando ejemplos de la vida real, analizamos los efectos psicológicos que hemos observado en tres áreas que tienen importantes ramificaciones para la toma de decisiones gerenciales: (1) el diseño de servicios y procesos empresariales, (2) el diseño de productos y (3) la comunicación. Tras analizar la investigación y los ejemplos, ofrecemos una guía práctica sobre la mejor manera de utilizar las tecnologías automatizadas y basadas en la IA para atender a los clientes, apoyar a los empleados y promover los intereses de las organizaciones.

Diseño de servicios y procesos empresariales

Hoy en día, la IA y las tecnologías automatizadas están integradas en una amplia gama de servicios y procesos empresariales que afectan directa o indirectamente a los consumidores y empleados. Upstart, por ejemplo, utiliza la IA para decidir a qué solicitantes prestar, y Monster y Unilever la utilizan para evaluar el potencial de los candidatos a un puesto. El programa DriveEasy de GEICO lo utiliza para evaluar las habilidades de conducción de los clientes y determinar las primas del seguro del automóvil, mientras que IBM y Lattice ayudan a las empresas a adoptar procesos de valoración del desempeño basados en la IA, que tienen un impacto en las decisiones de ascenso y despido.

Dada esta tendencia, tenemos que preguntarnos: ¿Cómo reaccionan las personas ante las decisiones y los comentarios de la IA y las tecnologías automatizadas? ¿Y cuál es la mejor manera de incorporarlos las empresas en sus servicios y procesos empresariales para maximizar la satisfacción de los clientes y los empleados?

Empecemos por la primera pregunta. Junto con Sarah Lim de la Universidad de Illinois en Urbana-Champaign y Stijn M.J. van Osselaer de la Universidad de Cornell, recientemente examinado situaciones en las que las solicitudes que las personas presentaban a las empresas (tal vez para obtener un préstamo o algunas prestaciones) eran aceptadas o rechazadas. En 10 estudios, en los que participaron un total de más de 5000 participantes, descubrimos que, en caso de aceptación, reaccionaban de manera diferente a las decisiones que tomaba la IA que a las que tomaban los humanos.

Sus reacciones fueron reveladoras desde el punto de vista psicológico: los participantes del estudio cuyas solicitudes fueron concedidas por una persona sintieron más alegría que aquellos cuyas solicitudes fueron concedidas por la IA, a pesar de que el resultado fue idéntico. ¿Por qué? Porque estos últimos se sentían reducidos a un número y pensaban que no podían llevarse tanto crédito por su éxito. Sin embargo, cuando sus solicitudes fueron rechazadas, los participantes sintieron lo mismo tanto si el rechazo fue por parte de una persona como de una IA. En ambos casos, y en la misma medida, tendían a culpar a la persona que tomaba las decisiones por su fracaso más que a sí mismos.

La conclusión es clara: los sentimientos de las personas sobre sí mismas pueden variar según quién o qué las evalúe, y eso tiene importantes consecuencias para los negocios.

Los participantes del estudio cuyas solicitudes fueron concedidas por una persona sintieron más alegría que aquellos cuyas solicitudes fueron concedidas por la IA, a pesar de que el resultado fue idéntico.

Tenga en cuenta los resultados de uno de nuestros estudios, en el que pedimos a la gente que se imaginara solicitar un préstamo bancario. A la mitad de los participantes se les dijo que un algoritmo de préstamos evaluaría sus solicitudes y a la otra mitad que un oficial de préstamos las evaluaría. Más tarde, a la mitad de los participantes de cada grupo se les dijo que su solicitud había sido aprobada y a la otra mitad que había sido denegada.

Los participantes cuyas solicitudes habían sido aprobadas por un algoritmo dieron calificaciones más bajas al banco y tenían menos probabilidades de recomendarlo a otras personas que las personas cuyas solicitudes habían sido aprobadas por un agente de préstamos. Pero todos los participantes cuyas solicitudes fueron denegadas calificaron al banco de manera similar y mostraron el mismo grado de interés en recomendárselo a otros.

También hemos observado este patrón en contextos del mundo real. Por ejemplo, pedimos a los trabajadores que formaban parte de una plataforma laboral en línea que solicitaran ser miembros de un panel selecto formado por una empresa de investigación. A la mitad le dijeron que la IA evaluaría sus solicitudes y a la otra mitad que un empleado humano lo haría. Los que fueron admitidos al panel a través de la IA evaluaron a la empresa de investigación de manera menos positiva que los que fueron admitidos por un empleado, pero todos los que fueron rechazados opinaron lo mismo por la empresa.

En resumen, al dar buenas noticias sobre las decisiones y las evaluaciones, las empresas pueden generar reacciones más positivas entre los clientes y los empleados si confían en las personas más que en la IA, pero ese efecto desaparece cuando dan una mala noticia.

La mayoría de los líderes y directivos con experiencia que hemos entrevistado en nuestra investigación parecían desconocer estos efectos. En una encuesta descubrimos que casi ninguno de ellos podía prever los resultados reales. Los ejecutivos tendrán que entender las posibles reacciones de las personas si quieren interactuar eficazmente con los clientes y los empleados con las nuevas tecnologías automatizadas y de IA.

Anna Parini

Pasemos ahora a nuestra segunda pregunta: ¿Cómo pueden las empresas integrar la IA en sus servicios y procesos empresariales para maximizar la satisfacción de los clientes y los empleados? Nuestros hallazgos experimentales ofrecen algunas sugerencias.

En primer lugar, cuando se adopten la IA o las tecnologías automatizadas con fines de evaluación y retroalimentación, le recomendamos que participe de forma humana activa en esos procesos y que deje clara esa participación a los clientes o empleados. En uno de nuestros estudios, evaluamos la forma en que las personas valoran a una empresa cuando un humano solo participa de forma pasiva en las evaluaciones (quizás solo supervisando las decisiones algorítmicas). Comparamos esa afección con una en la que un humano está a cargo del proceso de evaluación y otra en la que solo lo hace un algoritmo, y descubrimos que los participantes reaccionaban positivamente solo cuando la participación humana estaba activa.

En segundo lugar, recomendamos que los gerentes sean selectivos en cuanto al grado en que dependen de su (cara) fuerza laboral humana para la toma de decisiones. Como la gente tiende a reaccionar de la misma manera ante las noticias negativas, ya vengan de una persona o de la IA, es posible que las empresas no necesiten el «toque humano» para transmitirlas, aunque eso contradiga el pensamiento gerencial tradicional. Sin embargo, deberían considerar la posibilidad de utilizar a los humanos con la mayor frecuencia posible para dar buenas noticias.

Otro proyecto de investigación también arroja luz sobre cuándo los humanos pueden desplegarse de manera más eficaz en los procesos empresariales. Stefano trabajó con Armin Granulo, de la Universidad Técnica de Múnich, y con Christoph Fuchs, de la Universidad de Viena, para estudiar productos y servicios simbólicos, que ofrecen a los consumidores algo más que una funcionalidad instrumental. Estos productos y servicios encarnan conceptos abstractos que transmiten algo sobre la personalidad, las creencias, la pertenencia a un grupo social, el estatus de clase u otros intangibles. Algunos ejemplos son los tatuajes, las joyas de moda y las chaquetas del equipo universitario. Sin embargo, es importante recordar que un solo producto puede tener usos tanto físicos como simbólicos. Los anteojos, por ejemplo, se componen de lentes, que permiten a los consumidores ver (un uso físico), y monturas, que mantienen las lentes en su lugar (un uso físico) y sirven como accesorio de moda que puede ser fundamental para la autoexpresión (un uso simbólico).

Como la gente tiende a reaccionar de la misma manera ante las noticias negativas, ya vengan de una persona o de la IA, es posible que las empresas no necesiten el «toque humano» para entregarlas.

Para ese proyecto, que consistía en cuatro experimentos con diferentes categorías de productos y en los que participaron más de 1000 encuestados, los autores compararon las actitudes de los consumidores hacia los productos simbólicos fabricados con tecnologías automatizadas o con humanos. Lo que descubrieron siempre fue que el trabajo humano añade un valor distintivo a los productos simbólicos. En uno de los experimentos, los participantes revelaron que preferían los lentes fabricados con tecnología automatizada —presumiblemente por su precisión basada en máquinas— que las monturas hechas por humanos. En otro estudio, los participantes tenían más probabilidades de comprar un póster diseñado por un humano que uno diseñado por la IA.

Estas conclusiones nos llevan a una tercera recomendación, que es que las empresas deberían considerar detenidamente por qué es probable que los clientes compren sus ofertas y si pueden añadir un valor distintivo al producto al mantener al menos cierta participación humana en el proceso de producción, incluso si tienen la intención de automatizar la mayor parte del mismo.

Diseño de producto

Las tecnologías de inteligencia artificial y las funciones automatizadas avanzadas están integradas en muchos productos y están transformando la forma en que realizamos diversas tareas en nuestra vida personal: la Roomba de iRobot limpia el suelo, el piloto automático de Tesla le permite disfrutar de la conducción, la cafetera totalmente automática de Jura prepara el café del grano a la taza e incluso se limpia sola. También cada vez más personas trabajan con aplicaciones impulsadas por la IA en el trabajo. Watson, de IBM, colabora con empleados de muchas empresas en una amplia gama de tareas empresariales, incluidas las estimaciones financieras y la gestión de las estrategias de comunicación y marketing; la IA de Adobe empodera a los diseñadores y mejora su expresión creativa con Photoshop y otras aplicaciones; y los trabajadores de Toyota utilizan herramientas y maquinaria altamente automatizadas. Es probable que la reciente llegada de los grandes modelos lingüísticos y de la IA generativa, como el DALL-E y ChatGPT de OpenAI, acelere estas tendencias. ¿Cómo influirán nuestras interacciones con todas estas tecnologías automatizadas en nuestro sentido de identidad y logro? ¿Y cómo influirá eso en la demanda de productos?

Nuestro laboratorio ha analizado cómo reaccionan las personas ante los productos automatizados en el contexto del consumo basado en la identidad, lo que ayuda a las personas a definir quiénes son. Stefano trabajó en ese proyecto con Eugina Leung de la Universidad de Tulane y Gabriele Paolacci de la Universidad Erasmus de Rotterdam. En seis estudios y en varias categorías de productos, descubrieron que las personas que se identifican con una actividad en particular, como pescar, cocinar o conducir, pueden ver la automatización como una amenaza para su identidad, lo que reduce la adopción y la aprobación del producto.

Para obtener más información sobre este fenómeno, los autores realizaron un estudio con participantes holandeses y se centraron en el ciclismo, una actividad que es fundamental para el sentido de sí mismos de muchos holandeses. Para que se identificaran aún más con el ciclismo, se pidió a la mitad de los participantes que escribieran un ensayo breve sobre la pasión nacional holandesa por ello y a la otra mitad que escribiera un ensayo sobre la pasión holandesa por las flores (la condición de control). Tras esa tarea, participaron en un estudio aparentemente no relacionado. Los autores les hablaron de una oferta especial de una tienda de bicicletas y les preguntaron por su interés en añadir una función automática gratuita a sus bicicletas: una batería recargable para ayudar a pedalear. Los participantes que habían escrito sobre ciclismo tenían un 20% menos de probabilidades de aceptar la función, a pesar de que era gratuita.

En otro proyecto, con el mismo equipo y Maria Cristina Cito, de la Universidad Bocconi, los investigadores examinaron un tema complementario: la forma en que las personas que se motivan por objetivos relevantes para la identidad responden a los esfuerzos de digitalización de las empresas. En tres estudios principales y cinco experimentos de seguimiento, descubrieron que los productos simbólicos se adoptan con menos frecuencia en formato digital que en formato físico. La gente simplemente no puede expresar quiénes son tan fácilmente con los productos digitales. Ver la colección de obras de Shakespeare en su Kindle no es ni de lejos una forma tan poderosa de validar su identidad literaria como ver esa misma colección en la estantería de su sala de estar.

Los hallazgos de estos dos proyectos indican que cuando las personas se identifican con una categoría de productos determinada o cuando los productos les ayudan a expresar sus creencias y personalidades, a veces se resisten a cualquier mejora tecnológica de esos productos. Cuando ese es el caso, ¿qué deben hacer las empresas?

El sentido de sí mismo de muchas personas se basa en su identidad profesional, y la IA y la automatización pueden percibirse como algo que la socava.

En primer lugar, recomendamos a las empresas que se abstengan de dirigirse a los consumidores motivados por la identidad con productos totalmente automatizados y que, cuando se dirijan a esos consumidores, se centren en funciones o tareas que permitan a los usuarios sentirse orgullosos e involucrados. Considere el caso de un fabricante de componentes para bicicletas con el que trabajamos. Algún tiempo antes, la empresa había introducido un caro dispositivo automático de cambio de marchas en el mercado europeo y se había dirigido a los entusiastas del ciclismo, que están más dispuestos a pagar por aparatos mecánicos. Pero esos consumidores mostraron poco interés por el dispositivo, porque pensaban que eliminaría una parte central de la experiencia ciclista para ellos. Si la empresa hubiera hecho marketing para ciclistas ocasionales o que viajaran al trabajo o hubiera diseñado la función de manera que diera a los ciclistas una sensación de más control, podría haber tenido más éxito.

En segundo lugar, recomendamos que las empresas realicen estudios de mercado para evaluar hasta qué punto la automatización corre el riesgo de provocar una amenaza de identidad.

Comunicación

Con la adopción de la IA y las tecnologías automatizadas, como con tantas otras cosas, la comunicación importa. En nuestra investigación hemos descubierto tres formas importantes en las que las empresas pueden optimizar sus estrategias de comunicación para minimizar el riesgo de resistencia o reacción violenta.

En primer lugar, las empresas que utilizan interfaces de IA para comunicarse con los clientes o los empleados deberían considerar la posibilidad de humanizar esas interfaces. Hemos descubierto que esto es particularmente importante en los procesos empresariales que implican la evaluación y la toma de decisiones. En uno de nuestros estudios, probado si añadir funciones similares a las humanas a la IA llevaría a la gente a internalizar las noticias positivas y a valorar a la empresa de manera más favorable. Cuando le dimos un nombre a la IA (Sam), añadimos un avatar e hicimos que su interacción con las personas fuera más conversacional, respondieron como lo harían con un empleado humano. Para las empresas que no pueden emplear a personas por diversos motivos (como un gran volumen de solicitudes, limitaciones de tiempo o restricciones informáticas), esta conclusión sugiere que el simple hecho de humanizar su IA podría mitigar las reacciones menos positivas ante los comentarios o las noticias sobre la misma.

Pensemos en el caso de una empresa de tecnología financiera con la que trabajamos, que se basa en la tecnología de inteligencia artificial para evaluar la salud financiera de los usuarios. En su proceso interactivo y totalmente automatizado, los usuarios rellenan un cuestionario, la IA evalúa sus respuestas y el sistema hace una evaluación de su salud financiera. En ese momento, se anima a los usuarios a hacer clic en un enlace para obtener información sobre los servicios de la empresa. En un intento de aumentar el interés de los consumidores por esos servicios, la empresa, en nombre de un importante banco mundial, creó un formato de chat en el que la IA interactuaba con los usuarios con señales emocionalmente expresivas, como emojis. Cuando los usuarios recibían comentarios positivos sobre su salud financiera por parte de la IA humanizada que del formato de visualización estándar, era más probable que hicieran clic en el enlace y buscaran más información.

En segundo lugar, recomendamos que las empresas modifiquen la forma en que se comunican con los clientes y los empleados en relación con sus productos automatizados. Como he dicho, cuando las personas se identifican con un dominio o actividad determinados, a veces se resisten a la automatización si sienten que no pueden atribuir los resultados a su propia habilidad o esfuerzo. Pero, ¿y si las empresas describen las funciones automatizadas no como una sustitución de las personas sino como un complemento de sus habilidades?

Parte del proyecto de Stefano con Leung y Paolacci comprobó si la reacción de las personas ante un producto automatizado se puede cambiar si se enmarca en esos términos. Los autores crearon dos anuncios en los que describían una máquina de cocina automática de diferentes maneras: un anuncio decía que el aparato realizaría todos los pasos de cocción «con solo tocar un botón» y otro que guiaría el proceso de cocción y prepararía la comida con la ayuda del usuario. A los participantes se les dio uno de ellos al azar. Aunque los anuncios eran del mismo producto, los resultados revelaron que el encuadre sí importa: cuando se describió el aparato como que permitía a las personas utilizar, al menos en parte, sus habilidades, los consumidores motivados por la identidad tenían actitudes más positivas hacia él.

Aunque nuestros estudios se realizaron principalmente en el contexto de las actividades de consumo, la motivación relacionada con la identidad también suele ser importante en el lugar de trabajo. El sentido de sí mismo de muchas personas se basa en su identidad profesional, y se puede percibir que la IA y la automatización socavan esa identidad si amenazan con devaluar las habilidades, la experiencia o el estatus. La comunicación interna sobre su potencial complementario será crucial si las empresas esperan desplegarlos a gran escala.

. . .

Las tecnologías automatizadas están cambiando no solo los mercados laborales y de productos, sino también la forma en que las personas que utilizan esas tecnologías se sienten consigo mismas. Cada vez más, las empresas tendrán que superar las barreras psicológicas diseñando estratégicamente sus procesos y productos empresariales para tener en cuenta los sentimientos humanos y empleando estrategias de comunicación bien pensadas. En algunos casos, la automatización puede introducir el riesgo de reducir el compromiso de los empleados o la satisfacción de los clientes, y las empresas tendrán que sopesar sus beneficios con ese riesgo. En esas situaciones, la pregunta apropiada al considerar la transición a la IA y la automatización no es «¿Podemos?» pero «¿Deberíamos?»