¿Podemos confiar en las máquinas que suenan demasiado como nosotros?

Plume Creative/Getty Images

Muy pronto todo tendrá voz. Su teléfono ya tiene uno y quizás su altavoz inteligente. Su coche. El mando a distancia de su televisor. Pronto su tostadora. Es probable que esas voces sean a la vez muy fiables y se basen en una mentira.

Por el momento, para muchos de nosotros, nuestra experiencia más común de interactuar con un ordenador que habla con una voz que suena humana ocurre por teléfono con un estafador que intenta que donemos a una falsa organización benéfica o paguemos por ayuda con un problema de Windows que no tenemos. Pero en términos de concienciación pública, asociamos cada vez más las aplicaciones de ordenador con voz humana con asistentes digitales como Siri, Alexa, el Asistente de Google, Cortana y similares. Estas interfaces de usuario de estos asistentes son más prácticas que los botones y las teclas: puede interactuar con ellos mientras ambas manos cogen a su hijo, obtener sus respuestas sin tener que dejar de controlar el huevo que está friendo y no tener que preocuparse en absoluto por los errores tipográficos. Y ahora la próxima ola está en camino: las interfaces de voz son la solución perfecta, por ejemplo, para el Internet de las Cosas, todos esos dispositivos y electrodomésticos conectados que, de otro modo, tendrían sus propias interfaces y pantallas confusas. En poco tiempo hablaremos con casi cualquier cosa que tenga un interruptor eléctrico y todas esas cosas responderán con voz humana.

Todos estos sistemas, especialmente los asistentes, tienen un incentivo para decirnos la verdad. Al fin y al cabo, cuando salgamos descubriremos si no hace mucho sol, como prometió nuestro asistente digital. Cuando lleguemos a casa y saquemos la cena del horno, descubriremos si es seguro que se precalentó nuestro horno sin base. Puede que incluso descubramos que Kevin Bacon no es más alto que Tom Hanks, a pesar de lo que nos haya dicho nuestra encantadora asistente. En estos casos sencillos y prácticos, si descubrimos que estos asistentes no nos dicen la verdad, simplemente dejaremos de usarlos.

Centro de información

• Interactuar con la IA

  Patrocinado por Qlik

  Cómo trabajarán juntos los humanos y las máquinas.

Pero también todos tienen un incentivo para contarnos una gran mentira cada vez que hablan: que son como nosotros. Por eso el asistente de IA dúplex de Google dice «um» a veces. Dúplex es el software que, por ejemplo, llama a un restaurante y hace una reserva para usted sin que la persona del otro lado se entere de que está hablando con una IA. Cuando Duplex es, no se queda sin palabras. Solo trata de engañar a la otra persona, igual que la voz de una llamada telefónica fraudulenta. Eso podría funcionar bien en este momento. A la recepcionista no le desconcertará la idea de hablar con una máquina en lugar de con un prójimo. Pero también puede erosionar una de nuestras formas fundamentales de evaluar la confianza: cómo suena alguien.

Bien, Google Duplex es un caso especial y un tanto extraño. También puede ser una solución temporal: una vez que los restaurantes y otros locales tengan su propia versión de Duplex para aceptar reservas, podemos suponer que las IA de ambos lados de la llamada dejarán de fingir y completarán la transacción con pitidos y bups de robots altamente eficientes en lugar de intentar superar al otro.

Mientras tanto, todos estos asistentes suenan como humanos porque sus creadores quieren nuestra confianza. Saben que estamos hechos para apegarnos emocionalmente a las voces humanas. Esa es también la razón por la que estas asistentes tienden a usar por defecto las voces de las mujeres: los humanos, al menos en Occidente, al parecer encontrar esas voces son más fiables. Si Apple pudiera hacer que Siri nos acariciara con la nariz fría y pidiera que la acariciara, probablemente lo haría. Pero eso no haría que estos asistentes fueran más dignos de confianza.

Sonar como un humano y como una hembra de la especie aumenta nuestra confianza, pero no porque los sistemas sean más fiables. Si sonar como una rana con talento influyera en nuestras preferencias biológicas, entonces Kermit pondría la voz a Siri. No se debe confiar en la confianza no merecida.

Además, toda esta humanización no está alineada con nuestros intereses reales. Si bien a Alexa le gusta pensar que quiero relajarme con ella en una mecedora del porche de mi casa y compartir un vaso de su famoso té dulce, esa no es la forma más eficaz de que una máquina nos comunique información. Me gustaría poder decirle a Alexa que hable más rápido y que se salte las bromas. De hecho, un dispositivo que habla con una voz plana y rápida diseñado únicamente para la transferencia eficiente de información puede ser mejor para indicar que los intereses de su fabricante están alineados con los nuestros: solo queremos saber que la estufa estará a 425 °F durante diez minutos y luego bajará a 350 °F durante treinta minutos. No necesitamos la estufa para fingir que se preocupa por nosotros. De hecho, una voz mecánica puede suscitar más confianza que todos esos um, del mismo modo que puede serlo un humano que habla con claridad, sin halagos ni charlas. Al menos para algunos de nosotros.

Puede que sea mucho pedir que nuestros dispositivos no traten de hablar como los humanos nada más sacarlos de la caja. Pero a medida que las cosas que nos rodean comienzan a competir por nuestra atención y nuestra confianza al hablar con voces humanas hogareñas pero falsas, como en alguna película distópica de Disney, las empresas pueden darse cuenta de que darnos la opción de hacer que nuestros asistentes digitales hablen como las máquinas sin alma que son tiene sentido desde el punto de vista empresarial.