Garantizar que sus productos no se utilizan con fines discriminatorios

Las crisis suelen llevar a la gente a buscar a «alguien» a quien culpar, y la culpa suele recaer en los grupos étnicos o religiosos marginados. Los trágicos acontecimientos llevaron a los campos de internamiento japoneses durante la Segunda Guerra Mundial y a un sentimiento antimusulmán tras el 11 de septiembre,

En el contexto de la COVID-19, nuestra investigación en curso ha descubierto que el hecho de usar chivos expiatorios y el sentimiento antiasiático durante la fase inicial de la pandemia causaron daños emocionales y económicos. Al analizar cientos de miles de reservas en Airbnb, descubrimos que hubo un aumento de la discriminación contra los usuarios asiático-estadounidenses de Airbnb a principios de la pandemia.

Los líderes empresariales deben ser conscientes de estos riesgos. También necesitan herramientas para identificar, medir y mitigar los prejuicios, y un enfoque proactivo que anticipe e identifique la discriminación.

En este artículo, ofrecemos una visión general de nuestra investigación, centrándonos en Airbnb como caso práctico. Luego, proporcionamos un marco para que los líderes ayuden a crear entornos que sean menos susceptibles a los prejuicios.

Aumento de la discriminación contra los estadounidenses de origen asiático

Analizamos los datos de Dentro de AirBnB, un proyecto que proporciona datos y promoción sobre el impacto de Airbnb en las comunidades residenciales. Hemos estudiado más de 300 000 estancias en Airbnb de 17 000 anfitriones. Usamos algoritmos estadísticos para deducir la raza de los anfitriones en función de sus nombres, un enfoque que hemos propuesto como parte de un conjunto de herramientas para medir la discriminación en las plataformas, y que ahora utilizan empresas como Uber. Lo combinamos con datos granulares sobre las características de los anuncios, los precios y la información de la reserva.

Los resultados fueron sorprendentes: identificamos un aumento grande y rápido de la discriminación contra los anfitriones asiático-estadounidenses a lo largo de 2020. Si bien todos los presentadores se vieron afectados por la pandemia, el impacto en los presentadores asiático-estadounidenses fue mucho mayor en comparación con los presentadores blancos, hispanos y negros.

[

Insight Center Collection

DEI in Practice

Accelerating from intent to action.

](/insight-center/dei-in-practice)

Nuestros resultados sugieren que el aumento de la discriminación provocó que los anfitriones asiático-estadounidenses perdieran alrededor del 12% de sus huéspedes durante la pandemia. Una explicación de este descenso podría ser que los huéspedes asiático-estadounidenses eran más selectivos por miedo al riesgo de contraer el virus. Sin embargo, nuestros resultados fueron coherentes incluso entre los anfitriones que «pueden reservar al instante», que aceptan automáticamente todas las consultas de reserva, lo que sugiere que cualquier caída en las reservas (en relación con otras propiedades de reserva inmediata) puede atribuirse a las decisiones de los huéspedes.

Descubrimos que la discriminación estaba generalizada, afectaba tanto a los anfitriones más nuevos como a los más experimentados y, llevó a una caída del negocio incluso para los estadounidenses de origen asiático  presentadores con una buena reputación en la plataforma. Por el contrario, los presentadores negros o hispanoamericanos no experimentaron ninguna caída significativa en el negocio durante la pandemia, en comparación con los presentadores blancos. La reducción del número de huéspedes solo es evidente para los anfitriones asiático-estadounidenses, el principal grupo en el que se usó como chivo expiatorio durante la pandemia de la COVID-19.

Mucho antes de la pandemia de la COVID-19, había pruebas de discriminación en Airbnb. Una investigación realizada por uno de nosotros (Mike, junto con los colaboradores Ben Edelman y Dan Svirsky) documentó la discriminación contra los afroamericanos anfitriones y invitados. Esta investigación comenzó hace más de ocho años y dio inicio a una nueva bibliografía que documenta y proporciona herramientas para combatir la discriminación en los mercados en línea.

Las conductas discriminatorias se ven facilitadas, en parte, por la presencia de información que revela la raza, por lo general nombres o fotos. Airbnb se ha enfrentado recientemente demandas de usuarios que han sufrido discriminación por su nombre, una posibilidad que se ha planteado en nuestra investigación anterior. En términos más generales, en contextos que van desde los mercados en línea hasta los procesos de contratación, eliminar esos marcadores cuando se produce discriminación ha sido un enfoque para mitigar los prejuicios.

Airbnb ha dado importantes pasos en la dirección correcta. Después de 2015, Airbnb empezó a eliminar las fotos de los anfitriones de las principales páginas de resultados de búsqueda y, en 2018, retiró la posibilidad de que los anfitriones vieran las fotos de los huéspedes hasta que se tomara la decisión de reservar. Sin embargo, las fotos y los nombres de los anfitriones siguen apareciendo en las páginas de anuncios, lo que creemos que provocó el aumento de la discriminación que documentamos en nuestra investigación.

Construir un ecosistema empresarial más inclusivo

Los líderes empresariales deben tomar medidas para garantizar que sus decisiones empresariales y de producto no faciliten la discriminación. Afortunadamente, cada vez hay más herramientas para los líderes que quieren crear una empresa y una sociedad más inclusivas. Aquí presentamos cuatro medidas que todo líder debe tomar para lograr este objetivo.

1. No niegue que se ha producido discriminación (si es que lo ha hecho).

Los líderes deben reconocer que los prejuicios siguen siendo omnipresentes en la sociedad moderna y que pueden contribuir a entender y reducir los prejuicios. Empiece por pensar en cómo podría manifestarse esto en su organización. ¿Cómo podrían afectar los prejuicios a sus clientes, empleados y operaciones? ¿Cómo van a agravar o mitigar sus decisiones la discriminación?

También es importante entender que los prejuicios evolucionan. En tiempos de crisis, es especialmente importante pensar también en los tipos de sesgo que podrían estar aumentando. Airbnb quedó sorprendida por nuestros resultados más recientes y se ha comprometido a seguir estudiando el tema. Tras este proyecto, Mike recibió una llamada de un consultor sénior de la empresa preguntándonos qué pensabamos que debían hacer. Puede ser difícil anticipar la evolución del panorama de la discriminación. Y hay ejecutivos de Airbnb que parecen realmente interesados en reducir la discriminación en la plataforma. Pero podrían haber identificado este tema antes si hubieran reconocido el aumento del sentimiento antiasiático y cómo esto podría afectar a su plataforma.

2. Mida la discriminación siempre que sea posible.

Puede resultar difícil para las empresas mirarse al espejo y pensar en la discriminación que se produce en sus organizaciones, ya sea en la contratación o en sus plataformas. Sin embargo, este es un paso importante para abordar la discriminación.

En nuestro análisis de Airbnb, medimos la discriminación en la plataforma analizando los nombres de los anfitriones. Otros enfoques incluyen codificar fotos, como hizo Mike en un estudio de 2014 realizado con Benjamin Edelman (y de nuevo en un proyecto posterior) y encuestando a los usuarios para entender su origen étnico.

Las empresas también pueden consultar las quejas que reciben. Por ejemplo, tras una investigación anterior, Mike recibió un correo electrónico de un usuario de Airbnb en el que describía que había sido objeto de discriminación en Airbnb. Su queja fue desestimada por el departamento de atención al cliente de Airbnb. En cambio, deberían haberlo reconocido y haber analizado sistemáticamente si había patrones más amplios de discriminación en las quejas.

3. Haga que su empresa sea lo más a prueba de discriminación posible.

En los últimos años se ha desarrollado un conjunto creciente de herramientas destinadas a reducir los sesgos en diferentes contextos. En algunos casos, esto puede implicar aumentar el anonimato (por ejemplo, en el contexto de Airbnb, esto implicaría mostrar la identidad de los huéspedes y los anfitriones solo después de tomar la decisión de reservar), una solución que hemos propuesto y estudiado a lo largo de los años. Esto también puede implicar un uso cuidadoso de la automatización y las ayudas algorítmicas para la toma de decisiones (esto tiene que hacerse con cuidado, ya que los algoritmos también tienen el potencial para reforzar o exacerbar los sesgos también). Y las empresas pueden pensar en el diseño de sus ecosistemas de manera más amplia y centrarse en diseñar procesos inclusivos para todo, desde la contratación y los ascensos hasta la experiencia de plataforma y el diseño de productos

4. Experimente y perfeccione sus procesos.

Es tentador pensar en la discriminación como un problema único que resolver. Sin embargo, abordar estas cuestiones complejas es un proceso continuo, no un problema que pueda solucionarse de una vez. En este caso, la experimentación puede ayudar a los líderes a desarrollar marcos para reducir la discriminación con el tiempo y responder a los desafíos actuales.

Las empresas tienen que incluir la posibilidad de discriminación en sus análisis experimentales. Cuando se hagan cambios en los productos, deberían, por supuesto, pensar detenidamente en el efecto no solo en las métricas de productividad a corto plazo (que normalmente se rastrean y evalúan) sino también en las métricas de inclusión, y si el cambio aumentó el sesgo. Los líderes pueden pensar en esto como poner barandillas.

Además de esto, también deberían utilizar experimentos para poner a prueba diferentes ideas y ver cuáles son más eficaces para reducir la discriminación. En este caso, señalaríamos el de Airbnb experimento en curso en Oregón. Cuando los huéspedes del estado solicitan reservar una propiedad, el anfitrión solo ve las iniciales del posible huésped, en lugar de su nombre completo. Por ejemplo, una solicitud de reserva de Jamal Smith y otra de James Smith aparecerían como solicitud de reserva de JS. Este experimento se produjo en respuesta a una demanda en la que tres usuarios acusaron a la plataforma de discriminación.  Si bien el diseño del experimento tiene limitaciones, esto va en la dirección correcta al probar e implementar estrategias sistemáticas para reducir los sesgos.

Los líderes empresariales no pueden simplemente quedarse al margen cuando se trata de abordar los problemas sociales. Las cuestiones sociales son cuestiones empresariales. Ya sea que se centren en el diseño de una plataforma o en la gestión de los empleados, los líderes deben crear un ecosistema sólido que anticipe la posibilidad de discriminación. Si una organización es susceptible a la discriminación antes de una crisis, será más difícil contener la propagación de la discriminación cuando inevitablemente se produzcan crisis y tensiones raciales en el mundo. Y, cuando llega la crisis, los líderes tienen que pasar a la acción y responder con rapidez.