Para crear una tecnología más inclusiva, cambie su proceso de diseño

David Malan/Getty Images

En tecnología, sesgo inherente puede ser difícil de erradicar. Nuestra tecnología tiende a reflejar a las personas que la crean; sus perspectivas y experiencias dan forma a la forma en que se diseñan los productos. Ya sea que hable de una ciudad inteligente o de un altavoz inteligente, los sistemas que sustentan nuestras vidas son la suma de las decisiones de los diseñadores; la desigualdad y la exclusión suelen ser las consecuencias no intencionales de esas elecciones. Para abordar este tema, organizaciones, expertos, y reguladores han trabajado para que la tecnología sea más accesible para las personas con diferentes capacidades físicas y cognitivas; la industria de la tecnología ha tomado escasos pasos para diversificar su fuerza laboral. Pero los productos y servicios tecnológicos son todavía construido en gran medida por una pequeña parte de la sociedad, y se nota: desde los prejuicios raciales en la inteligencia artificial al acoso de negros, indígenas y personas de color, así como de las minorías de género en los espacios digitales, la tecnología suele agravar la exclusión.

Este problema no desaparecerá por sí solo. A medida que las plataformas digitales impulsadas por la IA, la realidad mixta y las interacciones de voz influyen cada vez más en la sociedad, los tecnólogos deben reconocer que el problema no hará más que agravarse. Por eso diseñadores como Antionette Carroll, que ha defendido la idea de diseñar con equidad, sostienen que el proceso de diseño en sí mismo, la forma en que se crea la tecnología, debe rediseñarse. Si queremos asegurarnos de que ninguna persona o comunidad sufra daños o se quede atrás, debemos diseñar intencionalmente nuestros productos para que sean inclusivos.

Centro Insight

• La IA y la igualdad

  Patrocinado por SAS

  Diseñar sistemas que sean justos para todos.

Puede resultar abrumador añadir «combatir la exclusión y la inequidad sistémicas» al ya difícil proceso de creación de un producto, pero hay formas prácticas de promover la accesibilidad, la seguridad y la pertenencia. Hablé con líderes del diseño y la tecnología con experiencia en organizaciones como Microsoft o Airbnb sobre las medidas que cualquier líder de producto o equipo puede tomar para crear productos y servicios más inclusivos.

1. Diseñe con comunidades excluidas y diversas, no para ellas.

«Empatizar» con las comunidades de usuarios para entender sus necesidades y desafíos es tradicionalmente el primer paso en el pensamiento de diseño y el desarrollo de productos centrados en las personas. Pero este enfoque puede llevar a los diseñadores por mal camino. Al crear experiencias accesibles para personas que tienen habilidades, circunstancias e identidades muy diferentes, «no creemos que la empatía sea el mejor [enfoque]», afirma Bryce Johnson, director de inclusión de Microsoft Devices, que se centra en la accesibilidad. «Puede resultar muy difícil para los equipos empatizar sin relatar sus propias experiencias de vida, lo que sesga su forma de pensar. Nunca podré vivir ni ponerme en la piel de una mujer que ha dado a luz».

Para compensar esto, los diseñadores y tecnólogos deben «diseñar con, en lugar de para la gente», afirma Johnson. «Debemos confiar en la compasión, tenemos que escuchar y tomar a las personas como expertas». Primero, dedique algo de tiempo reflexionando en los sesgos de su equipo de productos, luego identifique y establezca relaciones con las personas que tradicionalmente están excluidas del proceso de desarrollo del producto. Confíe en sus conocimientos, experiencias vividas y perspectivas y utilícelos para dirigir la estrategia y el desarrollo del producto. Los líderes de producto deben capacitar a las comunidades de uso previstas para que tomen decisiones sobre los productos, en lugar de simplemente validarlas.

Lo ideal sería que un proceso como este creara un producto que permitiera a las personas interactuar con él de forma flexible y seguir personalizándolo incluso después del lanzamiento del producto. Función de accesibilidad integrada de Apple Voz en off es un gran ejemplo de lo que puede ser esto. Permite a las personas con diferentes capacidades, incluidas las que tienen problemas de visión, navegar por las plataformas de una manera que se adapte a sus necesidades, en este caso, mediante narración de audio y salida de braille. La industria de la tecnología debería buscar cómo los servicios de streaming de vídeo han creado experiencias y juegos más flexibles, en los que la gente personaliza sus hardware, identidades y entornos. Todo el mundo se beneficia de que los productos sean más accesibles y flexibles.

Cómo hacerlo: Forme grupos de trabajo comunitarios al principio del desarrollo del producto, refuerce activamente las conexiones con los miembros de la comunidad y utilice métodos participativos y de creación conjunta durante todo el proceso. Compense a los miembros de la comunidad por sus conocimientos, experiencia y tiempo. Desarrollar la capacidad de los miembros de la comunidad para crear sus propias soluciones. Facilite un uso flexible y personalizable una vez lanzado el producto.

2. Fomentar la pertenencia a través de la representación.

Un enfoque para evitar la exclusión a nivel de producto consiste en utilizar las representaciones por defecto para minimizar el impacto de los estereotipos y el tokenismo. «[En] las ilustraciones de muchas empresas y marcas, el tono de piel por defecto siempre había sido piel clara. Por defecto, teníamos piel oscura», comparte Jenny Lam, vicepresidenta sénior de experiencia de usuario de marca de Oracle. «El valor predeterminado marca una gran diferencia». Algunos tecnólogos también están mitigando los roles de género y los estereotipos culturales en las tecnologías de voz: Asistente de Google, por ejemplo, etiqueta a los asistentes de voz por color («morado») en lugar de por género («mujer británica»).

La representación no es solo una cuestión de quién aparece en los anuncios y las ilustraciones, sino que también se basa en el lenguaje de las señales visuales y la estética que utiliza una empresa. «Lo que se sostiene en un pedestal en términos de estética en el diseño digital, es realmente europeo: Bauhaus, líneas limpias, escasez», afirma Lam. Al crear la novela de Oracle Sistema de diseño Redwood, las directrices fundamentales de marca, imagen y experiencia de usuario para los productos que crea Oracle: «Literalmente tenemos clientes en todos los países del mundo y queríamos que la historia global se reflejara en nuestra narrativa visual… Para nosotros, eso se tradujo en colores más cálidos basados en sombras e imágenes que se inspiraron en el arte de todo el mundo, no solo del mundo occidental».

Cómo hacerlo: Los líderes y profesionales de los productos deben considerar detenidamente la representación en todos los niveles de sus sistemas y productos. Reflexione sobre si su producto privilegia o tokeniza las identidades, estéticas o culturas de determinadas comunidades como punto de partida para lograr el equilibrio. Evite los valores predeterminados del sistema que hacen suposiciones sobre la identidad de las personas o las obligan innecesariamente a clasificarse a sí mismas.

3. Reforzar la cultura, la formación y los procesos.

Para crear productos que sirvan a más personas, empiece por plantear preguntas sobre las brechas en la composición de su organización. «Todos los líderes y profesionales deberían preguntarse: ‘¿Qué tan diverso es su equipo?’ », afirma Oen Michael Hammonds, director de diseño del programa Employee Experience Design de IBM. «¿Cuáles son sus antecedentes socioeconómicos y educativos? Si todos los miembros de su equipo son de la misma raza, género u origen, tendrá menos innovación en comparación con las ideas que aportarían los equipos con diferentes perspectivas y experiencias de vida».

Los equipos diversos también deben aprovechar los flujos de trabajo y las herramientas que tienen en cuenta la inclusión de forma intencionada. «Todo comienza con la mentalidad, la formación, la incorporación», afirma Lam, de Oracle. «Entonces se trata de crear un sistema que escale con esa mentalidad integrada. Empiece con ese punto de vista fuerte e inclusivo desde el principio y no lo trate como una casilla de verificación».

Cómo hacerlo: Los líderes de producto deben dotar de personal a diversos equipos y apoyarlos mediante el desarrollo de capacidades, las herramientas y los procesos que amplíen la inclusión. Los profesionales deben identificar y eliminar activamente los casos de exclusión. La educación y la formación continuas pueden ayudar: «En la práctica, esto podría implicar crear herramientas de enseñanza, como linters o complementos que eliminen los sesgos y que ofrezcan propuestas de idiomas alternativos cuando encuentren un lenguaje apto en su producto», sugiere Hayley Hughes, directora de experiencia de usuario de Shopify, que también ha dirigido el trabajo de sistemas de diseño en IBM y Airbnb.

4. Establecer la responsabilidad.

La responsabilidad es esencial a cualquier objetivo. Cuando los equipos establecen compromisos de inclusión claros por adelantado, se crean incentivos para ser proactivos en lugar de reactivos. «Antes de que cualquier equipo comience, debe especificar lo que entiende por inclusión», destaca Kat Vellos, asesora de productos y diseñadora sénior de experiencia de usuario. «¿Se centra en la accesibilidad, la competencia cultural o los prejuicios raciales? Si es más específico, es más fácil evaluar sus esfuerzos». Las organizaciones y los equipos también tienen más probabilidades de tomar medidas si se combinan a largo plazo y alineados con los valores objetivos y objetivos alcanzables a corto plazo con planes específicos.

La rendición de cuentas debe ser un proceso continuo y colectivo. «Todos los equipos de productos y profesionales siempre se preguntan: ‘¿Es accesible? ¿A quién deja de lado? ‘» dice Vellos. «La responsabilidad de la inclusión debe compartirse y formar parte de las métricas de éxito de todos».

Cómo hacerlo: Los líderes de producto deben definir objetivos y planes de inclusión mensurables para los productos y los equipos. Todos los miembros del equipo de producto deben compartir la responsabilidad del progreso. Las reseñas de rendimiento deben reflejar hasta qué punto los miembros del equipo de producto defendieron y explicaron la inclusión. Las plataformas digitales y los miembros del público deberían hacer que los líderes de productos rindan cuentas; las tiendas de aplicaciones deberían facilitar las valoraciones de los productos basadas en la inclusión y comparaciones, ejercer presión pública para demostrar una mejora.

5. Normalice la inclusión a nivel del sistema.

Por lo general, a la gente no le gusta destacar. Investigación muestra que las personas y organizaciones modificará sus comportamientos para que se ajusten a lo que se considera la norma. Posicionar la inclusión como una práctica habitual o un valor organizacional podría impulsar el cambio y profundizar compromisos de los empleados a sus organizaciones. Una forma de normalizar la inclusión es destacar los estudios de casos y los éxitos relevantes. Bloomberg Philanthropies y la Organización de Cooperación y Desarrollo Económicos lanzaron recientemente un mapa global donde las ciudades de todo el mundo puedan compartir sus iniciativas de innovación cívica. Esto no solo sirve de inspiración y hace que la innovación parezca algo común, sino que también permite a las personas aprender de los éxitos y errores de los demás.

Las normas también se refuerzan a través de los sistemas y herramientas que los tecnólogos utilizan a diario. «Un sistema de diseño es un mecanismo para escalar la intención y repetir ciertos resultados a lo largo del tiempo», afirma Hughes. «Si define el éxito por la capacidad de cada persona de acceder a su producto y utilizarlo de la manera que mejor les funcione, eso es lo que ampliará. Si define el éxito simplemente por si algo se ve bien, entonces eso es lo que escalará».

Cómo hacerlo: Los líderes y profesionales de los productos deberían compartir constantemente las mejores prácticas y alinear su trabajo con resultados inclusivos, como la dignidad y la accesibilidad, a medida que crean y aplican sistemas de diseño. Destaque los estudios de casos de inclusión, tanto a nivel interno de una organización como en todo el sector. Además, cree sistemas de diseño intencionalmente para que escalen la inclusión. «Los equipos quieren poder crear componentes que expresen la gama más amplia de necesidades y factores contextuales posibles», afirma Hughes. A medida que su equipo tenga en cuenta las variaciones en la forma en que se utiliza su producto, amplíe los componentes del sistema de diseño existente, en lugar de crear y codificar nuevos componentes desde cero.

Tomar medidas, juntos 

Como escribe Melinda Gates en El momento del ascensor , «La mayoría de nosotros pertenecemos a uno de los mismos tres grupos: las personas que tratan de crear personas ajenas, las personas a las que se les hace sentir forasteros y las personas que se quedan de brazos cruzados y no lo detienen». Del mismo modo que no podemos acabar con el racismo deteniendo un acto de violencia contra un negro, un indígena o una persona de color, no podemos evitar la exclusión o los prejuicios centrándonos únicamente en los colores de los elementos de la interfaz de usuario. Todos los que participan en el desarrollo de productos deben asumir la responsabilidad de crear una tecnología inclusiva.