Tres formas de incluir la DEI en la estrategia de IA de su empresa

El fundador de Microsoft, Bill Gates, afirma que la IA es tan revolucionario como Internet. Otros sostienen que está sobrevalorado. En mi opinión, es difícil exagerar el potencial de la inteligencia artificial (IA) en general y de la IA generativa en particular. En muchos sentidos, es un punto de inflexión ya que permitirá a las empresas de todos los sectores impulsar la innovación, la productividad y los ingresos.

Es más, muchos líderes empresariales comparten mi punto de vista. Casi dos tercios (el 65%) de los directores ejecutivos encuestados para la EY de 2023 Encuesta sobre Outlook Pulse para directores ejecutivos vio la tecnología como una fuerza positiva.

Sin embargo, la IA no puede ser una fuerza positiva si sirve para exacerbar las desigualdades existentes en el lugar de trabajo y en la sociedad en general. Si las empresas quieren utilizar la automatización al máximo de su potencial, tienen que pensar detenidamente quién se va a beneficiar de las nuevas funciones y oportunidades profesionales que las tecnologías crearán inevitablemente. ¿Será simplemente el mismo grupo demográfico que tuvo acceso a estas oportunidades en el pasado? Si es así, ¿qué pasa con los grupos históricamente marginados? ¿Se verán aún más desfavorecidos por la automatización o podrían incluso ser desplazados por completo del lugar de trabajo?

Promover la diversidad, la equidad y la inclusión (DEI) es una de mis grandes pasiones. Dedico mucho tiempo a pensar en los prejuicios y la equidad como socio director global de EY, servicio al cliente y miembro del comité directivo global de DEI de EY. Creo que equilibrar la DEI con la automatización en el despliegue de los sistemas de IA no es «bueno tenerlo», es un imperativo empresarial.

Se están haciendo esfuerzos a nivel mundial para establecer directrices, reglamento, y marcos éticos para garantizar que se desarrolle e implemente una IA responsable. Las organizaciones y los gobiernos reconocen cada vez más la importancia de abordar sesgo, transparencia, responsabilidad y equidad en sistemas de IA. Por lo tanto, se espera que las empresas desplieguen la automatización de manera responsable que impulse la diversidad, la equidad y la inclusión en su organización, al tiempo que mitigan los riesgos relacionados con la IA y utilizan las tecnologías para aprovechar toda la capacidad de innovación de su fuerza laboral.

Estas son tres estrategias que las empresas pueden aplicar para lograr un equilibrio eficaz entre la automatización y la DEI a la hora de implementar los sistemas de IA. Estas estrategias se basan en mis propias experiencias al introducir marcos éticos de IA en una organización global, teniendo en cuenta las mejores prácticas del sector y las iniciativas gubernamentales, así como en la propia investigación de EY sobre los beneficios de la diversidad en el desarrollo de la tecnología y la IA.

Integre la DEI en el diseño de su sistema de IA.

Escuchamos mucho sobre el riesgo de sesgo algorítmico, y el riesgo es realmente real. Sin un diseño, pruebas y barandillas cuidadosos, la IA puede amplificar y perpetuar los sesgos existentes. Pero este no tiene por qué ser así. De hecho, una serie de estudios —que cubren los préstamos hipotecarios, la selección de empleo y las decisiones judiciales, entre otras actividades profesionales— muestran que los algoritmos bien diseñados pueden ser menos sesgados que sus homólogos humanos.

Para crear un sistema de IA bien diseñado, es esencial implicar a una amplia gama de partes interesadas, de diferentes grupos demográficos y orígenes. Esto ayudará a establecer un sistema que sea justo y transparente, que respete la diversidad y las diferentes culturas y al que todos los grupos de usuarios puedan acceder fácilmente. Además, entrenar el sistema de IA en función de los datos que refleje la complejidad, la diversidad y la riqueza cultural del mundo real es fundamental. Esos datos deben cubrir todos los posibles casos de uso y ser representativos de todos los posibles usuarios.

Un buen ejemplo de un contexto en el que un sistema de IA mal diseñado puede amplificar los sesgos es la atención médica. Investigar del Imperial College de Londres ha destacado que, dado que los datos que se utilizan para entrenar los algoritmos tienden a no ser representativos de los grupos étnicos minoritarios, existe el riesgo de que los sistemas de IA exacerben las desigualdades en salud existentes. Así que, en el caso del cáncer de piel, por ejemplo, si se utilizan imágenes de pacientes blancos para entrenar los algoritmos para detectar el melanoma, los pacientes negros pueden no recibir un diagnóstico que los lleve a sufrir más resultados de salud potencialmente mortales.

Por último, es clave emplear equipos de desarrollo y pruebas que tengan experiencias y datos demográficos diversos. Un equipo diverso estará mejor equipado para reconocer y desafiar los prejuicios que los grupos más homogéneos, lo que reducirá el riesgo de que los sesgos se programen involuntariamente en las tecnologías de IA.

Incorporar la DEI en los programas de mejora y formación.

Cualquier organización que invierta en IA también tiene que invertir en mejorar exhaustivamente las capacidades de su fuerza laboral para entender cómo implementar, utilizar y gestionar las herramientas de IA. Los empleados también deben conocer los riesgos relacionados con la IA, incluido el sesgo algorítmico contra ciertos grupos demográficos.

Priorizar la DEI como parte del proceso de mejora de las capacidades puede ayudar a las empresas a evitar que la IA exacerbe las desigualdades existentes y cree nuevas brechas digitales entre quienes están y no están formados en su uso. Las organizaciones deberían trabajar para dotar a los grupos infrarrepresentados de habilidades fundamentales de IA, no solo para crear sistemas de IA responsables, sino también para permitirles la transición a nuevas funciones que ofrezcan un avance económico. El Foro Económico Mundial Informe sobre el futuro del empleo 2023 destaca que los especialistas en IA y aprendizaje automático son la categoría laboral que más rápido crece en relación con su tamaño en la actualidad, y las organizaciones tienen la responsabilidad de garantizar que todos los empleados tienen la oportunidad de capitalizar este auge.

Utilice la IA como una oportunidad para impulsar la DEI.

Cuando se usan de forma ética y responsable, los sistemas de IA pueden crear nuevas oportunidades para impulsar la DEI, ya que pueden identificar los patrones que pueden afectar negativamente a ciertos grupos. Por ejemplo, pueden existir brechas salariales en la organización y las herramientas de IA pueden detectarlas. Uso de sistemas de IA para identificar estos puntos ciegos en última instancia, puede apoyar una evaluación del desempeño, los procesos de ascenso, la asignación de recursos y la asignación de proyectos más equitativos.

Además, se pueden utilizar sistemas de IA para mejorar la accesibilidad laboral de las personas con discapacidades. Los ejemplos incluyen los sistemas de reconocimiento de voz para ayudar a las personas con problemas del habla a comunicarse más fácilmente y las herramientas de reconocimiento de imágenes impulsadas por la IA para ayudar a las personas con discapacidad visual a navegar por su entorno.

La IA también puede ayudar a las empresas a adaptar las iniciativas de inclusión mediante la recopilación y el análisis de datos sobre el compromiso, la satisfacción y los comentarios de los empleados. Estos datos permiten a las organizaciones identificar mejor los patrones, abordar las posibles disparidades y personalizar las iniciativas de DEI en función de las necesidades y experiencias específicas de las personas o los grupos.

Más que bombo

En mi opinión, no cabe duda de que la IA estará a la altura de sus expectativas, pero solo si podemos lograr un equilibrio entre la automatización y la DEI. La gente rechazará los sistemas que perpetúan los prejuicios y la discriminación, o que conducen a más divisiones e inequidades en la sociedad. Si bien la IA remodelará la naturaleza del trabajo, lo hará de una manera que convierta a la DEI en una expectativa básica y en un requisito fundamental para las empresas que buscan crecer a largo plazo.

Por esa razón, las empresas deben centrarse en diseñar y desarrollar sistemas de IA que permitan a todos sus usuarios, tanto directos como indirectos, llevar vidas más interesantes, satisfactorias e impactantes. En última instancia, una transformación de la IA centrada en las personas será el único tipo de transformación de la IA que tendrá éxito.

Los puntos de vista reflejados en este artículo son los puntos de vista del autor y no reflejan necesariamente los puntos de vista de la organización global EY o de sus firmas miembros.