Cómo pueden las empresas mitigar los daños de la desigualdad impulsada por la IA

Tras más de dos años de acumulación y rumores, los titulares siguen prometiendo que la IA está introduciendo cambios sociales de proporciones revolucionarias. Mientras tanto, persiste el malestar por la fragilidad socioeconómica que podría causar la tecnología. Premios Nobel como Daron Acemoglu, del MIT, están preocupados por su capacidad para empeorar las desigualdades de ingresos, y los trabajadores estadounidenses de a pie están inquietos por el impacto de la IA en los puestos de trabajo. De hecho, la confianza en la IA ha ido disminuyendo, a pesar de las mejoras en su rendimiento.

Una fuente importante del malestar con la IA es un fenómeno sistémico que yo llamo “desigualdad artificial”, en el que el avance de la IA empeora aún más las desigualdades existentes en las sociedades. Lo hace concentrando las oportunidades y los resultados socioeconómicos en estrechos segmentos sociales mientras priva a otros.

Por desgracia, la desigualdad artificial es compleja y puede ser difícil de solucionar. En mi investigación sobre el impacto de la IA en una serie de cuestiones sociales -empleos vulnerables a la disrupción, impacto climático de la IA y regiones que podrían beneficiarse más del desarrollo de la IA-he encontrado seis “divisiones” distintas que contribuyen a la desigualdad artificial: datos, ingresos, uso, geografía, industria y energía. Estas divisiones a menudo se refuerzan entre sí. Por ejemplo, alguien que tiene más probabilidades de verse perjudicado por los sesgos en los datos también puede tener menos probabilidades de beneficiarse de las herramientas de productividad de la IA y verse afectado de forma desproporcionada por unos costes energéticos más elevados.

En estos momentos, es probable que la solución más natural -la regulación y la intervención política- no tenga prioridad. En EE.UU., líder mundial de la IA, se espera que la administración Trump desregule y deje a un lado los guardarraíles sobre la IA. Incluso la UE, que cuenta con un sólido marco regulador, está enviando señales de priorizar la “acción”y la “oportunidad”sobre la salvaguarda de los usuarios.

La noticia positiva es que los líderes de las empresas pueden actuar para mitigar los riesgos de la desigualdad artificial a través de las seis brechas. La desigualdad artificial puede ser perjudicial tanto para los productores como para los adoptantes de la IA, y las empresas deben actuar cuando puedan.

Hay tres palancas de las que pueden tirar los líderes empresariales:

• Tecnologías: Aunque las nuevas herramientas pueden crear nuevos problemas, también pueden ayudar a resolverlos. Las empresas necesitan saber cómo funciona su tecnología y dónde puede fallar, y qué nuevas herramientas pueden ayudarles a alcanzar sus objetivos de forma responsable.
• Instituciones: Las empresas no necesitan hacer este trabajo solas. Deben buscar organizaciones externas que puedan actuar como socios, así como prácticas y marcos externos que puedan ayudarles a aprender y adaptarse.
• Mercados: Aunque la mayoría de las empresas no pueden crear o cambiar los mercados, sí pueden leer las señales sobre la demanda de los usuarios. Saber qué buscar en este paradigma emergente puede ayudar a encontrar las soluciones y los modelos empresariales adecuados.

Con las múltiples brechas que contribuyen a la desigualdad artificial, las empresas pueden tener capacidades limitadas para abordar el problema en su conjunto. Pero al considerar cada división individualmente, pueden ver lugares específicos en los que tienen más poder para intervenir.

Veamos cada una por separado.

[  1  ]

La división de los datos

La IA combina las matemáticas con los conjuntos de datos. Mientras que las matemáticas pueden no discriminar, los conjuntos de datos sí lo hacen: a menudo incluyen sesgos en forma de información incompleta e incluso falsedades. La división de los datos puede tener consecuencias devastadoras. Por ejemplo, los clasificadores de radiografías de tórax asistidos por algoritmos infradiagnostican sistemáticamente a los pacientes de color y a las mujeres. Y cuando se utilizaron algoritmos para evaluar las solicitudes de hipotecas, los prestamistas de Chicago tenían un 150% más de probabilidades de rechazar a solicitantes negros en relación con solicitantes blancos similares. En Waco, Texas, esa cifra era aún mayor, del 200% para los solicitantes latinos.

En el actual clima político de EE.UU., es poco probable que las barreras contra el sesgo de la IA sean una prioridad normativa. He aquí cómo los líderes de las empresas pueden tomar medidas y proceder con responsabilidad:

Tecnologías

Una preocupación primordial para los desarrolladores de IA y las empresas en este caso son los desequilibrios en los datos que podrían crear daños. Los desarrolladores deben considerar: 1) buscar conjuntos de datos que sean representativos de las poblaciones a las que pretenden servir, 2) comprobar la distribución de fuentes potenciales de sesgo y atributos demográficos alternativos en los datos de entrenamiento, y 3) utilizar métricas como el impacto dispar para medir la disparidad de resultados entre grupos, o las probabilidades igualadas para garantizar que las predicciones de un modelo son igual de precisas en los diferentes grupos protegidos.

Las empresas también pueden recurrir a las herramientas disponibles, como el AI Fairness 360 Toolkit de IBM o las herramientas de código abierto, como Fairlearn, cuando persigan estas prácticas.

Instituciones

Las empresas deben crear nuevas prácticas y rutinas en torno a la forma en que los empleados trabajan con la IA, haciendo especial hincapié en detectar los sesgos que contribuyen a la brecha de datos. Esto puede incluir la creación de equipos de trabajo y el análisis de escenarios; la realización de auditorías periódicas; y el desarrollo de “declaraciones de impacto de los sesgos” en las que los equipos se autorregulen e investiguen los sesgos en sus decisiones algorítmicas.

Varias organizaciones independientes, como Partnership on AI y Algorithmic Justice League -conherramientas de formación y promoción de la concienciación- pueden actuar como facilitadores para que estas prácticas se conviertan en algo habitual.

Mercados

En estos momentos, las empresas están sometidas a intensas presiones para introducir en el mercado productos impulsados por la IA. A menudo, las empresas se centran en cómo las pruebas o las prácticas de desprestigio pueden ralentizar ese proceso, pero deben tener en cuenta el riesgo de perder cuota de mercado a medida que la concienciación de los clientes y la demanda de este tipo de productos se conviertan en la norma. Un estudio de 350 empresas reveló que el 36% de ellas ya han sufrido pérdidas comerciales debido al sesgo de la IA. Mientras tanto, otras están diferenciando sus productos por ser menos sesgados, como SAP, que declaró que el sesgo es “mal negocio”.

[  2  ]

Brecha de ingresos

Se prevé que la adopción de la IA aumente la productividad de ciertos trabajadores, mientras que hará redundante el trabajo de otros, un cambio preparado para acelerar las desigualdades de ingresos. A la mitad de los estadounidenses les preocupa que la IA provoque una mayor desigualdad de ingresos, y es fácil ver por qué: El FMI prevé que casi el 40% de los puestos de trabajo de todo el mundo se verán afectados por esta tecnología. De forma más conservadora, Acemoglu, del MIT, prevé que el 5% de todas las tareas serán realizadas de forma rentable por la IA en la próxima década. Las personas en ocupaciones expuestas a la IA con funciones que son altamente sustituibles experimentarán desplazamientos y pérdidas de ingresos, mientras que las ocupaciones y funciones complementarias a la IA pueden esperar ganancias de productividad y aumentos de ingresos.

Los líderes de las empresas deben considerar varias opciones para mitigar los efectos sociales de esta división:

Tecnologías

Las empresas pueden trabajar para abordar esta brecha invirtiendo en las habilidades de sus trabajadores, en particularde los trabajadores con menos experiencia o formación. Hacer que las herramientas de IA y la formación sean ampliamente accesibles podría aumentar el potencial de ingresos, especialmente para aquellos que tienen un menor rendimiento y ganan menos que sus compañeros. Además, muchas empresas más pequeñas pueden invertir en herramientas para ellas mismas, como las herramientas de análisis empresarial, que pueden ayudarles a reducir costes y a competir mejor con los competidores más grandes.

Instituciones

Las asociaciones pueden ayudar a cerrar la brecha de habilidades. Por ejemplo, AI4ALL ofrece experiencia práctica en herramientas de IA a un amplio abanico de usuarios, Charity Excellence proporciona herramientas de IA gratuitas para organizaciones sin ánimo de lucro, y la Coalición de Competencias en IA de la UIT persigue objetivos similares. Los grandes productores de IA también tienen iniciativas, como el Fondo de Oportunidades de IA de Google, las habilidades de IA para organizaciones sin ánimo de lucro de Microsoft, los esfuerzos de “democratización” de la IA de IBM, y los concursos y premios de Mastercard destacan el uso de la IA para acelerar la inclusión y ponen el foco en cómo las herramientas de IA pueden reducir las diferencias de ingresos.

Mercados

A medida que se adopten más ampliamente las herramientas de IA que reducen las diferencias de ingresos, las empresas tendrán acceso a una reserva más amplia de trabajadores cualificados. Y a medida que las empresas más pequeñas sean más rentables, el mercado se ampliará debido a la mayor competitividad de la mano de obra y entre las empresas. En vista de ello, las empresas tendrán el incentivo de aplicar dichas herramientas -y deberían hacerlo de forma más coherente- para establecer y mantener modelos empresariales que puedan hacer frente a la competencia.

[  3  ]

División de uso

La adopción de la IA ha sido desigual. En EE.UU., por ejemplo, es más probable que las personas con más estudios y mayores ingresos confíen en las herramientas de IA y las utilicen, y su uso se concentra geográficamente en unas pocas ciudades “superestrella” y centros emergentes. La creciente desconfianza en la IA sugiere que es probable que esta división aumente. Y aunque no está del todo claro cómo cambiará el empleo el uso de la IA, es justo suponer que las personas que la utilicen estarán mejor posicionadas para navegar por el cambio que se avecina.

La desconfianza está impulsada principalmente por las preocupaciones sobre la autenticidad, la fiabilidad de la información generada por la IA, los impactos sociales y medioambientales, etc. Los líderes de las empresas que aspiran a cerrar la brecha en el uso de la IA pueden considerar varias palancas para generar confianza:

Tecnologías

Las empresas pueden invertir en tecnologías que mejoren la fiabilidad de la IA. Por ejemplo, existen herramientas que pueden mejorar el volumen y la variedad de los datos de entrenamiento (por ejemplo, las técnicas de aumento de datos que utilizan TensorFlow y Keras), incorporar bucles de retroalimentación (por ejemplo, la aplicación Fiabilidad de C3AI) y supervisar y probar las arquitecturas avanzadas de IA. Otras herramientas, como una herramienta de diagnóstico utilizada en la generación de energía nuclear, pueden ayudar a incorporar sistemas expertos al aprendizaje automático y las redes neuronales. Las organizaciones también pueden considerar la posibilidad de emparejar otras tecnologías con la IA para mejorar su calidad: Los sensores IoT, por ejemplo, pueden realizar un seguimiento en tiempo real de los sistemas y aportar datos que ayuden a los algoritmos a aprender y adaptarse.

Instituciones

Varias organizaciones están trabajando para infundir confianza en la IA y pueden ofrecer orientación sobre cómo hacerlo. Entre ellas se incluyen instituciones académicas, como el Institute for Ethics in AI de Oxford; organizaciones sin ánimo de lucro, como la Partnership on AI; e iniciativas financiadas por múltiples filantropías, junto con tablas de puntuación, como la del Stanford Center for Research on Foundation Models sobre transparencia. Los estudios de“interpretabilidad de la IA” en la atención sanitaria y la formación por parte de los desarrolladores de la IA o de organismos intergubernamentales también son fundamentales para garantizar la fiabilidad de la IA. Los empresarios también pueden formar a los trabajadores en la detección de información poco fiable generada por la IA.

Mercados

Las empresas que invierten en herramientas de creación de confianza descubrirán que ésta aumenta la demanda. Un estudio sobre los asistentes de voz de IA descubrió que la confianza tiene un efecto positivo en la adopción, mientras que la confianza también fue clave en la disposición de los usuarios a persistir con los chatbots para los servicios sanitarios. Los clientes tienen el doble de probabilidades de comprometerse con la IA de confianza, y los trabajadores tienen dos veces y media más probabilidades de utilizar las herramientas de IA de sus empleadores en el trabajo si confían en ellas.

Muchas empresas ya se están diferenciando en cuanto a la fiabilidad de la IA: Microsoft hace hincapié en la seguridad y la privacidad, mientras que Salesforce promete “humanos al timón” para generar confianza. Por el contrario, la falta de confianza tiene un coste: por ejemplo, Zillow experimentó con la compra de viviendas basándose en su modelo de valoración de IA, sólo para cerrar el proyecto con una pérdida de 300 millones de dólares ocho meses después, un fracaso que llevó a la empresa a despedir al 25% de su plantilla y minó la confianza en sus estimaciones de precios de IA.

[  4  ]

División global

Según las investigaciones del FMI, los beneficios de la IA en términos de productividad e ingresos se inclinarán probablemente a favor de las naciones de altos ingresos. El 60% de los puestos de trabajo pueden estar expuestos a la IA en estas naciones, frente al 40% y el 26%, respectivamente, en las economías de mercado emergentes y en los países de renta baja. Como se prevé que la adopción de la IA aumente el crecimiento del PIB y la productividad en general, se espera que lo haga en proporción a la exposición en cualquier país dado; como anticipa el FMI, esto plantea “el riesgo de que con el tiempo la tecnología pueda empeorar la desigualdad entre las naciones.” Las políticas estadounidenses que limitan el acceso de muchas partes del mundo a los chips avanzados, si continúan, probablemente exacerbarán estas divisiones.

Esta fragmentación de los mercados en todo el mundo limita el potencial de la tecnología, elevando las barreras de entrada y los costes. Los dirigentes de las empresas pueden considerar varias medidas paliativas:

Tecnologías

Las empresas -especialmente las de fuera de EE.UU.- pueden protegerse de las restricciones y de estar atadas a un único ecosistema adoptando iniciativas de IA de código abierto y ampliamente accesibles, incluidas las de “peso abierto”, en las que los parámetros entrenados están a disposición del público, pero no el código de entrenamiento ni los conjuntos de datos. El laboratorio chino DeepSeek ha demostrado que estos modelos de IA de código abierto pueden funcionar casi tan bien como los mejores modelos de IA patentados y hacerlo con una fracción de los costes y recursos.

Las empresas, sobre todo las del mundo en desarrollo, también pueden aprovechar la ampliación del acceso a las herramientas de IA para desarrollar innovaciones de “pequeña IA” dirigidas a sectores específicos y mejorarlas con pequeñas inyecciones de información relevante. Por ejemplo, la aplicación Plantix ayuda a los pequeños agricultores a identificar las plagas que destruyen los cultivos y a tratarlas.

Instituciones

Las prácticas de código abierto son fundamentales para ampliar el acceso global a las herramientas de IA, y hay muchas organizaciones que pueden ayudar a las empresas a hacer uso de ellas. Considere la Red Internacional de Computación e IA, que promueve el acceso a la IA en todo el mundo, y AI for Good, que se centra en la resolución de retos globales.

Mercados

Las herramientas y aplicaciones de código abierto crean más oportunidades para que las empresas de todo el mundo aprovechen la IA. Los beneficios comerciales pueden ser significativos, ya que la democratización de la tecnología no sólo puede resolver problemas locales, sino que puede generar demanda en múltiples mercados. Consideremos los ejemplos de la identificación de enfermedades en plantas con ayuda de la IA procedentes de África, los servicios de telesalud para mujeres embarazadas de la India, la asistencia sanitaria para diabéticos con ayuda de la IA desarrollada en México y los sistemas de vigilancia forestal de Brasil, todos ellos con un potencial de ingresos global más amplio.

[  5  ]

División industrial

Hasta ahora, la cadena de valor de la IA ha estado dominada por un puñado de empresas. Además, estas empresas gastan dinero entre sí a través de la exclusividad de productos o canales, lo que refuerza la concentración y bloquea eficazmente a los nuevos participantes. Por ejemplo, Meta compra servicios en la nube a Amazon para potenciar sus ambiciones de IA y los principales desarrolladores de IA utilizan los chips de mayor rendimiento de Nvidia para mantenerse en cabeza de la carrera. Estas prácticas sesgan las inversiones hacia las más atractivas comercialmente para unas pocas empresas dominantes, y dejan a las empresas que compran servicios de IA sintiéndose bloqueadas por un puñado de gigantes tecnológicos que pueden dictar los precios y las condiciones.

Como las empresas están deseosas de probar herramientas de IA, pero aún no están dispuestas a pagar los precios que imponen los líderes comerciales, pueden considerar alternativas más baratas que ofrezcan opciones adicionales sin comprometer el rendimiento para la mayoría de los usos.

Tecnologías

De forma similar a la cobertura contra la fragmentación de los ecosistemas globales de IA, las empresas pueden considerar la IA de código abierto, como DeepSeek y otras empresas de IA de China, o actores no chinos, como Meta (EE.UU.), Cohere (Canadá) o Mistral (Francia). Además, también pueden obtener beneficios de pequeños modelos lingüísticos entrenados en conjuntos de datos más reducidos para aplicaciones personalizadas, o herramientas de “IA de borde” que realizan tareas en dispositivos interconectados con datos almacenados cerca de los dispositivos, con un procesamiento realizado en el borde de la red para sortear los puntos de concentración de la industria.

Instituciones

Las empresas también pueden abastecerse de productos de organizaciones que construyan modelos de IA de “bienes públicos digitales”, rieles de acceso público sobre los que se construyen las aplicaciones. Por ejemplo, la Alianza de Bienes Públicos Digitales, una iniciativa de múltiples stakeholders, promueve el software de código abierto, los datos abiertos, los modelos de IA abiertos y las colecciones de contenidos abiertos que se adhieren a las normas de privacidad. Para dar cabida a consideraciones comerciales, también promueve un modelo de “apertura escalonada”, que permite distintos niveles de acceso a los diferentes componentes de la IA.

Mercados

Las empresas pueden beneficiarse de que la industria de la IA sea más competitiva y del crecimiento de aplicaciones de IA especializadas adaptadas a diferentes necesidades. Éstas podrían incluir “pequeñas” empresas y modelos de IA que se dirijan a intervenciones muy necesarias en sectores de baja productividad en el mundo en desarrollo, como la agricultura o la educación, y desbloqueen una cantidad desproporcionada de valor al resolver una necesidad no cubierta.

Sin embargo, estos desarrollos también deben abordar el problema de confianza de la IA. Aunque la IA de código abierto facilita la competitividad, también puede introducir nuevas vulnerabilidades de seguridad. Las inversiones para fomentar la confianza que también mantengan accesible la IA de alto rendimiento serán diferenciadores clave del mercado; las empresas pueden considerar herramientas, como Dependabot, Renovate o Snyk para comprobar los modelos de código abierto en busca de vulnerabilidades de seguridad conocidas.

[  6  ]

División energética

La IA tiene enormes demandas de energía y agua: para 2026, se espera que el consumo de energía de los centros de datos crezca entre un 35% y un 128%. Incluso con las inversiones previstas en nuevas infraestructuras energéticas, la demanda seguirá yendo por delante del aumento de la oferta. Aunque la IA puede utilizarse para hacer un uso más inteligente de la energía, es más probable que contribuya a la pobreza energética, ya que los sistemas de energía inteligente se concentran en las zonas más ricas y más de mil millones de personas viven sin acceso a una energía asequible. Además, muchas empresas corren el riesgo de no alcanzar sus propios objetivos de energía neta cero, ya que las inversiones en IA las han desviado de su rumbo. Para hacer frente a estos problemas, los líderes de las empresas -especialmente en las empresas de IA o con grandes necesidades de IA- pueden considerar varias opciones de mitigación:

Tecnologías

Hay una serie de innovaciones que pueden hacer que el uso de la IA sea más eficiente. Si gestiona sus propios centros de datos, la IA DeepMind de Google puede reducir los gastos de refrigeración hasta en un 40%. Además, Nvidia está desarrollando GPU más eficientes que pueden ofrecer hasta 30 veces más rendimiento y, al mismo tiempo, consumir 25 veces menos energía.

También puede explorar enfoques novedosos en el diseño de hardware, como ubicar la memoria dentro de los núcleos de cálculo, lo que puede reducir la disipación de energía al acortar las distancias de viaje de los datos. O bien, desplegar dispositivos que imiten las funciones cerebrales, que han demostrado utilizar 1.000 veces menos energía que los estándares actuales. Otros modelos han experimentado funcionando con microcontroladores de baja potencia. Los nuevos componentes, como los aceleradores fotónicos, los chips 3D y las nuevas técnicas de refrigeración de chips pueden proporcionar potencia de cálculo con un menor consumo de energía.

También se pueden encontrar eficiencias en el diseño de los modelos. DeepSeek, por ejemplo, demostró cómo podía ahorrar en recursos informáticos y energéticos desplegando una técnica de “mezcla de expertos” que divide las redes neuronales de la IA en diferentes categorías. La empresa también utilizó otros enfoques creativos, como recortar los decimales de los números utilizados en los cálculos sin pérdidas notables de rendimiento.

Instituciones

Dada la importancia de las demandas energéticas de la IA, muchas organizaciones están trabajando en este problema y ofrecen programas de formación para desarrollar conocimientos especializados en IA y conservación de la energía. Por ejemplo, la Cornell AI for Sustainability Initiative lidera la investigación, la innovación y la educación sobre cómo gestionar el uso energético de la IA, así como sobre la forma en que la IA puede ayudarnos a utilizar la energía de forma más eficiente.

Mercados

Las empresas se benefician del hecho de que la eficiencia energética contribuye a la eficiencia general de costes y recursos y mejora su competitividad. Los productores de IA están tomando decisiones sobre la ubicación de los centros de datos teniendo en cuenta el impacto medioambiental junto con otros criterios, como el coste, las cuestiones técnicas y la proximidad a los usuarios. Las innovaciones en la fijación de precios de la energía, utilizando análisis predictivos o sistemas de pago por uso, están haciendo que el acceso a la energía sea más asequible y pueden ayudar a aumentar la demanda. Aunque los beneficios en materia de eficiencia energética de los modelos de código abierto son aún discutibles, según un análisis, DeepSeek requiere 11 veces menos recursos informáticos que uno similar de Meta. Según la empresa, esto equivale a entre 10 y 40 veces menos energía que los modelos estadounidenses similares y, por tanto, su funcionamiento es más barato. Estos cambios en el campo de juego competitivo y las tecnologías de ahorro energético disponibles presionan a todas las empresas de IA para que aumenten su eficiencia energética.

- - -

Compensar estas seis brechas es un imperativo empresarial, especialmente en un momento en el que es menos probable que los gobiernos y los reguladores intervengan. Esto significa que los líderes de las empresas -tanto los productores como los adoptantes de IA- deben atender las necesidades críticas insatisfechas de los usuarios tirando de palancas alternativas. Afortunadamente, las empresas tienen opciones para contrarrestar la desigualdad artificial siempre que se centren en las tecnologías, las instituciones y los mercados.

La aceleración de la IA no tiene por qué traducirse en un mundo más frágil y dividido. Lograr el equilibrio adecuado puede facilitar la adopción generalizada de la IA y ayudar a hacer realidad sus numerosas promesas revolucionarias.