Cómo la obsesión de las redes sociales por la escala sobrealimentó la desinformación

Durante los últimos cuatro años, la desinformación se ha convertido en una consigna mundial. Tras la intromisión rusa en las redes sociales durante las elecciones presidenciales estadounidenses de 2016, los expertos expresaron su preocupación por el hecho de que las redes sociales siguieran siendo utilizadas como armas, advertencias que a menudo se descartaban por exageradas.

Pero el asedio del 6 de enero al edificio del Capitolio de los Estados Unidos ilustra lo poderosa que puede ser una conspiración en red cuando se amplifica en las redes sociales. El ataque fue la culminación de años de desinformación por parte del presidente Trump, que se intensificó después de que Biden fuera declarado presidente electo, y en gran medida se debió a la incapacidad de las empresas de redes sociales de controlar el uso de sus productos como armas.

A lo largo de los años, hemos sido testigos de cómo han ido tomando forma diferentes enfoques de la militarización. Si bien la intromisión rusa ilustró la posibilidad de que una desinformación bien fundada se difundiera en las redes sociales, el acto «Unite the Right» de 2017 en Charlottesville, Virginia, mostró cómo un grupo de supremacistas blancos podía utilizar las redes sociales para planificar una manifestación violenta. El asedio al Capitolio tuvo elementos de ambas cosas: implicó un espectro ideológico más amplio que el de Charlottesville, y los participantes no solo se coordinaron en las redes sociales, sino que se unieron a través de ellas. A los insurrectos les unía su apoyo a Donald Trump y su falsa creencia de que le habían robado las elecciones. En la cúspide del momento, Trump utilizó las redes sociales para enviar mensajes a la multitud rabiosa en tiempo real desde su teléfono móvil en un lugar seguro.

Esto ha suscitado dudas fundamentales sobre el futuro de las plataformas en las que todo esto se desarrolló. Las principales plataformas, como Facebook y Twitter, se ven obligadas a tener en cuenta sus políticas de moderación y se enfrentan a peticiones de regulación. Y la conservadora red social Parler, que se enorgullece de su enfoque minimalista de la moderación del contenido, tiene perdió todo el soporte de infraestructura de Apple, Android y Amazon Web Services por publicaciones que incitan a la violencia, incluidas la planificación y la coordinación en torno al ataque al Capitolio. Sin la participación de todos los servicios de infraestructura, puede resultar difícil que las aplicaciones y los sitios web permanezcan en línea.

Pero para saber qué viene después, tenemos que preguntarnos: ¿Cómo se convirtieron las redes sociales en una máquina de desinformación? ¿Y cómo explican los modelos de negocio de estas empresas de tecnología cómo ocurrió eso?

Se explotará todo lo que esté abierto.

Durante más de una década, el modelo de negocio de los gigantes actuales de las redes sociales, Facebook, YouTube y Twitter, ha consistido en perseguir la escala. Buenas ideas, como la plataforma para compartir vídeos Viña, nos quedamos atrás en esta búsqueda, mientras que los KPI de los accionistas estaban vinculados a ampliar la base de usuarios. Este enfoque tiene un punto débil importante: cuando el crecimiento de una plataforma depende de la apertura, es más vulnerable al uso malintencionado. Como podemos ver ahora, este modelo de negocio abierto puede dejar a las empresas expuestas de formas que estas empresas se ven obligadas a tener en cuenta.

Ha habido algunas fases críticas que han llevado a este momento. Cada una, a su manera, ilustró cómo se podía aprovechar la vulnerabilidad del modelo de negocio abierto y centrado en la escala de las plataformas de redes sociales.

Relativamente pronto, centrarse en el crecimiento estableció las condiciones para el desarrollo de un industria clandestina de seguidores falsos y compromiso artificial. Según información privilegiada, esto era muy conocido, pero las empresas de redes sociales evitó las conversaciones sobre el abuso de sus productos. Se perdieron miles de millones de dólares en publicidad a causa de impresiones y clics falsos, a medida que cada vez más actores malos aprovechaban la apertura como una oportunidad financiera.

Sin embargo, cuando el marketing online se convirtió en una herramienta política, el campo de los malos actores se amplió considerablemente, al igual que el posible daño que podían causar. La conexión entre las redes sociales y los acontecimientos políticos, como el Brexit y la victoria de Trump, quedó clara después de que Carole Cadwalladr diera a conocer el Cambridge Analytica escándalo. El incidente proporcionó un estudio de caso sobre cómo los datos recopilados de las redes sociales podrían reutilizarse para dirigirse a audiencias específicas con contenido que exacerbara las tensiones políticas y fracturara las coaliciones, sin mencionar que sembrar noticias basura y, en general, hacer que reinaran el caos y la confusión.

Esa evolución coincidió con un ataque similar a la sensibilidad de los usuarios de las redes sociales: la creación de fanfiction militar  conocido como «QAnon» en 2017. Tras renacer de las cenizas de la conspiración de Pizzagate, en la que se afirmaba que Hilary Clinton formaba parte de una red de explotación infantil en D.C., una misteriosa cuenta llamada «Q» comenzó a publicar misivas crípticas en un tablero de mensajes conocido por sus memes, pornografía en anime y organización supremacista blanca. Si bien es amplio, la narrativa central de QAnon era que Trump estaba librando secretamente una guerra con el «estado profundo» para arrestar a Clinton y detener a una camarilla dirigida por los demócratas de pedófilos adoradores de Satanás que se dedicaban a la trata de personas a gran escala. Durante años, a los seguidores de QAnon se les dijo que «confiaran en el plan». (Sí, sé que parece una locura, pero la narración estaba vinculada al ciclo de las noticias y cada giro de los medios de comunicación que parecían impedir que Trump llevara a cabo su agenda proporcionaba más información).

Con QAnon, la franja pasó a la corriente principal, con hilos de discusión Q en Facebook, Reddit y Twitter. El modelo de crecimiento de las plataformas hizo que el contenido y los grupos que generaban una gran participación recibieran una mayor prioridad en las recomendaciones. En otras palabras, las comunidades de QAnon ofrecían el tipo de contenido que las redes sociales valoran y, en consecuencia, se beneficiaban. Algunos hechos específicos, como el arresto de Jeffery Epstein y el tiroteo masivo en Las Vegas, generaron un nuevo interés por las publicaciones de Q y sus análisis. Las redes Q también incorporaron la aparición de la COVID-19, lanzaron un engaño en el que afirmaban que la pandemia era un complot demócrata contra Trump y organizaron varias protestas con este fin.

Tardíamente, algunas empresas de tecnología respondieron. Facebook y Twitter se llevaron alguna acción a eliminar redes Q en sus productos este verano. Reddit no tenía los mismos problemas porque tomaron medidas pronto para eliminar los foros de Q, y la teoría de la conspiración nunca se afianzó con fuerza en la plataforma. Pero cuando Twitter y Facebook tomaron medidas, las comunidades Q ya habían planeado eliminar la plataforma y crear redes redundantes en otras aplicaciones con redes más pequeñas, como Gab y Parler.

Con la elección de Joe Biden en noviembre, los efectos de estas tendencias quedaron claros. El resultado de las elecciones fue discordante para quienes estaban saturados por estas teorías de la conspiración. La sensación de estar alienado políticamente, aunque también aislado durante una pandemia, había despertado a muchos seguidores de Q, hasta el punto de que Trump solo necesitó encender la cerilla en las redes sociales para difundir las conspiraciones electorales como la pólvora digital.

En todos los casos previos al 6 de enero, el deber moral era reducir la escala y prestar más atención a la calidad del contenido viral. Hemos visto el coste de no hacerlo.

Adónde vamos desde aquí.

En su libro Redes antisociales, Siva Vaidhyanathan escribe: «Si una empresa de publicidad mundial aprovecha su amplia gama de expedientes sobre sus dos mil millones de usuarios para limitar la competencia e invitar a las fuerzas antidemocráticas a infestar sus canales de desinformación, los estados democráticos deberían tomar medidas para dividirla y limitar lo que las empresas pueden aprender y utilizar sobre los ciudadanos». Tras el ataque al Capitolio, vemos un interés creciente por hacer precisamente eso.

Al considerar los próximos pasos, como sociedad, debemos tener en cuenta que hacer hincapié en la escala tiene una compensación con la seguridad. Además, no actuar en función de la desinformación y la conspiración viral no significa que acaben por desaparecer; de hecho, ocurre lo contrario. Como las redes sociales parecen pasar de la franja a la corriente principal, al conectar a personas con intereses similares, desde lo mundano hasta lo absolutamente estrafalario, las empresas de tecnología deben elaborar un plan de curación de contenido y moderación de la comunidad que refleje una escala más humana.

Las empresas de tecnología, incluidas las empresas emergentes, desconfían de extralimitarse, y los inversores de capital riesgo deberían empezar a elaborar políticas modelo para que los reguladores las tengan en cuenta, teniendo en cuenta que la apertura y la escala representan riesgos importantes no solo para las ganancias, sino también para las democracias.