(CNN) — Los disturbios generalizados contra los inmigrantes en el Reino Unido de la semana pasada, y las falsas afirmaciones virales que los alimentaron, pueden ser el ejemplo más claro y directo hasta la fecha de la forma en que la desinformación no controlada en las redes sociales puede producir violencia y daño en el mundo real.
Incluso después de que las autoridades identificaran a un ciudadano británico como sospechoso de una serie de apuñalamientos mortales dirigidos contra niños, las afirmaciones falsas sobre el nombre y el origen del atacante siguieron avivando el fervor antiinmigrante e impulsando manifestaciones de extrema derecha.
Las afirmaciones falsas han circulado ampliamente, sobre todo en X, la plataforma antes conocida como Twitter, según los investigadores del extremismo. Y la policía culpó abiertamente a esa desinformación de la violencia que sacudió el país en los últimos días, con manifestantes que lanzaban ladrillos contra mezquitas, incendiaban coches y coreaban consignas antiislámicas mientras se enfrentaban a agentes antidisturbios.
Los sucesos de la semana pasada no son el único ejemplo de la relación entre la desinformación en internet y la violencia por motivos políticos: desde el genocidio de los Rohingya hasta el ataque al Capitolio de Estados Unidos el 6 de enero de 2021, las afirmaciones falsas y engañosas han estado siempre en el centro de incidentes destacados de disturbios políticos y violencia.
Es un patrón que se repite a pesar de los años de llamamientos de gobiernos y grupos de la sociedad civil para que las plataformas de redes sociales frenen las publicaciones incendiarias y odiosas, así como de las promesas de las propias empresas de hacer más.
Sin embargo, la reciente retirada de la moderación de contenidos por parte de algunas de las principales plataformas sugiere que el problema de la violencia alimentada por la desinformación puede empeorar antes de mejorar.
Durante casi una década, los gobiernos y los grupos de derechos civiles han argumentado cada vez más que las plataformas en línea han creado enormes costes sociales.
Los críticos de las redes sociales han acusado repetidamente a la industria de anteponer los beneficios empresariales a la salud mental de los usuarios, o de abrir la puerta a la intromisión extranjera, sin hacer lo suficiente para proteger al mundo de esos riesgos.
Un economista podría llamar a esto externalidades negativas: como la contaminación, son subproductos de un negocio con ánimo de lucro que, si no se abordan, todos los demás deben aprender a vivir con ellos o mitigarlos, normalmente con un gran coste colectivo. Las consecuencias tienden a producirse a largo plazo y con efectos sistémicos a gran escala.
Esta semana, es difícil evitar preguntarse si la violencia por motivos políticos basada únicamente en especulaciones de mala fe y sin pruebas se ha convertido en un elemento permanente de las diversas externalidades de las redes sociales, y si se nos está pidiendo que hagamos las paces con ella como condición para vivir en un mundo conectado digitalmente.
Muchas empresas de redes sociales han invertido mucho en la moderación de contenidos a lo largo de los años. Pero el historial reciente de la industria apunta a una apuesta -o quizá una esperanza- de que quizá el público tolere un poco más de contaminación.
Hay algunas señales de rechazo. En la Unión Europea, la nueva Ley de Servicios Digitales pretende responsabilizar a las empresas de redes sociales de la difusión de información errónea. En el Reino Unido, la Ley de Seguridad en Línea podría entrar en vigor este mismo año y, entre otras cosas, exige a las plataformas de redes sociales que eliminen los contenidos ilegales.
Estados Unidos se ha quedado rezagado en la regulación de las plataformas, en parte por la disfunción del Congreso y en parte por las diferencias jurídicas y constitucionales que conceden a las plataformas en línea más libertad para gestionar sus propios sitios web.
Aun así, el mes pasado los legisladores tomaron algunas medidas cuando el Senado estadounidense aprobó la Ley de seguridad infantil en internet, cuyo objetivo es combatir los daños para la salud mental de los adolescentes relacionados con las redes sociales.
Puede resultar tentador descartar el papel de las redes sociales en los disturbios del Reino Unido por considerarlo un mero reflejo de tendencias políticas latentes o el resultado de un activismo que, de todos modos, se habría producido en otras plataformas.
Pero eso distrae del cálculo que algunas plataformas parecen haber hecho: al menos una parte del tiempo, cierta violencia alimentada por la desinformación es un coste razonable que la sociedad debe pagar.