El inquietante paso hacia atrás de Meta al eliminar la verificación de contenidos

A principios de esta semana, y a menos de 15 días de que Donald Trump se posesione por segunda vez como presidente de Estados Unidos, Mark Zuckerberg anunció en su cuenta de Instagram que Meta dejará de verificar los contenidos de sus plataformas sociales, empezando por Estados Unidos. La idea es desescalar la moderación de las publicaciones en todo el mundo.

"Construimos unos sistemas complejos para moderar contenido, pero el problema con estos es que cometen errores. Si accidentalmente censuran al 1 % de las publicaciones, eso representa millones de personas. Las recientes elecciones pusieron en un punto culmen a la libertad de expresión. Así que regresamos a nuestros orígenes, simplificando nuestras políticas y restaurando la libertad de expresión en nuestras plataformas”, dijo el CEO de Meta, que incluye a redes como Facebook, Instagram y Threads, y que cuenta con más de 3.200 millones de usuarios.

La empresa cambiará a los chequeadores de datos independientes por las ‘Notas de Comunidad’, un sistema implementado por la red X de Elon Musk, en el que los mismos usuarios se encargan de dar más contexto o aclaraciones sobre contenidos sospechosos o con datos imprecisos. Eso no impide que las publicaciones tendenciosas y mentirosas sean compartidas y replicadas.

En segundo lugar, Meta simplificará sus políticas de contenido, eliminando restricciones sobre discursos que puedan atentar contra poblaciones vulnerables, como migrantes y disidencias sexogenéricas. A juicio de Zuckerberg, las normas de la empresa callaron a muchas personas con ideas diferentes. La compañía se centrará en contenidos ilegales, como el terrorismo y la explotación de menores.

¿Cómo funcionarán? Según Zuckerberg, en vez de censurar a priori un contenido que haga apología a algunos de los asuntos anteriores, la empresa hará primero una advertencia a los usuarios sobre la publicación antes de tomar una acción concreta.

Entre otras medidas anunciadas, Meta moverá sus equipos de confianza, seguridad y moderación de contenido de California, un estado demócrata, a Texas, un territorio que es bastión del trumpismo y donde Musk ha incrementado la presencia de sus empresas. Zuckerberg también dijo que trabajará de la mano con Trump para darle frente a los países que quieren poner en cintura a las grandes tecnológicas, que, en su gran mayoría, son de origen estadounidense.

Para la Fundación Karisma, este tema es de gran preocupación. “Ahora cualquier intento de regulación que se trate de hacer, bueno o malo, lo van a considerar un ataque a la industria americana”, comentó la codirectora Catalina Moreno Arocha. Esta posición, a su juicio, cierra aún más las posibilidades de hacer control sobre las empresas tecnológicas y el impacto que tienen sobre los derechos humanos de sus usuarios.

Los cambios en la empresa no se agotan ahí. Vale la pena recordar los recientes nombramientos en la junta directiva de la compañía, siendo el de Dana White el que deja ver las intenciones de Meta de acercarse al próximo gobierno. White es presidente y CEO de Ultimate Fighting Championship (UFC) y un amigo cercano de Trump.

Lecturas en entre líneas

Voces como las de Catalina Moreno Arocha o la de la consulta en temas de derecho y tecnologías, Carolina Botero Cabrera, reconocen que la moderación de datos no es perfecta. “La ineficiencia y los errores de estos sistemas siempre han estado bajo la lupa y estoy de acuerdo en que es difícil moderar los temas de discurso del odio. La frontera es tan complicada de definir que puede prestarse para silenciar discursos permitidos y eso siempre será una mala noticia”, opinó Botero Cabrera.

Moreno Arocha dio ejemplos puntuales en los que ha fallado la moderación de contenidos porque no interpreta los contextos locales. “En Colombia, si un periodista cubre el conflicto armado y publica en sus redes sobre ello, se podría interpretar que está infringiendo las normas al publicar temas relacionados al terrorismo”. Y así hay otros casos.

Está bien reconocer que estos sistemas fallan, pero para varios expertos la justificación de eliminarlos bajo el argumento de la libertad de expresión no es correcto. Y consideran que los cambios responden más a una jugada política y económica por los costos que representa pagarle a terceros por hacer esta tarea. 

No hay que olvidar que el presidente entrante, en los últimos años, ha sido un duro crítico de Meta y los antiguos dueños de Twitter (ahora X), que les suspendieron sus cuentas tras el asalto al Capitolio, el 6 de enero de 2021. 

Por otro lado, Meta enfrenta un caso ante la justicia en EE. UU. por monopolio tras adquirir WhatsApp e Instagram. “Estar cerca del gobierno podría ser una ventaja para la empresa”, comentó a Wired Tai Nalon, directora ejecutiva de Aos Fatos, uno de los proyectos de fact-checking brasileño de la red de Facebook.

“Esta medida parece más una estrategia de apaciguamiento político. Es un gran paso hacia atrás en un momento en el que la desinformación y el contenido nocivo están evolucionando más rápido que nunca”, dijo a la AFP Ross Burley, cofundador del Centro para la Resiliencia de la Información. Esta decisión también “es una manera de buscar no perder más terreno, en términos de poder, con Elon Musk”, dijo Carolina Botero Cabrera.

Por su parte, para Catalina Botero Marino, abogada experta en libertad de expresión y exintegrante de la Junta de Supervisión Independiente de Facebook, sustentar esta decisión en que los verificadores cometen errores y ejercen censura es simplificar la tarea de estos equipos.

“La desinformación se refiere a procesos a gran escala y articulados, que se hacen a través de campañas muy robustas que tienen la intención y la capacidad de engañar a las personas y afectar no solo sus derechos humanos, sino la propia integridad del sistema democrático. Lo que hacen los verificadores de datos es revisar si los contenidos maliciosos se fundamentan en evidencia o no. Una vez los verificadores, a través de métodos estrictos y transparentes, identifican eso, les pasan la información a las plataformas y son estas las que autónomamente deciden qué información debe ser etiquetada o moderada”, explicó.

Desde Karisma creen que el tema que debe tener toda la atención, por encima de la decisión de eliminar los verificadores, es la protección de los derechos fundamentales. “La tensión no está entre libertad de expresión y discursos de odio, sino en cómo las plataformas sociales están garantizando o no todos nuestros derechos”, puntualizó Moreno Arocha.

La periodista y Premio Nobel de Paz en 2021, María Ressa, considera que los argumentos de Meta atacan directamente a la labor periodística que hay detrás de los verificadores. “Los periodistas tienen una serie de normas y un código ético. Y lo que Facebook va a hacer es deshacerse de eso y luego permitir que las mentiras, la ira, el miedo y el odio infecten a cada persona en la plataforma”, alertó la filipina en entrevista con la Afp. Esta mirada que Zuckerberg está planteando sobre los verificadores se alinea un poco con la de Trump, quien en la campaña deslegitimó a medios de comunicación y periodistas.

Además de las repercusiones que menciona Ressa, la ausencia de estos roles expondría a la gente a la manipulación, la desinformación y la vulneración de sus derechos. “La falta de controles puede hacer que una persona rechace una medicina necesaria para curar una dolencia y, por lo tanto, tenga más sufrimiento, o que escoja un candidato que en realidad es contrario a sus intereses. El único que gana es quien ha manipulado a través del engaño. Y no suelen ser las personas con las mejores intenciones”, añadió Catalina Botero Marino.

Hay otros contenidos censurados que, según estimó Carolina Botero Cabrera, seguirán siendo suprimidos por la empresa. “Más allá de los contenidos ilegales, hay otros que las plataformas moderan y que también se critican como exagerados en ocasiones. Por ejemplo, la sociedad civil ha denunciado como ilegítimo que en Instagram y Facebook se censuren los pezones de las mujeres y con esta nueva decisión eso no cambiará, de modo que el argumento es instrumental, sirve en la medida en que se alinea con el que será el nuevo poder en EE. UU.”, agregó la consultora Carolina Botero Cabrera.

La alternativa

La solución que reemplazará a los verificadores de datos, las ‘Notas de Comunidad’, no cuenta con estudios de efectividad. “Dado que cada vez es más complicado acceder a datos de las plataformas, puede que sea imposible tener investigaciones independientes que permitan evaluar hoy ese modelo”, comentó Carolina Botero Cabrera.

A su vez, para expertos, esta decisión demuestra que el compromiso que hizo la empresa en 2016 se diluyó. “Pedir a la gente, pro bono, que vigile las falsas afirmaciones que se publican en las plataformas de Meta es una abdicación de la responsabilidad social”, comentó a la AFP Michael Wagner, de la Escuela de Periodismo y Comunicación de Masas de la Universidad de Wisconsin-Madison.

Por más de que haya una comunidad comprometida con la veracidad de la información, el trabajo que hagan no será suficiente. “Los propios usuarios no tienen ni el tiempo ni el entrenamiento ni los recursos para poder hacer verificación de datos. Aparte, quienes despliegan las campañas de desinformación se sirven de máquinas y troles para contrarrestar lo que los usuarios desarticulados y de buena fe opinan. Y sus parlantes son infinitamente más grandes que los de cualquier vecino trinando desde su teléfono”, explicó Catalina Botero Marino.

Pese a estas miradas, para Karisma las ‘Notas de Comunidad’ pueden ser un esfuerzo más para verificar contenidos que hay que darle tiempo para ver cómo funcionan.

Facebook tiene vinculadas a más de 130 organizaciones independientes encargadas de chequear información publicada en sus redes en todo el mundo. Y el pago que les hace la empresa por sus servicios representa una fuente de ingreso predominante para estas, según la Red Internacional de Verificación de Datos (IFCN, por sus siglas en inglés). Algunos proyectos que han trabajado de la mano con la red social son Animal Político, (México), Chequeado (Argentina) y Agencia Lupa (Brasil), que se verían perjudicados cuando la medida llegue a la región.

Un informe de Facebook, en 2023, exaltó la importancia del chequeo de datos en la antesala a las elecciones parlamentarias de la Unión Europea (UE) de 2024. “Cuando a algo se le etiquetaba como falso o engañoso, el 95 % de las personas no daban clic al contenido”.

Otras consideraciones

Además de los anuncios mencionados, Zuckerberg contó que regresarán los contenidos cívicos (políticos y sociales), a los que la empresa les redujo su visibilidad orgánica desde febrero de 2024. “En su momento, nadie se dio cuenta de eso y eso muestra el gran poder de las plataformas en nuestras democracias, las cuales toman decisiones de diseño que pueden afectar a la libertad de expresión”, comentó Catalina Moreno Arocha.

Otro cambio de Meta es la personalización del contenido político. “Es bueno que regrese el contenido cívico, pero tenemos que mirar los otros pedazos del comunicado, como el que habla de este tema y que deja muchas preguntas: ¿Cómo va a funcionar esa personalización? ¿Van a usar más nuestros datos para personalizar nuestro feed y darnos más de lo que consumimos, cosa que puede convertirse en nudos de polarización?”, dejó en el aire la codirectora de Karisma.

¿UE o EE. UU.?

Para Carolina Botero, “el cambio en los mecanismos de autorregulación de estas redes sociales es una acción anticipada para evitar que Trump use su poder para obligarlos a hacerlo”.

La publicación de Zuckerberg también plantea una dualidad entre las visiones de la UE y su paquete normativo que pone en cintura a las grandes tecnológicas, y el Estados Unidos de Trump, que le apuesta a una libertad de expresión absoluta, que aplica en su red social Truth (verdad en español). La plataforma la lanzó en noviembre de 2021, meses después de que sus cuentas de Twitter y Facebook fueran suspendidas. A las publicaciones allí se le llaman ‘verdades’ y los usuarios de la plataforma son seguidores del republicano.

Desde Europa, las reacciones a la decisión de Zuckerberg fueron inmediatas. “La verificación de datos añade libertad de expresión a los debates públicos, proporciona contexto y datos para que cada ciudadano pueda formarse su propia opinión. Se ha demostrado una y otra vez que la verificación es eficaz para contrarrestar la desinformación. Equiparar esto con la censura es una afirmación falsa y maliciosa”, se lee en el comunicado de la European Fact-checking Standards Network (EFCSN).

Incluso gobiernos se manifestaron: “La libertad de expresión, derecho fundamental protegido en Francia y en Europa, no debe confundirse con un derecho a la viralización que autorizaría la difusión de contenido no auténtico que, sin filtro ni moderación, llegaría a millones de usuarios. La misma empresa estadounidense Meta había valorizado públicamente su asociación con especialistas de la verificación de información como un instrumento eficaz que había permitido que las elecciones europeas de 2024 se desarrollaran adecuadamente”, se lee en el comunicado del Ministerio de Relaciones Exteriores de Francia.

La declaración del CEO de Meta, acerca de que su empresa trabajará con el nuevo gobierno de Trump para evitar que más gobiernos y tribunales judiciales presionen a las compañías estadounidenses “a censurar” a sus usuarios, plantea un debate entre regularización y desregularización que se profundizará en los próximos cuatros años. “La disputa será sobre el modelo, pero no podemos discutir la moderación de contenidos y su modelo regulatorio sin hablar del modelo de negocio de las plataformas que son objeto de control”, anticipó Carolina Botero Cabrera.

“Mark Zuckerberg dice que es una cuestión de libertad de expresión, y eso es completamente equivocado. Solo si quieres poder y dinero puedes alegar eso. El problema central es la seguridad de las personas en las plataformas”, dijo María Ressa.

Aunque Meta planteó que trabajará con el gobierno de EE. UU. para darle frente a los intentos de censura, Catalina Moreno Arocha recuerda que la empresa ha ignorado en contadas ocasiones los llamados a la justicia por casos particulares, incluyendo uno en la Corte Constitucional en Colombia. Es decir, esta posición de la empresa, de sentirse atacada, no es nueva.

Ante los escenarios adversos que vendrán, según las estimaciones de Ressa, la orilla que parece la más adecuada para estos tiempos es la que propone Europa, defienden los expertos. La Ley de Servicios Digitales de la UE obliga a las tecnológicas que quieran operar en el territorio a brindar mecanismos para detectar contenidos ilícitos, medidas de transparencia de sus algoritmos, auditorías independientes, códigos de conducta, entre otras.

La apuesta de Meta es contraria a la ley europea, pues lo que quiere es relajar más sus políticas y alinearse con las posturas de Musk, quien es señalado de incumplir dicha normativa. “Hay evidencia de actores maliciosos motivados que abusan de la ‘cuenta verificada’ para engañar a los usuarios”, dijo la Comisión Europea en julio de 2024 sobre el chulo azul de X. Ese es apenas uno de los frentes abiertos del hombre más rico del mundo en Europa.

Recientemente, Musk ha estado de pelea con los líderes europeos por manifestar su apoyo a partidos de la derecha radical en el continente, como Alternativa para Alemania. Recordemos que el papel del magnate en las elecciones de Estados Unidos no solo fue de donante, sino de promotor ideológico de Trump. Un informe del Centro para la lucha contra el odio digital (CCDH, por sus siglas en inglés), encontró que las afirmaciones falsas o engañosas de Musk sobre las elecciones estadounidenses obtuvieron 1.200 millones de visitas entre enero y julio de 2024 en X, según recoge DW. Y una investigación de The Washington Post evidenció que los republicanos tuvieron más visibilidad en esa plataforma que los demócratas durante los comicios.

No obstante, según Karisma, la normativa europea no es perfecta y ha inspirado proyectos de ley en el mundo que lo que buscan es restringir a las plataformas digitales. Desde la organización insisten que cualquier regulación debe de partir de la protección de derechos. “En ese sentido, es cerrado el anuncio de Meta al decir que la regulación en sí misma ahorca a la innovación”, puntualizó Moreno Arocha.

Las acciones de Meta “conducirán a un mundo sin hechos, a un mundo que es adecuado para un dictador”, advirtió la Premio Nobel. Mientras tanto, según la abogada Botero Marino, queda apuntarle a los medios y verificadores independientes que continúan en la labor de alertar sobre los contenidos maliciosos, pero la preocupación es que la tarea bien hecha termina siendo una gota en medio de un mar de desinformación que circula en las redes.

Natalia Tamayo Gaviria

Subeditora de Domingo

X: @nataliatg13