Résistance Identitaire Européenne

Facebook : liste noire secrète des « Individus et organismes dangereux (DIO) »

The Intercept est un site américain « liberal » au sens anglo-saxon du terme, c’est-à-dire progressiste. Il a publié en octobre 2021 un long article sur les individus et les organisations classés « dangereux » par Facebook. Même si le contexte américain est fort différent du contexte européen, même si certaines analyses nous semblent biaisées, il nous a semblé intéressant de livrer à nos lecteurs la traduction en français de ce document brut.

Depuis 2012 Facebook empêche les internautes de s’exprimer librement, sous couvert de les protéger du terrorisme. De cette même époque date, dans les règles régissant la communauté de Facebook, la mise au ban d’« organismes étant connus pour leurs activités terroristes ou criminelles. » Ce règlement a pris depuis des proportions démesurées pour résulter dans une politique relative à toute personne ou organisme considérés comme « DIO » (Dangerous Individuals and Organizations — Individus et organismes dangereux) : un ensemble de restrictions sur ce que près de 3 milliards d’utilisateurs de Facebook ont le droit d’exprimer à propos de personnes ou d’entités jugées hors cadre, dont la liste déjà très conséquente, ne cesse d’augmenter.

 

Un système inexplicable qui punit de manière disproportionnée certaines communautés

Cette liste noire regroupe plus de 4 000 personnes et organismes : personnalités politiques, écrivains, organisations caritatives, hôpitaux, morceaux de musique et personnages historiques. Des juristes et des défenseurs des libertés civiles en ont demandé la publication afin que les utilisateurs sachent quand leurs messages risquent d’être supprimés ou leur compte suspendu pour avoir pris une position favorable à un élément listé. Facebook a refusé à plusieurs reprises de le faire, affirmant que cela mettrait en danger ses employés et permettrait aux entités interdites de contourner sa politique, sans pour autant fournir d’informations sur une menace spécifique pour son personnel. Par ailleurs, son conseil de surveillance a formellement recommandé à plusieurs reprises de publier la liste, le document étant d’intérêt public.

Facebook met les utilisateurs dans une position presque impossible en leur disant qu’ils ne peuvent pas publier sur des groupes et des individus dangereux tout en refusant d’identifier publiquement qui l’entreprise considère comme tels”, a déclaré Faiza Patel, codirectrice du Centre Brennan pour la liberté de la justice. La liste et les règles afférentes semblent clairement incarner les inquiétudes américaines, les préoccupations politiques et les orientations de la politique étrangère des États-Unis depuis le 11 septembre même si la politique DIO vise théoriquement à protéger tous les utilisateurs de Facebook et s’applique aussi à ceux qui résident en dehors des États-Unis (la grande majorité). Toute personne ou organisation figurant sur la liste est considérée comme un ennemi ou une menace par l’Amérique ou ses alliés ; plus de la moitié d’entre elles sont des terroristes étrangers présumés, au sujet desquels toute discussion est soumise aux censeurs les plus sévères de Facebook.

Les interdictions sur les commentaires visant les milices antigouvernementales, à prédominance blanche, sont beaucoup moins strictes que celles concernant les groupes et les individus répertoriés comme terroristes, principalement issus du Moyen-Orient et d’Asie du Sud, les musulmans ou les membres d’organismes criminels violents, majoritairement composés de Noirs et de Latinos. Facebook traite “d’une main de fer certaines communautés et d’une main plus mesurée certaines autres”, a déclaré Ángel Díaz, professeur à la faculté de droit de l’UCLA qui recherche et écrit sur l’impact des politiques de modération de Facebook sur les communautés marginalisées.

Le directeur des politiques de Facebook pour la lutte contre le terrorisme et les organisations dangereuses, Brian Fishman, a expliqué que l’entreprise gardait la liste secrète car « [c]‘est un espace accusatoire, nous essayons d’être aussi transparents que possible, tout en privilégiant la sécurité, en limitant les risques juridiques et en empêchant ces groupes de contourner nos règles. Il a ajouté : « Nous ne voulons pas de terroristes, de groupes haineux ou d’organisations criminelles sur notre plate-forme, c’est pourquoi nous les interdisons et supprimons les contenus qui les louent, les représentent ou les soutiennent. Une équipe de plus de 350 spécialistes se concentre sur le blocage de ces organisations et l’évaluation des menaces émergentes. Nous interdisons actuellement des milliers d’organisations, dont plus de 250 groupes de suprémacistes blancs, aux niveaux les plus élevés de nos politiques et mettons régulièrement à jour notre cadre de mesures et la liste des organisations devant être interdites. »

Après le génocide au Myanmar, Facebook a reconnu être probablement devenu le système le plus puissant jamais mis en place pour la distribution algorithmique mondiale de l’incitation à la violence. Ne rien faire face à cette réalité serait considéré comme une négligence grossière par une grande partie du public – alors même que les tentatives de l’entreprise pour contrôler la liberté d’expression de milliards d’internautes dans le monde sont largement considérées comme de l’autocratie. La liste représente la tentative d’une entreprise privée, forte d’une concentration de pouvoir historiquement sans précédent, d’emprise sur la liberté d’expression mondiale.

La liste est divisée en catégories : Haine, Crime, Terrorisme, Mouvements sociaux militarisés et Acteurs externes violents. Ces catégories ont été articulées en un système à trois niveaux selon des règles énoncées par Facebook fin juin dernier, chaque niveau correspondant à des restrictions de la liberté d’expression. Conceptuellement larges, elles concernent en fait certains groupes raciaux ou religieux bien précis.

 

Des niveaux qui déterminent ce que les utilisateurs sont autorisés à exprimer sur les entités interdites

Quiconque figurant sur la liste noire n’a pas le droit de s’exprimer sur les plate-formes de Facebook et les utilisateurs ne sont pas autorisés à se présenter en tant que membres d’un groupe y étant répertorié.

Le niveau 1 est le plus strict. Tout semblant d’éloge ou de soutien envers les groupes et les personnes y appartenant, même non violents, est interdit. Il comprend les groupes présumés terroristes, haineux et criminels et leurs membres présumés, le terrorisme étant défini comme « l’organisation ou l’incitation à la violence contre des civils » et la haine comme « déshumanisant ou préconisant à plusieurs reprises des préjudices contre » des personnes ayant des caractéristiques protégées. La catégorie criminelle de niveau 1 est presque entièrement constituée de gangs de rue américains et de cartels de drogue — principalement composés de Noirs et de Latinos.

La catégorie terroriste, qui représente 70 % du niveau 1, regroupe majoritairement des organisations et des individus du Moyen-Orient et d’Asie du Sud. Facebook tient la plupart des noms de cette catégorie directement du gouvernement américain : près de 1 000 références mentionnent comme source de désignation le « SDGT », ou Specially Designated Global Terrorists, une liste tenue par le Ministère des Finances et créé par George W. Bush au lendemain des attentats du 11 septembre. Autres sources citées, le Terrorism Research & Analysis Consortium, une base de données privée d’extrémistes violents présumés, et SITE, une opération privée de traque du terrorisme, au passé controversé. “Un mot arabe peut avoir quatre ou cinq sens différents”, déclarait Michael Scheuer, ancien chef au sein de la CIA du groupe de travail concernant Oussama ben Laden, au New Yorker Times en 2006, signalant que SITE choisissait probablement en général la “traduction la plus guerrière”. Il semblerait que Facebook, malgré une affirmation contraire, ait travaillé avec ses homologues de la Big Tech pour établir la liste noire : une référence comportait une note indiquant qu’elle avait été « complétée » par un membre haut placé du personnel de Google qui travaillait auparavant sur les questions liées au terrorisme.

Près de 500 groupes haineux sont répertoriés au niveau 1, dont plus de 250 organisations suprémacistes blanches référencées par Fishman, mais Faiza Patel, du Brennan Center, a noté que des centaines de groupes de milices de droite à prédominance blanche, similaires aux groupes haineux, sont « traités légèrement » et placés au niveau 3. Ce niveau rassemble des groupes non violents mais qui, s’étant livrés à plusieurs reprises à des discours de haine, pourraient le devenir rapidement, ou certains ayant enfreint à plusieurs reprises les règles DIO. Les utilisateurs de Facebook sont libres de discuter des références de niveau 3.

« Les listes semblent créer deux systèmes disparates, les sanctions les plus lourdes étant appliquées aux régions et communautés fortement musulmanes », écrit Patel. Les différences entre les niveaux 1 et 3 « font penser que Facebook – comme le gouvernement américain – considère les musulmans comme les plus dangereux ».

Les milices anti-gouvernementales, parmi celles qui sont traitées « plus légèrement », “présentent la menace [l’extrémisme violent domestique] la plus meurtrière” pour les États-Unis, selon certains responsables du renseignement et de nombreux chercheurs, car elles disposent d’un capital politique et d’un soutien considérable de la droite américaine. Par exemple, un mouvement qui prône une seconde guerre de Sécession est référencé comme mouvement social militarisé, ce qui le soumet aux règles relativement indulgentes du niveau 3.

Un porte-parole de Facebook a catégoriquement nié que l’entreprise accorde un traitement spécial aux groupes d’extrême droite américains : « Quand les groupes américains correspondent à notre définition de terroristes, ils sont désignés comme tels (par exemple, la division Atomwaffen ou l’Ordre national-socialiste). Lorsqu’ils correspondent à notre définition des groupes haineux, ils sont désignés comme des organisations haineuses (par exemple, Proud Boys ou Patriot Front) ».

Il a qualifié le traitement des milices par Facebook de réglementation agressive plutôt que de relâchement, affirmant que la liste concernant 900 de ces groupes « est parmi les plus solides » au monde : « La catégorie des Mouvements sociaux militarisés a été développée en 2020 explicitement pour élargir l’éventail des organismes soumis à nos politiques DOI. Notre politique concernant les milices est la plus forte de l’industrie. » Il a ajouté : « Il convient de noter que notre approche des groupes haineux de la suprématie blanche et des organisations terroristes est bien plus agressive que celle de n’importe quel gouvernement. Notre définition du terrorisme est détaillée et a été élaborée avec la contribution importante d’experts et d’universitaires. Elle est indépendante de la religion, de la région, des perspectives politiques ou de l’idéologie. Nous avons désigné de nombreuses organisations basées en dehors du Moyen-Orient et de l’Asie du Sud comme terroristes, en Amérique du Nord et en Europe occidentale (comme l’Ordre national-socialiste, la Division Feuerkrieg ou l’Armée républicaine irlandaise). Sur la liste noire, cependant, le nombre de groupes terroristes répertoriés basés en Amérique du Nord ou en Europe occidentale ne s’élève qu’à quelques dizaines sur plus d’un millier.

Bien que la liste noire comprenne une ribambelle de commandants de l’État islamique et de militants d’Al-Qaïda dont le côté menaçant n’est pas sujet à controverse, il serait difficile de soutenir que certaines références constituent un danger pour qui que ce soit. Facebook copiant sa politique de sanctions sur celle des États-Unis – une politique qui vise à punir les adversaires internationaux plutôt que de déterminer la « dangerosité », c’est ainsi que des entreprises comme l’Iran Tractor Manufacturing Company (n.d.t. : Entreprise des tracteurs d’Iran) et le Palestine Relief and Development Fund (n.d.t. : Fonds de secours et de développement de la Palestine), une organisation d’aide basée au Royaume-Uni, sont classés parmi les organisations terroristes de niveau 1. « Lorsqu’une plate-forme mondiale choisit d’aligner ses politiques sur les États-Unis — qui ont longtemps exercé leur hégémonie sur une très grande partie du monde (et en particulier, au cours des vingt dernières années, sur de nombreux pays à prédominance musulmane), elle ne fait que recréer ces mêmes différences de pouvoir et priver de leur autonomie des groupes et des individus déjà vulnérables », a déclaré Jillian York, directrice de la liberté d’expression internationale à l’Electronic Frontier Foundation/EFF.

La définition expansive de « dangereux » pour Facebook concerne tout autant des morceaux de musique, chaînes de télévision, studios de jeux vidéo, compagnies aériennes ou la faculté de médecine travaillant sur le vaccin iranien Covid-19 tout comme de nombreux personnages historiques décédés depuis longtemps (Joseph Goebbels et Benito Mussolini, par exemple).

 

Lignes directrices confuses

Des documents internes guident les modérateurs tout au long du processus de censure concernant les personnes et les groupes mis sur liste noire, établissant ce que signifie « louer », « soutenir » ou « représenter » un membre de la liste et expliquant en détail comment identifier les commentaires interdits. Facebook fournit aux utilisateurs un ensemble de directives mais ne publie que des exemples peu précis de la signification de ces termes, plutôt que des définitions. En interne par contre, sont donnés non seulement des définitions, mais aussi des exemples beaucoup plus détaillés, ainsi qu’une liste vertigineuse d’hypothèses et de cas limites pour aider à déterminer comment traiter un élément de contenu signalé.

L’effectif mondial de contrôle de contenu de Facebook, une armée de sous-traitants payés à l’heure et souvent traumatisés par la nature graphique de leur travail, est censé utiliser ces définitions et exemples pour déterminer si un message constitue un « éloge » interdit ou atteint le seuil de « soutien », entre autres, évaluant les propos de milliards de personnes issues de centaines de pays et d’innombrables cultures, au moyen d’une grille d’évaluation ordonnée et imposée par la Silicon Valley. Bien que ces modérateurs fonctionnent en tandem avec des systèmes de logiciels automatisés, déterminer ce qui est « éloge » et ce qui ne l’est pas, relève souvent du jugement personnel. « Cela laisse la lourde tache d’essayer de sécuriser Facebook à des modérateurs de contenu externalisés, sous-payés et surchargés de travail, obligés de faire de leur mieux dans leur situation géographique, leur langue et leur contexte spécifiques », a déclaré Martha Dark, directrice de Foxglove, un groupe d’aide juridique qui travaille avec des modérateurs.

Selon les documents internes de Facebook, les utilisateurs sont autorisés à parler des entités de niveau 1 tant que ce discours est neutre ou critique, tout commentaire considéré comme positif pouvant être interprété comme un « éloge ». Il est interdit de  faire quoi que ce soit qui « cherche à faire penser les autres de manière plus positive » ou à « légitimer » une personne ou un groupe de niveau 1 ou à « s’aligner » sur leur cause ; « les déclarations présentées sous la forme d’un fait sur les motivations de l’entité » sont acceptables, mais tout ce qui « glorifie l’entité en utilisant des adjectifs, des phrases, des images, etc. » ne l’est pas. Les utilisateurs sont autorisés à dire qu’une personne que Facebook considère comme dangereuse ” n’est pas une menace, pertinente ou digne d’attention “, mais ils ne peuvent pas dire qu’ils ” soutiennent ” une personne qu’ils pensent avoir été incluse à tort sur la liste — cela étant considéré comme s’aligner. Les modérateurs doivent décider eux-mêmes ce qui constitue une « glorification » dangereuse par rapport à un « discours neutre » ou ce qui compte comme « débat universitaire » ou « discours informatif et éducatif » — pour des milliards de personnes.

Déterminer quel contenu répond aux définitions est une « lutte », selon un modérateur de Facebook travaillant en dehors des États-Unis qui a répondu aux questions de The Intercept sous couvert d’anonymat. Cette personne a déclaré que les analystes « ont généralement du mal à reconnaître le discours politique et la condamnation ». Par ailleurs, « [L]es représentations fictives [d’individus dangereux] ne sont autorisées que si elles sont partagées dans un contexte de condamnation ou d’information, ce qui signifie que le partage d’une photo de film, par exemple, pourra être interdit, tout comme celui d’un mème avec l’acteur jouant Pablo Escobar. Ces difficultés sont d’autant plus grandes qu’un modérateur doit essayer d’évaluer comment ses collègues jugeraient le message, puisque leurs décisions respectives sont comparées. “Un analyste doit essayer de prévoir quelle décision un contrôleur de la qualité ou une majorité de modérateurs prendraient, ce qui n’est souvent pas si facile”, a déclaré le même modérateur.

Les règles de Facebook constituent “un risque sérieux pour le débat politique et la liberté d’expression”, selon Patel, en particulier dans le monde musulman, où les groupes répertoriés par la DIO font partie du tissu sociopolitique. Ce qui ressemble à de la glorification dans un bureau aux États-Unis, “dans un certain contexte, pourrait être considéré [comme] de simples déclarations de faits”, a convenu York de l’EFF. « Les personnes vivant dans des endroits où les soi-disant groupes terroristes jouent un rôle dans la gouvernance doivent pouvoir discuter de ces groupes avec nuance, et la politique de Facebook ne le permet pas. » Le modérateur précité, qui travaille hors des États-Unis, a convenu que la liste reflète une conception américanisée du danger : « Les désignations semblent être basées sur des intérêts américains », ce qui « ne représente pas la réalité politique de ces pays ».

La définition de Facebook du « groupe de soutien aux actes de violence au sein des manifestations », une sous-catégorie de Mouvements sociaux militarisés, censure d’une manière particulièrement déroutante. Ce type de groupe concerne tout “acteur en marge de l’état” qui s’engage à “représenter [ou] dépeindre … des actes de violence de rue contre des civils ou des forces de l’ordre”, ainsi que “des incendies criminels, des pillages ou autres destructions de biens privés ou publics . ” Telle qu’elle est rédigée, cette politique permettrait à Facebook d’appliquer cette étiquette à pratiquement n’importe quelle organisation de presse couvrant – représentant ou décrivant donc — une manifestation de rue qui entraîne des dommages matériels, ou de punir tout téléchargement des photos de ces actes.

D’après Díaz, Facebook devrait expliquer comment sont appliquées les règles liées aux manifestations. L’entreprise supprimera-t-elle immédiatement les pages d’organisation de manifestations dès qu’un incendie ou d’autres dommages matériels se produiront ? “Les normes qu’ils articulent ici suggèrent que [la liste DIO] pourrait inclure de nombreux manifestants actifs” selon elle. Conformément à la DIO, deux organismes de médias anticapitalistes, Crimethinc et It’s Going Down, ont été interdits par Facebook en 2020 et désignés comme mouvements sociaux militarisés et « milices armées ». Un représentant de It’s Going Down a déclaré que “les médias de tout le spectre politique rapportent des affrontements dans la rue, des grèves, des émeutes et des destructions de biens mais il semblerait que si Facebook n’aime pas l’analyse… ou l’opinion donnée sur les raisons pour lesquelles des millions de personnes sont descendues dans la rue l’été dernier pendant la pandémie (le plus grand déferlement de l’histoire des États-Unis), vous êtes tout simplement exclu du débat. » It’s going down a spécifiquement nié être une milice armée ou un mouvement militarisé, se considérant plutôt comme une plate-forme médiatique « présentant des informations, des opinions, des analyses et des podcasts d’un point de vue anarchiste ». Un représentant de Crimethinc a également nié que le groupe soit armé ou militarisé, le décrivant comme un média et un éditeur de livres.

Les directives internes laissent également des lacunes déroutantes. La plate-forme ayant joué un rôle sensible dans la facilitation d’un génocide au Myanmar, l’un des dirigeants de l’entreprise, Alex Warofka, a écrit : “Nous convenons que nous pouvons et devons faire plus” pour “empêcher que notre plate-forme ne soit utilisée pour fomenter la division et inciter à la violence hors ligne”. Une interdiction néanmoins très relative, Facebook permettant expressément certains appels à la violence. Une déclaration telle que : « Nous devrions envahir la Libye » est considérée comme juste, car, selon le porte-parole de Facebook : « Le but de cette disposition est de permettre un débat sur la stratégie militaire et la guerre, qui est une réalité du monde dans lequel nous vivons ». Il a cependant reconnu qu’elle permettrait des appels à la violence contre un pays, une ville, ou un groupe terroriste, donnant par ailleurs comme exemple de commentaire autorisé dans la dernière catégorie une déclaration ciblant un individu : « Nous devrions tuer Oussama ben Laden ».

 

Suppressions sévères de la liberté d’expression sur le Moyen-Orient

L’application de cette politique conduit à des résultats surprenants pour une entreprise qui revendique la « libre expression » comme principe fondamental. En 2019, citant sa politique DIO, Facebook a bloqué un symposium universitaire en ligne, celui-ci mettant en vedette Leila Khaled, liée à deux détournements d’avion dans les années 1960 au cours desquels aucun passager n’a été blessé. Khaled, aujourd’hui âgée de 77 ans, est référencée comme terroriste sur la liste actuelle de Facebook. En février, le conseil de surveillance interne de l’entreprise a décidé d’annuler la décision de supprimer un article mettant en cause l’emprisonnement du révolutionnaire kurde de gauche Abdullah Öcalan, listé DIO, enlevé par les forces de renseignement turques en 1999 avec l’aide des États-Unis. En juillet, la journaliste Rania Khalek a publié sur Instagram la photo d’un panneau d’affichage à l’extérieur de l’aéroport international de Bagdad sur lequel on voyait le général iranien Qassim Suleimani et le commandant militaire irakien Abu Mahdi al-Muhandis, tous deux assassinés par les États-Unis et tous deux sur la liste DIO. La photo a été rapidement supprimée pour avoir enfreint la politique concernant la «violence ou les organisations dangereuses». Dans un courriel, Khalek a déclaré à The Intercept : « Mon intention était de montrer mon environnement » et « le fait que [le panneau d’affichage soit] si bien placé à l’aéroport où ils ont été assassinés montre comment ils sont perçus même par les autorités irakiennes ».

Plus récemment, la politique de Facebook est entrée en collision avec le renversement par les Talibans du gouvernement soutenu par les États-Unis en Afghanistan : la plate-forme a annoncé qu’il était interdit aux Talibans d’être présents sur ses applications. L’entreprise se permet de censurer la direction politique d’un pays tout entier et d’imposer de sérieuses contraintes à la liberté du public d’en discuter ou même de la décrire. En mai, l’entreprise a supprimé des messages de Palestiniens voulant documenter la violence de l’État israélien à la mosquée Al Aqsa, troisième site sacré de l’Islam, ses modérateurs l’ayant confondue avec une organisation référencée sur la liste noire dont le nom contient le terme “Al-Aqsa”, un terme commun à plusieurs organismes. Le mois dernier, Facebook a censuré un utilisateur égyptien qui avait publié un article de presse sur les Brigades Al-Qassam, l’accompagnant en légende d’un « Ooh » en arabe. Al-Qassam n’apparaît pas sur la liste noire et son propre Conseil de surveillance a écrit que “Facebook n’a pas été en mesure d’expliquer pourquoi deux évaluateurs ont jugé que le contenu violait la politique de l’entreprise”.

Alors que les deux dernières décennies ont habitué de nombreuses personnes dans le monde à l’existence de registres secrets et de listes de surveillance, la liste noire indique que « nous avons atteint un point où Facebook ne se contente pas de respecter ou de reproduire les politiques américaines mais va bien au-delà d’elles.

Nous ne devons surtout pas oublier que personne n’a élu politiquement Mark Zuckerberg, un homme qui n’a jamais occupé d’autre poste que celui de PDG de Facebook.” 

The Intercept a examiné une copie de la liste complète des DIO et en publie une reproduction dans son intégralité, avec des modifications mineures pour en améliorer la clarté, ainsi qu’un document créé pour aider les modérateurs de Facebook à décider quels messages supprimer et quels utilisateurs punir.

Source : theintercept.com Traduction : AC

Vu sur https://www.ojim.fr/

Imprimer

En poursuivant votre navigation sur ce site, vous acceptez l'utilisation de cookies pour réaliser des statistiques de visites