Le gouvernement américain a mis en garde pendant des années contre le risque de déstabilisation des sociétés démocratiques par les deep fakes.
Des parachutistes affichent le sigle du Commandement des opérations spéciales des États-Unis au-dessus d’un stade à Baton Rouge, en Louisiane, le 2 octobre 2021. Photo : John Korduner – Icon Sportswire via Getty Images
L’US Special Operations Command (SOCOM), responsable de certaines des activités militaires les plus secrètes du pays, se prépare à mener des campagnes de propagande et de tromperie sur Internet en utilisant de fausses vidéos, selon des documents contractuels fédéraux examinés par The Intercept.
Ces plans, qui décrivent également le piratage d’appareils connectés à l’internet pour les écouter afin d’évaluer la sensibilité des populations étrangères à la propagande, interviennent à un moment où le monde entier débat intensément des campagnes de « désinformation » technologiquement sophistiquées, de leur efficacité et de l’éthique de leur utilisation.
Alors que le gouvernement américain met régulièrement en garde contre le risque de « deep fakes » et travaille ouvertement à la mise au point d’outils pour les contrer, le document du commandement des opérations spéciales, ou SOCOM, constitue un cas presque sans précédent où le gouvernement américain signale ouvertement son désir d’utiliser cette technologie très controversée de manière offensive.
Les aspirations du SOCOM en matière de propagande de nouvelle génération sont décrites dans un document qui énumère les capacités qu’il recherche dans un avenir proche et sollicite des propositions de la part de parties extérieures qui pensent être en mesure de les mettre au point.
« En matière de désinformation, le Pentagone ne devrait pas utiliser des méthodes qu’il combat » a déclaré Chris Meserole, directeur de l’Initiative sur l’intelligence artificielle et les technologies émergentes de la Brookings Institution, à The Intercept. « À l’heure où la propagande numérique se développe dans le monde entier, les États-Unis doivent faire tout ce qui est en leur pouvoir pour renforcer la démocratie en soutenant des notions communes de vérité et de réalité. Les deep fakes font le contraire. En jetant le doute sur la crédibilité de tous les contenus et de toutes les informations, qu’ils soient réels ou synthétiques, ils finissent par éroder les fondements de la démocratie elle-même. »
« En matière de désinformation, le Pentagone ne devrait pas utiliser des méthodes qu’il combat. »
Meserole a ajouté : « Si les deep fakes doivent être utilisés pour des opérations militaires et de renseignement ciblées, leur utilisation doit faire l’objet d’un examen et d’un contrôle. »
Le document de lancement, publié pour la première fois par la direction de la science et de la technologie du SOCOM en 2020, établit une liste de souhaits concernant les jouets de la prochaine génération pour le commando des forces spéciales du XXIe siècle, une litanie de gadgets et d’outils futuristes qui aideront les soldats d’élite du pays à chasser et à tuer plus efficacement leurs cibles à l’aide de lasers, de robots, d’holographes et d’autres équipements sophistiqués.
En octobre dernier, le SOCOM a discrètement publié une version actualisée de sa liste de souhaits, avec une nouvelle section : « Technologies avancées pour les opérations de soutien à l’information militaire (MISO) » un euphémisme du Pentagone pour désigner ses efforts de propagande et de tromperie à l’échelle mondiale.
Le paragraphe ajouté précise que le SOCOM souhaite obtenir des moyens nouveaux et améliorés pour mener des « opérations d’influence, de manipulation numérique, de perturbation des communications et des campagnes de désinformation au niveau tactique et opérationnel. Le SOCOM recherche une capacité de nouvelle génération pour collecter des données disparates par le biais de flux d’informations publics et ouverts tels que les médias sociaux, les médias locaux, etc. pour permettre au MISO d’élaborer et de diriger des opérations d’influence ».
Le SOCOM se bat généralement dans l’ombre, mais sa réputation publique et son empreinte mondiale sont importantes. Composé d’unités d’élite de l’armée de Terre, du corps des Marines, de la Marine et de l’armée de l’Air, le SOCOM dirige les opérations militaires les plus sensibles de la nation la plus meurtrière du monde.
Si les forces spéciales américaines sont largement connues pour leurs exploits spectaculaires, comme l’assassinat d’Oussama ben Laden par les Navy SEAL, leur histoire est faite de missions secrètes, de subterfuges, de sabotages et de campagnes de déstabilisation. Les ambitions de désinformation de nouvelle génération du SOCOM ne sont qu’une partie d’une longue et vaste histoire d’efforts de tromperie de la part de l’armée américaine et des services de renseignement.
Le commandement des opérations spéciales, qui accepte des propositions sur ces capacités jusqu’en 2025, n’a pas répondu à une demande de commentaire.
Document de passation de marchés du SOCOM américain annonçant la volonté d’utiliser des deep fakes
Bien que le Commandement des opérations spéciales coordonne depuis des années des « opérations d’influence » étrangères, ces campagnes de tromperie font l’objet d’un nouvel examen minutieux. En décembre, The Intercept a rapporté que le SOCOM avait convaincu Twitter, en violation de ses politiques internes, d’autoriser un réseau de comptes fictifs qui diffusaient de fausses nouvelles d’une exactitude douteuse, notamment une affirmation selon laquelle le gouvernement iranien volait les organes de civils afghans. Bien que l’offensive de propagande basée sur Twitter n’ait pas utilisé de deep fakes, les chercheurs ont constaté que les contractants du Pentagone ont utilisé des avatars générés par apprentissage automatique pour conférer aux faux comptes un certain degré de réalisme.
De manière provocante, le document de capacité mis à jour révèle que le SOCOM souhaite renforcer ces efforts de tromperie sur Internet en utilisant des vidéos truquées de « nouvelle génération », une méthode de plus en plus efficace pour générer des fausses vidéos numériques réalistes à l’aide de l’apprentissage automatique. Les forces spéciales utiliseraient ces séquences truquées pour « générer des messages et influencer les opérations via des canaux non traditionnels » ajoute le document.
Si les deep fakes sont surtout utilisés à des fins de divertissement et de pornographie, leur potentiel pour des applications plus graves est réel. Au début de l’invasion de l’Ukraine par la Russie, un deep fake de mauvaise qualité du président ukrainien Volodymyr Zelenskyy ordonnant aux troupes de se rendre a commencé à circuler sur les réseaux sociaux. Les considérations éthiques mises à part, la légalité des deep fakes militarisés dans un conflit, qui reste une question ouverte, n’est pas abordée dans le document du SOCOM.
Comme pour les campagnes de désinformation des gouvernements étrangers, les États-Unis ont passé ces dernières années à mettre en garde contre la menace que représentent les deep fakes pour la sécurité nationale. L’utilisation de deep fakes pour tromper délibérément, avertissent régulièrement les autorités gouvernementales, pourrait avoir un effet profondément déstabilisant sur les populations civiles qui y sont exposées.
Au niveau fédéral, cependant, la conversation a tourné exclusivement autour de la menace que les deep fakes fabriqués à l’étranger pourraient représenter pour les États-Unis, et non l’inverse. Des documents contractuels publiés précédemment montrent que le SOCOM a recherché des technologies permettant de détecter les campagnes Internet utilisant des deep fakes, une tactique qu’il souhaite maintenant mettre en œuvre lui-même.
La suite est peut-être aussi provocante que la mention des deep fakes, qui indique que le SOCOM souhaite affiner sa propagande offensive en épiant le public visé par le biais de ses appareils connectés à l’internet.
Décrit comme une « capacité de nouvelle génération permettant de prendre le contrôle des appareils de l’Internet des objets (loT) pour collecter [sic] des données et des informations auprès des populations locales afin de permettre la diffusion de messages susceptibles d’être populaires et acceptés grâce au tri des données une fois reçues, » le document indique que la capacité d’écouter les cibles de la propagande « permettrait au MISO d’élaborer et de promouvoir des messages susceptibles d’être plus facilement reçus par les populations locales. » En 2017, WikiLeaks a publié des fichiers volés de la CIA qui révélaient une capacité à peu près similaire de piratage des appareils ménagers.
La technologie qui sous-tend les vidéos deep fake est apparue pour la première fois en 2017, stimulée par la combinaison d’un matériel informatique puissant et bon marché et de percées dans le domaine de l’apprentissage automatique. Les vidéos deep fake sont généralement réalisées en envoyant des images d’un individu à un ordinateur et en utilisant l’analyse informatique qui en résulte pour coller un simulacre très réaliste de ce visage sur un autre.
« La capacité de nuire à la population est certainement là. »
Une fois que le logiciel a été suffisamment entraîné, son utilisateur peut produire des images réalistes d’une cible disant ou faisant pratiquement n’importe quoi. La facilité d’utilisation et la précision croissante de cette technologie font craindre une ère où le public mondial ne pourra plus croire ce qu’il voit de ses propres yeux.
Bien que les grandes plateformes sociales comme Facebook aient des règles contre les deep fakes, étant donné la nature intrinsèquement fluide et interconnectée de l’internet, les deep fakes diffusés par le Pentagone pourraient également risquer de revenir sur le territoire américain.
« S’il s’agit d’un environnement médiatique non traditionnel, je pourrais imaginer que la forme de manipulation aille assez loin avant d’être arrêtée ou réprimandée par une sorte d’autorité locale » a déclaré à The Intercept Max Rizzuto, chercheur sur les deepfakes au Digital Forensic Research Lab de l’Atlantic Council. « La capacité de nuire à la société est certainement là. »
L’intérêt du SOCOM pour le déploiement de campagnes de désinformation à base de deep fakes fait suite à l’inquiétude internationale suscitée ces dernières années par les vidéos falsifiées et la tromperie numérique de la part d’adversaires internationaux. Bien qu’il y ait peu de preuves que les efforts de la Russie pour influencer numériquement l’élection de 2016 aient eu un effet significatif, le Pentagone a exprimé son intérêt pour redoubler ses capacités de propagande numérique, de peur de prendre du retard, le SOCOM jouant un rôle crucial à cet égard.
Lors d’une audition de la Commission des forces armées du Sénat en avril 2018, le général Kenneth Tovo, du commandement des opérations spéciales de l’armée, a assuré aux sénateurs réunis que les forces spéciales américaines s’efforçaient de combler le fossé de la propagande.
« Nous avons investi assez lourdement dans nos opérateurs psychologiques, a-t-il déclaré, en développant de nouvelles capacités, en particulier pour traiter l’espace numérique, l’analyse des médias sociaux et une variété d’outils différents qui ont été mis sur le terrain par SOCOM et qui nous permettent d’évaluer l’espace des médias sociaux, d’évaluer le domaine cybernétique, de voir l’analyse des tendances, où l’opinion se déplace, et ensuite comment influencer potentiellement cet environnement avec nos propres produits. »
Alors que la propagande militaire est aussi ancienne que la guerre elle-même, les deep fakes ont souvent été discutés comme un danger technologique sui generis, dont l’existence constitue une menace civilisationnelle.
Lors d’une audition de la Commission sénatoriale du renseignement en 2018 sur la nomination de William Evanina pour diriger le Centre national de contre-espionnage et de sécurité, le sénateur Marco Rubio (Républicain-Floride) a déclaré à propos des deep fakes : « Je pense que c’est la prochaine vague d’attaques contre l’Amérique et les démocraties occidentales. » En réponse, Evanina a assuré à Rubio que les services de renseignement américains s’efforçaient de contrer la menace des deep fakes.
Le Pentagone travaillerait également d’arrache-pied pour contrer la menace des deep fakes étrangers. Selon un rapport de 2018, la Defense Advanced Research Projects Agency (DARPA), la division de recherche technologique de l’armée, a dépensé des dizaines de millions de dollars pour développer des méthodes de détection des images truquées. Des efforts similaires sont en cours dans l’ensemble du département de la Défense.
En 2019, Rubio et le sénateur Mark Warner (Démocrate-Virginie) ont écrit à 11 sociétés Internet américaines pour leur demander d’élaborer des procédures de détection et de suppression des vidéos truquées. « Si le public ne peut plus faire confiance aux événements ou aux images enregistrés, lit-on dans la lettre, cela aura un impact corrosif sur notre démocratie. »
La loi sur l’autorisation de la défense nationale pour l’année fiscale 2021 contenait une directive demandant au Pentagone d’effectuer une « évaluation de la menace posée par les gouvernements étrangers et les acteurs non étatiques qui créent ou utilisent des médias manipulés par des machines (communément appelés deep fakes), y compris la manière dont ces médias ont été utilisés ou pourraient être utilisés pour mener une guerre de l’information. »
Quelques années plus tard, les forces spéciales américaines semblent se préparer à mener cette même guerre.
« C’est une technologie dangereuse », a déclaré Rizzuto, chercheur à l’Atlantic Council.
« On ne peut pas modérer cette technologie comme on le fait pour d’autres types de contenus sur l’internet, a-t-il ajouté. Les deep fakes, en tant que technologie, ont plus en commun avec les conversations autour de la non-prolifération nucléaire. »
Source : The Intercept, Sam Biddle, 06-03-2023
Traduit par les lecteurs du site Les-Crises
