Comment Elon Musk a débusqué le poids de la CIA et des services dans Twitter

Le rachat de Twitter par Elon Musk est suivi de loin en France. Il est pourtant riche d’enseignements sur une dimension cachée de cet exercice : le poids, qu’il dévoile soudain, détenu par les services secrets, et probablement par la CIA, dans le réseau lui-même. Aux USA, l’affaire fait grand bruit : une écrasante majorité des comptes Twitter est en fait détenue et animée par des bots, dont le code est souvent rédigé par la CIA. 

Elon Musk et les bots de Twitter

Nous ne reviendrons pas ici sur les péripéties du rachat de Twitter par Elon Musk. L’entrepreneur américain a, cet été, affirmé que Twitter mentait sur le nombre réels d’abonnés dont il disposait, affirmant que ceux-ci étaient majoritairement des bots animés par l’intelligence artificielle. 

Ce qui compte, ce ne sont pas les innombrables arcanes juridiques et judiciaires d’un dossier à 44 milliards de dollars, mais bien l’étrange révélation qui en cause le blocage : alors que Twitter affirme que 5% seulement de ses comptes sont des “bots”, c’est-à-dire de faux comptes animés par des robots, Elon Musk soutient que la vraie proportion est de 20%, et même que 90% des commentaires sont rédigés par une intelligence artificielle. 

Autrement dit, Twitter serait un réseau artificiel, une sorte de paradis pour opération d’influence ou de contre-influence. 

Un ancien de la CIA parle de 80% de bots

Ces soupçons d’Elon Musk sur la “mise en scène” de Twitter sont étrangement et significativement confirmés par Dan Woods, ancien agent de la CIA chargé des cyberopérations, passé au secteur privé depuis lors. Je vous recommande chaudement de lire l’article instructif (en anglais) qu’il a écrit sur son blog F5 à propos des faux comptes sur Twitter. 

When I consider the volume and velocity of automation we’re seeing today, the sophistication of bots that a given set of incentives is likely to attract, and the relative lack of countermeasures I saw in my own research, I can only come to one conclusion: In all likelihood, more than 80% of Twitter accounts are actually bots.

(Lorsque je considère le volume et la vitesse de l’automatisation que nous constatons aujourd’hui, la sophistication des bots qu’un ensemble donné d’incitations est susceptible d’attirer et le manque relatif de contre-mesures que j’ai constaté dans mes propres recherches, je ne peux arriver qu’à une seule conclusion. : Selon toute vraisemblance, plus de 80% des comptes Twitter sont en fait des bots).

Donc, des experts de la CIA estiment que 80% des comptes Twitter seraient en fait des “bots”, c’est-à-dire des robots animés par une intelligence artificielle pour produire du contenu automatiquement. 

Ajoutons que cet expert de la CIA considère que Twitter n’est certainement pas le seul réseau concerné par ces trucages en bonne et due forme :

In fact, we find 80–99% of traffic is automated on many applications. These findings are not a corner case—they’re common across many organizations (retailers, financial institutions, telcos, and quick-service restaurants, to name a few).

En fait, nous constatons que 80 à 99 % du trafic est automatisé sur de nombreuses applications. Ces résultats ne sont pas un cas isolé, ils sont communs à de nombreuses organisations (détaillants, institutions financières, opérateurs de télécommunications et restaurants à service rapide, pour n’en nommer que quelques-uns).

La remarque vaut son pesant de cacahuètes : elle indique qu’une grande partie de “l’opinion” sur Internet est totalement dénaturée par l’utilisation de l’intelligence artificielle, qui “truque” le paysage qui s’offre à nous. Nous pouvons penser, en lisant Twitter ou Facebook, ou autre, que majoritairement les gens pensent ceci ou cela. En réalité, il s’agit simplement d’opérations financées pour influencer l’opinion. 

Stanford confirme le poids de la CIA dans les faux comptes

Ces informations ne sont pas révélées par des experts isolés. La prestigieuse université américaine de Stanford a créé un Observatoire de l’Internet qui rend des rapports accablants sur ce sujet. On retiendra par exemple ce passage d’une publication récente : 

Our joint investigation found an interconnected web of accounts on Twitter, Facebook, Instagram, and five other social media platforms that used deceptive tactics to promote pro-Western narratives in the Middle East and Central Asia. The platforms’ datasets appear to cover a series of covert campaigns over a period of almost five years rather than one homogeneous operation. 

These campaigns consistently advanced narratives promoting the interests of the United States and its allies while opposing countries including Russia, China, and Iran. The accounts heavily criticized Russia in particular for the deaths of innocent civilians and other atrocities its soldiers committed in pursuit of the Kremlin’s “imperial ambitions” following its invasion of Ukraine in February this year. A portion of the activity also promoted anti-extremism messaging.

(Notre enquête conjointe a révélé un réseau interconnecté de comptes sur Twitter, Facebook, Instagram et cinq autres plateformes de médias sociaux qui utilisaient des tactiques trompeuses pour promouvoir des récits pro-occidentaux au Moyen-Orient et en Asie centrale.Les ensembles de données des plateformes semblent couvrir une série de campagnes secrètes sur une période de près de cinq ans plutôt qu’une opération homogène.

Ces campagnes ont constamment avancé des récits promouvant les intérêts des États-Unis et de leurs alliés tout en s’opposant à des pays comme la Russie, la Chine et l’Iran. Les récits ont vivement critiqué la Russie, en particulier pour la mort de civils innocents et d’autres atrocités commises par ses soldats dans la poursuite des “ambitions impériales” du Kremlin après son invasion de l’Ukraine en février de cette année. Une partie de l’activité a également promu des messages anti-extrémisme.)

Autrement dit, la propagande par des “comptes connectés”, qui sont essentiellement animés par des bots, n’est pas le seul fait de la Russie ou de la Chine. Elle est aussi, et plus massivement, le fait des puissances occidentales qui utilisent les réseaux sociaux pour mener des opérations de contre-influence. La difficulté est aujourd’hui de savoir quelle est la part des faux comptes dans la circulation d’une information, tout particulièrement dans les hashtags les plus populaires. 

Quelques techniques utilisées par les services de renseignement

Pour ceux qui auraient un doute sur l’importance de ces techniques dans la “contre-influence”, nom pudique de l’intrusion des services secrets sur Internet, je leur propose de lire l’intéressant glossaire des techniques de désinformation sur Internet intégré au manuel “Resist” qui fait référence parmi les services secrets occidentaux, et que nous avons publié en août. 

Je vous livre ici le verbatim de quelques techniques recommandées :

Astroturfing (I)

Falsely attributing a message or an organisation to an organic grassroot movement to create false credibility

Example: A source pays or plants information that appears to originate organically or as a grassroots movement

Bandwagon effect (S)

A cognitive effect where beliefs increase in strength because they are shared by others

Example: A person is more willing to share an article when seeing it is shared by many people

Bot (I, T)

Automated computer software that performs repetitive tasks along a set of algorithms.

• Impersonator bots (I, T)
  • Bots which mimic natural user characteristics to give the impression of a real person.
• Spammer bots (I, R, T)
  • Bots which post repeat content with high frequency to overload the information environment.

Example: Bots can be used to amplify disinformation or to skew online discussion by producing posts and comments on social media forums and other similar tasks. Sometimes they focus on quantity and speed (spammer bots). Other times they attempt to mimic organic user behaviour (impersonator bots). Bots can also be used for hacking and to spread malware.

Botnet (I, T)

A network of hijacked computers used to execute commands.

Example: Infests personal computers with malware, contribute to DDoS attacks, and distributing phishing attacks.

(Astroturf (I)

Attribuer faussement un message ou une organisation à un mouvement de base organique pour créer une fausse crédibilité

Exemple : Une source paie ou plante des informations qui semblent provenir de manière organique ou d’un mouvement de base

Effet train en marche (S)

Un effet cognitif où les croyances augmentent en force parce qu’elles sont partagées par d’autres
Exemple : Une personne est plus disposée à partager un article lorsqu’il est partagé par de nombreuses personnes

Bot (je, T)

Logiciel informatique automatisé qui exécute des tâches répétitives selon un ensemble d’algorithmes.

• Robots imitateurs (I, T)
  Bots qui imitent les caractéristiques naturelles de l’utilisateur pour donner l’impression d’une personne réelle
• Robots spammeurs (I, R, T)
  Les robots qui publient du contenu répété à haute fréquence pour surcharger l’environnement d’information.

Exemple : Les robots peuvent être utilisés pour amplifier la désinformation ou pour fausser la discussion en ligne en produisant des messages et des commentaires sur les forums de médias sociaux et d’autres tâches similaires. Parfois, ils se concentrent sur la quantité et la vitesse (robots spammeurs).
D’autres fois, ils tentent d’imiter le comportement organique des utilisateurs (robots imitateurs). Les robots peuvent également être utilisés pour pirater et diffuser des logiciels malveillants.

Botnet (I, T)

Un réseau d’ordinateurs piratés utilisés pour exécuter des commandes.

Exemple : Infeste les ordinateurs personnels avec des logiciels malveillants, contribue aux attaques DDoS et distribue des attaques de phishing.)

Comme le montre ce seul exemple littéral, la théorie selon laquelle les réseaux sociaux seraient manipulés par les services de contre-influence occidentaux n’est pas une idée tombée dans la camion. Elle est parfaitement théorisée par les services en question, qui n’hésitent pas à rendre publics, dans des manuels officiels, les techniques qu’ils utilisent. 

On retiendra en particulier l’utilisation des robots spammeurs qui permettent d'”amplifier la désinformation ou pour fausser la discussion en ligne en produisant des messages et des commentaires sur les forums de médias sociaux”. On ne peut pas être plus explicite. 

Les GAFAM, ces bras armés de la CIA

Nous avons déjà évoqué les techniques utilisées par les services secrets, sous l’égide de la CIA, pour traquer les opposants sur Internet. Ces techniques reposent sur la collaboration étroite avec les GAFAM eux-mêmes, qui transmettent sans broncher les données personnelles qu’ils recueillent aux services d’espionnage de la population. 

Le paysage qui se dessine progressivement, au fil des révélations (et, répétons-le, nous devons une fière chandelle à Elon Musk sur ce chapitre), c’est que cette collaboration est beaucoup plus large qu’on ne l’imaginait. En réalité, une grande partie des contenus publiés sur les réseaux sociaux émane de robots contrôlés par les services officiels. Cette stratégie permet d’orienter l’opinion en créant de “fausses majorités”. 

Autrement dit, l’exercice du pouvoir en Occident est désormais indissociable de la propagande officielle cachée sur les réseaux sociaux. Et cela, on ne l’avait pas bien mesuré.