Surveillance numérique, propagande : Tiktok, le péril jeune

C'est une réalité indéniable au vu des informations qui transparaissent : l'application Tiktok est plusieurs crans au-dessus du pistage et de l'intrusion auxquels les Européens et peut-être même les Américains sont habitués. Mais, comme l'histoire de la paille et de la poutre, il faut rappeler quelques éléments de l'histoire du capitalisme de surveillance numérique, dont l'épicentre et l'origine se situent aux États-Unis.

Connais ton ennemi, connais-toi toi même

En décembre 2022, une mise en garde inhabituelle est relayée par les médias américains : William Burns, directeur de la CIA, emboîte le pas à Chris Wray, chef du FBI, pour déclarer que TikTok représente un risque de « sécurité nationale » pour les États-Unis.

Les agences de renseignement rejoignent ainsi les avertissements d'autres agences de régulation : au mois de juin 2022, la FCC (Commission fédérale des communications aux États-Unis) alertait sur le sujet. En novembre, c'était au tour de l'Arcom (Autorité de régulation de la communication audiovisuelle et numérique). En cause, l'opacité de l'application et son refus de respecter la réglementation sur la désinformation, et de s'engager pour la « protection des enfants ».

Là où TikTok inquiète, c'est que son potentiel de pistage et de surveillance est mis au service d'un projet politique autoritaire ; car en 2017, le Parti Communiste Chinois a pris le contrôle de ByteDance,  l'entreprise qui a conçu TikTok. Une idéologie est infusée dans les décisions et pratiques de l'application, qui est très différente de celle de la Silicon Valley. En résumant à grands traits, on dira du capitalisme numérique californien qu'il est libertaire et opposé à toute intervention de l’État.

Ce n'est pas du tout le cas du capitalisme « à la chinoise », que l'on connaît finalement assez mal en France. Pour les fins de cet article, il suffira du constat suivant : les intérêts de l'entreprise sont subordonnés à l'idéologie du gouvernement chinois, qui a mis en place un régime strict de contrôle des contenus et des plateformes. Cette mise au service de l'entreprise (ByteDance) et de l'outil (TikTok) au profit d'une entité politique aux projets nationalistes (le Parti Communiste Chinois) est explicite.

Sur son site, Olivier Ertzscheid, maître de conférences en information à l'université de Nantes, partage une partie du règlement du Cyberspace Administration of China (CAC), sorte de régulateur et censeur national, publié en août 2021. On peut citer notamment ce passage :

« Article 6 (mon préféré) : Les fournisseurs de services de recommandation algorithmique doivent respecter les orientations de valeur générales, optimiser les mécanismes de services de recommandation algorithmique, diffuser vigoureusement une énergie positive et faire progresser l'utilisation des algorithmes vers le haut et dans le sens du bien (sic). »

Dans le même billet consacré à la régulation des algorithmes, Ertzscheid propose cette analyse :

« Si la Chine décide de réguler fortement et drastiquement les algorithmes (privés) de recommandation; c'est parce qu'elle y voit une concurrence dans ses intérêts dominants qui sont ceux d'être en capacité de discipliner les corps dans l'espace social (numérique ou non). »

D'autres exemples montrent l'emprise du politique sur l'économique. Citons-en deux. Tout d'abord, la mainmise de la censure chinoise sur les AppStores du monde entier, comme le montrent les dissidents de GreatFire : un accord a été passé avec Apple pour supprimer les applications en mandarin dans le monde entier qui cherchent à contourner la censure numérique chinoise, notamment en proposant de consulter des sites d'informations occidentaux.

Puis il y a iFlyTek, qui produit, entre autres, un assistant vocal embarqué capable de traduction simultanée en plusieurs dizaines de langues. C'est un dispositif apparemment bluffant, qui permet par ailleurs d'identifier les individus par la voix en leur associant une empreinte biométrique. Et il s'avère que l'entreprise travaille sur l'ouïghour et le tibétain, langues que parlent deux groupes ethniques persécutés par le gouvernement central.

Si IflyTek ne l'assume pas de manière explicite, l'imbrication des buts de l'entreprise et ceux de l’État chinois est bien présente : la technique est asservie à des objectifs politiques assumés de contrôle total de la population, notamment dans les régions où des troubles à l'ordre public (pour rester dans l'euphémisme) pourraient avoir lieu.

En Chine, ces applications et attirails numériques ne sont pas uniquement vus comme des produits lancés sur un marché, destinés à attirer des consommateurs, mais bien comme des outils de contrôle pouvant aider à piloter l'organisation politique du pays – et lui assurer une place dominante dans le monde.

Deux systèmes, un TikTok

« La première indication que le Parti Communiste Chinois est conscient de l'influence pernicieuse de TikTok sur les enfants est qu'il interdit l'accès à l'application pour les enfants chinois. Le spécialiste de l'éthique dans le domaine de la technologie, Tristan Harris, signale que la version chinoise de TikTok, Douyin, est une version "detox" dans laquelle les enfants ne voient pas de "twerk" et de lécheurs de siège de toilette, mais des expériences sociales et des vidéos éducatives. Par ailleurs, Douyin n'est accessible quotidiennement aux enfants que pendant quarante minutes, et son accès est bloqué entre 22 heures et 6 heures. »

Gurwinder Bhogal, auteur de ce passage, est un journaliste indo-britannique. Son article, intitulé « TikTok est une nouvelle forme de super-arme », a été largement partagé et commenté lors de sa publication en janvier 2023. Il explique que TikTok exploite les déficits de l'attention générés par les habitudes liées aux smartphones, et risque de générer des troubles comportementaux et cognitifs majeurs. C'est selon lui un choix stratégique de la Chine :

« On pourrait argumenter que l'on n'a pas de preuves concrètes des intentions du Parti Communiste Chinois, seulement un ensemble d'indications. Cependant, les intentions du PCC n'ont finalement pas d'importance. L'accélérationisme ne peut modifier un résultat, seulement le précipiter. Et TikTok, qu'il s'agisse ou non d'une arme pensée comme telle, ne fait que hâter le cheminement de l'Occident, décidé depuis longtemps : toujours vers davantage de plaisir sans effort, et vers le déclin cognitif qui s'ensuit.

Le problème, par conséquent, ce n'est pas la Chine, mais nous. Les États-Unis contre les États-Unis. Si TikTok n'est pas une arme pour tuer, alors c'est une arme pour se suicider. La Chine a donné à l'Occident les moyens de se tuer, mais le désir de suicide est décidément celui de l'Occident. Après tout, si TikTok domine notre culture, c'est le résultat des forces libres du marché – ce même précepte qui dicte nos vies. Land et Wang ( 1 ) ont raison lorsqu'ils affirment que l'Ouest étant contrôlé par tout le monde, il n'est plus contrôlé par personne, et que sans frein ni volant, nous sommes à la merci du marché. »

Il y a donc désormais deux TikTok. La version filtrée, Douyin, qui doit obéir aux principes idéologiques du parti : patriotisme, utilité des contenus, résistance aux idéologies perverties de l'Occident. Puis il y a la version « infiltrée », celle que consomment les Occidentaux. Les contenus y sont largement différents et alimentent la notion selon laquelle une guerre idéologique oppose « l'Occident » à la Chine.

C'est ce qui incite Le Figaro à titrer grossièrement « Comment la Chine protège ses enfants et rend les nôtres débiles avec le réseau social TikTok », ou « Michel Desmurget : "Comment TikTok utilise la psychologie pour asservir la jeunesse occidentale" ». Le Figaro, journal dont la partialité pour les idées réactionnaires n'est plus à démontrer, instrumentalise un sujet bien réel. Il s'agit, encore une fois, d'en faire une croisade civilisationnelle pour défendre la France et l'Europe millénaire.

TikTok est effectivement au cœur d'enjeux géopolitiques complexes, et on peut légitimement s'inquiéter des effets à long terme du numérique sur la santé – une question qui ne peut se limiter aux producteurs non-occidentaux d'applications numériques. Il convient donc aux journalistes d'effectuer un travail de décryptage et de contextualisation plutôt que de plaquer une grille de lecture toute faite, à plus forte raison lorsqu'elle est réactionnaire et bancale, sur ce sujet complexe.

Notons au passage que la rédaction du Figaro, qui n'est pas à une contradiction près, a créé elle aussi un compte TikTok pour diffuser ses contenus à la jeunesse française, prenant ainsi le risque de contribuer à sa « débilité » et son « asservissement ».

Ascannio - @Shutterstock

Il faut donc remarquer que TikTok ne fait qu'accompagner une tendance générale à la baisse de l'attention. Toute l'industrie du numérique et son marché sont conçus de manière à capter l'intérêt des utilisateurs aussi longtemps que possible. Les études auxquelles se réfère M. Bhogal font état de troubles cognitifs liés à l'usage du smartphone et des applications sur mobile – pas simplement de TikTok. Selon lui, TikTok ne fait qu’accélérer la tendance – sur ce point, il est difficile d'émettre un jugement définitif, ou de lui donner tort.

Si l'interprétation de Gurwinder Bhogal est peut-être critiquable du point de vue des conséquences cognitives à long terme et du déclin intellectuel présumé de la jeunesse occidentale, sa perspective de TikTok comme outil de domination politique, envisagé potentiellement comme une arme n'en est pas moins frappante.

Et désormais, de peur de se retrouver sur le bord de la route, Meta (via Facebook) et Google (via YouTube) ont décidé d'imiter ByteDance en proposant leur propre version de TikTok : Reels pour les premiers, Shorts pour le second.

La surveillance numérique : « As American as Apple Pie »

TikTok est sans le moindre doute un outil de surveillance qui peut très certainement servir à faire de la propagande. Mais si l'application la plus populaire sur les téléphones portables (plus d'un milliard de téléchargements, quatre-vingt millions d'utilisateurs mensuels aux États-Unis) est l'une des plus intrusives, ce n'est ni la première, ni la seule.

Il faut se rappeler que dès sa conception, internet est noyauté par la communauté du renseignement américain. En 1958, les États-Unis créent l'agence militaire DARPA, Defense Advanced Research Project Agency, qui finance des projets de recherche, dont celles des pionniers de l'architecture en réseau des ordinateurs à l'université de Stanford. Si le réseau est au départ conçu par et pour des universitaires, il est dès l'origine financé par des fonds militaires américains.

Et au moment de l'apparition du web, assez vite, les agences de renseignement se mêlent elles aussi du monde numérique. La CIA possède un fonds d'investissement depuis 1997, In-Q-Tel. Ce fonds achète Keyhole en 2004, l'entreprise ayant conçu EarthViewer, avant d'être rachetée en 2004 par Google, qui renommera le projet Google Maps.

In-Q-Tel finance également Palantir, que l'on cite régulièrement dès qu'il est question de logiciels de fichage, de surveillance algorithmique et de partenariats public-privé avec des agences de police. Dans son livre À la trace, le journaliste Olivier Tesquet rapporte l'anecdote suivante à propos de Peter Thiel, le PDG de Palantir : « […] Un insolent lui demande si "Palantir est une façade pour la CIA", son premier investisseur. "Non, la CIA est une façade pour Palantir", répond Thiel avec un sens aiguisé de la formule ».

Il existe aux États-Unis une imbrication telle entre les agences de renseignement et leurs prestataires privés que c'est un employé de Booz Allen Hamilton, l'un des sous-traitants de la NSA (National Security Agency) qui révélera les systèmes de surveillance et de collecte de données massives pratiquées par les agences de renseignement américaines et leurs alliées : Edward Snowden.

En 2014, il écarte le voile définitivement. Le projet PRISM, les méthodes de collecte massives sont éclairés crûment. Facebook, Google, Apple, Microsoft, tous contribuent à la pêche au filet des données des internautes du monde entier, sous le regard des « Five Eyes », association des agences de renseignement de cinq pays : États-Unis, Royaume-Uni, Canada, Australie, Nouvelle-Zélande.

Car l'industrie américaine du numérique, mélange de surveillance ciblée des agences de renseignement et de pistage de masse à des fins commerciales, revêt une dimension internationale. Cela se voit également dans les lois américaines sur le renseignement : le Patriot Act et le Cloud Act notamment, qui sont dits « extraterritoriaux », c'est-à-dire qu'ils ont juridiction dans le monde entier, pas seulement sur le territoire américain.

En ayant ces éléments en tête, il est piquant de voir le FBI et la CIA alerter publiquement sur les dangers de TikTok.  Car il ne faut pas s'y tromper : TikTok est bien un aspirateur à données qui ne se donne même pas la peine de faire semblant. L'application fait très régulièrement l'objet de révélations inquiétantes : pistage de journalistes, des utilisateurs, transferts de données de l'Europe vers la Chine, accès aux données des utilisateurs prenant l'entreprise en flagrant délit de mensonge... La liste est sans fin.

Prenons tout de même le temps de signaler que TikTok dispose également d'un paramètre accessible à certains employés permettant de massifier la diffusion de certains contenus. Cette méthode rappelle deux dispositifs mis en place chez Uber, dont on avait appris au moment des UberFiles qu'il existait un mécanisme appelé « Greyball », et un autre nommé « GodMode » qui permettaient pour le premier d'identifier des policiers chargés de contrôler Uber, et pour le second de suivre n'importe quel usager, chauffeur ou trajet.

En cela, les BATX (Baidu, Alibaba, Tencent, Xiaomi) sont les équivalents chinois des GAFAM. De part et d'autre du Pacifique, on retrouve des similitudes remarquables. Il s'agit dans les deux cas de champions nationaux subventionnés par la puissance publique, branchés sur les systèmes de surveillance des agences de renseignement. En somme, ce sont deux grands oligopoles du capitalisme de surveillance.

Un « super-prédateur » dans le régime de surveillance capitaliste

Les signaux étaient pourtant visibles depuis plusieurs années. Dès juin 2020, TikTok avait été banni en Inde. Et au mois d'août 2020, c'est Donald Trump qui menace TikTok d'interdiction aux États-Unis, souhaitant imposer le rachat de la branche américaine de ByteDance par une entreprise américaine, Cisco et Microsoft s'étant portés volontaires.

Cet événement avait été lu par Olivier Ertzscheid comme une volonté de mettre au pas les autres plateformes juste avant la présidentielle américaine de 2020. Fait cocasse, le FBI avait à l'époque déclaré ne pas avoir trouvé de preuves que les données récoltées par TikTok étaient consultées par le gouvernement chinois. Finalement, l'application du décret d'interdiction est repoussée une première fois par un juge fédéral, puis annulée par Joe Biden en juin 2021 après sa victoire contre Trump.

Désormais, le vent a tourné : la chambre des représentants aux États-Unis a voté l'interdiction de l'application sur les téléphones et ordinateurs appartenant aux autorités fédérales. Le parlement européen annonce faire de même le 23 février. Puis le Canada. Le sénateur américain Marco Rubio propose une loi de prohibition des activités de TikTok aux États-Unis. Le Sénat français se prépare à lancer une commission d'enquête sur l'application. Shou Zi Chew s'apprête à témoigner devant le Congrès américain au cours du mois de mars.

TikTok est désormais dans le viseur, et l'application est présentée comme un outil d'espionnage instrumentalisant ses utilisateurs, qui ne comprennent pas le fonctionnement et les buts réels de l'application. En cela, elle tend un miroir grossissant aux industries numériques occidentales.

Mais TikTok nous dit aussi quelque chose de l'état des relations entre les grandes puissances mondiales. La Chine a réussi un coup double. D'abord, se sevrer de l'influence des acteurs américains du numérique. Ensuite, mettre au service de sa politique internationale l'application avec probablement la plus grosse audience au monde (qui au départ cherchait seulement à monétiser les données et l'attention de ses utilisateurs). La rançon de ce succès planétaire, ce sont les tentations de régulation – voire d'interdiction pure et simple – dans les pays occidentaux, les mêmes qui sont à l'origine de l'économie de surveillance numérique que nous connaissons.

Photo d'ouverture : Sergei Elagin - @Shutterstock

Signaler une erreur

Société Culture - Loisirs Réseaux Sociaux Dérives autoritaires Surveillance de la population Propagande Médias sous influence Censure Article Monde Asie