Dans Technopolitique. Comment la technologie fait de nous des soldats (1), la chercheuse en sciences politiques Asma Mhalla analyse la façon dont les géants du Web ne sont pas que des acteurs économiques, mais aussi politiques et idéologiques. Avec en ligne de mire un nouveau territoire à conquérir : l’esprit humain.
Recueilli par Alice Le Dréau, La Croix du 9 mars 2024
Pourquoi étudier la tech par le prisme politique ?
Martin Heidegger fut l’un des premiers à dire que l’essence de la technique n’est pas technique, mais anthropologique et politique. Pourquoi ? Parce que l’outil, quel qu’il soit – réseaux sociaux, intelligence artificielle, implants cérébraux (comme le Neuralink d’Elon Musk), câbles sous-marins… –, peut bien sûr être lu d’un point de vue simplement matériel (comment ça marche, à quoi ça sert…), mais moi, ce qui m’intéresse, c’est ce que cela véhicule comme vision du monde, comme valeurs, comme projet, comme discours, comme capacité à faire ou à défaire les liens. Ce que j’explique et défends dans mon livre, c’est que les géants technologiques, les Big Tech, sont aujourd’hui des acteurs dominants, des acteurs système, qui sont non seulement des acteurs économiques mais aussi sociaux, militaires, politiques. Les géants de la tech sont désormais des interlocuteurs incontournables et reçus comme des chefs d’État.
Vous mettez en parallèle Big Tech et Big State. Les États et les géants technologiques sont donc complices ?
Les Big Tech ne sont pas des États parallèles, mais un continuum, plutôt, car le Big State est cet État omnipotent mais fragilisé dans son contrat social et sa légitimité, qui irrigue et permet le fonctionnement des techno-puissances mondiales. En Ukraine, par exemple, lorsque Elon Musk a fait remarquer que déployer ses satellites Starlink lui coûtait cher, le Pentagone a dégagé un budget pour le financement. Au final, les Big Tech peuvent apparaître comme des sociétés hybrides, entre public et privé.
Mais en quoi sont-elles, comme vous l’écrivez, des perturbateurs de la démocratie ?
Parce que ces acteurs portent en eux un projet de technologie totale, une ambition politique de contrôle et de puissance. Ils proposent un véritable quadrillage invasif de l’ensemble de nos usages. Avec une dualité qui peut être traître. Côté pile, ces technologies ont des usages dits civils – personnels, marchands ou ludiques – ; côté face, les mêmes sont policières, militaires, sécuritaires, idéologiques aussi. Mis bout à bout, ces outils fournissent à leurs propriétaires un instrument de pouvoir inédit. Prenons l’exemple d’Elon Musk. Pourquoi a-t-il acheté X (ex- Twitter) ?
Pour en faire un espace d’influence…
Oui, et y diffuser sa vision néonataliste du monde, par exemple. Ou jouer les géopoliticiens de pacotille en donnant son avis sur le statut de Taïwan. Mais via X, Elon Musk s’est aussi acheté une gigantesque base de données. Or, les données personnelles sont un instrument de pouvoir. La donnée en elle-même ne représente pas d’intérêt. C’est la façon dont elle est brassée par les algorithmes qui encapsule visions, biais et transforme tout cela en information. L’obsession des
« supertechnologues », c’est obtenir une super-IA, une super- intelligence artificielle qui aura une conscience d’elle-même. Les données sont un carburant pour entraîner les IA. Le premier passage vers une conscience est le langage. Où se trouvent les mots ? Sur les réseaux. Les idées ? Sur les réseaux.
Le sous-titre de votre livre est « Comment la technologie fait de nous des soldats ». Des soldats de quelle guerre ? Cognitive ?
Nos cerveaux sont les nouveaux champs de bataille. Il existe cinq domaines de conflictualité connus : terre, mer, air, espace, cyberespace. Visiblement, un sixième émerge, qui est le champ cognitif. La désinformation et la propagande n’ont rien de nouveau, la guerre informationnelle a toujours existé. Mais la nouveauté est qu’elle cible désormais l’amont, c’est-à-dire les conditions mentales de réception des contenus. L’objectif est d’attaquer, détériorer les représentations collectives ou individuelles du monde, brouiller le discernement nécessaire au fonctionnement d’un groupe, d’une société, fragmenter. Avec, comme je le disais plus tôt dans notre discussion, un aspect dual. Prenons l’implant cérébral Neuralink. Quelle est la promesse ? Elle est thérapeutique. L’implant cérébral, si vous êtes épileptique, si votre grand-mère a Parkinson, vous êtes bien contents de l’avoir. Le problème c’est que, en parallèle, l’implant capte quelque chose de fondamentalement intime : l’activité cérébrale. Sur laquelle nous n’avons pas la main. Le risque est alors que ces informations soient utilisées à des fins malveillantes.
Comment se défendre, pour rester dans le jargon de la guerre ?
La modération est un combat perdu. Voyons plus large. Ce qu’il faudrait, c’est qu’Europe et États-Unis se mettent d’accord sur une forme de gouvernance élargie. Sur de nouvelles normes sociales, juridiques, technologiques, qu’ils se mettent d’accord pour imaginer de nouveaux mécanismes de régulation. Sur le champ du droit international ou des libertés, peut-être faudrait-il songer à une nouvelle génération de droits et de libertés, la liberté cognitive. J’ai le droit à mon intégrité cognitive.
Le Chili l’a fait, en intégrant le principe de « neurodroits » dans sa Constitution…
Ah ? Je l’ignorais. Vous voyez, on a beau avoir l’impression que le tableau que je dresse est une espèce de dystopie cyberpunk, non, c’est notre réel. On se dit « ça va arriver, ça va arriver », mais nous y sommes !
Intelligence artificielle, réseaux sociaux, implants cérébraux, satellites, métavers… Le choc technologique se voie l’un des enjeux clés du xxie siècle et les géants américains, les « BigTech », à l’avant-garde. Entités hybrides, ils remodèlent la morphologie des États, redéfinissent les jeux de pouvoir et de puissance entre nations, dans la lutte contre les États, tracent les nouvelles frontières de la souveraineté. S’ils sont au cœur de la puissance américaine face à la Chine, ils sont des agents perturbateurs de la démocratie. De ces liens ambivalents entre BigTech et « BigState » est né un nouveau Léviathan à deux têtes, animé d’un désir de puissance hors limites.
S’attaquant à tous les faux débats, Asma Mhalla ose une thèse de fait avec force et perturbante : les technologies de l’hypervitesse, à la fois civiles et militaires, font de chacun d’entre nous, qu’on le veuille ou non, des soldats. Nos cerveaux sontl’ultime champ de bataille. Il est urgent de le penser car ce n’est rien de moins que l’ordre mondial mondial qui est en jeu, mais aussi la démocratie.
Docteure en études politiques, Asma Mhalla est chercheuse au Laboratoire d’Anthropologie Politique de l’Ehess. Politologue spécialiste des enjeux politiques et géopolitiques de la Tech et de l’IA, elle conseille gouvernements et institutions dans leur politique publique. Elle a produit et animé, à l’été 2023, l’émission « CyberPouvoirs » sur France Inter qui a été très remarquée.