Progressisme, GAFAM, crédit social : vers la société féodale 2.0
Ce qu'on nous présente comme contrôle social à la chinoise n'a (pour le moment) rien de chinois. Il s'agit bien d'un contrôle social totalitaire à l'occidentale tout ce qu'il y a de plus classique.
“Commençons par définir ce qu’est un système de crédit social. Un système de crédit social est un système qui prétend garantir les libertés individuelles. Il ne vous envoie pas au goulag pour avoir exprimé une opinion dissidente. Il conditionne la vie en société et l’accès aux activités s’y rattachant – activités économiques, capacité à dépenser votre argent - au fait d’afficher les opinions correctes. Si vous ne le faîtes pas, alors vous êtes partiellement ou totalement exclu de l’utilisation de plateformes en ligne. C’est la situation vers laquelle nous nous acheminons graduellement.”
David Sacks, entrepreneur et investisseur dans “Honnestly”, le podcast de Bari Weis.
David Sacks en connait un rayon. Il fut un membre de la “Paypal mafia” au côté de gens comme Peter Thiel et Elon Musk. Il a investi très tôt dans des entreprises comme Facebook, Twitter, AirBnB, Reddit etc.
Il est l’un des “venture capitalists” les plus célèbres de la Silicon Valley. Et pourtant il s’acharne aujourd’hui à dénoncer le pouvoir bien trop important des GAFAM, de la “Big Tech”, qu’il a grandement contribué à construire. Syndrome du Dr. Frankenstein? Vous pouvez lire David Sacks sur le Substack de notre consœur Bari Weis et l’écouter sur le podcast “All in” dont il est l’un des animateurs.
Il y a définitivement quelque chose qui ne tourne pas rond dans la start-up nation. S’y est-il produit une sorte de transmutation des valeurs par laquelle le principe de liberté individuelle exacerbée qui l’a fondé s’est mué en délire paranoïaque panoptique? Ces technologies qu’on disait libératrices - et elles le furent pendant un quinzaine d’années, de 1995 à 2010 – sont-elles intrinsèquement et inexorablement des vecteurs d’asservissement ? Ont-elles été conçues à cet effet?
A lire également: Debunkocratie. La commission Bronner, une tentative totalitaire de commander le discours.
Seuls des hommes asservissent d’autres hommes. La technologie ne vaut que par l’usage que l’on en fait. Si l’on se coupe des ongles des doigts de pied à la hache, l’on risque d’y laisser un orteil. Il est intéressant de constater que notre usage du mot technologie est abusif, puisqu’il désigne le langage afférent aux arts et métiers - le jargon - et non pas l’outil et son usage. Quand nous disons technologie, nous signifions la plupart du temps technique.
Ce sont les progrès exponentiels en matière de microélectronique et de semi-conducteurs - capacité de calcul des microprocesseurs et capacité de stockage de données - et en matière de bande passante des câbles (fibre optique, encore un fleuron français vendu par Macron) et par ondes radio (4G, 5G), qui permettent le développement de logiciels et d’algorithmes de plus en plus complexes et puissants, la création d’intelligences artificielles.
A la fois paranoïaque et puérile, la volonté affichée par certains de modéliser la totalité d’un être humain par l’ensemble des données le concernant à fins de contrôle est vouée à l’échec. Il faudrait littéralement résider dans la matrice de “The Matrix” pour que cela soit possible, c’est à dire être en état voisin du coma artificiel.
Par renoncements successifs, un passe vaccinal a été instauré à grande échelle, comme le souligne Loïc Hervé, sénateur de Haute-Savoie interviewé dans nos colonnes. Son efficacité est nulle et son contrôle plus qu’aléatoire.
A lire également: Loïc Hervé : "ce passe, on le verra réapparaître à d’autres fins"
On a pu voir un fils à papa apprenti dictateur incompétent casser un mouvement social au Canada par l’usage de la violence d’État au mépris des libertés fondamentales, notamment en supprimant l’accès des manifestants au fruit de leur travail, à leur compte en banque, leur niant la possibilité de vivre.
Nous disposons aujourd’hui de techniques qui permettent de contrôler peu ou prou l’ensemble de la vie sociale d’un individu. Sur le modèle du passe sanitaire, il suffira de supprimer un éventail de libertés individuelles pour ne les accorder qu’à ceux qui feront preuve du bon comportement.
Qu’en est-il du développement de l’intelligence artificielle en Chine, le pays le plus en avance en la matière et qu’on répute avoir mis en place un système de contrôle social de ses citoyens ?
Cette fascinante vidéo de Glenn Loury nous apporte tous les éléments nécessaires. Elle est en anglais. Utilisez les sous-titres ou bien lisez le court résumé ci-après.
La Chine a adopté une triple approche de régulation (gouvernance ne veut rien dire en français) de l’intelligence artificielle.
Un ensemble de 30 règles qui s’appliqueront à l’ensemble des algorithmes utilisés sur internet. Un exemple de règles est la capacité de l’algorithme à donner une explication à et corriger toute atteinte aux droits et intérêts des utilisateurs. Cette règle est particulièrement intéressante car si les plateformes - YouTube, Facebook, Twitter etc. - ne donnent aucune explication quant à, par exemple, une décision de suspension de compte, c’est souvent plus parce qu’elles ne savent pas ce qui a motivé l’action que parce qu’elles refusent de s’expliquer. En clair, personne ne possède une vision d’ensemble de ce que l’algorithme fait.
Des outils et des systèmes permettant de tester et de certifier les algorithmes de confiance sur des critères tels que la robustesse, les biais et leur capacité à expliciter
Un ensemble de règles éthiques s’appliquant au développement d’intelligences artificielles assorti de l’existence obligatoire de comités d’éthiques au sein de tout organisme y travaillant, chargés de mettre en œuvre ces règles et et de contrôler leur application
Oui. Vous avez bien lu. La Chine, ce pays totalitaire, cette dictature communiste veut que toute décision prise par un algorithme ou une intelligence artificielle puisse s’expliquer et être corrigée par à chaque fois qu’il est porté atteinte aux droits et intérêts d’un utilisateur.
En fait, le crédit social tel qu’on nous le présente dans les médias n’existe pas en Chine. Il s’agit pour le moment d’un système qui ne vise que les personnes morales ou des individus sous le coup de décisions de justice. L’objectif n’est pas de contrôler tous les individus mais de s’assurer que ceux qui doivent respecter un ensemble de réglementations ou bien une décision de justice le fassent.
Si une entreprise subit un contrôle de sécurité du travail et qu’elle s’avère défaillante, cela provoquera automatiquement d’autres contrôles d’autres administrations. Plus l’entreprise se conformera à la réglementation, moins elle subira de pression de contrôle. Ce type de fonctionnement existe en France depuis au bas mot quarante ans. Un gros problème avec l’inspection du travail est susceptible de déclencher un contrôle URSSAF et/ou un contrôle fiscal. Au motif de qui vole un œuf vole un bœuf. Et le fisc français est autorisé à utiliser le contenu des réseaux sociaux pour cibler les contribuables à contrôler.
Pour les individus, ce sont ceux condamnés en justice à des amendes ou dans des affaires civiles qui, par exemple, ne pourront pas acheter de billet de train à grande vitesse tant que l’amende ou les dommages et intérêts ne seront pas payés, ou la dette remboursée. Il s’agit en fait d’une sorte de peine complémentaire.
Nous sommes loin, très, très loin de l’enfer dystopique qu’on nous décrit. Si chaque citoyen chinois dispose d’une carte d’identité électronique dont la puce est capable de stocker de multiples données, ce n’est pas différent d’une carte vitale ou de la nouvelle carte d’identité nationale française.
Le fameux “portefeuille électronique” prôné par les technocrates européens va bien plus loin ce qui est fait en Chine, où l’Etat a refusé de lier la carte d’identité à des systèmes de notation de crédit développés par des entreprises, que ce soit des banques ou des plateformes comme Alibaba.