Jean-Gabriel Ganascia
(Seuil, 2022, 320 p. 21€)
Ce livre est un cri d’alarme. L’auteur, Jean-Gabriel Ganascia, est un scientifique, expert en intelligence artificielle. Il est également philosophe et il a présidé le Comité d’éthique du CNRS. Il s’indigne de l’évolution incontrôlée des techniques numériques qui nous envahissent et nous asservissent peu à peu.
Quelques exemples :
Elon Musk a créé en 2017 la société Neuralink dans le but d’établir une connexion directe entre le cerveau et l’ordinateur. L’idée est de fusionner les intelligences biologique et numérique, et d’éviter ainsi «les lenteurs du langage».
Mark Zuckerberg investit dans ce même lien cerveau-ordinateur, pour y lire en direct les désirs de ses clients (qui accepteraient de porter son casque!).
En Chine, un logiciel de reconnaissance faciale permet de suivre un individu et de noter ses incivilités et bonnes actions.
A Stanford, on cherche à déterminer l’orientation sexuelle d’un individu par la simple analyse de son visage.
L’auteur condamne fermement ces projets qui portent tous atteinte à la dignité de l’homme. Il blâme le silence coupable des innombrables comités d’éthique, dont les recommandations (au nombre cumulé de 84 en 2019) ne sont que «des enchevêtrements d’abstractions convenues et vaines».
Jean-Gabriel Ganascia parcourt avec nous le vaste monde numérique et l’analyse en détails. Son constat est peu reluisant. Un aperçu :
Certes, il est improbable que les machines s’emparent elles-mêmes du pouvoir. Mais l’homme leur cédera peu à peu sa place devant leurs performances qui ne cessent de s’améliorer.
Les algorithmes d’intelligence artificielle sont souvent construits à partir de masses de données statistiques. En cas de biais dans ces données, celui-ci sera perpétué par l’algorithme. Ainsi, les systèmes de reconnaissance faciale américains sont beaucoup plus performants pour la catégorie «homme blanc».
Les sociétés numériques nous imposent un troc entre la gratuité de certains services et nos données personnelles. Elles nous assaillent de leur publicité ciblée. Les prix proposés pour nos achats sont fixés «à la tête du client» en fonction de nos traces laissées sur la Toile. Ces nouveaux pouvoirs «nous asservissent gentiment, sans cachot, ni chaînes, ni menottes, par la simple faculté de persuasion et de tromperie qu’ils exercent sur nous». L’auteur est féroce avec les nouveaux agents conversationnels intelligents (type Google Assistant) qu’il considère comme de véritables espions que l’on accepte servilement : «Napoléon Bonaparte, Joseph Staline, Nicolae Ceausescu et Mao Tsé-toung en auraient rêvé ; George Orwell les a imaginés dans son roman 1984 ; Amazon, Google, Apple et les autres géants de la Toile les ont fabriqués!».
L’Etat est incapable de poursuivre les auteurs de fausses informations et s’en remet à des acteurs privés. Facebook et Twitter ont censuré Trump, ce qui choque l’auteur. Les grandes sociétés numériques (dont aucune n’est européenne) sont en train de vider les Etats de leur souveraineté. Elles sont déjà très présentes dans les fonctions régaliennes : la collecte d’impôts, la sécurité, la justice. Facebook veut créer sa propre cryptomonnaie. Apple refuse de donner au FBI les clés de décryptage de son téléphone. Dans l’affaire dite des «perroquets stochastiques» (2021), deux membres du Comité d’éthique de Google soupçonnent un biais dans l’algorithme de traitement du langage et doivent quitter la société pour publier leur article, montrant ainsi les limites des comités privés.
Dans ce panorama assez pessimiste, on devine que l’auteur force parfois un peu le trait et l’on pourrait aussi évidemment discuter sur telle ou telle argumentation. Mais Jean-Gabriel Ganascia est convaincant sur sa recommandation essentielle : les organes législatifs élus, aux niveaux national et européen, doivent prendre le contrôle des évolutions du numérique. Il s’agit, ni plus ni moins, de préserver certains fondements de notre démocratie : respect de la personne, équité, transparence.
L’auteur enrichit son exposé de développements historiques, philosophiques et sociologiques très pertinents sur des notions telles que la vie privée, l’amitié, le partage, la censure, la confiance, la réputation, l’équité, la dignité humaine, la transparence, la servitude. Nous croisons ainsi Aristote, Montaigne, La Boétie, Pascal, Swift, Rousseau, Kant, Tocqueville, Nietzche, Marx, Hegel, Arendt, Ricœur, Levinas, Sartre, Ariès, Harari, Assange. L’auteur puise également avec bonheur dans la littérature nombre d’illustrations de ses idées, avec Virgile, Goethe, Carroll, Sue, Zola, Proust, Valéry, Gide, Breton, Borges, Sarraute, Kundera, Eco et même Bob Dylan! Dans une conclusion émouvante, Jean-Gabriel Ganascia propose un guide pour lutter contre l’asservissement de la pensée en s’inspirant d’un texte, écrit en septembre 1939 par un jeune journaliste, dont il ne dévoilera le nom qu’à la toute dernière phrase de son livre.