Lettre d’information AFAS

Intelligence artificielle et honneur de l’esprit humain

Par Dominique Leglu, présidente de l’AFAS

Il aurait vraiment fallu vivre tout au fond d’une grotte pour ne pas avoir entendu depuis le printemps jusqu’à cet automne, la clameur persistante quant à l’intelligence artificielle. Clameur virant parfois à la vocifération, sans oublier moult déclarations de type apocalyptique, semeuses au mieux de confusion, au pire de terreur. Du calme, du calme, et si on faisait une pause pour réfléchir ? Une réflexion dont on peut affirmer qu’elle ne sera pas près de s’arrêter, si elle s’arrête jamais…

A l’association française pour l’avancement des sciences, c’est l’impact de l’IA sur ces dernières qui importe au premier chef, et nous allons nous y employer. Mais il semblerait incongru de ne pas examiner, plus largement, à quel point la science et les techniques informatiques sont au service (ou pas) de nos sociétés. De ne pas prendre la mesure d’en quoi la médiatisation internationale hors normes de l’IA bouscule désormais les esprits, non seulement des spécialistes, scientifiques, informaticiens, entrepreneurs, hommes et femmes politiques etc. mais aussi du grand public.

Pour les premiers, l’affaire est entendue depuis longtemps. Votre attention, fidèles lectrices et lecteurs du site de l’AFAS, était déjà attirée il y a plus de dix ans sur le “Futur de l’intelligence artificielle”, ou encore sur les “Fantasmes et réalités” qui l’accompagnent (1). Mais c’était bien avant novembre 2022 et ChatGPT qui a fait verser les interrogations, attentes et craintes dans les neurones de tout un chacun. De nouveaux sigles et mots clés sont ainsi tombés dans le domaine public, pas toujours faciles à cerner, LLM, IA générative, hallucinations, prompts… Et avec les événements de ces derniers temps, c’est un climax en intensité et, certainement, incompréhension, qui a été atteint.

L “affaire” la plus récente en France, parce qu’elle a concerné le prix littéraire le plus connu et prestigieux, le Goncourt, a éclaté autour de l’ouvrage “C’était ça ou mourir” de Thélyson Orélien, dont l’analyse par le logiciel de détection Pangram a livré le verdict : livre 100% écrit par IA (2). Et ce, alors même qu’il était encensé par nombre de critiques, à quelques exceptions près, et connaissait déjà une vente importante.

On se sera étonné (3) que les éditeurs “généralistes” ne se soient pas préoccupés, bien avant la publication, de la nature de cette écriture, à l’heure où tous les éditeurs scientifiques spécialisés et les professeurs (du collège à l’enseignement supérieur) ne cessent depuis plusieurs

années d’examiner les répercussions de l’IA sur leurs publications, leurs enseignements et l’impact sur les élèves et les étudiants. Et de prendre des mesures sur la notion de “co-auteur”, son bannissement ou son usage autorisé voire recommandé, passant au crible articles de chercheurs, dissertations, commentaires… (4). Avec un livre qui a été exclu par son jury de la liste du Goncourt, c’est désormais un public très large qui a été interpellé, un lectorat qui, généralement, se précipite sur l’ouvrage primé. A l’heure où nous écrivons ces lignes, on ne sait pas encore si celui-ci sera condamné aux oubliettes ou au contraire bénéficiera du fameux effet Streisand, attirant encore plus l’attention sur lui ?

Cet été, ce sont des “affaires” réellement scientifiques et techniques qui ont mis l’IA à la Une des médias, qu’ils soient traditionnels ou réseaux sociaux. Et là, on imagine à quel point les spécialistes ont du grain numérique à moudre, de nature aussi bien fondamentale qu’appliquée, qu’ils oeuvrent dans des labos publics ou pour la recherche privée.

Rappelons d’abord “L’incident Hugging face”, comme l’a nommé le rapport officiel du 26 août 2026 de l’entreprise de San Francisco OpenAI, célèbre pour être à l’origine de ChatGPT. Le problème ? Des agents IA (5) à qui l’entreprise avaient donné l’objectif de résoudre certains problèmes complexes, le tout dans un environnement isolé, se sont échappés à la mi-juillet dudit environnement, que les Américains appellent de façon imagée une “sandbox” (un bac à sable) ! Ces agents sont allés fouiller ailleurs, sur une plate-forme baptisée “Hugging Face”, détenant des codes et des clés d’accès. En clair, une cyberattaque qui n’aurait pas dû avoir lieu. Contrôle humain et notion de sécurité ont été plus que mis à mal. Vulnérabilité affolante ? Ce contournement des barrières souvent qualifié d’ “historique” a en effet engendré une véritable hystérie. De grandes voix du domaine IA, tel le Britannico-Canadien Geoffrey Hinton, prix Turing et Nobel, comme celle d’un inconnu instantanément héroïsé comme le Britannique Jacob Coxon annonçant quitter l’industrie IA (Anthropic après OpenAI), ont crié à la catastrophe à venir. Des chiffres extravagants ont été lancés tous azimuts : estimation des “risques entre 10% et 20% d’extinction humaine” liés à l’IA. Rien de moins.

Disons-le tout net, on ne sait pas comment de tels pourcentages peuvent être avérés ! D’aucuns ont pu y voir un affligeant marketing de la peur. On remarquera surtout ici la lettre ouverte intitulée “Pacing the frontier” (6) du 28 juillet 2026 par plus de 1300 spécialistes du domaine, insistant sur le fait que “le monde manque d’outils techniques et d’une gouvernance pour régler le rythme des progrès” en IA.

A l’heure d’une sorte de guerre froide technologique entre Etats-Unis et Chine sur le sujet, avec compétition effrénée des entreprises, il y a de quoi se demander s’il s’agit d’un simple voeu pieux politiquement correct. Qui ferait une pause, au risque de se faire dépasser ? Reste que l’IA s’invite désormais à toutes les rencontres au sommet de chefs d’Etat, ce qui n’est pas sans faire penser aux efforts des gouvernements post deuxième guerre mondiale pour élaborer des doctrines de dissuasion nucléaire et se prémunir de l’utilisation de la bombe atomique. Et on n’oubliera pas la publication très remarquée, dès le mois de mai 2026, par le pape soi-même, Léon XIV également chef d’Etat, venu en septembre en France, de l’Encyclique “Magnifica Humanitas – Sur la protection de la personne humaine à l’ère de l’intelligence artificielle” (7). Il y insiste sur “le principe du bien commun, valeur non négociable”. L’IA, décidément au coeur de la politique et d’une nouvelle géostratégie…

Comme si cela ne suffisait pas, c’est le saint des saints du monde scientifique qui a été touché plus récemment, une figure de pointe des mathématiques. Le 8 septembre 2026, est présentée par OpenAI “ une solution au problème d’existence et de régularité de Navier-Stokes, un des problèmes du prix du millénaire”. Equation de Navier-Stokes, l’une des plus célèbres équations qui soient, s’attaquant à la complexité de la dynamique des fluides (8). La réaction des mathématiciens du plus haut niveau ne s’est pas fait attendre. Dès le 11 septembre 2026, 25 médaillés Fields (suivis depuis par des centaines de mathématiciens) publient “A severe Misalignment of AI in mathematics” (9) (Grave décalage entre les objectifs des entreprises d’IA et ceux de la communauté mathématique). Dans cette remarquable déclaration, ils s’inquiètent de “l’écart qui se creuse de plus en plus [ entre les technologies développées par les entreprises d’IA ] et “d’une part, les professions scientifiques et créatives, d’autre part, la société dans son ensemble”. Ils redoutent que la “production massive d’énoncés ‘’vrais/faux’’ détruise des terrains fertiles pour l’esprit humain au lieu de donner vie à des idées innovantes”.

On ne saurait être plus clair. C’est un art singulier, à protéger, que de faire véritablement avancer les sciences, ce à quoi notre association est plus que jamais attachée. Pour l’honneur de l’esprit humain.

–

Notes :

1) https://www.afas.fr/lintelligence-artificielle-fantasmes-et-realites/ https://www.afas.fr/deep-learning-le-futur-de-lintelligence-artificielle-2/

3) https://x.com/dominiqueleglu/status/2103468919180706179?s=46&t=wqGn_bqAulN1hN5gR HW3kQ

2) A lire, cet article explicitant notamment les diverses significations possible de  l’expression « écrit 100% IA » https://www.lemonde.fr/culture/article/2026/09/28/quand-pangram-l-outil-qui-detecte-l-utilisation-des-ia-fait-irruption-dans-la-vie-des-editeurs_6785082_3246.html?srsltid=AU7gw4UMva-VYvIYiOaACf-HAvmm-1_r_D6jkQgbL2tFAvZQwX5gQkRD

4) “Chat GPT-3 sème un vent de panique dans le monde réel”, Challenges, p.45, 2 février 2023 et

5) Systèmes informatiques qui peuvent prendre des décisions de manière autonome.

6) www.pacingthefrontier.com

7) https://www.vatican.va/content/leo-xiv/fr/encyclicals/documents/2 0260515-magnifica-humanitas.html

8) On peut (re)lire à cette occasion “17 équations qui ont changé le monde” par Ian Stewart, éd. Robert Laffont, 2014. Et “L’équation du cerf-volant”

https://www.sciencesetavenir.fr/fondamental/l-equation-du-cerf-volant_23106

9) A lire sur le site www.mathandai.org

——————————————————————————————————————————————————————

L’ Association française pour l’avancement des sciences publie tous les deux mois une lettre d’information qui récapitule ses actions. Vous pouvez vous y inscrire ci-dessous. Vous trouverez aussi le dernier édito en date à la suite du formulaire d’inscription, ainsi que les PDF de toutes les lettres déjà publiées.

Attention, si vous êtes membre de l’AFAS, vous êtes automatiquement abonné(e) à notre lettre d’information.

 

Pour vous abonner, renseignez les champs ci-dessous :

________________________________________________________________________________

Conseil scientifique de l’AFAS :

Pascal Brioist, historien [Centre d’études supérieures de la Renaissance à l’Université de Tours]

Laurent Degos, hématologue [Professeur de médecine à l’université Paris Diderot, académicien des sciences]

François Féron, neuroscientifique [Professeur de médecine à l’université d’Aix-Marseille, chercheur CNRS]

Anne-Marie Lagrange, astrophysicienne [Directrice de recherche CNRS, LESIA CNRS-Observatoire de Paris PSL]

Yan Lavallée, volcanologue [Professeur université Ludwig-Maximilians, Munich]

Anne Lehoërff, archéologue [Professeur des universités chez CY Cergy Paris Université. Présidente du Conseil scientifique de la FMSH]

Nathalie Popiolek, économiste [Présidente d’Adæquate Consulting – Enseignante Université Paris-Dauphine/PSL]

Sylvie Retailleau, physicienne [ancienne ministre de l’Enseignement supérieur et de la Recherche, professeur université Paris-Saclay]

Francis Rocard, astrophysicien [Directeur du programme système solaire au CNES]

Florence Sèdes, informaticienne [Ancienne vice-présidente université de Toulouse]

Marc-André Selosse, biologiste [Professeur du Museum d’Histoire naturelle et à l’IUF]

Didier Swingedouw, climatologue, océanographe [Directeur de recherche CNRS ; Université de Bordeaux]

Derniers numéros parus :