Jeff Hawkins
(Quanto, 2023, 296 p. 23,25€)
Jeff Hawkins est un ingénieur en informatique qui s’est intéressé aux neurosciences. Dans ce livre, il veut montrer que le cerveau ne fonctionne pas comme les neurosciences ont essayé de le décrire, du moins le prétend-il, c’est-à-dire l’établissement d’un modèle unique et fixe du monde décrivant le cerveau comme un genre d’ordinateur (des informations entrent, sont traitées et le cerveau agit), mais que ce sont en réalité des centaines de milliers de cartographies de tout ce que nous connaissons qu’il réalise à chaque instant, nous permettant de réaliser notre perception du monde et de nous-même.
Sa démonstration ambitieuse est construite en trois parties :
1. «Une nouvelle vision du cerveau», qui se veut principalement neurobiologique, dans laquelle il décrit sa théorie des référentiels, qu’il baptise «théorie des mille cerveaux», qui s’inscrit dans l’histoire de l’étude du cerveau et qui prétend faire comprendre au lecteur ce qu’être intelligent veut dire.
2. «L’intelligence machine», qui fait référence à l’intelligence artificielle (IA), expliquant avec sa théorie des «mille cerveaux» pourquoi l’IA d’aujourd’hui n’est pas encore de l’intelligence et comment rendre les machines vraiment intelligentes ; il explique pourquoi certaines d’entre elles seront selon lui conscientes ; enfin il pose le problème du risque existentiel que constitueraient ces machines intelligentes du fait qu’il serait possible de créer une technologie qui conduira l’humanité à sa perte. Mais il ne le croit pas et explique pourquoi, grâce à ses découvertes, l’intelligence des machines est en soi inoffensive : «il s’agit d’une technologie très puissante dont le risque réside en vérité dans l’usage qu’en feront les humains».
3. «L’intelligence humaine», qui décrit la condition humaine sous la perspective du cerveau et de l’intelligence ; nos perceptions sont à chaque instant une simulation du monde, mais pas le monde réel : «l’une des conséquences de la théorie des mille cerveaux est que nos croyances au sujet du monde peuvent être fausses, […] nos fausses croyances associées aux plus primitives de nos émotions risquent de menacer notre survie à long terme.»
Dans la première partie, «Une nouvelle vision du cerveau», il se propose tout d’abord de nous décrire trois «illuminations» qui lui ont permis de comprendre le rôle du néocortex, cette partie du cerveau cortical la plus évoluée de l’encéphale :
- «Découverte numéro un : le néocortex acquiert un modèle prédictif du monde», car le néocortex effectue un grand nombre de prédictions dont nous n’avons pas conscience.
- «Découverte numéro deux : les prédictions s’effectuent à l’intérieur des neurones», ces prédictions se présentent sous deux formes, les unes parce que le monde change autour de nous, les autres parce qu’on bouge soi-même par rapport au monde ; il appuie l’essentiel de sa démonstration sur la théorie de V. Mountcastle selon laquelle toutes les parties du néocortex, quelle que soit la spécificité de chaque partie (vue, audition, toucher…), sont organisées en colonnes et obéissent au même principe. Il inscrit alors sa démarche dans le sillage de la proposition de V. Mountcastle selon laquelle un algorithme cortical commun laisse entendre que chaque colonne du cerveau effectue des prédictions des deux formes.
- «Découverte numéro trois : le secret de la colonne corticale réside dans les référentiels», car les neurones du néocortex sont capables de fixer un référentiel en relation avec un objet, un emplacement ou une situation, et chaque colonne du néocortex possède des neurones qui représentent les référentiels.
J. Hawkins formule alors l’hypothèse selon laquelle le cerveau classe toutes les connaissances à l’aide de référentiels, et la pensée survient quand on active des emplacements successifs dans les référentiels: chaque colonne du néocortex possède des cellules qui créent des référentiels.
S’appuyant sur l’hypothèse de V. Mountcastle selon laquelle il n’y a qu’un seul algorithme commun à toute perception et à toute cognition se rapportant aux 150 000 colonnes corticales de notre néocortex, J. Hawkins propose alors que l’algorithme cortical commun repose sur les référentiels qui fournissent le substrat de l’apprentissage de la structure du monde.
Et il conclut sa première partie en formalisant sa «théorie des mille cerveaux» : les connaissances que contient notre cerveau sont réparties, la connaissance d’un objet est répartie sur des milliers de colonnes. D’où le nom de «théorie des mille cerveaux», dans la mesure où la connaissance de n’importe quel objet est distribuée parmi des milliers de modèles complémentaires. La théorie des mille cerveaux décrit comment le néocortex acquiert un modèle tridimensionnel d’un objet en faisant appel à des référentiels.
Dans la deuxième partie, «L’intelligence machine», J. Hawkins décrit l’impact qu’aura sa théorie des mille cerveaux sur l’avenir de l’IA, théorie qui laisse entendre que l’avenir de l’intelligence machine sera très différent de ce à quoi réfléchissent la plupart des chercheurs qui travaillent sur l’IA.
En posant la question de savoir si les machines peuvent être conscientes, il considère que le problème de la conscience ne peut être aujourd’hui que partiellement réductible à une approche neurobiologique et que pour l’heure il reste incompris. Mais il affirme que les machines qui fonctionneront selon les principes du cerveau seront conscientes ; il considère que les systèmes d’IA ne fonctionnent pas ainsi aujourd’hui mais ils le feront un jour et ils seront conscients.
Pour J. Hawkins, les machines intelligentes serviront non seulement pour la réalisation d’activités telles que celles pratiquées aujourd’hui mais aussi à acquérir un savoir nouveau, une compréhension de l’inconnu, et permettront de propulser l’adoption de l’IA dans des directions inattendues. Mais que se passera-t-il si les machines intelligentes qui seront développées réfléchissent plus vite et plus loin que nous ? Ne constitueront-elles pas une menace pour le devenir de l’humanité ? Des groupes de réflexion se sont constitués pour étudier les risques que pose l’IA, et des mises en garde publiques affirmant que la création de machines (trop !) intelligentes risquait de conduire à l’asservissement de l’espèce humaine, l’IA serait une menace existentielle pour l’espèce humaine. Face à cette menace, l’auteur reste optimiste et il ne fait aucun doute pour lui que les machines intelligentes ne représentent aucune menace existentielle pour l’humanité car les machines intelligentes ne posséderont pas d’émotions ni de motivations de type humain à moins qu’on les en dote volontairement. Dans la mesure où les machines intelligentes ne seront pourvues ni de la capacité de se répliquer ni de motivations, elles ne constitueront aucune menace réelle pour l’humanité. La meilleure option, pour l’heure, est de préparer des accords internationaux exécutoires sur ce qui est admissible et ce qui ne l’est pas.
Dans la troisième partie, «L’intelligence humaine», J. Hawkins se propose d’examiner les risques inhérents à notre intelligence et à la structure de notre cerveau sous le prisme de la théorie des mille cerveaux. Pour lui, un des points essentiels est que le cerveau ne connaît qu’un sous-ensemble du monde réel et que nous ne percevons pas le monde lui-même mais le modèle du monde que nous nous construisons, que nous vivons dans une simulation. Le triomphe de l’intellect humain, c’est l’expansion de notre modèle du monde au-delà de ce qui est directement observable, c’est l’apprentissage du monde par l’expérience personnelle grâce au langage.
Dans une vision très simpliste de l’activité de notre cerveau, l’auteur considère qu’il est divisé en deux parties, 30% étant constitué par un cerveau ancien qui crée les plus primitifs de nos désirs et de nos actions, et 70% par le néocortex, support de notre intelligence supérieure. Les parties anciennes de notre cerveau sont à l’origine de comportements primitifs alors que le néocortex a la capacité de les maîtriser. J. Hawkins met alors en avant les risques existentiels de l’intelligence humaine, car dans la lutte entre cerveau ancien et néocortex, c’est souvent le premier qui gagne, tout en admettant que le néocortex peut contrecarrer le cerveau ancien. A partir de sujets tels que «les vaccins sont une cause d’autisme», «le réchauffement climatique n’est pas une menace», «il y a une vie après la mort», il élabore une théorie selon laquelle «le cerveau forme ses croyances» et met en avant trois items qui en sont à l’origine : l’impossibilité d’en faire l’expérience directe, le rejet de tout élément contradictoire et la propagation virale de la croyance. Ainsi, en élaborant de telles croyances, l’intelligence pourrait être à l’origine de notre possible destruction, et c’est dans la structure du cerveau (30% de cerveau ancien et 70% de néocortex) que réside le problème car le cerveau ancien est adapté à la survie à court terme et notre néocortex s’est développé «pour servir le cerveau ancien». L’auteur en conclut que «nous sommes face à plusieurs menaces existentielles : notre cerveau ancien est aux commandes et nous empêche de faire des choix soutenant notre survie à long terme ; et les technologies globales que nous avons créées (grâce à notre néocortex) peuvent être détournées par des gens habités de fausses croyances».
Pour échapper à ces menaces, il propose plusieurs issues :
- la fusion du cerveau et de l’ordinateur mais pas au point de pleinement unir le cerveau et la machine, tout en admettant qu’une telle fusion sera sans doute un jour menée à bien ;
- la préservation et la propagation de la connaissance (ou savoir), qui représente ce que l’on a appris du monde – le modèle du monde qui réside dans notre néocortex – mais indépendamment des êtres humains, «en archivant notre histoire et notre savoir de façon à ce que de futures espèces intelligentes sur Terre puissent s’instruire à propos de l’humanité […], ou en créant un signal durable qui informe les êtres intelligents ailleurs dans l’espace et dans le temps que des humains intelligents ont un jour vécu autour de l’étoile nommée Soleil» ;
- devenir une espèce multiplanétaire en occupant une autre planète, par exemple en envoyant des gens sur Mars pour fonder une colonie humaine ;
- modifier nos gènes puisque maintenant la technologie permettant l’édition précise de molécules d’ADN a été mise au point. Par exemple pour qu’un humain puisse être congelé aujourd’hui et décongelé dans l’avenir ; ou pour supprimer les comportements agressifs et rendre l’individu plus altruiste ; ou manipuler nos gènes pour modifier le cours de l’évolution, pour «améliorer» notre progéniture. Et de conclure : «je peux facilement imaginer une foule de scénarios invitant à estimer qu’il est dans son intérêt individuel de procéder à une modification significative de son ADN. Il n’y a pas de bien ni de mal absolu, seulement des choix qui s’offrent à nous.»
En conclusion de son livre, J.Hawkins fait la proposition suivante : «le moyen suprême de délivrer notre intelligence de l’emprise de notre cerveau ancien et de notre biologie consiste à créer des machines aussi intelligentes que nous et qui ne dépendent pas de nous. […] Le savoir et l’intelligence sont plus précieux que les gènes et la biologie et, par conséquent, ils méritent d’être préservés au-delà de leur habitacle habituel dans notre cerveau biologique. […] J’ai évoqué plusieurs façons dont nous pourrions réduire les risques qui planent sur nous. Plusieurs d’entre elles réclament la création de machines intelligentes.»
Ce livre, qui n’est pas toujours facile à lire, est assez déroutant et présente des aspects assez paradoxaux. Dans la première partie, J. Hawkins met en avant des affirmations quelque peu naïves comme cette conception réduisant le cerveau à deux parties, une partie ancienne (30%) et le néocortex (70%), et, s’appuyant sur la théorie de Mouncastle des colonnes corticales, il affirme qu’elles sont toutes semblables et fonctionnent toutes sur le même modèle pour introduire sa théorie des mille cerveaux. Dans la deuxième partie, il analyse de façon tout à fait intéressante et pertinente en quoi l’IA telle que nous la connaissons aujourd’hui n’est pas intelligente, et en quoi l’intelligence machine sera l’une des technologies les plus bénéfiques que nous aurons jamais créées. Enfin, dans la troisième partie, il se propose d’observer la condition humaine sous le prisme de la théorie de l’intelligence et du cerveau, et il se lance alors dans des réflexions et des propositions tout à fait surprenantes sur l’avenir de la condition humaine, qui est pour lui source d’inquiétude.
J’en conclurai que J. Hawkins est incontestablement un ingénieur en informatique très compétent et performant, dans la mesure où les sociétés qu’il a créées sont performantes, que, dans ce domaine, il est à l’origine de publications, qu’il cite, intéressantes, et que ses réflexions sur l’IA sont tout à fait stimulantes ; mais il s’est forgé une vision un peu stéréotypée de la neurobiologie pour assoir sa théorie des mille cerveaux ; enfin sa vision de l’avenir de la société humaine l’amène à des propositions déroutantes, même s’il prend toujours la précaution de préciser qu’«il n’est pas en train de prescrire la machine à suivre et que son objectif est de susciter le débat».