Le monde en marche – La société à l’épreuve

Mort de l’homme algorithmique

Atlas – Air France n°78 – décembre 1972

Il existe au Stanford Research Institute, en Californie, un programme de recherche intitulé «Augmenting human intellect», ce qui signifie «Accroissement de l’intellect humain».

Ce programme peu banal est dirigé par un ingénieur mathématicien du nom de D. C. Engelbart, homme à la forte carrure, aux cheveux fous grisonnants, à la parole rare. Engelbart doit avoir un peu plus de cinquante ans. Il y a dix ans qu’avec une trentaine de mathématiciens et d’ingénieurs (dont les deux Français Paul Rech et Jacques Vallée) il étudie les moyens d’«accroître l’intellect humain». Je résume ici quelques-uns des propos les plus remarquables tenus par ce chercheur au cours des entretiens que j’ai eus avec lui lors d’un récent séjour au Stanford Research Institute.

Quelques détails humains tout d’abord. Le Français, nouveau venu dans les milieux de la science américaine, est toujours surpris par la richesse culturelle où se développe cette science. Contrairement à beaucoup de leurs collègues français, les savants américains ont le plus souvent un violon d’Ingres, ou au moins le goût et la connaissance d’un art. Chez Engelbart, on vit dans la musique. Il y a plusieurs pianos dans sa grande maison, et l’un de ses enfants est toujours en train de jouer quelque chose. Mais il y a aussi des tableaux aux murs, et la bibliothèque est vaste.

Quand on discute de l’esprit humain avec Engelbart dans un tel milieu, on éprouve la discrète présence de l’humanité pensante. On est rassuré. On sent que l’esprit dont il est question, cet «intellect» que l’on se propose d’«accroître», ce n’est pas une caricature, un pâle malentendu de technicien qui prononce de grands mots sans en mesurer la profondeur et l’épaisseur.

«L’intellect que j’étudie, me dit Engelbart, attention, entendons-nous bien, ce n’est que l’intellect algorithmique, l’algorithme n’étant lui-même que l’ensemble des règles opératoires propres à une démarche logique. Ou si vous trouvez cela trop compliqué, disons que ce que j’étudie, c’est un ensemble de moyens permettant à la machine d’imiter le raisonnement et la mémoire.

Je ne cherche pas à imiter l’intuition, l’invention, la rêverie, que sais-je? Ce qui, dans notre pensée, est flou et indéfinissable bien entendu, je ne peux ni l’imiter ni à plus forte raison l’accroître. Comment une machine fonctionnant sur des règles forcément précises — le courant passe ou ne passe pas — pourrait-elle imiter ce qui n’est pas précis? C’est impossible et je ne le tente pas. Mais dès qu’une démarche intellectuelle se prête à une définition, aussi compliquée soit-elle, là, en revanche, rien ne m’empêche de la reproduire artificiellement. Et quand elle est reproduite, de l’améliorer en la rendant plus rapide, plus simple, plus efficace.

Par exemple, nous discutons, et en discutant nous nous référons à telle et telle connaissance. Mais notre mémoire est faible, limitée, sujette à l’erreur. Celle de la machine au contraire est instantanée, infaillible, et tant que la machine ne se détraque pas, elle ne connaît pas d’autres limites que celles de l’enregistrement préalable.

En voulez-vous un témoignage? Rappelez-vous notre première entrevue. C’était à mon bureau du S. R. I. Vous m’avez parlé de vos études sur les calculateurs humains. Je me souviens un peu de ce que vous m’avez dit, mais pas très bien. Cela m’est partiellement sorti de la mémoire. Et voici ce que je fais. Je me tourne vers ma console, là, à portée de la main. Elle est reliée à mon ordinateur auquel était reliée la console de mon bureau. Je frappe donc ceci sur les touches de ma machine pour récupérer notre conversation de ce jour-là (Engelbart joint le geste à la parole), et j’attends. Pas très longtemps, comme vous voyez.»

En effet, sur l’écran du terminal, au-dessus de la console, un texte apparut où je pouvais lire, après la date et l’heure de notre première rencontre, le compte rendu précis de tout ce que j’avais dit ce jour-là, avec toutes les références de livres ou autres.

«Ceci, reprit Engelbart, ce n’est que de la mémoire. C’est déjà beaucoup, remarquez-le bien, car naturellement tous mes visiteurs, tous les livres ou documents que j’ai lus, toutes les idées que j’ai notées sont également là, à portée de ma main, et je peux les rappeler quand je veux. Je pourrais aussi, si je voulais, les rappeler en fonction de quelque chose. Par exemple, je pourrais demander à la machine tout ce qu’elle a enregistré en rapport avec, disons, la fonte des icebergs, l’opération de la césarienne, ou avec le mot mélancolie, ou addition. Ce genre de mémoire-là, qui sait choisir, c’est déjà une forme de raisonnement. Mais bien entendu, je peux aller, au-delà de la mémoire, aussi loin que l’on veut. Je n’ai besoin pour cela que du temps qu’il faut pour établir un programme.»

Quelques jours plus tard, je demandai à Engelbart pourquoi il voulait accroître l’intellect humain. Celui-ci serait-il donc insuffisant?

«Oui. Il est insuffisant. Et on comprend très bien pourquoi. Qu’est-ce, en effet, que le monde où nous vivons? Un énorme assemblage d’artefacts, d’objets artificiels créés par l’ingéniosité humaine. Chacun de ces objets est compréhensible. Il y a toujours au moins quelqu’un pour le comprendre: celui qui l’a fabriqué. Mais qui donc comprend leur assemblage? Personne, puisque cet assemblage est le produit du hasard, non de notre calcul.

Or nous avons un besoin urgent de comprendre notre univers artificiel. Si nous ne voulons pas être submergés et anéantis par lui, nous devons apprendre à le maîtriser. On ne maîtrise que ce que l’on comprend. Prenez l’économie, par exemple, ou la pollution. N’est-il pas évident que notre avenir dépend de l’une et de l’autre? Certains nous disent que pour stopper la pollution il faut stopper l’économie. Mais l’économie ne tient debout que par la croissance. Voilà un problème apparemment insoluble. Si l’économie ne croît pas, notre civilisation s’effondre. Si l’économie croît, la pollution nous extermine. J’ai entendu beaucoup de raisonnements là-dessus, mais contradictoires. Je ne sais pas qui a raison, ni même si quelqu’un a raison. Nous nous trompons peut-être tous. Et ce qu’il y a d’étrange, c’est que le problème auquel nous nous trouvons affrontés est tout entier sorti de nos mains.

Si donc ce que nous avons nous-mêmes fait échappe de si menaçante façon à notre maîtrise, cela ne prouve-t-il pas que notre intellect est insuffisant, qu’il a besoin d’une rallonge?»

Je réfléchis à cette question, et un peu plus tard lui soumis une nouvelle difficulté. La rallonge qu’il propose ne va-t-elle pas elle-même engendrer son surcroît de problèmes? Tous nos objets artificiels ont été créés pour résoudre des problèmes antérieurs. Ils les ont résolus, mais non sans en produire de nouveaux, complètement imprévus.

Comment prévoir, par exemple, que l’on ne peut rapprocher les hommes les uns des autres sans compromettre divers équilibres atmosphériques? C’est pourtant ce que fait l’auto.

«Oui, dit Engelbart, il faut en effet prévoir que l’intellect humain «accru» ne résoudra les difficultés pour la solution desquelles il aura été conçu qu’en créant d’autres difficultés actuellement inconnues, imprévisibles et cependant inévitables. Aussi bien mon opinion est-elle que l’intelligence humaine constitue le point de départ d’une évolution ultérieure de l’intelligence qui laissera bien vite l’homme derrière elle.

À partir de maintenant, les crises de civilisation et les techniques capables de les résoudre vont se lancer dans une espèce de course sans fin où nous devrons toujours avoir une solution d’avance.

Depuis l’apparition de l’Homo sapiens, l’intelligence n’a pas évolué. Elle reprend maintenant son évolution, mais hors de l’homme, indépendamment de lui. Et vous remarquerez que cette évolution obéit aux mêmes contraintes que l’évolution des êtres vivants: elle naît d’une lutte pour la survie.

— Mais la survie de qui, si l’homme est dépassé?

— C’est seulement l’homme algorithmique qui est dépassé: algorithmique, c’est-à-dire procédant par démarche rationnelle et progressive. Je ne vois pas que, pour l’instant du moins, la machine soit capable de reproduire (et à plus forte raison de dépasser) ce que nous appelons l’intuition, l’invention poétique. En somme, l’avenir est aux poètes.

Dans l’humanité future, seuls l’imaginatif et le créateur ne seront pas remplaçables par des machines. Tous les autres, les paresseux, les prosaïques, les terre-à-terre, ceux-là risquent de se trouver bientôt au chômage. Là aussi, il y a une terrible crise à prévoir. Les hommes devront redécouvrir qu’ils ne sont pas qu’intelligents. Et, qui sait, peut-être aussi que des mots comme amour, ou vertu, ou bonté, maintenant si démodés, prendront une signification nouvelle sous la pression de la machine! Peut-être, oui, peut-être est-ce là ce que nous préparons avec nos étranges programmes de recherche…»■

Aimé Michel