Des machines intelligentes

Chronique parue dans France Catholique Ecclésia N° 1426 – 12 avril 1974

La science des ordinateurs inquiète et fascine: le courrier souvent passionné reçu à la suite du débat organisé par la France Catholique lors du passage à Paris de Jacques Vallée, de l’Institut du futur, en témoigne. Il atteste le fossé de malentendus qu’une regrettable et peut-être dramatique absence d’information a laissé se creuser entre le public qui réfléchit et les savants.

1. Plusieurs lecteurs dénoncent (avec raison) la superstition de l’ordinateur. W.B…, de Lons-le-Saunier, rappelle quelques lapsus monumentaux, celle de telle fusée spatiale américaine égarée par suite d’une erreur de signe, celle de la commission anglaise des salaires qui avait abouti a une évaluation erronée du salaire des mineurs, etc.

Le médecin choisit, lui…

Mais que prouvent ces erreurs? Quand on en cherche les causes, on en trouve de deux types, et de deux seulement: 1. la ferraille de la machine s’est détraquée (ce cas est en voie de disparition), et 2. c’est l’utilisateur qui a mal programmé. Ces deux défaillances sont, on le voit, l’une et l’autre d’origine humaine: dans le premier cas, la fiabilité n’a pas été proprement assurée, dans le second le programmeur n’a pas compris son travail.

2. D’autres lecteurs insistent, non sur les défaillances de la machine (destinées à disparaître) mais sur ses limitations: certaines opérations de la pensée humaine seraient, disent-ils, à jamais exclues des possibilités de la «pensée artificielle». Ainsi, par exemple, le docteur de Font-Réaulx oppose-t-il au formalisme rigide de l’ordinateur la démarche du médecin «qui choisit j’allais dire d’instinct, par son expérience, par la présentation du malade, par une inflexion de voix, une réticence, une attitude, une médaille ou une bague particulières, un rongement d’ongles, une passivité ou une exubérance excessives… les questions qu’il faut poser.»

Disons-le bien clairement: il est évident que rien de tout cela, qui fait, en effet, le médecin, n’est imitable par les machines que nous connaissons. Mais je gage que beaucoup seront surpris de lire que cette incapacité des machines actuelles n’est nullement due à une impossibilité théorique. Ce que décrit notre correspondant (et bien d’autres choses qu’un homme ne saurait faire) est théoriquement mécanisable, les spécialistes le savent depuis les études de Turing et de von Neumann[1].

Il n’est pas question, bien entendu, de décrire la machine capable de remarquer une certaine façon de se ronger les ongles, capable aussi de rapprocher cette remarque d’autres observations aussi subtiles et d’en déduire les questions à poser au patient sur son enfance et ses espoirs déçus. Mais on n’a pas besoin de décrire une telle machine pour savoir si elle est possible ou non.

Un des théorèmes démontrés par Turing porte sur ce qu’il appelle les «automates universels». Ce théorème énonce que l’on peut toujours construire un automate au moins aussi capable (effective) que tout automate concevable – par exemple, précise von Neumann pour bien faire sentir l’aspect paradoxal de la démonstration, «qu’un automate deux fois plus gros et plus complexe que l’automate considéré»!

Pour la démonstration de ce théorème apparemment contradictoire, je ne peux que renvoyer, soit à Turing lui-même, soit à von Neumann, qui en donne dans le premier texte cité en note un exposé, non mathématique. Le lecteur verra que la contradiction n’existe pas. Il verra aussi qu’une conséquence immédiate de ce théorème est la possibilité de réaliser des automates capables de reproduire toute activité intellectuelle susceptible d’une définition, c’est-à-dire toute activité intellectuelle exprimable. Le lecteur aura sans doute retenu au passage le mot «reproduire»: certes, pensera-t-il, l’automate peut reproduire, mais il ne peut que cela, il ne saurait inventer ni trouver du nouveau.

C’est là une des réflexions couramment répétées à propos de l’ordinateur. Or, c’est une erreur. À partir des théorèmes de Turing, von Neumann a montré à son tour que l’on peut construire des automates capables de se reproduire, et, au-delà, de dépasser par leur propre reproduction toute complication imaginable.

«Ces automates autoreproducteurs, écrit-il, illustrent que la complication à ses plus bas niveaux est dégénérative, c’est-à-dire que l’automate qui produit d’autres automates sera seulement capable d’en faire de moins compliqués que lui-même. Cependant, poursuit-il, il y a un certain seuil de complication au-dessus duquel la caractéristique dégénérative cesse d’être universelle. À ce niveau de complications, les automates se reproduisent eux-mêmes; au-dessus, des automates capables de construire des entités plus compliquées qu’eux-mêmes deviennent possibles.»

Elle ne saura jamais aimer

Il découle de là que, passée une certaine complication (qui certes n’est pas près d’être atteinte mais que la théorie permet de définir), des machines qui seront forcément les plus compliquées construites par l’homme commenceront de produire d’autres machines plus compliquées qu’elles-mêmes, donc plus compliquées que toute machine conçue par l’homme. Ces machines à leur tour seront capables d’en construire d’autres encore plus compliquées, et ainsi de suite. La théorie ne prévoit aucune limite à cet accroissement. On peut cependant penser que certaines limites apparaîtront, dues non à la théorie, mais aux insuffisances de l’infrastructure électronique.

Ne comptons pas trop sur ces insuffisances pour sauver notre suprématie intellectuelle! Il est piquant de relire Turing et von Neumann vingt ans après et de voir comment ces mathématiciens, peut-être pour se rassurer, avaient eux-mêmes calculé les insuffisances dont je parle, les fixant en un point que nous avons dépassé depuis longtemps: ils n’avaient simplement pas prévu l’invention du transistor et du circuit imprimé! Ces deux esprits géniaux s’étaient trompés sur deux points, et dans les deux cas par sous-estimation technique: ce qu’ils annonçaient pour la fin du siècle était atteint vers 1965, et les bornes de fiabilité qu’ils croyaient inaccessibles sont depuis longtemps franchies.

Est-ce à dire que la machine sera bientôt plus «intelligente» que l’homme? Si par intelligence on entend la faculté discursive qui démontre les théorèmes, passe les tests et gagne les parties d’échecs, l’homme est déjà dépassé sur bien des points et le sera tôt ou tard sur tous. Si c’est de l’intelligence contemplative que l’on parle, si c’est de l’intelligence de l’âme et du cœur, la question n’a évidemment pas de sens, fût-ce au niveau le plus sommaire comme le dit Turing lui-même, on ne peut pas construire une machine qui aime les fraises et les ice creams! L’eschatologie de la machine est peut-être de purger la raison raisonnante de son orgueil.

Aimé Michel

Note:

(1) A. M. Turing: Computering machinery and intelligence, dans: Mind, N° 59, p. 433, 1950, mais on voit déjà naître ces idées dans une étude du même Turing datant de 1937, avant les premiers ordinateurs! John von Neumann: The General and Logical theory of Automata (repris dans J.R. Newman: The World of mathematics, vol. IV, p. 2070), et: Probabilistic Logics and the Synthesis of reliable organism from unreliable components, in Automata Studies, édit. Shannon et McCarthy, 1956.