La troublante loi de Good

Chronique parue dans France Catholique − N° 1289 – 27 août 1971

Tout ce qu’il a fait de grand et de moins grand, l’homme l’a d’abord rêvé. Non seulement la raison la plus sage ne nous interdit pas de rêver, mais elle nous y convie. L’essentiel, en rêvant, est de ne pas oublier qu’on rêve. De ne pas dormir debout.

Le lecteur aura deviné que ce préambule annonce une rêverie un peu dure à avaler. N’importe. Elle se fonde sur des connaissances peu discutables et sur le légitime souci de prévoir l’avenir avant qu’il nous surprenne. Je veux ici parler, une fois de plus, mais par un autre biais, de l’angoissant problème de l’intelligence artificielle.

Commençons par les faits. L’évolution actuelle de l’informatique obéit à une loi qui a été exprimée par les spécialistes en ces termes: en gros, les performances des ordinateurs doublent à peu près tous les cinq ans. Et plutôt quatre que cinq. C’est-à-dire que les ordinateurs actuels s’acquittent de tâches deux fois plus complexes que ceux de 1966, qu’ils résolvent les mêmes problèmes plus de deux fois plus vite; et qu’enfin, le même travail exécuté par eux coûte beaucoup moins de deux fois moins cher maintenant qu’en 1966.

Ordinateurs sans cordon

Cette loi ne laisse prévoir actuellement aucune limite supérieure à la progression qu’elle exprime. La limite existe peut-être, mais on ne voit pas ce qui l’imposerait. Affirmer cette limite est une vue de l’esprit qui relève de ce que les Anglais appellent le «will to believe», «le désir d’y croire». Du reste, même si une limite supérieure existait, les réflexions qui suivent garderaient leur validité.

À quoi destinons-nous, en effet, les ordinateurs que nous construisons? À suppléer progressivement notre travail intellectuel. Dans une foule de domaines, l’ordinateur nous a déjà dépassés. Il va plus vite et fait mieux que nous pour toutes les tâches justiciables d’un programme. Il est, en outre, également capable d’établir lui- même certains programmes et de se décider en fonction de probabilités. Mais au-delà de ce qu’il fait déjà, les mathématiciens et logiciens ont déblayé une foule de problèmes théoriques dont la solution (acquise), permet de prévoir[1]. Il se peut, certes, que quelque chose dans l’intelligence humaine demeure à jamais irreproductible par la machine. Cela aussi a été et est de plus en plus étudié. Mais, encore qu’on ne voie pas quoi, peu importe. Il suffit, pour que les spéculations dont il est question ici soient valables, que la machine puisse imiter la part de notre intelligence qui pose et qui résout les problèmes.

Venons-en maintenant à ces spéculations, dont nous emprunterons l’essentiel à l’Anglais Irving John Good.

Donc, l’homme construit des ordinateurs; ces ordinateurs doublent leurs performances tous les cinq ans; donc encore, inévitablement, et quelle que soit la sublimité du génie humain dans la conception des ordinateurs, nous allons vers un temps où les ordinateurs seront plus habiles que nous à concevoir des ordinateurs. Le principe même de l’ordinateur conduit donc tout droit à une ère où l’intelligence artificielle coupera le cordon ombilical qui la relie encore à son créateur, l’homme. Aussitôt ce niveau atteint, l’ordinateur établira les plans d’un ordinateur plus perfectionné lui-même, qui à son tour élaborera son propre perfectionnement, et ainsi de suite. Cette prévision affolante a reçu le nom de loi de Good. Elle démontre l’existence d’un niveau technologique au-delà duquel le développement de l’intelligence opérationnelle cesse d’être l’affaire de l’homme pour devenir un processus indépendant. Notons que s’il est encore permis d’attribuer à la loi de Good le nom de «spéculation», ce n’est en aucune façon parce que cette loi ne serait pas certaine ou démontrée. Elle l’est. C’est uniquement parce qu’après tout nous ne savons pas si l’histoire humaine aura le loisir d’aller jusque-là: il peut auparavant arriver bien des choses, telles que l’effondrement de la civilisation technique, voire le suicide de l’espèce.

Avant la fin du siècle

Cependant, ces catastrophes sont bien improbables, et les prochaines générations ont toutes les chances de voir les prévisions de Good se réaliser. Le point critique de Good (celui où l’ordinateur dépassera l’homme dans la conception des processus artificiels d’intelligence) est très proche dans le temps, quelques décennies. L’intelligence des machines aura commencé d’échapper à la nôtre avant la fin du siècle. Un autre Anglais, P.-H. Sneath (un biologiste de l’Université de Leicester), a examiné quelques-unes des conséquences de la loi de Good[2]. L’une des plus curieuses est l’inversion des processus évolutifs: alors que la vie naturelle sur la terre est allée du plus simple au plus complexe ‒ du stimulus à la perception sensorielle et de celle-ci à l’intelligence ‒ la «vie» mécanique commencerait par l’intelligence. Les machines, écrit Sneath, pourraient se servir de leur intelligence pour se munir d’organes sensoriels perfectionnés, puis deviendraient mobiles et iraient chercher les sources d’énergie qui leur conviendraient le mieux, et enfin, se reproduiraient elles-mêmes.

1972 aussi n’existe pas encore

Autre conséquence, découlant du fait que l’électronique ne fonctionne que dans le vide: le premier soin de l’intelligence artificielle sera sans doute d’envahir l’espace et de s’y installer comme en son milieu naturel. Nous entrons ici dans un des domaines favoris de la science-fiction (mais la plus sérieusement fondée). Ce thème de la machine hyper-intelligente errant dans l’espace est magistralement développé depuis une quinzaine d’années par l’auteur américain, Fred Saberhagen dans son cycle des Bersekkers[3]. Certes, je l’ai dit, nous sommes là en train de rêver. Rien de tout cela n’existe encore (du moins, que nous sachions). Mais l’année 1972 non plus n’existe pas encore, et ma foi, quoique dûment averti par les esprits raisonnables qu’il est irréaliste de perdre son temps à rêver de ce qui n’existe pas, il m’arrive de penser que la présente année pourrait quand même un jour prendre fin.■

Aimé Michel

Notes:

(1) Sans parler du classique travail de Turing Computing machinery and intelligence, toujours cité (Mind, vol. 59, pp. 433-460, 1960), voir: M. L. Minsky: Steps towards artificial intelligence (Proceedings I. R. E. vol. 49, pp. 8-30. 1961); I. J. Good: Could a machine make probability judgements? (in: Computers and Automation, vol. 8, pp. 14-16 et 24-26, 1959), etc.

(2) P. H. A. Sneath: les Planètes et la vie (Édition du Groupe Express, 1970).

(3) Publié par épisodes dans l’excellente revue Galaxie, Éditions Opta, 96, rue de la Victoire, Paris, IXe.