La Singularité

Dans une lettre à Milena Jesenskà, Franz Kafka a exprimé son horreur pour une technologie de son époque, qui aujourd’hui inspirerait plutôt la nostalgie : la poste. « La grande facilité d’écrire des lettres, a dit Kafka, doit avoir introduit dans le monde [...] un terrible désordre des âmes : c’est un commerce avec des fantômes, non seulement avec celui du destinataire, mais encore avec le sien propre ; [...] Les baisers écrits ne parviennent pas à destination, les fantômes les boivent en route. C’est grâce à cette copieuse nourriture qu’ils se multiplient si fabuleusement. [...] Les esprits ne mourront pas de faim, mais nous, nous périrons[1]. »

Si Kafka vivait aujourd’hui, sa position antitechnologique lui poserait un autre problème : le fait que le développement de la technologie est exponentiel. Le futuriste Ray Kurzweil décrit ainsi ce développement exponentiel : « Il commence presque imperceptiblement, puis il explose avec une fureur inattendue  – inattendue si l’on n’a pas pris soin d’en accompagner la trajectoire...[2] »

Le développement exponentiel suppose que non seulement la croissance se poursuive, mais en plus qu’elle ne cesse de s’accélérer : le « taux de changement » obéit, en fait, à un « facteur doublant », c’est-à-dire qu’il s’agit d’une progression géométrique de raison 2. Même si Kurzweil nous avertit de prendre le soin « d’en accompagner la trajectoire », une telle surveillance ne sera plus possible quand la technologie deviendra plus intelligente que nous.

Selon Kurzweil, ses modèles «montrent que chaque décennie, nous multiplions par deux la révolution conceptuelle[3] ». Par «révolution conceptuelle », il entend un changement radical dans la méthodologie, comme ce fut le cas, par exemple, lors de la naissance des langues écrites pour la méthodologie de la communication.

Le vingtième siècle a continuellement accru son « taux de progrès », de sorte qu’à la fin du siècle nous avons accompli l’équivalent de cent ans de progrès en seulement vingt ans. Puis, entre 2000 et 2014, on aura accompli cent ans de progrès supplémentaires par rapport au rythme du siècle dernier. Puis la même avancée, équivalente à cent années de progrès dans le passé, demandera seulement sept ans. Si ce « taux de progrès » continue d’augmenter de la même manière exponentielle, on accomplira au vingt et unième siècle l’équivalent de vingt mille années de progrès (le progrès accompli au vingt et unième siècle vaudra vingt mille ans de progrès antérieur)[4].

L’exemple le plus connu de développement exponentiel dans le domaine de la technologie de l’information ne constitue pas un changement de paradigme : c’est la loi de Moore. Dans les années 1970, Gordon Moore[5] a déclaré qu’un circuit intégré contiendrait deux fois plus de transistors tous les deux ans. Ces circuits gagneraient aussi une plus grande capacité de vitesse, car leurs électrons seraient plus proches les uns des autres. Ce développement exponentiel est beaucoup plus rapide que le rythme de changements des paradigmes dans la culture. Et il permet l’amélioration constante des prix, des performances et des capacités de nos ordinateurs.

Aujourd’hui, ce taux de croissance implique que ces changements non paradigmatiques peuvent se produire en un an, et il implique aussi la réduction de la taille des semi-conducteurs de moitié toutes les 5,4 années. En conséquence, dans les semiconducteurs, le nombre d’éléments par millimètre carré double tous les 2,7 ans[6]. N’oubliez pas qu’on ne parle pas d’un changement radical de paradigme. Mais si nos paradigmes changeaient aussi vite  – par exemple, si les machines atteignaient un niveau d’intelligence égal ou supérieur au nôtre  –, le rythme du changement dans la taille, la rapidité et les capacités de nos machines deviendrait essentiel.

Pour Kurzweil, ce futurisme n’a rien d’une marotte : c’est le fondement même de sa Weltanschauung depuis sa jeunesse. Initié dès son plus jeune âge à la musique et aux arts plastiques par ses parents, puis au début des années 1960 à l’informatique par son oncle, il invente à l’âge de quinze ans son premier logiciel consacré à la reconnaissance des modèles et des structures dans les œuvres des compositeurs classiques[7], ce qui lui permet de synthétiser ses propres chansons dans des styles imitatifs. Ce mode de recherche et d’activité constituera le prototype de son travail à venir : l’assortiment et la mise en opposition de catégories de modèles, faisant appel aux facultés comparatives des deux hémisphères du cerveau. Kurzweil tient cette façon de comprendre le monde pour la principale différence entre les humains et les animaux ou les machines.

En 1974, il fonde la société Kurzweil Computer Products, qui développe le Kurzweil Reading Machine. Cet appareil, qui combine un scanner à plat et un synthétiseur text-to-speech (tous deux également inventés par sa société), lit des textes aux aveugles grâce à une voix artificielle. Le premier modèle, de la taille d’une table, est immédiatement acheté par un Stevie Wonder enthousiaste, qui convainc quelques années plus tard Kurzweil de créer une nouvelle génération de synthétiseurs électroniques capables de reproduire les sons des instruments réels. Les efforts de Kurzweil dans ce domaine se révélèrent tellement fructueux que la plupart des musiciens professionnels s’avérèrent incapables d’entendre la différence entre son synthétiseur et un piano ordinaire.

Ses expérimentations sur le mimétisme électronique ont évidemment fait entrevoir à Kurzweil un futur où les facultés humaines et les sensations naturelles pourraient être supplantées par des imitateurs non humains. Mais quand il deviendra complètement possible de fabriquer des sensations et des facultés évolutionnistes comme la parole, certains, moi y compris, seront les premiers à dire : « Avec vos phonèmes et votre reconnaissance de dessins, vous avez bien joué avec les aptitudes inférieures de l’être humain. Mais où seront les machines-artistes qui pourraient créer une symphonie de la valeur de celles de Beethoven sans en être une simple copie, ou un roman de Faulkner qui jouerait avec la langue tout en témoignant d’une grande sagesse vis-à-vis des affaires humaines ? »

Dans les années 1990, Kurzweil a essayé de répondre à cette critique en créant KurzweilCyber—Art.com, un site qui permettait le téléchargement gratuit du logiciel AARON, un synthétiseur d’art plastique. Le site offrait aussi le « Kurzweil’s Cybernetic Poet », qui écrivait de la poésie automatiquement. Ces deux «artistes » ont souffert le même destin que la plupart de leurs collègues humains : ils ont fait un flop et ne sont plus disponibles sur le Web.

Bon nombre de scientifiques et de théoriciens importants attaquent la notion de Singularité et qualifient ses promoteurs de savants ridicules qui jouent avec des boules de cristal, fabriquant pour l’avenir une sorte de Frankenstein d’idées factuelles empruntées à l’avant-garde du monde de la vraie technologie, mais frelatées à coups d’incantations divinatoires fumeuses.

Cependant, plusieurs experts reconnus dans le domaine de la technologie ont poussé les théories de Kurzweil plus loin et cherché à les articuler à des idées déjà acceptées, comme par exemple le principe de l’évolution. Avec Kurzweil, ils affirment que l’évolution actuelle des machines n’est qu’une simple continuation d’une branche de l’évolution per se. Si les êtres humains se transforment en une nouvelle espèce vouée à se fondre avec les machines, ce processus ne sera finalement que la dernière phase en date de leur évolution. En l’an 2000, Hans Moravec a totalement approuvé Kurzweil sur la nature exponentielle du progrès technologique, et a tenté d’inscrire ce progrès dans le cadre de l’évolution des machines. Le processus d’évolution technologique, qui emportera les êtres humains avec lui, ressemble à une version accélérée de la vieille évolution naturelle  – à condition de substituer les bits aux neurones.

« Des animaux comme les vers, dotés de seulement quelques centaines de neurones, ont évolué vers le début de la période du Cambrien, il y a plus de 570 millions d’années. Tandis que les premiers ordinateurs électromécaniques, possédant quelques centaines de bits de mémoire capable d’être transmise par relais téléphoniques, ont été construits vers 1940. Les premiers vertébrés, des poissons très primitifs et au système nerveux probablement encore moins élaboré qu’une myxine de nos jours – 100 000 neurones, peut-être  –, sont apparus il y a environ 470 millions d’années. Les ordinateurs ont acquis 100 000 bits de mémoire par polarisation rotatoire magnétique en 1955. Des amphibiens possédant peut-être quelques millions de neurones  – l’équivalent d’une salamandre  – ont rampé hors de l’eau il y a 370 millions d’années. Des ordinateurs possédant des millions de bits de mémoire dans un « noyau magnétique » (forme ancienne de disque dur) ont été disponibles à partir de 1965... De petits mammifères ont fait leur apparition il y a à peu près 220 millions d’années, dotés de cerveaux de plusieurs centaines de millions de neurones. Tandis que d’énormes dinosaures étaient dotés de cerveaux de plusieurs milliers de milliards de neurones... Nos petits ancêtres primates avaient déjà des cerveaux de plusieurs milliers de milliards de neurones... En 2000, des propriétaires ambitieux d’ordinateurs personnels ont muni leurs systèmes d’une dizaine de milliers de milliards de bits de RAM. Les êtres humains possèdent environ cent mille milliards de neurones. Cent mille milliards de bits de RAM seront la norme pour les ordinateurs dans moins de cinq ans... La capacité des grands ordinateurs s’est accrue chaque décennie à peu près dans les mêmes proportions que les systèmes nerveux chaque centaine de millions d’années...[8] »

Très bien, mais quand l’évolution, devenue désormais technologique, fera-t-elle en sorte qu’une machine, considérablement plus intelligente et plus avancée que nous, nous dépasse ?

En 2010, a déclaré Moravec en 2000, on verra des robots mobiles de la taille d’êtres humains mais doués de capacités cognitives proches de celles d’un lézard. Ces machines pourront exécuter des tâches simples, comme passer l’aspirateur, épousseter, livrer des paquets et sortir les ordures. « En 2040, je crois, nous aurons enfin atteint le but originel de la robotique et un jalon thématique essentiel de la science-fiction : nous aurons créé une machine capable de se déplacer en toute liberté et possédant les facultés intellectuelles d’un être humain[9]. »

En 2008, le centre de recherches Ames de la NASA[10] a abrité des conférences d’une nouvelle école : Singularity University »[11], co-créée par Kurzweil, d’autres futuristes proches de lui et des astronomes connus. Les futuristes ont choisi de s’associer aux astronomes parce qu’ils sont convaincus que la Singularité produira une intelligence impersonnelle qui s’étendra au-delà de notre planète et embrassera en quelques décennies la totalité de l’univers. Des débats sur ce phénomène ont lieu partout aux États-Unis. Le site www.ted.com[12], très populaire auprès d’une nouvelle génération bourgeoise de créateurs, de lycéens et d’étudiants, propose aujourd’hui dix exposés sur la Singularité, enregistrés en vidéo. Aux États-Unis, un jeune bien éduqué, bon chic bon genre et « branché », s’intéresse à ces questions.

Kurzweil rejette tous les critiques en disant que la plupart des commentateurs, lorsqu’ils essayent de prédire l’avenir, extrapolent à partir du « taux de progrès » d’aujourd’hui, ce qui est exactement ce que j’ai fait moi-même dans mon texte « soixante-huitard » publié dans GQ. Selon Kurzweil, on oublie que ce taux est en train de suivre une croissance exponentielle. Mais je pense qu’en réalité on le devine intuitivement, dans la mesure où plus on vieillit, plus le temps semble « voler ». D’une part, évidemment, parce qu’on prend l’habitude de comparer des segments de sa vie à la totalité de l’existence qu’on a déjà vécue. Pour un enfant de dix ans, un an représente un interminable dixième de sa vie, mais pour un individu qui a quatre-vingts ans, ce n’est pas plus qu’un quatre-vingtième de l’existence, l’équivalent de quarante-six jours pour l’enfant. Un autre facteur explique également ce sentiment d’un temps qui « vole » : si l’on vit assez longtemps, on est témoin, à un moment ou à un autre, de cette « exponentiation » du progrès.

Pour donner un exemple de prédiction qui n’a pas pris en compte le phénomène de la croissance exponentielle, Kurzweil livre une anecdote : le pessimisme des scientifiques qui venaient de passer une année entière à transcrire dix pour cent d’un millième du génome. En extrapolant leurs calculs, ils avaient annoncé que cartographier le génome humain prendrait un siècle[13]. C’était oublier l’évolution de la puissance des ordinateurs. Finalement, cartographier le génome humain n’aura pris que quinze ans.

Kurzweil avance que, si l’on peut observer cette croissance exponentielle, cela veut dire qu’elle est visible, et donc qu’elle se trouve déjà dans sa phase explosive. « Au vingt et unième siècle, les taux de croissance de notre technologie  – indéchiffrables pour nous-mêmes  – seront tellement vertigineux qu’ils paraîtront verticaux[14]. » Cette transformation de la condition humaine arrivera si vite qu’elle aura l’apparence de quelque chose que nous aurons subi, et non pas de quelque chose que nous aurons créé ou produit. En un certain sens, cette impression est logique, parce que la croissance dont Kurzweil parle est la croissance d’une intelligence qui ne nous appartiendra pas totalement, ni même biologiquement. Sa liberté physique et psychique viendra de sa capacité à penser de façon autonome. C’est le développement d’une superintelligence artificielle qui, petit à petit, n’aura plus besoin du locus d’aucun individu ni d’aucune entité ressemblant à ce qu’on appelle à présent un « esprit ».

Kurzweil est convaincu qu’un des espaces où cette intelligence existera sera notre cerveau. Dans un monde de « nanos », il imagine l’implantation de millions d’ordinateurs intelligents dans le corps et dans le tissu du cerveau humain. En ce sens, cette superintelligence sera « en » nous, mais elle sera du genre de celle dont on peut  – ou dont on doit  – faire une sauvegarde numérique chaque soir avant de se coucher, afín d’éviter le risque de se retrouver dans un état de stupidité totale le lendemain matin.

Cette intelligence sauvegardée sera-t-elle aussi une conscience ? Si oui, au moment de notre mort, cette conscience sauvegardée sera-t-elle équivalente à nous-mêmes, à notre esprit et à notre « âme » ? Cela signifie-t-il que la préservation de cette conscience sauvegardée (si ses gardiens-machines sont assez méticuleux) sera équivalente à l’immortalité ?

Pour Marvin Minsky[15], autre partisan de Kurzweil, ces questions n’ont pas de sens. À l’affirmation qu’il est absolument impossible pour une machine d’avoir une conscience, il rétorque ingénieusement : pour lui, ce scepticisme ne s’explique que par le refus de faire face à la complexité du cerveau. Confrontés à toute opération que nous ne comprenons pas encore, nous nous exclamons : « Ah, mais ça, c’est la conscience ! » en expliquant qu’on ne peut pas l’analyser parce qu’on ne peut pas être conscient tout en étant conscient qu’on est conscient. Ou alors, nous répondons par des banalités : la conscience, c’est la connaissance de soi, la connaissance de notre position dans l’univers, etc. La conscience n’est jamais identifiée comme une opération mentale mais comme quelque chose d’invisible, voire comme l’âme !

Ce à quoi Minsky répond : « Cela mène à une conception des choses ironiques ; en général, nous sommes d’accord sur l’existence de « questions psychologiques profondes » concernant la subjectivité, la conscience, la signification, etc. Mais certains sont plus discrets sur des questions qu’ils considèrent plus simples : « Comment sait-on qu’il faut bouger le bras ? Comment reconnaît-on ce qu’on voit ? Pourquoi la couleur rouge apparaît-elle si différente de la couleur verte ? [16]» 

Pour Minsky, on dit « conscience » pour éviter d’avoir à décrire le cerveau en détail, avec ses milliers de gènes. Même une opération mentale apparemment très simple est en réalité incroyablement complexe, et si nous la connaissons entièrement, c’est parce que la science vient de découvrir comment nos cerveaux fonctionnent réellement et peut même reproduire ses diverses opérations au cours d’expériences parfaitement rigoureuses.

Mais si l’on cherche vraiment à comprendre la signification de la conscience, Minsky suggère ceci : « Peut-être l’aspect le plus important du fonctionnement des êtres humains est la façon dont nous nous demandons (pas nécessairement avec des mots) quels problèmes nous avons auparavant rencontrés, qui ressemblent à ceux que nous rencontrons actuellement, et comment nous les avons réglés... Et de remarquer que, dans cette démarche, nous employons en quelque sorte notre capacité à recouvrer et à manipuler des descriptions d’une partie de nos activités mentales précédentes. Vous voyez à quel point cela renvoie à la conscience de soi[17]. »

Cependant, la nouvelle intelligence existera également à l’extérieur de nous. La question serait, dans ce cas, de savoir si cette intelligence externe aura conscience de sa séparation, de son individualité, même si elle est la copie conforme d’un cerveau particulier. Évidemment, elle aura carte blanche pour se concevoir et se comporter comme elle le veut (si la volonté continue d’exister), parce que cette intelligence dépassera les aptitudes humaines et ne sera même pas comprise par les humains ; mais elle aura aussi, au moins au début, une structure et, peut-être, des valeurs (si elle a besoin de telles qualités) dérivées directement de l’esprit humain.

1.Kafka, Franz, Lettres à Milena, trad. Alexandre Vialatte, Gallimard, coll. « L’Imaginaire », pp. 266-267.

2.Kurzweil Ray, The Singularity is Near : When Humans Transcend Biology, Viking Press, New York, 2005, p. 8.

3.Kurzweil, op. cit., p. 25.

4.Kurzweil, op. cit., p. 11.

5.Inventeur, directeur d’Intel dans les années 1970.

6.Kurzweil, op. cit., p. 57.

7.Système inventé en 1965 (cité dans le tableau chronologique de Kurzweil Technologies, Inc). Voir http://www.fun-dinguniverse.com/company-histories/Kurzweil-Technologies—Inc-Company-History.html

8.Moravec, Hans, « Robots, Re-Evolving Mind », Carnegie Mellon University-Robotics Institute, décembre 2000. Texte disponible sur : http://www.frc.ri.cmu.edu/~hpm/project.archive/robot.papers/2000/Cerebrum.html

9.Moravec, Hans, « Rise of the Robots », in Scientific American, décembre 1999, pp. 124-135.

10.Le National Aeronautics and Space Administration, responsable des programmes spatiaux américains.

11.Voir http://www.singularityu.org

12.TED (Technology, Entertainment, Design).

13.Kurzweil, op. cit., p. 13.

14.Kurzweil, op. cit., p. 9.

15.Minsky, Marvin, professeur au Massachusetts Institute of Technology (MIT). Innovateur dans le domaine de l’intelligence artificielle depuis les années 1950.

16.Minsky, Marvin, Conscious Machines, in « Machinery of Consciousness », Proceedings, National Research Council of Canada, 75th Anniversary Symposium on Science in Society, juin 1991.

17.Ibid.