Leçon 134.    Recherches sur l’intelligence artificielle     

    Le terme « intelligence artificielle » a été inventé au congrès de Dartmouth en 1956 pour désigner un programme consistant à concevoir une machine intelligente. Nous avons vu plus haut le passage de l’outil au mécanisme et du mécanisme à la machine-outil. L’outil est un objet que l’homme tient en main qui permet d’exécuter une action. Un mécanisme permet de démultiplier une force et un mouvement. Le concept de machine n’enveloppe qu’une structure limitée. Il définit une structure artificielle comportant des mécanismes et dans laquelle une configuration de solides en mouvement les uns par rapport aux autres est maintenue. L’adjonction d’un moteur  donne à une machine une aptitude à maintenir un mouvement régulier. Jusque là, il ne viendrait à personne l’idée de prétendre que la machine est intelligente, toute l’intelligence que l’on y trouve, n’est jamais que l’ingéniosité de l’ingénieur qui l’a conçu et rien de plus. La dépendance de la machine par rapport à l’homme est telle que nous ne pouvons pas lui prêter le moindre soupçon d’intelligence.

    Quand parlons nous d’intelligence à ce propos ? Seulement si la machine devient capable d’un certain degré d’auto-référence. Si elle peut s’arrêter toute seule. Si elle peut se déclencher au moment opportun. Si elle est capable de recueillir une masse d’informations, de l’évaluer et de déclencher une série de processus en conséquence. Si elle se montre capable de calculer avec des données. Si elle peut faire preuve d’initiatives et résoudre des problèmes. Si elle pouvait se réparer, se développer, se reproduire toute seule, sans qu’il soit nécessaire qu’un être humain veille à toutes ces fonctions. Bref, une machine parfaite devrait parvenir à faire aussi bien que ce que fait la vie depuis son origine, le chien-robot du laboratoire devenant aussi sophistiqué que le chien-vivant qui garde la maison du laborantin.

    Mais qu’est-ce que l’intelligence ? Quel rapport y a-t-il entre l’intelligence et le vivant ? Est-il seulement pertinent d’accoler ces deux mots : « intelligence » et « artificielle » ? L’intelligence est-elle le propre de la conscience humaine ? L’intelligence artificielle est-elle un ensemble de procédés pour reproduire le comportement humain, ou bien n’est-elle qu’une tentative pour modéliser un comportement humain ?

*  *
*

A. Les formes de l’intelligence

    Le concept "d’artificiel" ne soulève pas de difficulté. Il fonctionne dans la dualité : artificiel/naturel. Un tronc d’arbre est naturel, parce qu’on le rencontre tel quel dans la nature, le lit est artificiel, parce qu’il est tiré de matériaux naturels, et assemblé avec. Dans la nature, il n’y a pas d’assemblages, c’est l’homme qui assemble des pièces et compose ainsi soit des œuvres d’art, des outils ou des machines. Ce concept d’assemblage est extrêmement important parce qu’il fait toute la différence entre par exemple la montre, qui est une machine et l’écureuil qui est un être vivant. Toutes nos machines humaines sont assemblées. Et pourtant, nous parvenons artificiellement à imiter des éléments vivants , ce que l’histoire des automates montre assez bien, sans égaler son auto-référence. Nous parlons d’automate intelligent quand un degré d’auto-référence est réalisée par la machine, tel que par exemple, le fait de pouvoir s’arrêter, de redémarrer toute seule, de régler ses propres processus. C’est à ce type de recherche d’ingénierie que l’on donne le nom d’intelligence artificielle. Examinons toute d’abord quel concept d’intelligence il suppose. (texte)

     1) Nous avons vu que le mot intelligence venait d’inter-ligare, entre-lier. L’intelligence est ce qui relie, ce qui fait un lien entre deux objets séparés. L’intelligence n’est cependant pas un physique. Un pont n’est pas intelligent parce qu’il fait le lien entre deux rives du fleuve. C’est l’idée du pont qui l’est. Avoir l’idée de surmonter l’obstacle de la rivière en construisant un pont, c’est relier des moyens en vue d’une fin et faire preuve d’ingéniosité. Ce qui constitue une forme d’intelligence. Pour qu’il y ait intelligence, il faut que nous puissions trouver un lien non pas matériel, mais intelligible entre deux objets distincts de telle sorte qu’ils forment un ensemble ou un tout intelligent.

A partir de là, nous pouvons distinguer :

    a) L’intelligence dans la Nature. C’est elle que nous repérons quand nous observons par exemple l’agencement tout à fait remarquable des éléments d’un œil en fonction d’une fin qui est la vue. C’est aussi le lien remarquable qui structure les étapes séquentielles du développement de l’embryon dans le fœtus. C’est encore l’organisation systémique des espèces vivantes dans laquelle existe une corrélation constante et une régulation. Ce que montre très bien l’écologie. En allant plus loin, avec Sheldrake et Lovelock, on remarquera même que la Terre peut parfaitement être comprise comme une entité intelligente. Là où est présente l’intelligence, il y a nécessairement un ordre, une relation, une implication mutuelle de parties dans un tout, des boucles constantes de régulation. Là où une intelligence des choses nous apparaît, le hasard, la séparation et le désordre disparaissent et ce sont les liens qui deviennent manifestes. Le mot que nous utilisons pour qualifier l’intelligible au niveau de la nature est l’information. Nous savons que le vivant, que ce soit sur plan individuel ou sur un plan collectif, boucle en permanence une quantité prodigieuse d’information. Les biologistes pensent avoir trouvé le siège de l’information du vivant dans la structure de l’ADN. Nous avons vu que l’alliance entre la structure de l’ADN et la résonance morphique nous donne quelques clés pour comprendre la manifestation intelligente de la vie. Nous savons que l’univers dans son ensemble peut être conçu comme un champ d’information dynamique intrinsèquement corrélé. Sans aller chercher la physique la plus avancée, à notre échelle, l’observation honnête, sans présupposé, nous révèle dans l’étonnement que la moindre entité vivante présente dans l’univers enveloppe une remarquable complexité. Difficile de ne pas parler d’intelligence. Ce n’est qu’avec des œillères mécanistes que l’on peut le nier et même les partisans les plus farouches du mécanisme sont tôt ou tard obligés de concéder que l’architecture du vivant comporte une unité profonde et une intelligence sous-jacente.

    b) L’intelligence humaine. L’appréhension la plus adaptée au concept d’intelligence artificielle de l’intelligence humaine est donnée dans l’aptitude logique du mental à calculer (computation). On dit du joueur d’échec qu’il est intelligent, parce qu’il parvient à relier (relation) un ensemble d’éléments, les pièces de son jeu, en vue d’une fin : mettre mat un adversaire. En partant de ce modèle, on définit l’intelligence comme une aptitude à résoudre un problème en agençant les moyens en vue d’une fin. Considérer une situation d’expérience comme un  problème et trouver la meilleure manière de le résoudre est le propre du mental humain et de sa forme d’intelligence la plus caractéristique. Le sens commun distingue entre un individu à l’intelligence médiocre, parce qu’il est plutôt lent à voir les relations et à calculer, et un individu supérieurement intelligent car il a une promptitude à saisir très vite une relation et à effectuer un calcul. Nous appelons intelligence abstraite cette forme d’intelligence qui consiste avant tout dans une habileté à manipuler des symboles.

    En réalité, pour être précis, comme nous l’avons montré, il faut distinguer deux plans :

    - le mental intuitif, (R) qui s’exerce dans le voir de l’intelligence. C’est à ce voir que nous rattachons à juste tire le regard intelligent.  Intelligent veut essentiellement dire : très intuitif.

   - le mental discursif, qui procède par le raisonnement et le calcul. Le mental discursif est épris de démonstration et il est très à l’aise dès l’instant où il s’agit d’appliquer mécaniquement une règle.

    Tout professeur de mathématique sait que ces deux formes d’intelligence sont distinctes et il fait la différence entre un élève brillant qui a des facilités et un autre qui est plutôt un tâcheron qui abat des exercices, mais se trouve égaré dans un cas qui sort de l’application habituelle des règles. Le mental discursif a un aspect mécanique, comme tout calcul est mécanique. Et c’est exactement ce dont la calculette et l’ordinateur peuvent nous décharger. Le mental intuitif est bien plus créatif, son pouvoir est par nature heuristique. Nous disons d’un être humain qu’il est intelligent surtout dans son aptitude créatrice et non pas en tant qu’exécutant d’opérations.

     L’intelligence enveloppe : a) l’aptitude à comprendre, à acquérir et retenir une connaissance intimement liée avec l’expérience. b) Elle suppose aussi l’aptitude à user du raisonnement pour résoudre un problème. c) Enfin, nous parlons d’intelligence aussi dans un cadre très précis de la réponse juste, exacte et spontanée à une situation d’expérience.

    2) La psychologie humaniste a montré cependant les limites de l’intelligence abstraite. Abraham Maslow s’est distingué pour avoir refusé l’identification de l’excellence humaine à une simple performance au QI. Selon Maslow, ce qui caractérise le développement de la personnalité c’est son caractère global. L’homme n’est pas seulement un esprit, il est aussi un corps et une âme. L’hyperdéveloppement de l’intellect discursif peut très bien se faire au dépend des autres aspects de la personnalité. En clair, un individu au QI élevé peut par ailleurs être incapable de ses deux mains, autiste dans ses relations et n’avoir qu’une très faible empathie à l’égard de l’humanité en général.

    Il est parfaitement fondé de distinguer l’intelligence pratique de l’intelligence abstraite. L’ingéniosité peut être très développée chez un homme qui par ailleurs se révèle malhabile dans le domaine de l’abstraction et du calcul.  

    De même, l’intelligence relationnelle peut être très développée chez une personne qui par ailleurs est assez maladroite dans sa relation aux objets et très peu capable d’abstraction. Il est fréquent chez l’homme de science que le brio intellectuel soit allié avec un manque de pénétration psychologique évident.

    Que dire de l’intelligence du cœur ! Elle manque bien souvent au technocrate épris d’efficacité qui est pourtant très à l’aise dans la planification et le rationalisation à outrance. Les qualités humaines ne sont pas définies par une quelconque mesure et nos tests psychologiques ne sont pas élaboré dans ce dessein. Souvenons-nous du clin d’œil du robot dans I-Robot qui refuse d’obéir à son IA centrale en prétextant que ses plans sont parfaits, mais qu’ils manquent de cœur. Pourtant, nous reconnaissons tous l’intelligence d’une parole, d’une décision, d’une œuvre qui sait répondre aux exigences du cœur avec bon sens et logique. Nous saurons saluer une parole intelligente prise en ce sens. Il ne nous vient pas à l’esprit de ne parler d’intelligence que dans le sens de la performance accomplie dans un test logique.

    Il est aussi intéressant de noter à cet égard que l’on trouve chez l’animal une intelligence pratique assez développée. De même l’intelligence relationnelle de l’animal peut être bien plus développée qu’elle ne l’est chez l’homme. Nous l’avons vu. Voyez par exemple de Patrice Van Eersel Le Cinquième Rêve sur cette question.

B. La pensée mécanique et sa reproduction artificielle

    Quand nous parlons d’intelligence artificielle,  c’est avant tout dans la reproduction d’une pensée discursive à caractère mécanique sous la forme d’un calcul. On fait d’ailleurs remonter les prémices de l’intelligence artificielle à l’invention de la première machine à calculer de Pascal en 1642. Il semble qu’elle ait eu un ancêtre dans un modèle créé par Wilhelm Schickard en 1623, qui a été détruit dans un incendie, mais dont Kepler aurait été informé par lettre. La première machine à calculer opère à partir d’algorithmes empruntés à l’arithmétique, à savoir ceux qui ont trait à l’addition et la soustraction. (exercice 9c)

    1) Sur l’interprétation de la possibilité qu’aurait une machine de répliquer un mode de raisonnement appliquant les règles de l’arithmétique élémentaire, il y a deux positions possibles :

-                           a) Soit dire que le mode de pensée de l’arithmétique est un aspect limité du raisonnement, reproductible dans des opérations mécaniques. Ainsi, le fait qu’un ordinateur soit capable de jouer aux échecs prouve qu’il ne nécessite pas vraiment autant d’intelligence que nous pourrions le croire. Pour Descartes, si nous pouvons reproduire certains comportements humains par une machine, il est en revanche impossible de concevoir une machine qui pourrait reproduire l’ensemble des comportements humains.

Dans le Discours de la Méthode Descartes estime que la machine ne saura par réellement communiquer au niveau du sens, elle manquera de l’à propos nécessaire, bref, sera incapable de dialogue. « S'il y avait de telles machines qui eussent les organes et la figure d'un singe ou de quelque autre animal sans raison, nous n'aurions aucun moyen pour reconnaître qu'elles ne seraient pas en tout de même nature que ces animaux ; au lieu que, s'il y en avait qui eussent la ressemblance de nos corps, et imitassent autant nos actions que moralement il serait possible, nous aurions toujours deux moyens très certains pour reconnaître qu'elles ne seraient point pour cela de vrais hommes. Dont le premier est que jamais elles ne pourraient user de paroles ni d'autres signes en les composant, comme nous faisons pour déclarer aux autres notre pensée. Car on peut bien concevoir qu'une machine soit tellement faite qu'elle profère des paroles, et même qu'elle en profère quelques-unes à propos des actions corporelles qui causeront quelques changements en ses organes ; comme si on la touche en quelque endroit, qu'elle demande ce qu'on veut lui dire, si en un autre, qu'elle crie qu'on lui fait mal, et choses semblables ; mais non pas qu'elle les arrange diversement pour répondre au sens de tout ce qui se dira en sa présence, ainsi que les hommes les plus hébétés peuvent faire ». Descartes reconnaît clairement l’existence d’une pensée intuitive intimement liée à la conscience de soi. La définition qu’il donne de l’intuition s’appuie directement sur le modèle du cogito. Seule la conscience de soi se sent elle-même et c’est en elle que la pensée pure est éclairée. Cette pensée, la machine en est dépourvue. (texte)

-                           b) Soit considérer que le raisonnement est réductible à une computation, un calcul dont la nature serait mécanique, ce qui serait confirmé par la possibilité de la machine. C’est la position de Hobbes qui ramène donc de manière stricte le raisonnement au calcul.

Pour Hobbes, la dénomination par le langage peut porter sur tout objet, pourvu qu'il puisse entrer dans un calcul. Penser, c’est calculer et c’est pourquoi les latins appelaient rationnes, les calculs d'argent, et ratiocinatio, le fait de calculer : « Car la raison n’est que le calcul (c’est-à-dire l’addition et la soustraction) des conséquences des dénominations générales dont nous avons convenu pour noter et signifier nos pensées : pour les noter, dis-je quand nous calculons à part nous ; et pour les signifier quand nous démontrons, quand nous prouvons à autrui nos calculs». Hobbes a fort bien compris qu’il y a effectivement dans la pensée discursive des procédés à caractère mécanique. Il généralise depuis le calcul vers le raisonnement et identifie la raison à la pensée calculatrice. Ce faisant il interprète effectivement la pensée comme a besoin de le faire un ingénieur qui travaille sur l’intelligence artificielle. Hobbes est en cela un précurseur de l’analyse de l’intelligence artificielle. Il semble en effet que ce n’est qu’en ramenant toute pensée à une forme de calcul qu’il est possible de concevoir une machine cybernétique intelligente.

 Mais il s’agit alors d’une réduction qui implique que nous admettions :

a)       Que la pensée humaine est réductible à un raisonnement.

b)      Que le raisonnement est réductible à un calcul.

c)       Que l’intelligence est réductible à l’activité de constructions mentales par concept dans le calcul.

Nous avons vu que ces trois présupposés sont discutables. Les logiciens qui se sont essayés à formaliser ne serait-ce qu’un texte littéraire, comme une page de Proust, se sont heurtés à d’énormes difficultés. D’autre part, peut-on ramener tout discours à un raisonnement ? L’approche descriptive des vécus par exemple, constitue une forme de raisonnement en un sens, mais qui est éloigné du calcul, comme le sont toutes les approches très intuitives en général. L’intelligence excède de beaucoup les seules constructions mentales de l’intellect qui ne servent, à tout prendre, qu’à communiquer l’idée. Nous avons vu plus haut le problème que soulève l’existence de la pensée non-verbale, y compris dans le champ des mathématiques.

    ---------------2) Si nous admettons les présupposés du réductionnisme, nous pouvons ouvrir un programme de travail dont on examinera ensuite la fécondité technique. La force du réductionnisme tient à ce qu’il s’appuie sur l’existence de mécanismes dans la nature. Leibniz disait dans les Nouveaux Essais  que nous sommes empiriques les trois quart du temps. Que notre existence s’exprime dans des mécanismes ne surprendra en effet personne. A chaque instant dans notre corps se déroule une foule de processus internes parfaitement rodés dont nous n’avons pas conscience. Une grande part de notre activité mentale a aussi un caractère mécanique. Nous fonctionnons souvent sur le mode de la répétition de schémas passés et non pas de manière créative. Le déploiement d’un surcroît d'intelligence créatrice dans notre vie suppose précisément la rupture des répétitions et l’irruption d’une relation neuve avec chaque instant. Vivre de manière créative implique que nous cessions de vivre sur le mode de la seule réaction mécanique, ce qui veut dire en répétant sans cesse le passé, le connu. Cependant, il reste possible de considérer que le comportement humain se ramène au raisonnement à partir du connu, via l’activité mentale opérant par construction de concepts.

    D’un autre côté, il n’y a pas de mal à ce que ce qui est déjà mécanique soit automatisé. Y compris dans le domaine de la pensée. Du point de vue psychologique, nous voyons que c’est déjà largement le cas et c’est pourquoi on peut parler de pensée inconsciente pour désigner l’activité mentale habituelle laissée à elle-même et sa déviation compulsive. Du point de vue logique par contre l’automatisation de la pensée ne va pas de soi et requiert une mise en forme systématique. L’obstacle le plus difficile à passer est la nécessité de transformer les énoncés du langage naturel dans un langage logique susceptible de les faire entrer dans un calcul. Ce projet était déjà contenu en germe dans un essai de jeunesse de Leibniz le  De arte combinatoria. Il porte ensuite le nom de la caractéristique universelle (characteristica universalis). L’idée de Leibniz est que la langue naturelle comporte trop d’équivocité. Dans un calcul, il est nécessaire que les signes soient univoques. La caractéristique universelle devait être un langage purement logique dans lequel les noms possèdent une signification unique et explicite. A partir du moment où l’homme aurait disposé d’un tel langage, Leibniz pensait qu’il serait alors possible de résoudre tous les problèmes à des calculs identiques à ceux de l’arithmétique. Nous dirions : quelle est le problème posé ? Ensuite, nous n’aurions plus qu’à prendre un crayon et du papier pour calculer la réponse juste.

    Nous avons vu l'usage du  principe d'identité logique. Dans l’énoncé :

    1. « La pluie est la pluie »,

    nous avons une tautologie, dont la formule s’écrit A=A. Son développement complexe se traduit par une relation posée entre deux termes différents comme dans :

    2. « Le fer est un métal »,

    ou A=B. Dans cette seconde proposition le concept B enveloppe dans son extension le concept A et la relation logique consiste dans une inclusion de B dans A. La vérification de la validité de la proposition 2 ne pose aucune difficulté. Il suffit que A et B soient définis de manière explicite. On peut vérifier que le concept de fer enveloppe dans sa définition celui de métal par inclusion. De même, il devrait être possible de remplacer les formulations du langage naturel reliant des termes et des propositions « et », « ou », « quelques », « tous », par des connecteurs logiques. On aurait alors la possibilité de formaliser tout énoncé dans un langage pouvant le faire entrer dans un calcul. Leibniz admettait par principe l’idée que toute proposition peut être analysée pour être ramenée à l’identique. Cependant, il concédait que l’intelligence humaine n’était pas capable de décider a priori de propositions contingentes comme :

    3 «Napoléon était gaucher ».

    L’homme ne peut appliquer strictement l’analyse logique que dans le cadre des mathématiques. Il faut donc faire une différence entre proposition nécessaire dont la logique peut rendre raison et proposition contingente dont la logique ne peut pas rendre raison. Cependant, cette limitation reste humaine, l’esprit de Dieu, enveloppant la totalité du réel, du point de vue de l’éternité, peut lui opérer une analyse et une computation infinie. Il connaît a priori la définition de toute entité réelle. Il enveloppe aussi la totalité des compossibles. Du point de vue de Dieu, toute question possède sa réponse exacte et tout problème bien posé a sa solution. Ce n’est qu’une échelle supérieure de complexité. On pourrait brasser une quantité de données formidable et un savoir énorme, le principe de la formalisation et celui de la computation resterait valide. Il suffit de poser le principe selon lequel l’univers est écrit en langage mathématique. Ou encore, dans une autre formulation suivant une analogie (R) très contemporaine, nous pourrions dire que l’intelligence de la Nature est comparable à une sorte de CD ROM logiciel contenant la totalité des lois et des possibles. L’information serait présente dans sa totalité et non seulement cela, mais elle serait aussi codée de manière logique, si bien que nous pourrions partiellement la reproduire dans nos propres computations artificielles.

    Le projet de la caractéristique universelle n’a pas abouti avec Leibniz, mais il a ensuite fait son chemin dans la logique contemporaine. Sous l’impulsion de Frege, le programme posé par Leibniz se développe dans ce que l’on appelle aujourd'hui le calcul des prédicats. Avec De Morgan et Boole, la logique entame une migration complète vers les mathématiques et l’idée de calcul des propositions est désormais installée. Dans la foulée, le programme de formalisation complète des mathématiques voit le jour. On pense que la notion de système formel  est désormais suffisante pour structurer de manière cohérente le savoir. Un système formel comporte un langage : un alphabet et de règles permettant de construire des expressions. Il comporte des  axiomes : un sous ensemble de l'ensemble des expressions. Et il admet des règles permettant d'inférer une expression à partir d'autres expressions à l’intérieur du système. Formaliser un domaine du savoir consistera donc pour l’essentiel à construire un système logique dans lequel toutes les expressions bien formées codent les formulations pertinentes du domaine. On dit que les axiomes correspondent aux vérités de base, au noyau de la théorie et les règles d'inférence sont là pour permettent de déduire toutes les vérités possibles à l’intérieur du système et elles seules.

    Laissons de côté les déboires de ce projet en mathématique. Ne conservons que son aboutissement en direction de l’intelligence artificielle. Disposer d’un langage logique était un premier pas vers une transcription de la pensée en calcul. Il restait ensuite à en formuler une expression compatible avec la structure en deux états de mémoire 0 et 1 utilisés par les ordinateurs. L’algèbre de Boole a servi de transition. Elle se sert en effet d’une logique duelle avec deux états 0 et 1. Le concept de machine de Turing a permis de mettre en forme l'idée d'un programme machine.

     a) La théorie de l’intelligence artificielle forte prétend qu’il est possible de créer une machine capable d’interpréter et donc avoir une compréhension de ses propres raisonnement, de simuler un comportement intelligent, d’éprouver une conscience de soi, et des sentiments. De son point de vue, le matériel informatique, le hardware, étant maintenant disponible, il reste à développer le logiciel, le software.

     b) La théorie de l’intelligence artificielle faible prétend que la vocation de l’intelligence artificielle se situe dans le prolongement logique de la démarche d’automatisation qui a été celle de la technique depuis la révolution industrielle. Elle est avant tout une approche pragmatique d’ingénieur inséré dans un bureau d’étude qui a pour finalité la réduction des coûts et l’augmentation de la productivité. La technique a en effet évolué depuis le temps où la machine ne faisait que porter l’outil vers des systèmes de plus en plus autonomes où la production n’exige plus qu’une intervention humaine de surveillance et de réglage. Le concept d’intelligence artificielle désigne alors l’aptitude de la machine à résoudre des problèmes d’un type spécifique comme si elle était intelligente. Il s’agit non d’une révolution radicale, mais d’une évolution logique qui enveloppe les acquis de la cybernétique. L’effort ici consiste élaborer une programmation d’apprentissage par la machine.

C. Perspectives et limites

Nous avons vu que le problème fondamental de la formalisation, par rapport au langage naturel, c’est qu’elle appauvrit son contenu en éliminant la richesse de la langue, richesse qui est en relation avec la richesse d’ambiguïté du réel. Plus un langage est formalisé et plus il est appauvri, de sorte que le langage formel le plus pur, celui de la logique est précisément celui qui est le plus vide, celui qui ne dit plus rien sur la réalité, mais se cantonne dans une structure logique. Les logiciens ont avec Russel assez répété que le logicien ne sait pas de quoi il parle, ni si ce qu’il dit est vrai. Un ordinateur n’est jamais rien d’autre qu’une machine apte à utiliser un langage formel, qui est le seul langage qu’il puisse utiliser. Nous ne parvenons pas à dire en langage formel tout ce que nous parvenons à dire dans une langue. Pour une raison identique, nous avons aussi des difficultés à dire en langage courant tout ce que nous pensons. La pensée intuitive peut être très claire, sans que pour autant le passage à l’expression soit aisé. Cela peut déjà expliquer les maigres résultats obtenus par le cognitivisme quand il s’est efforcé de reproduire une pensée humaine sur des ordinateurs. La question est donc : quels sont les limites que nous pouvons assigner à l’intelligence artificielle ?

1)   Les partisans de la théorie de l’intelligence artificielle forte ont compris qu’il ne peut y avoir de progrès significatif que si nous parvenons à élaborer un paradigme précis du fonctionnement du cerveau pour tenter de manière analogique d’en reproduire le fonctionnement dans nos machines. C’est en imitant le système nerveux que l’on peut faire progresser l’intelligence artificielle de manière significative. L’idée est donc de considérer d’abord le cerveau comme un ensemble de neurones reliés entre eux dans un réseau d’une extraordinaire densité. Dans ce réseau, les synapses sont des articulations, chaque neurone est un petit calculateur qui reçoit de l’extérieur, par l’intermédiaire des sens, des données, en fait la somme et retourne une réponse. Ce qui frappe, dans l’étude du cerveau, c’est le comportement toujours global de son système, à l’opposé de la structure fragmentaire de toutes les machines humaines et de la logique qu’elles utilisent. Nous avons vu que toutes les tentatives pour localiser la mémoire dans le cerveau se sont soldées par des échecs, la mémoire semblant à la fois présente partout et nulle part dans le cerveau. Ce que Rupert Sheldrake explique en invoquant le support des champs morphiques.

Le parallel distributed processing (appelé aussi connexionnisme) fait un pas dans cette direction. Nous savons que dans la mémoire d’un ordinateur classique, chaque unité de donnée est assignée à une adresse qui permet de la retrouver. Par principe, une adresse renvoie à un lieu dans la mémoire physique où se trouve stockée l’information correspondante. Pour la rapidité du traitement, on peut copier l’information depuis le disque dur vers une mémoire volatile, mais cela ne change rien au problème. L’unité centrale de calcul, le processeur, envoi au magasin de stockage des données un ordre, celui de fournir l’information contenu sous un numéro qui est sa case mémoire. Elle est alors utilisée, puis combinée avec d’autres données dans un programme actif. Il s’agit dans tous les cas d’un traitement sériel, analytique dans son principe d’une information codée en langage formel. Si l’information est effacée, le programme est bloqué. Si jamais une adresse est perdue, il est assez difficile et long de la retrouver, car il faut passer en revue tout le contenu de magasin de données. Les réseaux neuronaux artificiels modifient ce type de fonctionnement. Ils simulent des unités de calcul reliées entre elles par un réseau de relations. L’information est structurée sous la forme d’un schème organisationnel reposant sur la règle de Hebb. Pour faire simple disons que dans ce cas, lorsqu’une unité, A ou B reçoit un stimulus de manière répétée, celui-ci va être amplifié. Il y a pondération des messages de sorte que le réseau parvient à se doter d’une mémoire semblable à une habitude. Après un certain nombre d’essais, le réseau apprend le message par répétition. L’état vers lequel tendent les pondérations constitue ce qui est appelé un attracteur. Au final, le système parvient à stocker des données en mémoire et les restituer de manière correcte, sans qu’on leur ait donné d’adresse. La réponse du réseau neuronal est donc différente du cas classique de l’ordinateur dont nous nous servons communément. Étant donné des indices suffisants, correspondant à un fragment d’une information souhaitée, il est capable de la restituer entièrement. Il faut et il suffit pour cela que l’indice se situe dans le bassin d’attraction de la configuration d’un attracteur acquis auparavant. Le réseau reprend alors la configuration de relation qu’il a mémorisé. En d’autre termes, par apprentissage, le réseau atteint ce que l’on appelle un équilibre d’excitation qui figure l’analogue de la représentation humaine d’un concept à mémoriser. Le résultat remarquable de cette prouesse technique, c’est qu’alors l’information n’a plus de localisation stricte dans le réseau : elle est diffuse dans tout le réseau. Elle est partout et nulle part. Elle ne redevient existante que si un indice est fourni qui incite le réseau à la reproduire.

Il est clair que ce type de fonctionnement est très différent du type de fonctionnement habituel de nos ordinateurs. Sur nos machines actuelles, pour retrouver une information, il faut que la machine possède son adresse. L’adresse n’a aucun rapport avec l’information elle-même. L’information n’a pas de rapport non plus avec la façon dont elle a été acquise. C’est un rangement numéro-case. Bref l’ordinateur n’apprend jamais rien. Il stocke des données. Il est aussi très stupide quant à la saisie d’une entrée. Nous le disions ailleurs, la moindre faute d’orthographe peut l’empêcher de fonctionner. Certes, on peut lui ajouter un surcroît de mémoire sous forme d’un programme, pour tenter des rapprochements entre ce qui a été tapé et la liste des ordres significatifs qu’il possède. C’est un peu mieux, mais cela ne change rien au principe, on ne peut pas tout prévoir et de l’imprévu l’ordinateur est incapable par lui-même de tirer quoi que ce soit. Il ne fonctionne que dans la dualité : oui/non, tout/rien, 1/0. Dans un réseau neuronal, le contexte devient très différent. Ce n’est pas la dualité entre tout/rien, l’indice sera soit le message en totalité, mais avec des erreurs, ou une partie du message. Selon la qualité des indices proposés, la restitution du message sera plus ou moins exacte. Nous nous trouvons ici dans une simulation assez proche du rappel dans la mémoire humaine. Cette situation ressemble aussi étonnamment à ce qui se produit avec une plaque holographique si elle est brisée. Le support holographique ne ressemble pas à un négatif argentique. On ne voit pas l'image du petit chariot qui apparaîtra en relief sous le faisceau laser. Il n'y a que des courbes. Or si vous cassez la plaque, l'image est encore présente dans sa totalité, mais elle devient plus floue. Si vous la cassez encore, l'image sera là, mais elle deviendra encore plus floue. Comme dans la mémoire neuronale, l'information est présente à la fois partout et nulle part. L’intérêt des réseaux neuronaux artificiels est donc de dépasser les limites du langage formel en essayant de modéliser un mode de pensée global.

    ---------------2) Cependant, il faudrait ne pas trop se faire d’illusions sur la comparaison entre réseau neuronal artificiel et cerveau. Le nombre de neurones du cerveau dépasse le milliard, chacun d’eux reçoit entre 1000 et 100.000 synapses. Jusqu’à présent, un réseau neuronal artificiel complexe c’est 1000 neurones recevant une dizaine de synapses. La différence d’ordre de grandeur est colossale et rend nos tentatives assez risibles. Nous ne savons que très peu de choses sur le cerveau. Les spécialistes se demandent si franchement cela vaut la peine de tirer des inférences de nos petits systèmes vers le cerveau. De plus, les réseaux artificiels sont asservis à des cycles d’apprentissage qu’ils ne peuvent certainement pas faire eux-mêmes et il est aussi nécessaire qu’il y ait une correction constante d’un agent humain extérieur à la machine. Leurs performances restent très faibles, inférieures à celles des ordinateurs classiques. Leur intérêt consiste surtout dans l’illustration remarquable qu’ils apportent de la nécessité de dépasser  la rigidité du langage formel.

    Ce n’est pas tout. Alan Turing a répertorié toute une série d’objections sérieuses qu’il faudrait pouvoir résoudre. Nous pouvons les expliciter de cette manière :

    a) Comme on l’a vu plus haut, la conception de l’intelligence artificielle reste par définition dans les limites d’un système formel. Le théorème d'incomplétude de Gödel nous dit que quelque soit le système formel S1, même s’il est puissant, il existera toujours un énoncé vrais F - et que l'on peut montrer tels- que S ne peut pas produire. Pour surmonter cette situation, il faut produire un nouveau système S2 capable d’envelopper l’énoncé F tel que F soit inclus dans S2. Ce qui conduit immanquablement à une progression à l’infini qui restera incapable d’appréhender toute vérité possible. Question : L’intelligence ne dépasse-t-elle pas toujours tout système formel ?

    b) Rien ne prouve que le comportement humain puisse être formalisé dans toutes ses expressions. L’automobiliste obéit à un certain nombre de règles de comportement sur la route. C’est tout ce que nous pouvons formaliser. Pour admettre que le comportement est entièrement formalisable, il faudrait qu’il existe des lois de comportement fixes et que toute décision humaine y réponde. Ce serait certes une commodité rationnelle d’y croire, mais cela n’a vraiment rien d’évident. La moindre possibilité d’intervention d’un libre-arbitre ferait capoter ce type de raisonnement. Question : le comportement humain est-il formalisable ?

    c) Toute entité vivante, tout système nerveux se présente comme une totalité avec imbrication successive et solution de continuité complète. Par définition une machine repose sur une structure analytique qui est fragmentaire. La logique du continu qui travaille dans la vie s’oppose à la logique du discontinu qui est utilisée dans les machines. On voit mal comment l’intelligence artificielle serait capable de dépasser cette limite. Question : la logique du continu peut-elle être restituée par une intelligence artificielle ?

    d) L’objection dite de Lady Lovelace : la machine analytique ne prétend pas créer quoi que ce soit. C’est nous qui avons la prétention de croire qu’elle le fait. Elle n’est capable de faire que ce que nous lui ordonnons de faire. Le plan du mental humain est toujours un méta-point de vue par rapport à la machine et on ne voit comment il serait possible qu’il en soit autrement. Question : Une machine est-elle capable de création ?

    e) Si la machine est apte à réaliser la tache a, b, ou c, rien ne prouve qu’elle puisse réaliser une tâche x. Dans cet argument x est modulable dans le temps et représente une chose que la machine ne sait pas faire à un moment donné t. Question : une machine est-elle apte à résoudre tous types de problèmes?  (texte)

    f) Tout acte de création artistique jaillit d’un état de conscience qui libère une potentialité qui n’était pas actuelle auparavant. La Vie se sent elle-même, la vie s’éprouve comme un Soi en tant que sentiment. La machine ne connaît pas de sentiment et ne s’éprouve pas elle-même, elle calcule. (texte) Or c’est du cœur que viennent les décisions les plus importantes et les actes les plus imprévisibles, ce dont la machine ne peut avoir la moindre idée. Question : une machine est-elle capable d’éprouver des sentiments ?

    g) L’examen des phénomènes de synchronicité, de la nature de la mémoire, des expériences verticales que l’être humain peut traverser et des potentialités de la conscience nous conduit à reconnaître une dimension non-matérielle de la réalité. Il est tout à fait fondé de penser que l’Intelligence cosmique qui tient en équilibre le cosmos transcende tous les mécanismes par lesquels elle s’exprime. L’homme a en lui la possibilité de développer ses pouvoirs conscients et d’entrer en relation avec l’Intelligence fondamentale. Or cette possibilité met immédiatement entre parenthèses l’intérêt de l’intelligence artificielle. L’existence de la télépathie par exemple, invaliderait immédiatement les prétentions de l’intelligence artificielle. D’autre part, le refus de la prise en compte de cet argument démontrerait que celui qui l’opère se cantonne dans le paradigme mécaniste. Or l’abandon du paradigme mécaniste est maintenant un acquis important des sciences de la complexité et il est très largement motivé. Question : les potentialités de la conscience peuvent-elles être réalisées par le biais de l’intelligence artificielle ?

    h) D’un point de vue moral, on peut remettre en cause la pertinence du développement de l’intelligence artificielle. Ce n’est pas, comme on l’a parfois écrit, que l’homme se sentirait humilié par ce développement. Le problème est plus sérieux. Si nous réalisions des machines douées d’autonomie, leur premier souci serait de s’auto-reproduire et l’effet en serait de rendre l’intelligence humaine obsolète. L’auto-développement de l’intelligence artificielle conduit directement à l’obsolescence de l’homme et à sa suppression en tant que créateur par la machine elle-même. C’est un thème récurrent de la science-fiction mais aussi une interrogation importante de la pensée contemporaine sur la technique. L’intelligence artificielle est la quintessence de la volonté de puissance. Rien n’assure que l’homme dispose de la sagesse qui permettrait de s’en servir à bon escient. L’Histoire montre suffisamment que tous les progrès techniques se sont soldés par un lot d’aliénations. L’aliénation la plus fondamentale capable d’atteindre l’essence de l’homme est l’aliénation de sa pensée. Or l’intelligence artificielle en livre tous les ingrédients, sans aucune garantie. Question : Le projet de l’intelligence artificielle est-il compatible avec les exigences de l’Éthique ?

    i) L’objection théologique. La pensée n’est possible que sur fond de la nature essentielle de l’âme humaine. Le Créateur en a doté l’homme, mais pas l’animal ni la machine. La machine ne saurait penser ainsi que le fait l’homme, car ce n’est pas dans la nature des choses. Cette objection repose sur un concept de Dieu.  Question : L’intelligence artificielle n’est-elle pas en contradiction avec la nature des machines, telles qu’elles existent en tant que création posée par la divinité ?

      Dépouiller une à une chacune de ces objections à travers la littérature portant sur le thème dépasserait le cadre limité de cette leçon. La plupart des questions restent en suspend. Ce qui semble complètement échapper à la plupart des auteurs qui traitent de l’intelligence artificielle, c’est la dimension phénoménologique dans laquelle se déroulent leurs propres spéculations. La vie s’éprouve elle-même en toute conscience et possède accès à une intelligence d’elle-même, or cet accès n’appartient pas à la représentation, bien qu’il puisse s’exprimer dans la représentation, via le langage. Si la pure conscience se tient par essence en de-deçà de toute représentation, la logique descriptible par un système formel (qui en fait partie), demeurera toujours une simple construction mentale de l’intellect humain. Ce n’est pas la conscience. L’effet habituel de l’anthropomorphisme joue ici à fond. Nous sommes toujours prêt à rêver une conscience analogue à la nôtre dans l’ordinateur. Ce qui relève de la surimposition et d’une méconnaissance de la nature même de la conscience. Comme le souligne Searle, un programme d’ordinateur ne peut avoir aucun état conscient et ne peut réellement comprendre. Les oui/non, 1/0 qu’il manipule n’ont en définitive de sens que pour l’utilisateur humain de la machine qui lui interprète. Même un langage formel ne prend un sens que si on lui donne une interprétation .

*  *
*

     La modélisation du comportement humain est le rêve de  la théorie de l’intelligence artificielle forte. Nous en sommes encore assez loin. Nous sommes aussi assez loin par ce biais de pouvoir appréhender la nature de l’intelligence. Par contre, il est indéniable que les réalisations de l’intelligence artificielle sont des créations de l’intellect calculateur. L’histoire de l’automatisation et la modestie des résultats obtenus inclinent à penser que la théorie de l’intelligence artificielle faible est dans le vrai.

    C’est un peu comme l’histoire de la montagne qui accouche d’une souris. Il y a loin entre les prétentions affichées par les zélateurs les plus fervents de l’intelligence artificielle et les résultats concrets qu’elle est capable de fournir. Nous avons obtenu des outils efficaces, des jouets et des jeux, mais nous sommes à l’heure actuelle assez loin de ce que l’on trouve dans la science fiction sur le même sujet.

*  *
*

Vos commentaires

       © Philosophie et spiritualité, 2005, Serge Carfantan,
Accueil. Télécharger, Index thématique. Notion. Leçon suivante.

Le site Philosophie et spiritualité autorise les emprunts de courtes citations des textes qu'il publie, mais vous devez mentionner vos sources en donnant le nom du site et le titre de la leçon ou de l'article. Rappel : la version HTML n'est qu'un brouillon. Demandez par mail la version définitive..