L’une des caractéristiques les plus significatives de l’humain est sa capacité effective de comprendre le langage. Or, l’ordinateur actuel est encore très loin de démontrer une telle capacité de façon comparable à l’humain. Même les phrases relativement simples sont hors de sa portée, excepté dans le cas de contextes dans lesquels le langage est stéréotypé. Dès qu’il s’agit de l’expression humaine comme telle, la difficulté est démesurée1.  

            Il est vrai que la progression des capacités générales de l’ordinateur est extraordinaire compte tenu des succès indéniables qu’ils ont remportés jusqu’à ce jour dans diverses fonctions. Par exemple, on a conçu des ordinateurs qui, dans un contexte précis et dans des limites fixées à l’avance, ont démontré une capacité remarquable de converser avec des humains. Cela signifie, en quelque sorte, qu’ils sont devenus capables de réussir le fameux test de Turing. 

  Critique du test de Turing 

             Ce test a été imaginé par Alan Turing afin de tester l’aptitude à « penser » d’un ordinateur. Il s’agit de faire participer l’ordinateur au « jeu de l’imitation ». Un « interrogateur » est chargé de décider si les réponses données à ses questions sont faites par un humain ou par un ordinateur. Il reçoit ces réponses au moyen d’un téléscripteur. L’ordinateur est programmé de façon à maximiser les chances de tromper l’interrogateur. S’il y parvient, selon Turing, il sera réputé capable de penser en humain2.  

            En fait, l’ordinateur qui réussirait à passer un test de ce type n’aurait rigoureusement prouvé qu’une chose, soit qu’il a été réellement capable de tromper un humain dans de telles circonstances. Un test plus probant serait le suivant.

  Tester un ordinateur pour son QI : Si un ordinateur réussit à obtenir une note appréciable à un test de QI dans des conditions équivalentes à celles d’un humain qui passerait le même test, alors cet ordinateur sera réputé aussi réellement capable de penser qu’un humain normal.

            Si, en effet, un ordinateur réussissait à passer avec succès un test de QI, cela prouverait qu’il est capable de comprendre le langage écrit et la formulation des problèmes, et qu’il est capable de réagir pour l’essentiel à la manière d’un humain qui passe ce test.

            En fait, les ordinateurs actuels ne sont sûrement pas aptes à performer aux tests de QI, ni même à obtenir une note proche de la moyenne (humaine), si ces tests leur sont présentés normalement. Car les formulations écrites des questions de ces tests poseraient déjà par elles-mêmes un problème de compréhension pratiquement insurmontable aux ordinateurs actuels. Et il en serait ainsi même si, bien entendu, on supposait que les questions seraient transmises à ces machines de façon appropriées pour elles. Il semble bien que n’importe quel ordinateur actuel, programmé d’après les méthodes existantes, donnerait à l’épreuve du QI les résultats d’un parfait « idiot », ou pire encore. 

            La seule façon de rendre l’ordinateur semblable à l’humain serait de lui incorporer, par une méthode encore inconnue, un potentiel réel comparable à celui de l’humain. Cependant, cela signifierait que l’ordinateur serait réellement capable d’innover et de créer comme un humain. Cela équivaudrait, par définition à un potentiel réel de réactions réellement possibles dont le graphe arborescent serait aussi complexe et aussi riche que celui de l’humain. Cette machine est capable d’un certain niveau d’intelligence, comparable à celle de formes de vie dont le « système nerveux » ou l’équivalent est relativement simple. Plus haut, nous avons évalué la grandeur du contenu de ce potentiel comme étant d’ordre super-trois, ce qui est comparable — en super-ordre — à la grandeur du potentiel de l’Univers entier3. Cela revient-il à dire que le problème de rendre l’ordinateur réellement capable de penser est insoluble ? Il est possible de le soupçonner. 

            Cela ne signifie pas que l’ordinateur soit totalement dépourvu de toute inventivité ou d’intelligence. L’ordinateur en démontre au contraire beaucoup, de ses performances dans les jeux de stratégie (échecs, dames, etc.) à la démonstration de théorèmes. Toutefois c’est le programmeur qui démontre alors sa créativité puisqu’il a réussi à donner, au moins en apparence, une intelligence à l’ordinateur étape par étape, par l’essai et l’erreur. L’ordinateur ressemble à un idiot génial, mais le véritable génie, ici, c’est l’humain.  

            Par ailleurs, l’ordinateur « dangereusement méchant » ne semble pas pour demain non plus. Cependant le comportement d’un ordinateur peut refléter la malveillance du programmeur. Cette machine pourrait tromper des humains de façon à leur causer du tort, mais ce serait le programmeur qui devrait en être tenu responsable et non sa machine4. Et il en va de même, naturellement, pour les méfaits possibles de l’informatique en général. 

            L’intelligence artificielle est un produit du potentiel humain. Elle n’est pas une intelligence transfinie mais l’un de ses instruments. L’intelligence transfinie, en revanche, est attribuable à l’ensemble constitué par l’humain et les outils qu’il crée ou les instruments qu’il se donne. En ce sens, l’existence de l’intelligence artificielle est une marque du déploiement de l’intelligence transfinie de l’humain. 

            L’invention des ordinateurs possède des points en commun avec celle des « animaux domestiques ». Les ordinateurs permettent à l’humain de résoudre certains problèmes. Ils se comportent de façon programmée, comme « d’instinct ». Leur évolution a découlé directement de celle de l’humain. Ils apprennent des « tours », comme l’animal de cirque. Ils ont pour effet de transformer l’humain profondément. Ainsi, dans l’histoire, l’humain s’est vu se transformer profondément par ses propres créations. L’agriculture et l’élevage auront permis l’apparition des premières civilisations. Puis l’écriture aura provoqué l’essor et l’expansion des civilisations et des nouvelles cités-États. L’ordinateur et plus particulièrement les grands réseaux de communication par l’électronique combinée à d’autres technologies semblent en train de produire un nouveau type de société humaine5

            L’ordinateur est réellement capable de mémoriser et d’inférer logiquement, mais ce ne serait que par métaphore qu’on pourrait dire qu’il « comprend » ce qu’on lui dit. D’ailleurs, il n’est pas faux de dire que le cerveau humain fonctionne par des « procédures de calcul ». Toutefois ce type de calcul est celui qui permettrait d’obtenir l’arbre du potentiel réel d’un système réel à partir des lois et principes de base de l’Univers. Ce calcul ne peut être fait qu’en droit et non en fait. Ce n’est pas un type de calcul comparable à ceux pour lesquels les ordinateurs sont programmés et peuvent performer.  

            L’intelligence accomplie doit être distinguée de l’intelligence artificielle (IA), qui désigne plutôt un outil pour l’intelligence humaine. Il s’agit d’un outil de grande valeur, mais d’un outil quand même qui, vraisemblablement, ne saurait se substituer réellement à l’humain dans l’avenir.

1 Jean-François Dortier donne des exemples de phrases très simples de l’expression humaine (« Je mange une salade d’avocats » et « Il prend la balle et la lance »). Ces phrases sont très simples à comprendre, même pour un enfant, mais un ordinateur perfectionné ne peut les saisir correctement, c’est-à-dire sans équivoque. En effet, les mots « avocats » ou « lance » ont un double sens qui va au-delà des capacités de jugement de tout ordinateur-traducteur actuel. Voir J.-F. Dortier, « Les limites de la traduction automatique », Sciences Humaines, no 90, janvier 1999 (republié dans Le cerveau et la pensée, op. cit., p. 139). 1

2 Cf. Alan Turing, « Computing machinery and intelligence », Mind, 1950, 59, 433-460. Cette description n’est qu’un résumé de ce que Turing a expliqué dans son texte. 2

3 Voir la section 5.6. 3

4 Je suppose ici, bien sûr, que le programmeur a eu une intention malveillante, sinon il n’est responsable que de n’avoir pas su prévoir ce qu’une machine complexe peut faire. Quoi qu’il en soit, la responsabilité est souvent plus collective qu’individuelle. 4

5 Pierre Lévy a appelé « planétaire » le nouveau type d’humain qui se développe grâce aux nouvelles technologies de l’information et des communications. Cf. Pierre Lévy, World Philosophie. Le marché, Paris, Odile Jacob, 2000, p. 15-18. 5