La machine peut elle penser ?

Voilà l’éternelle question qui hante l’Homme depuis que la technique accompagne l’être humain.

Question qui taraude l’intelligence artificielle.

A son PC, on lui parle souvent

( souvent par juron ).

L’ordinateur peut il être l’égal de l’homme ?

Ces questions qui peuvent paraître philosophiques ont été soulevées par le génie Alan Turing, qui fut à l’origine de l’invention de l’ordinateur.

Par ce qu’on appelle aujourd’hui communément, le « test de turing ».

En 1950, Alan Turing, écrit un article dans la revue Mind.

L’objet ici est de le commenter, et apporter un éclairage sur ce test célèbre.

L’article en question a bouleversé les conceptions de l’époque, comme les articles de Darwin, ou Einstein à leur époque.

Alan Turing pose cette question : « les machines peuvent-elles penser ? ».

Les définitions de la machine et de la pensée se posent. Qu’est-ce que penser ? qu’est-ce qu’une machine ?

Devant ces considérations philosophiques, Alan Turing introduit une reformulation de la question, par une problématique.

Ce qu’il nomme « le jeu de l’imitation ». Et de trouver une question/réponse pragmatique.

Le jeu de l’imitation

Soit un jeu à trois : un homme (A) , une femme (B) , et un interrogateur (C).

L’objet du jeu pour l’interrogateur est de savoir lequel des deux est l’homme, l’autre la femme. Sans les voir, juste en posant des questions.

La finalité pour l’homme et de la femme est d’essayer d’induire en erreur l’interrogateur.

A la question  » les machines peuvent elles penser », Alan Turing remplace la question « Qu’arriverait il si une machine prend la place de (A) dans le jeu ? ».  » L’interrogateur se trompera-t-il aussi souvent que s’il a affaire à l’homme ou à la femme ? ».

De ce test, simple, qui aujourd’hui fait travailler de nombreux scientifiques, universitaires, Alan Turing balaye toutes les théories, les opinions en contradiction à la pensée humaine versus la machine.

Vous ne trouverez pas la réponse à la question posée. Mais Alan Turing renvoie plusieurs siècles de réflexions philosophiques sur ce qu’est l’homme, et ce qu’il n’est pas. De là la modernité du test, et des commentaires qu’il associe.

Il va énumérer les différentes objections usuelles qui affirment que la machine ne peut pas être l’égal de l’homme.

Mais sans donner la réponse. A la machine de réussir le fameux test !

1. L’objection théologique

« Penser est une fonction de l’âme immortelle de l’homme. Dieu a donné une âme immortelle à tout homme ou femme, mais à aucun animal, ni aucune machine. En conséquence, ni l’homme, ni la machine ne peuvent penser ».

A objection théologique, argumentation théologique. Dieu n’a pas donné d’âme à l’animal ou à la machine . « C’est une restriction de la toute puissance de Dieu », que l’homme décide… « Dieu n’a-t- il pas la liberté de donner une âme à un éléphant si cela lui semble convenable ? ».

« En essayant de construire de telles machines, nous ne devrions pas plus usurper irréventiellement Ses pouvoirs de créer des âmes que nous ne le faisons en engendrant des enfants : nous sommes plutôt, dans les deux cas, des instruments de Sa volonté, fournissant des demeures aux âmes qu’Il crée ».

Les arguments théologiques ne tiennent pas. Alan Turing fait référence à la théorie Copernicienne qui a réfuté les textes sacrés vis à vis du mouvement des planètes.

2. L’objection de l’autruche

« Les conséquences du fait que les machines pensent seraient trop terribles. Il vaut mieux croire et espérer qu’elle ne peuvent pas le faire ». « Nous aimerions croire que l’Homme est de quelque subtile façon supérieure au reste de la création ». Alan Turing place ces arguments au même niveau que ceux de la théologie précédente : une façon d’être sûr pour l’homme de garder sa position d’être supérieur et dominant.

3. L’objection mathématique

« De nombreux résultats de la logique mathématique peuvent être utilisées pour montrer qu’il y a des limites au pouvoir des machines : le plus connu de ces résultats est connu sous le nom du théorème de Gödel. Et montre que dans tout système logique suffisamment puissant, on peut formuler des affirmations qui ne peuvent ni être prouvées, ni être réfutées à l’intérieur du système ».

Alan Turing lui même définit le célèbre « théorème de Turing », relatif aux machines. « Ce résultat établit qu’il y a certaines choses qu’une machine ne peut pas faire ».

« Si elle est programmée pour répondre à des questions, comme dans le jeu de l’imitation, il y aura certaines questions auxquelles  soit elle donnera une réponse fausse, soit elle ne donnera pas de réponse du tout ».

L’argument de l’incapacité de la machine à ne pas pouvoir tout faire, ne tient pas. Car à l’image de la machine, la pensée humaine est elle même soumise à contradiction et à des réponses fausses. Le paradoxe mis en évidence par le théorème de Turing et de Gödel s’applique également à l’esprit humain.

4. L’argument issu de la conscience

« Cet argument est très bien exprimé dans le discours Lister de 1949, du professeur Jefferson dont j’extrais cette citation : « Nous ne pourrons pas accepter l’idée que la machine égale le cerveau jusqu’à une machine puisse écrire un sonnet à partir de pensées ou émotions ressenties, et non pas en choisissant des symboles pris au hasard. Aucun mécanisme ne pourrait ressentir du plaisir quand il réussit, du chagrin quand il échoue ».

Pour Alan Turing, « cet argument semble être la négation de la validité de notre épreuve. Selon ce point de vue, la seule manière dont on pourrait s’assurer qu’une machine pense serait d’être la machine et de ressentir ce qu’on pense ». De même, la seule façon de savoir qu’un homme pense est d’être cet homme lui-même. C’est le point de vue solipsiste. « A » est enclin à croire que A pense, mais l’autre (B) ne pense pas. « Au lieu de discuter continuellement ce point, on utilise habituellement la convention polie stipulant que tout le monde pense ».

La position solipsiste relative à la machine est la même que celle avec l’homme. L’argument issu de la conscience ne tient donc pas.

5. Les arguments des diverses incapacités

Ces arguments prennent la forme suivante :  » je vous concède que vous pouvez fabriquer des machines qui fassent tout ce que vous avez mentionné, mais vous ne saurez jamais capable d’en fabriquer une qui fasse X ». Où X est une liste  » qu’elle soit gentille, qu’elle fasse des erreurs,etc.. ».

« Aucune preuve n’est habituellement fournie pour soutenir ces affirmations ». Généralement ces affirmations sont le fruit d’expérience sur ce que peuvent faire les premières machines inventées ; qu’on a pu voir : inefficaces, limitées. On procède alors au principe d’induction scientifique : par expérience, je sais que les machines sont laides et inefficaces. Comme l’enfant qui se brulant la première fois ne touchera plus le feu. Il fait une induction, une généralisation sur une expérience qu’il a vécu, sans connaître la loi scientifique ( la radiation d’énergie ). La plupart des limitations de la machine est liée à la faible capacité de mémoire. Faire une généralité d’un constat est une erreur.

6. L’objection de Lady Lovelace

Lady Lovelace est la fille de Lord Byron, qui fut lui même associé à la conception de Frankestein. Elle était l’amie de Charles Babbage : celui-ci a conçu la « Machine Analytique », l’ancêtre direct du premier ordinateur. Ainsi, elle note : « La Machine Analytique ne peut jamais rien faire de nouveau ».

Alan Turing répond : « on peut y répondre avec le diction : il n’y a rien de neuf sous le soleil ». En clair, qui peut nous prouver que le travail « original », la nouveauté que saurait faire un homme n’est pas la conséquence de toute une longue séquence pré-établie, de faits et principes généraux qui nous guideraient, et dont nous n’avons pas conscience. Parce que non découverts aujourd’hui… ?

L’incertitude vis-à-vis de l’impossibilité créatrice de la machine est la même que celle de la pensée humaine !

La raison principale de la nouveauté que je vois comme un fait est que je n’ai pas  à l’avance fait des calculs suffisants qui auraient pu me permettre de déterminer que ce n’était pas une nouveauté. Mais un manque de calcul, de réflexion. Et dieu sait que l’homme ne réfléchit pas avant à tout ce qu’il produit !

Pour la machine, j’ai établi des règles, des algorithmes, des calculs pré-établis, aussi je ne suis pas surpris des résultats de la machine.

7. L’argument de la continuité dans le système nerveux

« Le système nerveux n’est certainement pas une machine à états discrets. Une petite erreur de l’information, à peu près de la taille d’une impulsion nerveuse heurtant un neurone, peut beaucoup changer la taille de l’impulsion de sortie ». Bien différent d’un machine à états discrets.

« on peut dire que s’il en est ainsi, il ne faut pas s’attendre à pouvoir imiter le comportement du système nerveux humain ».

Alan Turing reprend alors le jeu de l’imitation, décrit plus haut. Et de s’attacher aux résultats du jeu: d’une machine discrète, ou continue, comme l’esprit humain, le résultat est le même, et ne peut être distingué. Peu importe ce qu’il y a dans la « boîte noire ».

8. L’argument de l’informalité du comportement

« Il n’est pas possible de créer un ensemble de règles qui ont la prétention de décrire ce qu’un homme devrait faire dans tout ensemble concevable de circonstances. On devrait par exemple établir une règle définissant qu’on doive s’arrêter quand on voit un feu rouge , et passer quand on voit un feu vert. Mais que se passe-t-il si par suite d’une erreur, les deux couleurs apparaissent.. Il parait impossible de parer à toutes les éventualités… »

Alain Turing distingue les règles de conduite  des lois de comportement, qui rendent les choses confuses. Par loi de comportement, il entend les lois qui s’appliquent au corps humain. Par exemple, « si vous le pincez, il criera ».

Si pour les règles de conduite, elles sont structurantes, et simples, il est possible de les rentrer dans un programme ; les lois du comportement nous semblent impossibles. Mais impossible, à la vue de la connaissance technique, scientifique d’aujourd’hui. Alan Turing a lui-même programmé une machine, la machine Manchester, dont il est tout aussi impossible d’établir la règle qui la définit. Par les résultats que la machine produit, impossible d’en établir la règle. De la même façon que pour les lois du comportements. CQFD.

9. L’argument de la perception extra-sensorielle

Alan Turing évoque la télépathie, la clair-voyance, l’intuition. Ces concepts n’ont toujours pas de réalité concrète aujourd’hui, ni de réponse dans notre humain. L’argument est clos.

Synthèse : le test de Turing

En conclusion, le génie de Turing par cet article a été de bousculer les préjugés philosophiques, ontologiques, théologiques et scientifiques quant à la place de l’homme et de la machine.

Devant la « boite noire » qu’est la machine, Alan Turing a replacé les contradictions similaires de l’homme, avec beaucoup de similarités que l’on peut avoir devant la machine.

La machine nous parait un objet étrange, froide, et rigide.

Alan a eu la sensation que cette rigidité n’était pas si différente de l’homme : ne sommes nous pas une longue séquence d’ADN pré-déterminée qui nous   conditionne. Et pourtant foisonnante, et surprenante ?

Le concepteur d’un programme de jeux d’échecs, qui a tout prévu, est lui-même surpris de sa machine… quand il découvre un coup qu’il n’avait pas prévu.

A suivre !

[ Source : références extraites de Pensée et Machine, traduit de l’Américain par Patrice Blanchard, Champ Vallon, 1983. ]

Alan Turing est né en 1912.

Fêtons , pour plusieurs raisons le centenaire de sa naissance, surprise ! …. On lira sa page consacrée : Turing.