Y a-t-il des choses que les machines ne sauront jamais faire ?

Cette question qu’on pose aujourd’hui à Docteur-Philo a été posée une multitude de fois, et on a proposé une multitude de tests permettant de savoir où s’arrêtent les machines dans leur imitation de l’homme.

On connaît aujourd’hui plus particulièrement le test de Turing qui consiste à faire dialoguer un usager avec un ordinateur avec pour objectif d’établir de façon certaine si à l’autre bout, il y a un autre usager, ou bien si c’est la machine qui répond toute seule.

De fait, Docteur-Philo a tenté l’aventure avec un programme ad-hoc (1) : il a été bien déçu. Le doute n’a pas tenu plus de 3 secondes. Lorsqu’il a demandé à son interlocuteur ce qu’il pensait de Barak Obama, la machine a répondu par un stéréotype, du genre « Vous pouvez reformuler votre question ? »

Déjà, Descartes s’était posé la question de la preuve qu’entre l’animal (considéré par lui comme une machine) et l’homme il y avait une différence totale. Et cette preuve, c’est l’usage du langage.

Par exemple : un perroquet dit bonjour à sa maîtresse ; ce n’est pas qu’il soit joyeux de la revoir, mais parce qu’il espère avoir la nourriture qu’elle est habituée à lui donner pour le récompenser d’avoir parlé. Autrement dit, la machine parlante ne le fait pas avec à propos ; elle ne peut tenir compte de la réalité. (voir le texte de Descartes ici)

Autre exemple : Dieu vient de créer Adam et il se demande s’il vient d’inventer une machine ou bien si cet homme saura faire quel que chose que la machine ne saurait pas faire. Il a eu la réponse quand Adam a croqué la pomme. Une machine ne saurait pêcher, c'est-à-dire faire ce pour quoi elle n’a pas été inventée.

Mais je préfère encore le test de Lady Lovelace, dont on ne parle que rarement.

Déjà, Lady Lovelace était la fille de Byron, ce qui impose le respect et suscite l’étonnement s’agissant de définir un test à faire passer à des ordinateurs. Mais surtout, le test de Lovelace concerne la création : la machine, c’est ce qui est incapable de créer, c'est-à-dire d’inventer quelque chose qui ne se déduit pas analytiquement des données qui sont déjà connues (2).

En réalité, une machine qui saurait créer, ça fait peur. Exemple :

Il y a bien des années IBM avait fabriqué un puissant ordinateur joueur d’échec, Big-Blue, contre le quel Kasparov, le champion du monde, a perdu. On a dit alors que certains des coups joués par la machine était de pures créations, qu’on n’aurait jamais été capable de déduire de la base de données des parties antérieures stockées dans la mémoire de la machine.

C’était une machine qui avait passé brillamment le test de Lovelace : IBM l’a démontée et on n’en a plus jamais entendu parler.

(1) Sur un site concernant les robots de discussion : il s’agit d’Alice.

(2) Est déduit analytiquement ce qui était déjà contenu dans le donné soumis à l’analyse. Un peu comme le sous-marin qui fait surface existait déjà sous la mer avant de devenir visible.

De même, dans l'exemple du perroquet, le "Bonjour" à la maitresse se déduit analytiquement de l'état du perroquet: il a faim.