Demain les posthumains

Réalisation et copyright : Yves Gellie et Seamus Haley

Les robots que l’on entreprend de construire aujourd’hui sont destinés à nous rendre des services au quotidien. Ils seront destinés probablement à garder nos enfants, à garder nos vieux parents. Outre les gestes qu’ils sauront accomplir pour rendre ces services, on les dote de facultés d’imiter des émotions, de simuler eux-mêmes des émotions, ils utilisent un langage de plus en plus étendu, on peut échanger avec eux, on comprend bien que de ce point de vue-là, la relation que l’on va établir avec ces robots sera d’un autre ordre que la relation que l’on entretient avec un frigidaire ou avec une machine à laver. On peut donc parler sans abus de langage d’une relation d’ordre morale avec ces robots. Ces robots appellent quelque chose comme un dialogue. Il y a morale à partir du moment où il y a dialogue. On se dit que ces robots constituent comme une espèce de point de vue sur le monde, un petit peu à l’image des animaux dont on a souvent l’impression qu’ils ont des arrières-pensés lorsqu’ils nous regardent et qu’ils se font une opinion sur l’environnement dans lequel ils se trouvent. Donc une relation morale avec le robot n’est pas impensable. De même qu’une relation d’ordre politique ne l’est pas non plus car ces robots interagiront de plus en plus avec le monde des humains et on aura peut-être à négocier des relations, des modalités de contacts avec eux.

J’avais été frappé par le témoignage d’un soldat américain qui au cours de la guerre d’Iraq déclarait avoir voulu que l’on répare leur robot et non pas qu’on leur change parce qu’ils considéraient qu’ils avaient entretenu avec lui une manière d’attachement affectif et cette espèce de retour de comportements animistes liés à la présence de robots humanoïdes ou androïdes va aller s’accélérant, c’est pratiquement sûr.

Une des questions que se posent les roboticiens qui cherchent à réaliser avec des machines des comportements intelligents, c’est de se demander si le fait que les hommes possèdent une conscience n’est pas un handicap qui rendra définitivement les machines inférieures aux compétences que les hommes peuvent déployer, est-ce que pour être intelligent il faut absolument posséder une conscience. Les philosophes depuis Descartes répondent en général que la conscience est incontournable, le cogito cartésien est l’emblème même de cette sollicitation, conscience comme support de toutes les facultés cognitives que nous déployons, si je peux rêver, si je peux me souvenir, si je peux imaginer, si je peux parler c’est parce qu’il y a un sujet qui est au fond de moi et qui est une conscience. Un robot ne pourra jamais prétendre déployer une intelligence de type humain. Reste que dans la tradition on s’est souvent posé la question de savoir si Descartes avait bien raison, si la conscience était absolument indispensable pour supporter des comportements intelligents et un philosophe qui s’appelle Hume au XVIIe siècle a élaboré une théorie qui intéresse énormément les roboticiens d’aujourd’hui. Pour lui la connaissance résulte d’impressions sensibles qui nous viennent du monde extérieur, de stimuli qui ont la vertu de s’organiser un peu comme les atomes dans le système de Newton arrivent à s’organiser pour constituer notre univers et pour Hume ce que l’on appelle la conscience ce pourrait être une sorte de point fictif, une espèce de centre de gravité qui organiserait en quelque sorte toutes les impressions qui nous viennent du monde et qui nous doterait des connaissances dont nous avons besoin. À partir de là les roboticiens se disent que après tout, mécaniquement ils pourraient produire quelque chose qui s’apparenterait à la conscience et il ne serait pas exagérer d’imaginer qu’un robot possède l’équivalence d’une conscience parce qu’il aurait la vertu de centraliser en quelque sorte des stimuli captés par ses récepteurs, et de ce point de vue là il pourrait déployer une activité qui serait d’ordre réflexif, faire retour sur soi même. Quand on dit avoir conscience de c’est être capable de faire retour sur soi même. Les robots pourraient très bien avoir cette dimension là.

La technique constitue comme une espèce d’humiliation à notre égard, nos machines sont devenues beaucoup plus performantes que nous. Nous sommes à la traîne par apport à nos machines. Nous avons du mal à entrer dans leur format, nous avons du mal à utiliser leurs commandes. Cela va des techniques les plus élémentaires, un vulgaire magnétoscope jusqu’aux techniques les plus sophistiquées où on a le sentiment que le degré d’expertise que l’on est obligé de déployer pour être à peu près à leur hauteur est considérable. Certains philosophes n’ont pas hésité à parler d’une espèce de honte, de honte prométhéenne pour désigner cette nouvelle pathologie qui se développe dans nos sociétés et qui consiste pour nous à déplorer de n’être que des hommes par apport à des machines hyper sophistiquées. Et déjà il y a longtemps certains biologistes n’hésitaient pas à dire que si on doit améliorer l’homme biologiquement c’est essentiellement faire en sorte qu’il soit à la hauteur des machines qu’il réalise, à la hauteur de la civilisation qu’il développe ; c’est un trait de comportement, un état d’esprit qui va sans doute aller s’accélérant et qui va expliquer que de plus en plus de gens vont rêver de fusionner avec la machine, de se trouver entièrement mécanisé parce que finalement il y a un sentiment de désaffection de soi, de désamour de soi qui risque d’être insupportable.

La Corée du sud par exemple, le Japon qui développent des programmes de recherche et de réalisation de robots androïdes, et bien se sont mis en quête de réaliser une manière de charte engageant les robots dans une relation d’ordre morale et juridique. Les Coréens du sud ont produit une pareille charte qui s’est inspirée d’ailleurs de l’œuvre d’Asimov, l’auteur de Science fiction bien connu qui il y a une cinquantaine d’années avait proposé trois fameuses lois devant régir le comportement des robots. C’est intéressant de voir que l’on parle dans ce contexte de morale et de droit, de droit du robot parce qu’il est une richesse qu’il faut protéger par conséquent une couverture sociale n’est pas impensable pour le propriétaire d’un robot et de morale parce qu’il n’est pas non plus impensable que l’on dote un robot de la faculté de distinguer entre le bien et le mal de façon à ce qu’il prenne les bonnes décisions et en ce sens les drones des armées technologisées pourraient être équipées de cette faculté de discriminer entre le bien et le mal. Maintenant les robots que l’on produit, ils sont de plus en plus autonomes, ils apprennent de leur environnement, ils s’ajustent avec cet environnement et là on ne parlera plus de droit ou de morale, on parlera d’éthique des robots, comment faire en sorte que le robot puisse dans son fonctionnement intégrer des éléments qui lui permettent de s’ajuster à son environnement et à l’environnement humain, et c’est une prospective dont je constate qu’elle mobilise les armées qui réfléchissent sur l’avenir de la robotique.

Le fantasme majeur des utopies que l’on appelle « Post Humain » c’est la fusion avec la machine. C’est l’idée que dans un avenir lointain, nous pourrions de plus en plus intégrer en nous des techniques qui feront de nous d’abord des ciborgs et qui peu à peu pourrait nous faire basculer intégralement du côté de la machine. C’est évidemment un fantasme mais un fantasme qui en dit long, qui dit que l’on éprouve le besoin de dépasser les limites qui sont celles de l’humanité ou pour parler comme les philosophes, on rêve d’en finir avec la finitude qui est la nôtre. Cette finitude en quoi consiste elle, elle consiste dans le fait que nous soyons contraints à admettre par hasard du fait de la rencontre aléatoire de gamètes et de spermatozoïdes, le fait que nous soyons des êtres appelés à souffrir, que nous soyons des êtres appelés à vieillir et que nous soyons des êtres appelés à mourir. L’ensemble des technologies qui convergent aujourd’hui sont animées de l’ambition de supprimer la naissance, la souffrance, le vieillissement et de supprimer au bout du compte la mort. Donc cette espèce d’idée que le seul avenir pensable pour l’humanité serait le dépassement dans l’univers des machines, c’est une idée qui aujourd’hui prend forme, qui fait l’objet de la science fiction, qui fait l’objet également de prophéties futurologiques que les scientifiques écoutent de plus en plus avec une oreille attentive. L’un des grands théoriciens de la chose s’appellent Ray Kurzweil, il appelle la singularité avec un grand S le moment où nous basculeront du coté du non biologique, nous inventeront une intelligence qui sera non biologique et qui rendra notre intelligence humaine parfaitement superflue, d’autres préfèrent s’en remettre à la mystique de Teilhard de Chardin, le père jésuite qui a inventé l’idée d’un point omega correspondant au moment où la conscience pourrait se débarrasser enfin du corps, se dématérialiser intégralement et réaliser une espèce de fusion comme on en trouve dans toutes les mystiques. Donc cette idée de faire de la machine ce futur de l’homme, c’est un des fantasmes essentiels qui traverse notre imaginaire contemporain.