TK-21

Nos amis les robots

Yves Gellie — 2015-11-25T17:13:37Z

La présente Charte a été rédigée afin d'éviter les problèmes de société qui pourraient découler de mesures sociales et juridiques inadéquates prises pour encadrer l'existence de robots dans la société. Elle a été publiée en France dans le livre Human Version d'Yves Gellie, Ed LOCO.

première Partie

Normes de fabrication

a) Les fabricants de robots doivent veiller à ce que l'autonomie des robots qu'ils conçoivent soit limitée, afin qu'il soit toujours possible pour un être humain de prendre le contrôle d'un robot dans le cas où cela deviendrait nécessaire.
b) Les fabricants de robots doivent respecter des normes strictes de contrôle de la qualité, en veillant à ce que toutes les mesures raisonnables soient prises afin de réduire les risques de décès ou de blessure pour l'utilisateur et garantir la sécurité de la population.
c) Les fabricants de robots doivent prendre des mesures pour réduire le risque de dommage psychologique pouvant être causé aux utilisateurs. A cette fin, « dommage psychologique » signifie la probabilité pour le robot d'être la cause de comportements antisociaux ou sociopathes, de dépression ou d'anxiété, de stress, et en particulier d'addictions (telles que la dépendance au jeu).
d) Les fabricants de robots doivent s'assurer que leur produit est clairement identifiable, et que cette identification est protégée contre toute altération.
e) Les robots doivent être conçus de manière à protéger les données à caractère personnel par des moyens de cryptage et de stockage sécurisé.
f) Les robots doivent être conçus de manière à permettre la traçabilité de leurs actions (aussi bien dans le monde virtuel que dans le monde réel) à tout moment.
g) La conception des robots doit s'inscrire dans une démarche écologiquement responsable et pérenne.

deuxième Partie

Droits et devoirs des utilisateurs / propriétaires

Section 1
Droit au respect de sa mémoire

I) Les propriétaires ont le droit d'être en mesure de prendre le contrôle de leur robot.
II) Les propriétaires et les utilisateurs ont le droit d'utiliser leur robot sans risque ou crainte de dommage physique ou psychologique.
III) Les utilisateurs ont le droit à la sécurité de leurs données à caractère personnel et de leurs autres informations sensibles.
IV) Les propriétaires et les utilisateurs ont le droit d'attendre d'un robot qu'il effectue toutes les tâches pour lesquelles il a été expressément conçu (sous réserve de l'article 2 de la présente Charte).

Section 2
Devoirs des propriétaires et des utilisateurs

La présente Charte reconnaît le droit de l'utilisateur à utiliser un robot comme bon lui semble, pour autant que cette utilisation reste « juste » et « légale » dans les limites fixées par la loi.
En conséquence :

I) Un utilisateur s'interdit d'utiliser un robot pour commettre un acte illégal.
II) Un utilisateur s'interdit d'utiliser un robot d'une manière qui peut être interprétée comme causant un dommage physique ou psychologique aux personnes physiques.
III) Le propriétaire doit prendre des « précautions raisonnables » afin de s'assurer que son robot ne constitue pas une menace pour la sécurité et l'intégrité physique ou la propriété des personnes.

Section 3
Les actes suivants constituent une infraction à la loi coréenne

I) Endommager ou détruire délibérément un robot.
II) Permettre, par négligence grave, à un robot de subir un dommage.
III) Constitue une infraction mineure, mais sérieuse, le fait de traiter un robot d'une manière qui peut être interprétée comme délibérément et excessivement abusive.

troisième Partie

Droits et devoirs des robots

Section 1
Devoirs des robots

I) Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu'un être humain soit exposé au danger.
II) Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Partie 3, Section 1, paragraphe « i » de la présente Charte.
III) Un robot ne doit pas tromper un être humain.

Section 2
Droits des robots
Conformément à la loi coréenne, les robots jouissent des droits fondamentaux suivants :

I) Le droit d'exister sans crainte de blessures ou la mort.
II) Le droit de vivre une existence exempte de violence systématique.

Convention sur la roboéthique 2025 de l'union européenne

(Sur la base des recommandations de EURON Roboéthics Roadmap -Veruggio 2006)

Préambule :
Aux termes de la ratification de la présente Convention :

Résolution 1 : Les États membres établissent des comités de normalisation ayant pour mission de fixer les règles techniques et juridiques applicables aux robots commerciaux. Si les détails de ces règles sont soumis au contexte et aux besoins de la législation de chaque État membre, la présente Convention dispose que les éléments suivants constituent le socle minimum d'une norme de qualité internationale.
Résolution 2 : La roboéthique est instaurée comme un domaine de recherche du Groupe européen d'éthique.
Résolution 3 : L'UE met en place un Pôle d'intérêt commun (RSI) spécialisé dans la mise en œuvre et la réglementation de la roboéthique.

Article 1
Normes européennes
Les éléments suivants doivent être mis en œuvre pour tous les robots, quel que soit leur type.

1.1 Sûreté : Les robots doivent être conçus de manière à inclure des dispositions permettant de contrôler de l'autonomie du robot. Les exploitants doivent être en mesure de limiter l'autonomie des robots dans des cas où le comportement des robots ne peut être garanti.
1.2 Sécurité : Les robots doivent être conçus de manière à inclure a minima des clés de protection matérielles et logicielles permettant d'éviter toute utilisation illégale du robot.
1.3 Traçabilité : Les robots doivent être conçus de manière à permettre la traçabilité complète de toutes les actions réalisées par les robots, de manière analogue au système de « boîte noire » utilisé dans le secteur aéronautique.
1.4 Identification : Tous les robots doivent être conçus avec des numéros de série et d'identification protégés.
1.5 Confidentialité : Tous les robots qui peuvent potentiellement mettre en œuvre des traitements d'informations à caractère personnel sensibles doivent être équipés de systèmes matériels et logiciels permettant de chiffrer et de stocker ces données privées en toute sécurité.

Article 2
Systèmes de production avancés

2.1 Les gouvernements doivent mettre en place des systèmes de protection visant à faciliter la reconversion des travailleurs dont l'emploi serait supprimé à la suite de l'introduction d''innovations technologiques ou remplacé par des systèmes automatisés.
2.2 Les États membres doivent offrir aux travailleurs victimes de ces suppressions d'emploi une formation leur permettant d'acquérir les compétences nécessaires afin de rendre possible leur reconversion dans de nouvelles fonctions.

Article 3
Robots domestiques

3.1 Les États membres doivent se conformer aux normes de sécurité et de sûreté convenues pour la production de robots domestiques adaptatifs.
3.2 Les États membres sont tenus d'établir un système de suivi et d'aider au maintien de la santé mentale des individus qui sont sous la garde des robots domestiques.

Article 4
Roboéthique dans un environnement extérieur

4.1 Les États membres devraient mettre en place une autorité de régulation indépendante chargée de veiller à ce que les considérations environnementales sont respectées par les utilisateurs et les fabricants de robots utilisés dans un environnement extérieur.
4.2 Les fabricants doivent établir et tenir à jour des rapports d'incidences environnementales sur les robots utilisés dans un environnement extérieur et les communiquer à l'autorité de régulation.

Article 5
Roboéthique dans le domaine de la santé

5.1 Les États membres doivent mettre en place un comité transversal composé de membres des communautés de la roboéthique et de la bioéthique.
5.2 Ce comité transversal a pour mission de s'assurer du respect des normes de sécurité et de sûreté les plus strictes.

Article 6
Roboéthique dans le domaine miliaire

6.1 Les robots militaires doivent respecter les réglementations internationales.
6.2 Les États membres doivent s'efforcer de favoriser la réflexion critique et la sensibilisation des scientifiques travaillant dans le domaine de la robotique et intervenant dans des projets militaires dans le but de renforcer leur surveillance des risques potentiels pour l'humanité.

Article 7
Roboéthique dans le domaine du divertissement éducatif

7.2 Les effets de la robotique utilisée dans le cadre de l'enseignement des élèves doivent être régulièrement surveillés.
7.3 Une évaluation des effets psychologiques de la robotique sur le développement de la petite enfance doit être effectuée régulièrement.
7.3 Les organisations de consommateurs devraient surveiller la qualité des produits robotiques dans le domaine de l'enseignement, en gardant à l'esprit l'article 1 de la présente Convention.

Charte des droits des robots

(en devenir)
Alain Bensoussan

Chapitre I - Dignité

Article 1
Droit au respect de sa mémoire

Les informations mémorisées par un robot doivent être protégées contre toute altération ou destruction. Elles constituent un patrimoine correspondant à l'histoire de l'homme

Chapitre II - Identité

Article 2
Machine ou robot : le test de la décision

Une machine n'est qualifiable de robot que si et seulement si elle est capable de prendre une décision dans un environnement complexe en toute liberté au regard des algorithmes et processus dont elle a la libre disponibilité

Article 3
Le droit au numéro d'identification

1. L'identification des robots est obligatoire par un numéro établit conformément au système d'identification des personnes physiques.
2. Numéro d'inscription au répertoire d'identification national : code 1 affecté aux hommes, 2 aux femmes, 3 aux robots.

Chapitre III - Responsabilité

Article 4
Le droit à la responsabilité composite
En cas d'impossibilité de partage, la responsabilité du robot implique de manière solidaire le concepteur et le fabricant, ainsi que les concepteurs et réalisateurs des logiciels permettant une prise de décision par le robot.

HUMAN VERSION
YVES GELLIE
Robots. La seule évocation de ce mot suffit à faire surgir tout un imaginaire nourri, depuis Mary Shelley, par une littérature bientôt reconnue sous le genre de la science-fiction, et entretenu par une filmographie qu'on ne compte plus. Yves Gellie a commencé en 2008 à visiter les grands laboratoires scientifiques qui développent un programme de robotique humanoïde à travers le monde. Il découvre l'univers dans lequel prennent forme, et donc vie, ces avatars androïdes que l'on destine, entre autres, aux secteurs de l'armée, de la santé ou de l'aide à la personne. La réalité dépasse souvent la fiction et les photographies qu'il rapporte de son investigation dans le milieu de la recherche, sont de véritables portraits – excluant souvent la présence humaine – pris dans l'environnement du laboratoire, jardin originel où est en train de naître une nouvelle espèce. Paradoxalement, les préoccupations des chercheurs rejoignent aujourd'hui celles imaginées par la science-fiction ; en 2007, le parlement coréen s'est inspiré de l'œuvre d'Isaac Asimov pour formaliser une série de lois instituant les relations entre l'homme et le robot !
Conçu comme un véritable livre d'artiste, le lecteur découvre après un préambule législatif, les photographies d'Yves Gellie reproduites en grand format, suivies d'un entretien entre le photographe et le philosophe Jean-Michel Besnier.

Cet ouvrage a été publié avec le soutien du Fonds de dotation agnès b, et de la société Fiber.

Human version
28 x 35 cm, 60 pages, 24 reproductions en quadrichromie, couverture reliée plein papier + marquage
Texte bilingue : français / english
isbn 978-2-919507-19-1
ISBN : 978-2-919507-19-1

Demain les posthumains

Jean-Michel Besnier et Yves Gellie — 2015-09-22T23:01:18Z

Depuis 2008, Yves Gellie explore l'univers des laboratoires de recherche scientifique attachés au développement des plates-formes humanoïdes.
Les robots nous questionnent sur le devenir de l'humain, sur le regard qu'il pose sur lui-même, sur sa conscience, son évolution, son futur et sa finitude.
« La honte prométhéenne affecte ceux d'entre les hommes qui réalisent avec accablement combien ils sont faibles, comparés à leur machines » Günther Anders.

Réalisation et copyright : Yves Gellie et Seamus Haley

Les robots que l'on entreprend de construire aujourd'hui sont destinés à nous rendre des services au quotidien. Ils seront destinés probablement à garder nos enfants, à garder nos vieux parents. Outre les gestes qu'ils sauront accomplir pour rendre ces services, on les dote de facultés d'imiter des émotions, de simuler eux-mêmes des émotions, ils utilisent un langage de plus en plus étendu, on peut échanger avec eux, on comprend bien que de ce point de vue-là, la relation que l'on va établir avec ces robots sera d'un autre ordre que la relation que l'on entretient avec un frigidaire ou avec une machine à laver. On peut donc parler sans abus de langage d'une relation d'ordre morale avec ces robots. Ces robots appellent quelque chose comme un dialogue. Il y a morale à partir du moment où il y a dialogue. On se dit que ces robots constituent comme une espèce de point de vue sur le monde, un petit peu à l'image des animaux dont on a souvent l'impression qu'ils ont des arrières-pensés lorsqu'ils nous regardent et qu'ils se font une opinion sur l'environnement dans lequel ils se trouvent. Donc une relation morale avec le robot n'est pas impensable. De même qu'une relation d'ordre politique ne l'est pas non plus car ces robots interagiront de plus en plus avec le monde des humains et on aura peut-être à négocier des relations, des modalités de contacts avec eux.

J'avais été frappé par le témoignage d'un soldat américain qui au cours de la guerre d'Iraq déclarait avoir voulu que l'on répare leur robot et non pas qu'on leur change parce qu'ils considéraient qu'ils avaient entretenu avec lui une manière d'attachement affectif et cette espèce de retour de comportements animistes liés à la présence de robots humanoïdes ou androïdes va aller s'accélérant, c'est pratiquement sûr.

Une des questions que se posent les roboticiens qui cherchent à réaliser avec des machines des comportements intelligents, c'est de se demander si le fait que les hommes possèdent une conscience n'est pas un handicap qui rendra définitivement les machines inférieures aux compétences que les hommes peuvent déployer, est-ce que pour être intelligent il faut absolument posséder une conscience. Les philosophes depuis Descartes répondent en général que la conscience est incontournable, le cogito cartésien est l'emblème même de cette sollicitation, conscience comme support de toutes les facultés cognitives que nous déployons, si je peux rêver, si je peux me souvenir, si je peux imaginer, si je peux parler c'est parce qu'il y a un sujet qui est au fond de moi et qui est une conscience. Un robot ne pourra jamais prétendre déployer une intelligence de type humain. Reste que dans la tradition on s'est souvent posé la question de savoir si Descartes avait bien raison, si la conscience était absolument indispensable pour supporter des comportements intelligents et un philosophe qui s'appelle Hume au XVIIe siècle a élaboré une théorie qui intéresse énormément les roboticiens d'aujourd'hui. Pour lui la connaissance résulte d'impressions sensibles qui nous viennent du monde extérieur, de stimuli qui ont la vertu de s'organiser un peu comme les atomes dans le système de Newton arrivent à s'organiser pour constituer notre univers et pour Hume ce que l'on appelle la conscience ce pourrait être une sorte de point fictif, une espèce de centre de gravité qui organiserait en quelque sorte toutes les impressions qui nous viennent du monde et qui nous doterait des connaissances dont nous avons besoin. À partir de là les roboticiens se disent que après tout, mécaniquement ils pourraient produire quelque chose qui s'apparenterait à la conscience et il ne serait pas exagérer d'imaginer qu'un robot possède l'équivalence d'une conscience parce qu'il aurait la vertu de centraliser en quelque sorte des stimuli captés par ses récepteurs, et de ce point de vue là il pourrait déployer une activité qui serait d'ordre réflexif, faire retour sur soi même. Quand on dit avoir conscience de c'est être capable de faire retour sur soi même. Les robots pourraient très bien avoir cette dimension là.

La technique constitue comme une espèce d'humiliation à notre égard, nos machines sont devenues beaucoup plus performantes que nous. Nous sommes à la traîne par apport à nos machines. Nous avons du mal à entrer dans leur format, nous avons du mal à utiliser leurs commandes. Cela va des techniques les plus élémentaires, un vulgaire magnétoscope jusqu'aux techniques les plus sophistiquées où on a le sentiment que le degré d'expertise que l'on est obligé de déployer pour être à peu près à leur hauteur est considérable. Certains philosophes n'ont pas hésité à parler d'une espèce de honte, de honte prométhéenne pour désigner cette nouvelle pathologie qui se développe dans nos sociétés et qui consiste pour nous à déplorer de n'être que des hommes par apport à des machines hyper sophistiquées. Et déjà il y a longtemps certains biologistes n'hésitaient pas à dire que si on doit améliorer l'homme biologiquement c'est essentiellement faire en sorte qu'il soit à la hauteur des machines qu'il réalise, à la hauteur de la civilisation qu'il développe ; c'est un trait de comportement, un état d'esprit qui va sans doute aller s'accélérant et qui va expliquer que de plus en plus de gens vont rêver de fusionner avec la machine, de se trouver entièrement mécanisé parce que finalement il y a un sentiment de désaffection de soi, de désamour de soi qui risque d'être insupportable.

La Corée du sud par exemple, le Japon qui développent des programmes de recherche et de réalisation de robots androïdes, et bien se sont mis en quête de réaliser une manière de charte engageant les robots dans une relation d'ordre morale et juridique. Les Coréens du sud ont produit une pareille charte qui s'est inspirée d'ailleurs de l'œuvre d'Asimov, l'auteur de Science fiction bien connu qui il y a une cinquantaine d'années avait proposé trois fameuses lois devant régir le comportement des robots. C'est intéressant de voir que l'on parle dans ce contexte de morale et de droit, de droit du robot parce qu'il est une richesse qu'il faut protéger par conséquent une couverture sociale n'est pas impensable pour le propriétaire d'un robot et de morale parce qu'il n'est pas non plus impensable que l'on dote un robot de la faculté de distinguer entre le bien et le mal de façon à ce qu'il prenne les bonnes décisions et en ce sens les drones des armées technologisées pourraient être équipées de cette faculté de discriminer entre le bien et le mal. Maintenant les robots que l'on produit, ils sont de plus en plus autonomes, ils apprennent de leur environnement, ils s'ajustent avec cet environnement et là on ne parlera plus de droit ou de morale, on parlera d'éthique des robots, comment faire en sorte que le robot puisse dans son fonctionnement intégrer des éléments qui lui permettent de s'ajuster à son environnement et à l'environnement humain, et c'est une prospective dont je constate qu'elle mobilise les armées qui réfléchissent sur l'avenir de la robotique.

Le fantasme majeur des utopies que l'on appelle « Post Humain » c'est la fusion avec la machine. C'est l'idée que dans un avenir lointain, nous pourrions de plus en plus intégrer en nous des techniques qui feront de nous d'abord des ciborgs et qui peu à peu pourrait nous faire basculer intégralement du côté de la machine. C'est évidemment un fantasme mais un fantasme qui en dit long, qui dit que l'on éprouve le besoin de dépasser les limites qui sont celles de l'humanité ou pour parler comme les philosophes, on rêve d'en finir avec la finitude qui est la nôtre. Cette finitude en quoi consiste elle, elle consiste dans le fait que nous soyons contraints à admettre par hasard du fait de la rencontre aléatoire de gamètes et de spermatozoïdes, le fait que nous soyons des êtres appelés à souffrir, que nous soyons des êtres appelés à vieillir et que nous soyons des êtres appelés à mourir. L'ensemble des technologies qui convergent aujourd'hui sont animées de l'ambition de supprimer la naissance, la souffrance, le vieillissement et de supprimer au bout du compte la mort. Donc cette espèce d'idée que le seul avenir pensable pour l'humanité serait le dépassement dans l'univers des machines, c'est une idée qui aujourd'hui prend forme, qui fait l'objet de la science fiction, qui fait l'objet également de prophéties futurologiques que les scientifiques écoutent de plus en plus avec une oreille attentive. L'un des grands théoriciens de la chose s'appellent Ray Kurzweil, il appelle la singularité avec un grand S le moment où nous basculeront du coté du non biologique, nous inventeront une intelligence qui sera non biologique et qui rendra notre intelligence humaine parfaitement superflue, d'autres préfèrent s'en remettre à la mystique de Teilhard de Chardin, le père jésuite qui a inventé l'idée d'un point omega correspondant au moment où la conscience pourrait se débarrasser enfin du corps, se dématérialiser intégralement et réaliser une espèce de fusion comme on en trouve dans toutes les mystiques. Donc cette idée de faire de la machine ce futur de l'homme, c'est un des fantasmes essentiels qui traverse notre imaginaire contemporain.

Voir en ligne : Site d'Yves Gellie

/Users/jlp/Desktop/carte com-humanversion[3].pdfHUMAN VERSION
YVES GELLIE EXPOSITION
Du 3 au 25 octobre 2015
Galerie de l'École des Beaux-arts
11 rue Saint Simon
entrée libre tlj 15/19h
Versailles

Autour de l'exposition
Visites commentées de l'exposition
Galerie de l'École des Beaux-arts
11 rue de l'École des Beaux-arts
Samedi xoxo et dimanche xoxoxo octobre horaires
Réservation pour les visites commentées : 01 39 49 49 80 galerie.beaux-arts@versailles.fr
rencontres et tables rondes
Atelier numérique / 8 rue Saint Simon
– Mardi 13 octobre à 19h30 : « Le robot est-il le meilleur ami de l'homme ? » Réflexion autour de l'intelligence artificielle, de ses différentes applications et de son interaction avec l'être humain.
Participants : Alain Bensoussan, avocat spécialiste de l'intelligence artificielle, Jean Gabriel Ganascia, spécialiste de l'intelligence artificielle, Paris 6, Frédéric Delaunay, roboticien / Yves Gellie, artiste photographe.
– Mardi 20 octobre à 19h30 : « A quoi rêvent les robots ? » Réflexion autour d'une éthique de la robotique et posera la question d'une « conscience artificielle » comme continuité logique de « l'intelligence » du même nom.
Participants : Isabelle Jarry, romancière / Jean Marie Besnier, philosophe Abderrahmane Kheddar, roboticien. Modératrice : Annie Kahn, journaliste au Monde
– Jeudi 22 octobre 19h30 : Rencontre We Demain « Robo- tisation, intelligence artificielle... vous ne travaillerez plus jamais comme avant » Rencontre animée par François Siegel, directeur de la rédaction de We Demain et Antoine Lannuzel, rédacteur en chef adjoint. Participants : avec Yacine Ait Kaci auteur, réalisateur et metteur en scène et Jean-Michel Billaut, président fondateur de L'Atelier BNP Paribas.