mercredi 25 novembre 2015

Accueil > Les rubriques > Société > Nos amis les robots

Nos amis les robots

Charte éthique des robots de la Corée du sud

, Yves Gellie

La présente Charte a été rédigée afin d’éviter les problèmes de société qui pourraient découler de mesures sociales et juridiques inadéquates prises pour encadrer l’existence de robots dans la société. Elle a été publiée en France dans le livre Human Version d’Yves Gellie, Ed LOCO.

première Partie

Normes de fabrication

  1. a) Les fabricants de robots doivent veiller à ce que l’autonomie des robots qu’ils conçoivent soit limitée, afin qu’il soit toujours possible pour un être humain de prendre le contrôle d’un robot dans le cas où cela deviendrait nécessaire.
  2. b) Les fabricants de robots doivent respecter des normes strictes de contrôle de la qualité, en veillant à ce que toutes les mesures raisonnables soient prises afin de réduire les risques de décès ou de blessure pour l’utilisateur et garantir la sécurité de la population.
  3. c) Les fabricants de robots doivent prendre des mesures pour réduire le risque de dommage psychologique pouvant être causé aux utilisateurs. A cette fin, « dommage psychologique » signifie la probabilité pour le robot d’être la cause de comportements antisociaux ou sociopathes, de dépression ou d’anxiété, de stress, et en particulier d’addictions (telles que la dépendance au jeu).
  4. d) Les fabricants de robots doivent s’assurer que leur produit est clairement identifiable, et que cette identification est protégée contre toute altération.
  5. e) Les robots doivent être conçus de manière à protéger les données à caractère personnel par des moyens de cryptage et de stockage sécurisé.
  6. f) Les robots doivent être conçus de manière à permettre la traçabilité de leurs actions (aussi bien dans le monde virtuel que dans le monde réel) à tout moment.
  7. g) La conception des robots doit s’inscrire dans une démarche écologiquement responsable et pérenne.
deuxième Partie

Droits et devoirs des utilisateurs / propriétaires

Section 1
Droit au respect de sa mémoire

  • I) Les propriétaires ont le droit d’être en mesure de prendre le contrôle de leur robot.
  • II) Les propriétaires et les utilisateurs ont le droit d’utiliser leur robot sans risque ou crainte de dommage physique ou psychologique.
  • III) Les utilisateurs ont le droit à la sécurité de leurs données à caractère personnel et de leurs autres informations sensibles.
  • IV) Les propriétaires et les utilisateurs ont le droit d’attendre d’un robot qu’il effectue toutes les tâches pour lesquelles il a été expressément conçu (sous réserve de l’article 2 de la présente Charte).

Section 2
Devoirs des propriétaires et des utilisateurs

La présente Charte reconnaît le droit de l’utilisateur à utiliser un robot comme bon lui semble, pour autant que cette utilisation reste « juste » et « légale » dans les limites fixées par la loi.
En conséquence :

  • I) Un utilisateur s’interdit d’utiliser un robot pour commettre un acte illégal.
  • II) Un utilisateur s’interdit d’utiliser un robot d’une manière qui peut être interprétée comme causant un dommage physique ou psychologique aux personnes physiques.
  • III) Le propriétaire doit prendre des « précautions raisonnables » afin de s’assurer que son robot ne constitue pas une menace pour la sécurité et l’intégrité physique ou la propriété des personnes.

Section 3
Les actes suivants constituent une infraction à la loi coréenne

  • I) Endommager ou détruire délibérément un robot.
  • II) Permettre, par négligence grave, à un robot de subir un dommage.
  • III) Constitue une infraction mineure, mais sérieuse, le fait de traiter un robot d’une manière qui peut être interprétée comme délibérément et excessivement abusive.
troisième Partie

Droits et devoirs des robots

Section 1
Devoirs des robots

  • I) Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain soit exposé au danger.
  • II) Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Partie 3, Section 1, paragraphe « i » de la présente Charte.
  • III) Un robot ne doit pas tromper un être humain.

Section 2
Droits des robots
Conformément à la loi coréenne, les robots jouissent des droits fondamentaux suivants :

  • I) Le droit d’exister sans crainte de blessures ou la mort.
  • II) Le droit de vivre une existence exempte de violence systématique.

Convention sur la roboéthique 2025 de l’union européenne

(Sur la base des recommandations de EURON Roboéthics Roadmap -Veruggio 2006)

Préambule :
Aux termes de la ratification de la présente Convention :

  1. Résolution 1 : Les États membres établissent des comités de normalisation ayant pour mission de fixer les règles techniques et juridiques applicables aux robots commerciaux. Si les détails de ces règles sont soumis au contexte et aux besoins de la législation de chaque État membre, la présente Convention dispose que les éléments suivants constituent le socle minimum d’une norme de qualité internationale.
  2. Résolution 2 : La roboéthique est instaurée comme un domaine de recherche du Groupe européen d’éthique.
  3. Résolution 3 : L’UE met en place un Pôle d’intérêt commun (RSI) spécialisé dans la mise en œuvre et la réglementation de la roboéthique.

Article 1
Normes européennes
Les éléments suivants doivent être mis en œuvre pour tous les robots, quel que soit leur type.

  • 1.1 Sûreté : Les robots doivent être conçus de manière à inclure des dispositions permettant de contrôler de l’autonomie du robot. Les exploitants doivent être en mesure de limiter l’autonomie des robots dans des cas où le comportement des robots ne peut être garanti.
  • 1.2 Sécurité : Les robots doivent être conçus de manière à inclure a minima des clés de protection matérielles et logicielles permettant d’éviter toute utilisation illégale du robot.
  • 1.3 Traçabilité : Les robots doivent être conçus de manière à permettre la traçabilité complète de toutes les actions réalisées par les robots, de manière analogue au système de « boîte noire » utilisé dans le secteur aéronautique.
  • 1.4 Identification : Tous les robots doivent être conçus avec des numéros de série et d’identification protégés.
  • 1.5 Confidentialité : Tous les robots qui peuvent potentiellement mettre en œuvre des traitements d’informations à caractère personnel sensibles doivent être équipés de systèmes matériels et logiciels permettant de chiffrer et de stocker ces données privées en toute sécurité.

Article 2
Systèmes de production avancés

  • 2.1 Les gouvernements doivent mettre en place des systèmes de protection visant à faciliter la reconversion des travailleurs dont l’emploi serait supprimé à la suite de l’introduction d’’innovations technologiques ou remplacé par des systèmes automatisés.
  • 2.2 Les États membres doivent offrir aux travailleurs victimes de ces suppressions d’emploi une formation leur permettant d’acquérir les compétences nécessaires afin de rendre possible leur reconversion dans de nouvelles fonctions.

Article 3
Robots domestiques

  • 3.1 Les États membres doivent se conformer aux normes de sécurité et de sûreté convenues pour la production de robots domestiques adaptatifs.
  • 3.2 Les États membres sont tenus d’établir un système de suivi et d’aider au maintien de la santé mentale des individus qui sont sous la garde des robots domestiques.

Article 4
Roboéthique dans un environnement extérieur

  • 4.1 Les États membres devraient mettre en place une autorité de régulation indépendante chargée de veiller à ce que les considérations environnementales sont respectées par les utilisateurs et les fabricants de robots utilisés dans un environnement extérieur.
  • 4.2 Les fabricants doivent établir et tenir à jour des rapports d’incidences environnementales sur les robots utilisés dans un environnement extérieur et les communiquer à l’autorité de régulation.

Article 5
Roboéthique dans le domaine de la santé

  • 5.1 Les États membres doivent mettre en place un comité transversal composé de membres des communautés de la roboéthique et de la bioéthique.
  • 5.2 Ce comité transversal a pour mission de s’assurer du respect des normes de sécurité et de sûreté les plus strictes.

Article 6
Roboéthique dans le domaine miliaire

  • 6.1 Les robots militaires doivent respecter les réglementations internationales.
  • 6.2 Les États membres doivent s’efforcer de favoriser la réflexion critique et la sensibilisation des scientifiques travaillant dans le domaine de la robotique et intervenant dans des projets militaires dans le but de renforcer leur surveillance des risques potentiels pour l’humanité.

Article 7
Roboéthique dans le domaine du divertissement éducatif

  • 7.2 Les effets de la robotique utilisée dans le cadre de l’enseignement des élèves doivent être régulièrement surveillés.
  • 7.3 Une évaluation des effets psychologiques de la robotique sur le développement de la petite enfance doit être effectuée régulièrement.
  • 7.3 Les organisations de consommateurs devraient surveiller la qualité des produits robotiques dans le domaine de l’enseignement, en gardant à l’esprit l’article 1 de la présente Convention.

Charte des droits des robots

(en devenir)
Alain Bensoussan

Chapitre I - Dignité

Article 1
Droit au respect de sa mémoire

Les informations mémorisées par un robot doivent être protégées contre toute altération ou destruction. Elles constituent un patrimoine correspondant à l’histoire de l’homme

Chapitre II - Identité

Article 2
Machine ou robot : le test de la décision

Une machine n’est qualifiable de robot que si et seulement si elle est capable de prendre une décision dans un environnement complexe en toute liberté au regard des algorithmes et processus dont elle a la libre disponibilité

Article 3
Le droit au numéro d’identification

  • 1. L’identification des robots est obligatoire par un numéro établit conformément au système d’identification des personnes physiques.
  • 2. Numéro d’inscription au répertoire d’identification national : code 1 affecté aux hommes, 2 aux femmes, 3 aux robots.
Chapitre III - Responsabilité

Article 4
Le droit à la responsabilité composite
En cas d’impossibilité de partage, la responsabilité du robot implique de manière solidaire le concepteur et le fabricant, ainsi que les concepteurs et réalisateurs des logiciels permettant une prise de décision par le robot.

HUMAN VERSION
YVES GELLIE
Robots. La seule évocation de ce mot suffit à faire surgir tout un imaginaire nourri, depuis Mary Shelley, par une littérature bientôt reconnue sous le genre de la science-fiction, et entretenu par une filmographie qu’on ne compte plus. Yves Gellie a commencé en 2008 à visiter les grands laboratoires scientifiques qui développent un programme de robotique humanoïde à travers le monde. Il découvre l’univers dans lequel prennent forme, et donc vie, ces avatars androïdes que l’on destine, entre autres, aux secteurs de l’armée, de la santé ou de l’aide à la personne. La réalité dépasse souvent la fiction et les photographies qu’il rapporte de son investigation dans le milieu de la recherche, sont de véritables portraits – excluant souvent la présence humaine – pris dans l’environnement du laboratoire, jardin originel où est en train de naître une nouvelle espèce. Paradoxalement, les préoccupations des chercheurs rejoignent aujourd’hui celles imaginées par la science-fiction ; en 2007, le parlement coréen s’est inspiré de l’œuvre d’Isaac Asimov pour formaliser une série de lois instituant les relations entre l’homme et le robot !
Conçu comme un véritable livre d’artiste, le lecteur découvre après un préambule législatif, les photographies d’Yves Gellie reproduites en grand format, suivies d’un entretien entre le photographe et le philosophe Jean-Michel Besnier.

Cet ouvrage a été publié avec le soutien du Fonds de dotation agnès b, et de la société Fiber.

Human version
28 x 35 cm, 60 pages, 24 reproductions en quadrichromie, couverture reliée plein papier + marquage
Texte bilingue : français / english
isbn 978-2-919507-19-1
ISBN : 978-2-919507-19-1