La robotique et la cybernétique

De Wiki Science ouverte

Les conséquences éthiques et politiques du développement des systèmes autonomes (cybernétique et robotique)

Caroline Dufresne, 2012

Mise en contexte

Depuis la révolution électronique, des chercheurs tentent de construire des machines capables de simuler des êtres vivants ou d’accomplir des tâches pour aider les humains. On n’a qu’à penser aux aspirateurs autonomes, aux appareils volants sans pilote (drones), en passant par les rames de métro sans chauffeur et les « mules » (BigDog par exemple), destinées à accompagner les soldats en transportant du matériel sur des terrains impraticables pour les véhicules et à mener des opérations d'observation. Selon un rapport publié en 2009 par la Royal Academy of Engineering, les systèmes autonomes se multiplieront dans les prochaines années. Ces systèmes autonomes peuvent fonctionner sans l’intervention d’un opérateur humain; certains peuvent même fonctionner de manière intelligente et prendre des décisions.

Que ce soit dans les domaines de la santé, militaire, domestique ou industriel, ces technologies présentent a priori de grands bénéfices. Toutefois, de nombreuses questions peuvent être soulevées. Par exemple la notion de responsabilité est floue, tel que rapporté dans un document de l’École Polytechnique fédérale de Lausanne sur l’éthique robotique : « Du point de vue légal, pour que la responsabilité existe il faut que l’agent responsable ait le contrôle de son comportements et de ses conséquences. […] Pour les machines, le droit considère ainsi traditionnellement que c’est celui qui contrôle la machine qui est responsable, pour autant que le fonctionnement soit conforme aux spécifications. En cas de problème, c’est le fabricant qui assume ce rôle. Il est ainsi possible de transférer la responsabilité d’un agent vers un autre, un autre exemple de ceci étant le passage de la responsabilité du fabricant à l’utilisateur au travers du manuel ».

Outre la notion de responsabilité juridique liée à l'utilisation de ces systèmes autonomes en cas d'accident et d'impacts sur l'environnement ou la santé, il importe de bien réfléchir aux problèmes pouvant résulter de l’utilisation accrue de systèmes autonomes. En effet, les robots peuvent certes accomplir les tâches pénibles ou répétitives et augmenter la productivité dans des tâches d’assemblage. Mais il y a un coût à l’entretien des robots. Ce coût est-il acceptable ? Est-on prêt à prendre le virage technologique visant à utiliser massivement les robots et autres systèmes autonomes pour augmenter notre compétitivité par rapport aux économies basées sur la main-d’œuvre à bon marché ? Veut-on laisser les systèmes autonomes apprendre par eux-mêmes sans vérifier l’apprentissage qu’ils ont pu faire? Jusqu’à quel point veut-on laisser les robots collaborer avec les humains sans mettre la sécurité de ces derniers en danger (jusqu’à quel point est-on prêt à « faire confiance » aux robots) : est-on prêt à laisser les robots d’assistance s’occuper des humains (par exemple dans des maisons de retraite)? Est-on prêt à laisser un robot effectuer une chirurgie simple, au risque qu’il se brise durant la procédure ou prenne une mauvaise « décision »?

Plusieurs percées en robotique et cybernétique verront le jour dans la prochaine décennie… Malgré des avantages visibles, il est primordial d’analyser chaque situation afin de déceler les effets collatéraux possibles, notamment sur les humains et l’environnement.

Exemples

Robots compagnon et d'assistance

« Nous sommes peut-être sur le point de vivre dans un futur dans lequel nous aurons des robots personnels de ce genre, des robots qui ressembleront à des êtres humains, et qui tiendront lieu de ce que nous appelons esclaves, serviteurs… et qui nous libérerons. Pour la première fois, nous sommes sur le point d’être libres, vraiment et véritablement libres, l’humanité dans globalité », annonçait Isaac Asimov, l’inventeur du terme robotique.

Sachant que les populations mondiales sont vieillissantes et qu’il faudra développer des structures pour prendre en charge ces personnes, la création d’un robot compagnon (ou robot d’assistance) est une solution justifiée économiquement. Ce robot, au cours du temps, deviendra plus complexe, plus autonome et plus humain, dans son fonctionnement si ce n’est de son apparence. D’ailleurs, l’université d’Okayama a mis au point un robot interactif humanoïde capable de simuler des réponses émotives. Ainsi, il peut changer d’expression faciale et de posture, ce qui le rend plus « humain ». Le Symbiotic System Project a, quant à lui, créé Pino, un humanoïde pouvant simuler la marche bipède qu’il a appris de lui-même. Plus récemment encore, une équipe regroupant des scientifiques de l’Université du Sussex, de Belgrade et du Laboratoire d’Intelligence Artificielle de l’Université de Zurich a mis au point un robot inspiré du corps humain (http://eccerobot.org). Ainsi, Eccerobot possède des muscles, des articulations et des os (http://www.digitaljournal.com/article/322909 et http://dailygeekshow.com/2012/04/21/eccerobot-une-machine-humanoide-avec-des-muscles-et-des-os). La France a financé le projet Romeo, consistant en la création d’un prototype de robot humanoïde qui devrait servir d'assistant aux personnes âgées d'ici 2015 (http://projetromeo.com/index_en.html).

En 1993, un scientifique de la Japan's National Institute of Advanced Industrial Science and Technology (AIST) a conçu un robot bébé phoque nommé Paro (http://www.parorobots.com, http://birg2.epfl.ch/users/degallier/papers/AR.pdf), vendu dans le monde depuis 2005. Paro est destiné au traitement thérapeutique de personnes ayant des problèmes psychologiques, pour combler leur solitude. Connaissant les effets bénéfiques des séances de zoothérapie, mais sachant également que les animaux souffrent parfois de stress à la suite de ces séances et que le milieu hospitalier impose des contraintes, l’utilisation de Paro semble prometteuse. Cependant, son utilisation au Québec reste controversée. (http://www2.lactualite.com/valerie-borde/2012-04-10/le-robot-phoque-en-chsld-cest-serieux) En effet, plusieurs personnes craignent une déshumanisation des soins médicaux avec l’utilisation de ce genre de robot (http://www.ledevoir.com/societe/actualites-en-societe/346945/des-idees-en-l-ere-de-nos-aines-phoques) Voilà justement un point éthique important : que désirons-nous en tant que société? Une personne âgée laissée à elle-même, une personne qui reçoit de l’attention grâce à un robot ou une personne à qui on donne de l’attention humaine? La présence d’une véritable personne humaine, l’organisation d’activités de groupe et la bonification des soins ne seraient-ils pas préférables à cet ersatz d’affection qui ne bénéficie même pas du lien vivant avec un animal ?

Selon l’étude de l’École Polytechnique fédérale de Lausanne sur l’éthique robotique, il semblerait toutefois que les différents marchés mondiaux ne poursuivent pas les mêmes buts, les utilisateurs asiatiques percevant plus positivement les robots que les européens : « En effet, le Japon semble percevoir différemment le robot que l’Occident, ceci pouvant s’expliquer par la différence de symbolique du robot dans les deux sociétés. La société japonaise est fondée sur le shintoïsme, mélange d’animisme et de chamanisme, où l’Homme n’est considéré que comme un élément de la Nature et où toute chose possède une âme. De plus, les mangas, très présents au Japon, véhiculent depuis longtemps l’image du robot compagnon, comme Astroboy par exemple. Pour en revenir à l’Europe, une étude menée dans le cadre du projet Cogniron a montré que le robot idéal se définissait plus comme un serviteur que comme un ami. »

Robots d'exploration et de défense

L’exploration spatiale et sous-marine, ainsi que les activités de défense militaire sont des champs d’application de la robotique. Ainsi, on assiste à une véritable course aux robots cosmonautes. (http://www.tomsguide.fr/actualite/robot-humanoide,3446.html) Par ailleurs, les robots sont de plus en plus utilisés sur les champs de bataille, que ce soit des véhicules « intelligents », des robots de surveillance, des robots « mules » tels que BigDog, l’exosquelette militaire Eccerobot digne du film Iron Man, des robots démineurs, etc. Les robots militaires ont quantité d'avantages par rapport à l'être humain : ils ont un comportement plus reproductible, ils résistent mieux à certaines conditions environnementales, ils ne connaissent pas la fatigue, ne sont pas distraits, n'ont aucun état d'âme. (http://fr.wikipedia.org/wiki/Robot_militaire) La majorité des applications militaires concernent la surveillance de zones, le déminage, la reconnaissance, et, en ce sens, le robot ne fait que protéger, ou améliorer les capacités d'action des soldats, sans en changer radicalement la nature. (http://www.lajauneetlarouge.com/article/il-est-temps-de-reflechir-aux-nouvelles-valeurs-ethiques) Toutefois, il leur manque le jugement humain et la capacité, pourtant essentielle, de trancher de manière raisonnée et justifiable entre des options inattendues qui se manifestent sur le terrain.

Tel que rapporté par Dominique Luzeaux et Delphine Dufourd-Moretti dans leur article L’autonomie ajustable en robotique militaire terrestre (http://www.lajauneetlarouge.com/article/lautonomie-ajustable-en-robotique-militaire-terrestre), « des plates-formes [américaines] comme le Packbot et le Talon ont déjà effectué plus de 20 000 missions (reconnaissance et neutralisation d'explosifs ou de colis piégés) en Irak ». Aussi, « le Royaume-Uni et Israël commencent à déployer des robots de reconnaissance et de surveillance sur le terrain (VipeR, Dragon Runner, Guardium) ». Certains pays favorisent des approches basées sur la téléopération (Allemagne), certains préconisent des robots opérationnels (Royaume-Uni) et certains développent des robots possédant des comportements de navigation (évitement d’obstacles, repenser des trajectoires, suivi de routes) bien plus autonomes (France).

Qu’en est-il, sur le plan éthique, de la présence de robots sur un champ de bataille ? « Arkin propose quelques éléments de réponse dans lesquels il insiste sur le fait qu’il est important que des robots de combat puissent prendre en compte les règles d’engagements standard de la guerre. Il considère également que des recherches supplémentaires doivent être effectuées pour mieux cerner les conséquences éthiques d’une destruction « volontaire » de vie par un robot. D’autres encore, comme L. Hanon, ont des opinions plus arrêtées sur la question des robots armés et ne s’embarrassent pas trop de questions éthiques : "The potential is great and time is now to exploit it" (http://birg2.epfl.ch/users/degallier/papers/AR.pdf). »

Robotique industrielle

Les robots industriels ont d'abord été développés pour intervenir dans les milieux à risques (nucléaire, forte corrosion). Les applications des robots industriels sont multiples et vont de la mise en boîte (dans les domaines de l'agroalimentaire ou de la pharmacie) à l’usinage de haute précision, à l’échelle du nanomètre. Ainsi, les robots peuvent être utilisés en usine, pour le soudage, la manutention, la palettisation, l'empaquetage, la transformation et toutes sortes de tâches d'automatisation (http://www.gralon.net/articles/materiel-et-consommables/materiels-industriels/article-les-robots-industriels-285.htm). Le niveau d’intelligence de ces robots est cependant très limité et ils servent principalement à remplacer les humains dans les tâches pénibles.

Sous l’effet combiné des progrès techniques et de la baisse des coûts, le nombre de robots en activité est en pleine explosion depuis une quinzaine d’années. En 2007, les robots industriels représentaient 38 % du marché de la robotique, soit 800 000 robots au total dont 50 % sont présents au Japon.

Véhicules autonomes et autoroutes automatisées

Les véhicules autonomes sont à nos portes. Que l’on pense aux voitures existantes pouvant effectuer des stationnements en parallèle sans contrôle humain, ou que l’on rêve à des systèmes qui permettraient d’éviter des collisions grâce à une « communication » entre les véhicules, il est évident que les bénéfices sont nombreux quant à la sécurité des passagers, la congestion automobile en période de pointe, etc. Certains envisagent même des autoroutes entièrement automatisées, qui prendraient en charge le contrôle de tous les véhicules. Les gens ne remettent pas en question le fait d’abandonner le contrôle de leur destination lors de déplacements en train ou en avion : seraient-ils aussi favorables à laisser le contrôle complet de leur véhicule à une tierce partie? Que fera-t-on des données générées par un système complètement ou partiellement automatisé? (http://www.reuters.com/article/2012/05/08/uk-usa-nevada-google-idUSLNE84701320120508)

Selon la Royal Academy of Engineering, il faut toutefois se poser des questions sur la marginalisation des utilisateurs de vieux véhicules, les modes de fonctionnement et de régulation d’une autoroute automatisée, la gestion de la responsabilité en cas d’accident attribuable au système autonome. Aussi, on peut se demander si les compagnies d’assurances accepteront de couvrir les passagers prenant place à bord de tels véhicules…

Points de vue et axes de réflexion

Concepts de responsabilité et principe de précaution

Si un robot ou autre système autonome ne fonctionne pas correctement, qui sera responsable de ses erreurs – le fabricant, le programmeur, l’utilisateur? Lorsque le programmeur code complètement le comportement du robot et que l’action est totalement déterminée à l’avance, la responsabilité incombe au programmeur. Toutefois, lorsque le robot peut « apprendre » et décider par lui-même de son comportement, personne ne peut être tenu pour responsable en cas de problème.

Aussi, si historiquement les scientifiques se devaient de mettre leurs connaissances au service de la guerre pour le bien de leur nation (Archimède a ainsi développé catapultes et miroirs ardents pour défendre sa patrie des attaques de Rome, Léonard de Vinci possédait de nombreuses compétences militaires et Halley, en 1686, fut l’un des premiers à appliquer les principes de la gravitation pour déterminer la trajectoire des obus), cela a bien changé depuis le XXe siècle, à la suite des atrocités de la Première Guerre mondiale. Dans l’étude de l’École Polytechnique fédérale de Lausanne (http://birg2.epfl.ch/users/degallier/papers/AR.pdf), on apprend que : « L’universalité de la science est remise en cause, les scientifiques étant pris à parti afin de justifier les actes de leurs pays respectifs. […] Avec les conséquences du projet Manhattan [qui a mené à la production de la première bombe atomique durant la Seconde guerre mondiale] les scientifiques ont été confrontés de plein fouet à leur responsabilité. Diverses réponses seront apportées avec notamment Einstein et Russel qui appelleront au moratoire total sur les armes nucléaires avec l’instauration du mouvement Pugwash, toujours actif aujourd’hui. D’autres, comme Anatol Rapoport, ont réfléchi aux implications éthiques mêmes de la recherche scientifique à finalité militaire, notamment au rôle joué par le secret dans celle-ci. Il est arrivé à la conclusion que ce type de recherche ne peut être considéré comme un service rendu à la société… »

Certaines personnes se montrent alarmistes, notamment dans le domaine de la robotique. Dans son article Le problème théologico-scientifique et la responsabilité de la science, Jean-Pierre Dupuy nous invite à réfléchir à l’implication du scientifique : « La science, en tout cas, ne peut plus échapper à sa responsabilité. Cela ne veut évidemment pas dire qu'il faut lui donner le monopole du pouvoir de décision. Aucun scientifique ne le souhaite. Cela veut dire qu'il faut obliger la science à sortir de son splendide isolement par rapport aux affaires de la Cité. La responsabilité de décider ne peut se concevoir que partagée. Or c'est de cela que les scientifiques, tels qu'ils sont formés et tels qu'ils s'organisent à présent, ne veulent absolument pas. Ils préfèrent de beaucoup s'abriter derrière le mythe de la neutralité de la science. Qu'on les laisse accroître les connaissances en paix et que la société, sur cette base, décide de là où elle veut aller. » Par ailleurs, M. Dupuy fait état de la parution en 2000 de l’article Why the future doesn't need us [Pourquoi l'avenir n'a pas besoin de nous] écrit par Bill Joy, l’inventeur du programme Java. Le sous-titre est significatif : Our most powerful 21st-century technologies – robotics, genetic engineering, and nanotech – are threatening to make humans an endangered species [Les technologies les plus puissantes du XXIème siècle – la robotique, le génie génétique et les nanotechnologies – menacent de faire de l'humanité une espèce en voie de disparition]. Chris Crittenden, un professeur d'éthique à l'université du Maine, a étudié les effets que les cyborgs pourraient avoir sur l'humanité. « Notre culture axée sur la technologie est la première étape dans la descente vers une désélection individuelle, et vers une destruction apocalyptique de notre communauté humaine » a-t-il écrit (http://www.ledroideenchaine.com/robotique/recherche-en-robotique/62-considerations-ethiques-de-la-cybernetique-et-des-cyborgs).

Point de vue de l'industrie

Selon un rapport de la Royal Academy of Engineering, le comportement des systèmes autonomes est beaucoup plus prédictible et fiable que celui des êtres humains dans un environnement connu et contrôlé. Les systèmes autonomes ne prendront pas de décision impulsive sur un coup de tête, ils vont analyser rapidement la situation en se référant aux opérations passées, ce qui rendra leur utilisation intéressante lorsque des réponses rapides sont requises, particulièrement en situation de stress. De plus, remplacer l’être humain par un robot pour réaliser des tâches répétitives favorise la diminution des coûts de production, le mieux-être des travailleurs, et permet un résultat reproductible.

Les fabricants pourront également faire valoir que, si les défectuosités des systèmes autonomes sont moins nombreuses que les mauvaises décisions prises par des humains, il serait préférable d’avoir de tels systèmes et qu’il serait contreproductif d’empêcher leur développement et leur utilisation.

Dans un rapport sur les TIC, le gouvernement français considère que : « La robotique est critique pour la compétitivité du secteur industriel. Les deux pays développés les plus exportateurs au monde, le Japon et l’Allemagne sont aussi les plus équipés en robots industriels. Cela renforce leur spécialisation dans les segments de haut de gamme et accroît leur compétitivité en remplaçant une force de travail comparativement chère par un investissement en capital (les robots). Ces pays ont ainsi une différenciation compétitive très forte sur les marchés internationaux. […] Le marché global de la robotique, estimé à 11 milliards de dollars en 2005, pourrait passer à 30 milliards de dollars en 2015. C’est un marché où le potentiel en services associés est très important. »

Pistes de solution

Débats et consultations publics

L’introduction des systèmes autonomes et autres robots dans notre vie amènera fort certainement des changements, comme toutes révolutions technologiques. Consulter la population et débattre du rôle du robot est la meilleure approche possible pour éviter de le diaboliser et de garder l’intérêt public dans la mire. L’engagement public et le débat sur l’impact des systèmes autonomes sont importants afin de prendre en considération les craintes de la population dans le développement et l’application de ces technologies. L’attitude de la population envers les systèmes autonomes est susceptible de varier selon le domaine d’application (domestique, militaire…). Quelques questions générales pour la discussion :

  • Doit-on imposer des standards plus élevés pour les robots que pour des opérateurs humains?
  • Comment la loi peut-elle être changée pour s’adapter aux systèmes autonomes?
  • Qui sera responsable du système autonome en cas de problème?
  • Qui sera responsable de la certification des systèmes autonomes?
  • Existe-t-il un risque de déshumanisation?
  • En confiant certaines tâches à des robots, risque-t-on d’augmenter le taux de chômage ?
  • Risque-t-on de perdre notre savoir-faire?

Face à ces questions, plusieurs commissions d’éthique et robotique existent déjà en Europe (http://www.syrobo.org), aux États-Unis, au Japon, en Corée et en Italie.

Éduquer au lieu de programmer

Selon Jean-Christophe Baillie (http://www.lajauneetlarouge.com/article/il-est-temps-de-reflechir-aux-nouvelles-valeurs-ethiques): « Lorsque l'on parle d'apprentissage ou d'autonomie d'un robot, il ne s'agit en fait, à ce jour, que d'une capacité du robot à évoluer dans un espace de comportement plus ou moins défini par l'ingénieur ou le chercheur. Même dans des approches telles que la programmation par algorithmes génétiques, qui permet de faire émerger des solutions originales sans intervention du concepteur, l'espace de recherche et la fonction dite de fitness qui pilote l'évolution du système sont déterminés de manière cruciale par le concepteur. Il sera un jour possible, par exemple en s'inspirant des recherches actuelles en robotique développementale, d'aller vers des systèmes capables de réel apprentissage, capables de construire dynamiquement du sens et des objectifs à plusieurs niveaux, de manifester de la curiosité, des émotions. Bref, de permettre au robot non plus d'être programmé mais d'être éduqué. »

Références

Bibliographie

The Royal Academy of Engineering, Autonomous Systems: Social, Legal and Ethical Issues rapport 2009 [En ligne] http://www.roboethique.org/images/articles/autonomous_systems_report_09.pdf

Dupuy Jean-Pierre, Le problème théologico-scientifique et la responsabilité de la science, 2004, no129, pp. 175-192 [En ligne] http://formes-symboliques.org/article.php3?id_article=66

École Polytechnique fédérale de Lausanne, 2007, Éthique robotique : entre mythes et réalité, [En ligne] http://birg2.epfl.ch/users/degallier/papers/AR.pdf

Gouvernement français, Technologies de l’information et de la communication, [En ligne] http://www.industrie.gouv.fr/tc2015/technologies-cles-2015-tic.pdf

Patrick Fabiani, Robots aériens : autonomie et sécurité des drones, La jaune et la rouge, N°674 / AVRIL 2012, [En ligne] http://www.lajauneetlarouge.com/article/robots-aeriens-autonomie-et-securite-des-drones

Dominique Luzeaux et Delphine Dufourd-Moretti, L’autonomie ajustable en robotique militaire terrestre, La jaune et la rouge, N°674 / AVRIL 2012, [En ligne] http://www.lajauneetlarouge.com/article/lautonomie-ajustable-en-robotique-militaire-terrestre

Jean-Christophe Baillie, Il est temps de réfléchir aux nouvelles valeurs éthiques, La jaune et la rouge, N°674 / AVRIL 2012, [En ligne] http://www.lajauneetlarouge.com/article/il-est-temps-de-reflechir-aux-nouvelles-valeurs-ethiques

Ronald C. Arkin and Lilia Moshkina, Lethality and Autonomous Robots: An Ethical Stance. In Proc. of the IEEE International Conference on Robotics and Automation (ICRA’07), Avril 2007. [En ligne] http://www.cc.gatech.edu/ai/robot-lab/online-publications/ArkinMoshkinaISTAS.pdf

Références web

BigDog http://fr.wikipedia.org/wiki/BigDog Considérations éthiques de la cybernétique et des cyborgs http://www.ledroideenchaine.com/robotique/recherche-en-robotique/62-considerations-ethiques-de-la-cybernetique-et-des-cyborgs

Cyborg et IA : la fusion programmée entre l'homme et la machine http://www.commentcamarche.net/contents/anticipation/cyborg-et-ia-le-rapprochement-programme-entre-l-homme-et-la-ma

De la cybernétique à l'intelligence artificielle http://www.scienceshumaines.com/de-la-cybernetique-a-l-intelligence-artificielle_fr_12202.html

Dépendance aux technologies, droits et libertés contre la programmation de machines. http://www.pseudo-sciences.org/spip.php?article1410

Des idées en l'ère - De nos « aînés » phoqués http://www.ledevoir.com/societe/actualites-en-societe/346945/des-idees-en-l-ere-de-nos-aines-phoques

Eccerobot : une machine humanoïde avec des muscles et des os http://dailygeekshow.com/2012/04/21/eccerobot-une-machine-humanoide-avec-des-muscles-et-des-os/

L’exosquelette militaire http://www.youtube.com/watch?v=DwFKsPhlRyQ&noredirect=1

La robotique va-t-elle changer le monde? http://www.lajauneetlarouge.com/article/la-robotique-va-t-elle-changer-le-monde

Le robot apprenant nécessitera-t-il une éthique? http://www.cite-sciences.fr/innovanews/2009/05/30/le-robot-apprenant-necessitera-t-il-une-ethique

Le robot phoque en CHSLD : c’est sérieux! http://www2.lactualite.com/valerie-borde/2012-04-10/le-robot-phoque-en-chsld-cest-serieux

Le robot domestique, du rêve à la réalité http://www.futura-sciences.com/fr/doc/t/robotique-1/d/robot-maison_900/c3/221/p3

Les robots industriels http://www.gralon.net/articles/materiel-et-consommables/materiels-industriels/article-les-robots-industriels-285.htm

Projet Romeo http://projetromeo.com/index_en.html

Robot created with real muscles to help scientists study humans http://www.digitaljournal.com/article/322909

Robot domestique http://fr.wikipedia.org/wiki/Robot_domestique

Robotique http://fr.wikipedia.org/wiki/Robotique

Robotique, éthique et droit de la guerre http://guerres-et-systemes.blogspot.ca/2009/03/robotique-ethique-et-droit-de-la-guerre.html

Robotique industrielle http://fr.wikipedia.org/wiki/Robotique_industrielle

Robot médical http://fr.wikipedia.org/wiki/Robot_m%C3%A9dical

Robot militaire http://fr.wikipedia.org/wiki/Robot_militaire

SAR-400, un humanoïde pour assister les cosmonautes http://www.tomsguide.fr/actualite/robot-humanoide,3446.html

Solutions robotiques (sécurité, santé) http://www.robosoft.com/eng

Une nouvelle espèce http://www.implications-philosophiques.org/recherches/cyborgs-et-identite/une-nouvelle-espece

Vers une intelligence Cyborg http://www.scienceshumaines.com/vers-une-intelligence-cyborg_fr_21831.html

Spécialistes québécois

Bessam Abdulrazak Professeur Adjoint Directeur du Centre de Recherche sur les Habitats Intelligents Département d'informatique Faculté des sciences Université de Sherbrooke (UdeS) 2500 boulevard de l'Université Sherbrooke, Québec, Canada, J1K 2R1 Bessam.Abdulrazak@USherbrooke.ca 1 (819) 821 - 8000 Ex. 62860

Clément Gosselin Directeur du laboratoire de robotique de l’Université Laval Professeur Faculté des sciences et de génie Sciences et génie-Département de génie mécanique 418 656-2131 poste 3474 gosselin@gmc.ulaval.ca

Céline Lafontaine Université de Montréal Professeure agrégée 514 343-5640 celine.lafontaine@umontreal.ca

Monsieur Denis Laurendeau Département de génie électrique et de génie informatique Pavillon Pouliot, local 1114-N 1065, avenue de la Médecine Université Laval Québec (Québec) G1V 0A6 Téléphone bureau : 418 656-2979 Téléphone secrétariat : 418 656-2131 poste 12236 Télécopieur : 418 656-3159 denis.laurendeau@gel.ulaval.ca

Marc Parizeau Professeur Faculté des sciences et de génie Sciences et génie-Département génie électrique et génie informatique Université Laval (418) 656-2131, poste 7912 parizeau@gel.ulaval.ca

Monsieur Theo van de Ven Département de chimie Université McGill 801, rue Sherbrooke Ouest Montréal (Québec) H3A 2K6 Téléphone bureau : 514 398-6177 Téléphone secrétariat : 514 343-6940 Télécopieur : 514 398-8254 theo.vandeven@mcgill.ca

Monsieur Mohamad Sawan (intéressé à collaborer dans le futur) Professeur titulaire Département de génie électrique Pavillon Lassonde École Polytechnique de Montréal C.P. 6079, succursale Centre-ville Montréal (Québec) H3C 3A7 Téléphone bureau : 514 340-4711, poste 5943 Téléphone secrétariat : 514 340-4711, poste 3612 Télécopieur : 514 340-4147 mohamad.sawan@polymtl.ca

MOT-CLÉS : Automates, robots, systèmes autonomes, exosquelette, défense militaire, déshumanisation, téléopération