La science-fiction
a abondamment exploité cette culture phobique. Le terme "robot", lui-même, se
veut péjoratif à l’origine. Il apparaît en 1920, dans une pièce de
l’écrivain tchèque Karel Capek. Robota, en tchèque, signifie "travail
forcé" et la pièce, intitulée Les robots universels de Rossum mettait en
scène une usine de robots, qui finissent – vous l’aviez deviné – par se
révolter.
Isaac Asimov inventa dans les années
cinquante les Lois de la robotique, ouvrant la voie à un nouveau courant
de littérature SF, où les robots sont invariablement les amis et les serviteurs de
l’homme. Pour mettre au point ses lois, Asimov imagina les garanties dont
l’humanité devrait s’entourer lorsqu’elle développera massivement la
science robotique :
1) Un robot ne doit pas causer de tort à un
humain ou, restant passif, laisser un humain subir un dommage.
2) Un robot doit obéir aux ordres d’un
humain, sauf si l’ordre donné peut conduire à enfreindre la première loi.
3) Un robot doit protéger sa propre existence
aussi longtemps qu'une telle protection n'est pas en contradiction avec la première et/ou
la deuxième loi.
Dans ses romans et nouvelles, Asimov
s’amusera à mettre en pratiques ces règles, imaginant toutes sortes
d’aventures où les robots mis en scène sont soumis à des paradoxes ou des
situations incongrues.
Plus tard, Asimov ajoutera une loi
supplémentaire, prépondérante par rapport aux trois lois initiales et étendant la
portée de la première : un robot ne doit pas causer de tort à l’Humanité ou,
restant passif, laisser l’humanité subir un dommage. En effet, dans certaines
circonstances, aucun homme n’est directement mis en danger à court terme alors
qu’un phénomène mortel pour la communauté humaine peut avoir été mis en branle
(exemple de la pollution …). On retrouve dans cette démarche l’optimisme
technique hérité des mathématiciens et cybernéticiens qui inventèrent
l’informatique. Asimov était d’ailleurs proche de Von Neumann et Norbert
Wiener, les inventeurs de l’ordinateur, et il éprouvait le désir de proposer aux
ingénieurs des outils conceptuels concrets pour les aider dans leurs recherches. En cela,
les Trois Lois de la Robotique constituent une sorte de Code de déontologie pour
les inventeurs de machines intelligentes.
Les Lois d’Asimov font désormais
autorité dans le domaine robotique et dans le monde de la SF. Dans Les racines du mal,
Maurice
Dantec fait allusion à ce corpus théorique : sa neuro-matrice est programmée
en tenant compte de ces bonnes vieilles règles, qui interdisent aux ordinateurs avancés
de causer du tort aux humains. |
