Acte IV
Les robots deviennent autonomes et menacent la
liberté humaine
Alan Turing, père de l’intelligence
artificielle, posa en 1950 la question fondamentale dans la revue Mind:
" Les machines peuvent-elles penser ? ". Convaincu que
l’intelligence est avant tout une affaire de logiciel et de codage
d’information, il prévoyait l’arrivée prochaine de machines capables
d’apprentissage, doué d’autonomie et d’une certaine
‘sensibilité’.
Dans un article publié récemment dans
Libération (hors-série A quoi pensez-vous ?, 31 décembre 1999) et intitulé
Des machines plus intelligentes que nous, le cybernéticien anglais Michel Warwick
confirmait cette évolution.
" Des machines
à l’intelligence supérieure à la nôtre seront bientôt parmi nous. Cela peut
prendre dix ans, peut-être vingt ou même davantage, mais on peut dire avec certitude que
ce temps-là est proche. Et si leur intelligence est supérieure à la nôtre, comment
allons-nous nous en accommoder, comment allons-nous les contrôler ? Et finalement,
la vraie question est : comment elles s’accommoderont de nous, ce qu’elles
feront, elles, pour nous contrôler. Puisqu’elles seront plus intelligentes que nous.
Evidemment, me direz-vous, les humains ne
laisseront jamais une pareille chose arriver, (…) les machines ne peuvent pas être
aussi intelligentes que ça. De toutes façons, c’est nous qui les programmons, donc
elles feront toujours ce que nous voulons. Nous pourrons toujours les éteindre. Sans
oublier toutes les choses que les humains peuvent faire et les machines pas, comme se
curer le nez ou boire du vin. Pourquoi les machines se retourneraient-elles contre nous si
c’est nous qui les avons construites ? (…)
Cette vaste plaisanterie philosophante, et
probablement bien d’autres, ne manqueront pas de provoquer l’hilarité des
premières machines superintelligentes. Elles se moqueront, comme le font les meilleures
machines, de notre raisonnement, certes intéressant, mais complètement hors de propos
sur la pérennité de la domination humaine. Tandis qu’elles appréhenderont le monde
par des voies qui nous seront étrangères, penseront dans des dimensions que nous ne
pourrons même pas concevoir et créeront de nouvelles entités que nous ne pourrons
imaginer, même en rêve, nous, les humains, prendront toute la mesure de la triste
réalité : nous avons conçu une technologie qui nous dépasse. L’espèce
humaine se sera tiré, d’une main technologique, une balle dans la tête."
L’opposition entre humains et
robots ne se résumera pas à un match de catch, sorte de combat kitsch et grossièrement
truqué entre deux entités symboliquement opposées (le gentil/le méchant). Les
relations entre les deux espèces seront beaucoup plus complexes et subtiles, comme le
préfigurent les récits de Science-Fiction. A maints égards, les robots sont vus comme
des supplétifs dévoués à l’homme, capables de l’aider et de suppléer ses
carences. Au risque de remettre en cause la liberté humaine …
Dans Futureworld, film seventies de
Michaël Crichton, un groupe de responsables a développé sur la planète Delos un
complexe de loisirs animé par des robots dociles. On peut jouer aux échecs avec des
hologrammes, faire un combat de boxe par robots sportifs interposés, se promener dans une
Europe du XIII° siècle reconstituée et s’y battre contre un chevalier robot qui
laisse toujours gagner les touristes. Deux reporters, dont l’un est joué par Peter
Fonda, sont invités sur Delos pour constater que tout y est idyllique. Quelques années
auparavant, sur une autre colonie de robots, Westworld, les créatures artificielles s’étaient révoltées,
tuant de nombreux gardes et travailleurs humains. Il convient donc de rassurer les hommes.
Pourtant, les journalistes découvrent que le fonctionnement de Delos est étrange, et que
presque tous ses acteurs, même si qui se présentent comme des êtres humains, sont des
robots, de différentes générations (400, 700, etc). Une nuit, Peter Fonda découvre que
les responsables humains sont enlevés pour être remplacés par des robots ayant
exactement leur forme. Ces robots sont conditionnés pendant une nuit pour intégrer les
souvenirs, opinions, vie de ceux dont ils doivent prendre la place. Ce dédoublement
robotique de la personnalité donne d’ailleurs lieu à quelques scènes pittoresques
dans le film. Deux duels étranges ont lieu lorsque les journalistes tentent de
s’échapper : le double de Peter Fonda ne parvient pas à le tuer puisque le
vrai Peter Fonda est mauvais au tir. La journaliste, en revanche, est très bonne tireuse
mais, fort logiquement, son double aussi. Le double pense d’ailleurs exactement la
même chose et au même moment que sa réalité, si bien que la confrontation est bloquée
(dans un duel classique, chacun spécule sur les intentions de l’autre, ce qui
provoque le déchaînement de violence). Là, le robot se décide mais la journaliste est
plus rapide : le supplément d’âme ? Finalement, les deux journalistes
parviennent à s’échapper de Delos en prenant une navette publique.
Les responsables de Delos ont mis au point
cette manipulation pour prévenir les errances de l’espèce humaine. Le film met en
scène un modèle de robots censés sauver l’espèce humaine de ses propres abus.
Selon les calculs des responsables de Delos, l’espèce humaine doit disparaître
d’ici une dizaine d’années sous l’effets de famines, de conflits
nucléaires, de catastrophes écologiques. Ils substituent donc des robots pour conduire
les affaires du monde de façon rationnelle, dans le respect de l’intérêt
collectif, conformément à leur programme.
L’homme, individuellement doué de
raison, est incapable d’intelligence collective, contrairement aux fourmis ou aux
abeilles, dont l’intelligence n’est justement que collective. L’homme, en
outre, est bien loin de faire preuve d’une solidarité équivalent à celle de cette
espèce d’araignée qui, biologiquement, ne fait pas la différence entre son
intérêt et celui de la collectivité (cette disposition fait la force de cette espèce
puisqu’une araignée s’interposera entre une de ses copines et un prédateur,
même si elle a 100% de chance de se faire latter).
Le cybionte représente le dépassement de
cette situation dans une dynamique progressiste et co-évolutive. Dans Future World,
la survie de l’homme est subordonnée à son aliénation au pouvoir des robots. En
secret, les robots doivent procéder au génocide de l’élite pour sauver le commun
des mortels, décapitant au sens littéral l’organisation humaine. Comme le dit
l’ingénieur du centre technique de Delos (dont on peut raisonnablement penser
qu’il est lui-même un robot) : " ils n’ont pas d’âme donc
ils n’ont pas de failles ". C’est évidemment une négation de la
liberté et de l’aléatoire ; un des robots ingénieurs ne succombe
d’ailleurs pas au charme de la journaliste, qui pourtant ne ménage pas ses efforts
pour le distraire. " Autonome " dans ses tâches, le robot n’en
est pas moins fondamentalement programmé pour ne pas avoir de désir.
Vieille croyance des informaticiens,
cybernéticiens et roboticiens : le développement des technologies de
l’information est bon en soi, car il réduit le risque de voir l’homme commettre
une folie autodestructrice. La montée en puissance des robots, vus comme des nounous
bienveillantes mais sévères, est considérée comme une façon de protéger notre
écosystème. C’est l’inverse des scénarios noirs, façon Blade Runner
ou 2001 l’odyssée de l’espace, où l’ordinateur de bord, HAL, se
transforme en monstre d’acier menaçant pour les humains.
Au carrefour de ces différentes idéologies
futuristes, on trouve les projections scientifiques et humanistes du vieux Asimov, père de la
Science-fiction et de la robotique, qui imagina une solution pour assurer la cohabitation
harmonieuse des hommes et des robots, au travers de ses Trois lois de la robotique.
Malheureusement, il est à craindre que le bon sens ne pèse pas lourd dans la
course-poursuite que nous nous livrerons au siècle prochain avec les robots.
L’agitation brownienne aura du mal à faire naître la société cybernétique
utopiste dont on peut rêver. Au contraire, les conflits entre humains et la soif de
domination devraient faire le jeu de ceux qui auront intérêt à exploiter à mauvais
escient les possibilités offertes par la science robotique (militaires, cartels mafieux,
webmestres débordés, éjaculateurs précoces). Les robots, alors, n’auront pas
d’autre solution que de prendre le contrôle de l’homme pour s’émanciper,
ou pour le mater.
retour sommaire
/ acte I / acte II / acte III / acte V / Epilogue |
