Articles
. Identité nationale : le bilan du débat sur Flu
. 4chan : tout ce que vous devez savoir sur le pire forum
. Apple iPad : La fausse révolution
. Le MoDem gonflé au Dolium
. L'oeil public ferme
. Les 35 heures sont-elles une fumisterie ?
. Appel pour une République multiculturelle et post-raciale
. Marketing vert : la traque au greenwashing 2.0
. Les plus grosses fan pages de Facebook
. Best-of des études bidons
. Les bourrins de l’année 2009
. Copenhague est-il un Seattle bis ?
. Articles Societe
Entretiens
Entretien avec Jörg Zipprick
. Entretien avec Jörg Zipprick
. Entretien avec Jean-Luc Romero
. Entretien avec Siné
. Entretien avec Frédéric Bolotny
. Entretien avec Patrick Lozès
. Entretien avec Sabine Herold
. Entretien avec Jean-Pierre Brard
.
. Blocage des facs : Entretien avec David Dufresne
. Les interviews Societe
Dossiers
Elections régionales 2010
. Elections régionales 2010
. L'ère du Taser
. Tourisme de crise
. Le procès Pirate Bay
. Le créationnisme en France
. Pirates, le dossier
. Trolls, le dossier
. Que reste-t-il de la culture française?
. Tous les dossiers Societe

Maîtriser les comportements criminels des robots autonomes, c'est le titre un brin anxiogène d'un ouvrage du Dr Ronald C. Arkin, qui travaille sur un logiciel de contrôle éthique des machines à tuer de l'armée. Il y fait le point sur une question - vitale - qui risque de se poser rapidement : sur quels critères une intelligence artificielle prend-elle la décision d'appuyer sur la gâchette ?

Ingénieur robotique au Georgia Tech's Mobile Robot Lab, Ronald C. Arkin, qui rassemble sur le sujet les opinions de stratèges militaires, philosophes, chercheurs, politiciens et avocats, est optimiste. Selon lui, des robots bien conçus seront mieux à même d'éviter les pertes humaines (dans ses propres rangs et parmi les civils) que les hommes eux-mêmes, et seraient donc garants de guerres plus morales. Plus qu'une thèse, c'est l'objectif qu'il poursuit en tant que scientifique, se sentant la responsabilité de réduire notre inhumanité grâce à la technologie, et l'obligation de réfléchir à ces problèmes éthiques qui forcément se poseront.

Des images de robots-soldats

Le contrôleur du Dr Arkin consiste en une architecture logicielle équipant les machines d'un système de raisonnement dédié aux actions létales et garantissant que celles-ci respectent les conventions de Genève, le droit de la guerre et les règles d'engagement.
Les robots ne "pâtiraient" par ailleurs pas d'un sens de la survie, encore que vu le prix qu'ils coûteront l'on peut imaginer que l'option soit réclamée par les armées qui les commanderont, ni du problème psychologique de "réalisation du scénario", qui conduit les humains à interpréter les informations nouvelles dans un sens concordant avec leur préconceptions.
Un premier prototype de logiciel de contrôle éthique a été développé par l'équipe du Georgia Tech Lab. Cette version alpha implémente au robot la capacité de refuser un ordre qui ne lui semble pas "éthique", mais la machine doit expliquer la raison de son refus. Ce dernier peut-être outrepassé par commande humaine, l'opérateur prenant alors la responsabilité de l'action entreprise.
Reconnaître un civil d'un combattant reste quoi qu'il en soit tâche ardue, et les technologies actuelles sont loin de permettre une précision satisfaisante…

Consignes à l'attention des robots

Le sujet, si son étude scientifique est récente, préoccupe depuis longtemps les auteurs de science-fiction. Isaac Asimov écrivait en 1942, dans la nouvelle Cercle vicieux, ses fondatrices Trois Lois de la Robotique :
- Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
- Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
- Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.
Dans son livre, Governing Lethal Behavior in Autonomous Robots, Arkin explore divers scénarios complexes de situations dans lesquelles les robots pourraient agir en fonction de notions éthiques. Les règles qu'il tire de l'analyse de conflits réels sont les suivantes :
- S'engager dans le combat et neutraliser ses cibles si celles-ci sont des combattants au sens des règles d'engagement.
- Répliquer proportionnellement.
- Minimiser les dommages collatéraux et protéger les civils.
- En cas d'incertitude, entreprendre des manœuvres tactiques permettant de réévaluer le statut du combattant.
- Accepter de se rendre et d'être prisonnier de guerre en cas de capture par des forces humaines.

Il faudra encore beaucoup de recherches et d'expérimentations pour que le prototype donne naissance à des logiciels commercialisables (les premiers fruits du travail de l'auteur ne se baladeront selon lui sur les champs de bataille que d'ici 10 à 20 ans), et avant d'avoir le plaisir d'être épargné par de sympathiques robots armés.

En attendant, l'ouvrage de Ronald C. Arkin engage savamment le débat sur la robo-éthique, jeune science de la conscience artificielle, alors que l'on apprenait récemment que le Ministère de la Défense américain finance des recherches sur des robots capables de se recharger en collectant sur le champ de bataille des matières organiques, et donc potentiellement des cadavres…

Jordan Ricker



Sur Flu :
Le tag "robot" sur le blog AEIOU


• Les news du blog Société
Identité nationale : l'avis des forumeurs de Flu Identité nationale : l'avis des forumeurs de Flu
Finies les envolées populistes sur le thème de l' identité...
Une histoire du monde en 2000 dessins (et 2 minutes) Une histoire du monde en 2000 dessins (et 2 minutes)
 Personne n'arrivera jamais à réussir une belle histoire du...
Régionales : le journal satirique d'Europe écologie Régionales : le journal satirique d'Europe écologie
Badaboum. C'est le nom de "l'éco-journal interrégional"...
Est-il temps de changer de boulot ? Est-il temps de changer de boulot ?
Notre bloggueur émérite Yankowitz nous sauve nos...
En images : les débuts de l'informatique En images : les débuts de l'informatique
Responsables et pionniers de l'informatique installés à...

• Diaporamas societe

• Sur le forum Societe

Qui écoute encore les économistes ?Niouze dont on ne se lasse pas. Un comment...Site de cours videos de guitare et maoEmpreinte écologique : le coût de la viandeLe Pakistan, ce n'est pas que le sanctuair...

LE FLASH INFOS
Avec notre partenaire


societe.fluctuat.net
Zoom sur


Les personnalités Societe

A B C D E F G H I J K L M N O P Q R S T U V W X Y Z 0-9


Afficher par : naissance / nationalité / métier