Moi, robot

De grabeug, posté le 20.05.08 à 10:39
Hum une news vieille de plusieurs mois, alors pour nous tenir au courant, je pense pas qu'on viendra ici si on veut vraiment être informé.

---

De gregoirelac, posté le 20.05.08 à 11:01
Voilà un commentaire pas très constructif grabeug... Pour ma part j'adore venir sur ce blog.
L'avenir est dans le terminator ! Mais je suis d'accord avec toi Troudair, Terminator est has been place aux Irobots. J'attends avec impatience le moment ou je n'aurais plus à faire la vaisselle !
Par contre gare à la rébéllion.

Malgré tout je le trouve plutôt glauque le Nexi MDS ! on dirait un bébé...
On est encore loin de ça commercialisation mais en support marketing il peut faire du bruit celui là.

A plus

---

De Troudair, posté le 20.05.08 à 11:33
@grabeug
Informé de quoi ? De l'attaque ??

@gregoirelac
Il serait bon en effet de poser la question à des spécialistes en intelligence artificielle, pour savoir si les règles de la robotique d'Asimov sont plausibles, ou bien si l'hypothèse HAL est la plus vraisemblable en l'état actuel des choses.

---

De Laurent, posté le 20.05.08 à 13:05
En quoi le commentaire de Grabeug serait-il moins constructif que le tien Gregoirelac ?

Par celui de Grabeug, on apprends que cette news n'est pas récente et qu'il existe donc certainement d'autres lieux pour se documenter si l'on est intéressé par le sujet.

Part le tien, on apprends que tu aimes bien venir ici, c'est en effet passionnant. S'ensuit une série de considérations stupides sur Terminator et les Irobots. On parle de robotique ou de cinéma ? Décidément, pour certains, la culture du buzz permet de faire l'économie d'une vraie réflexion. Pour ta vaisselle, achète un lave-vaisselle, t'attendras moins longtemps.

Pour Troudair, en ce qui concerne les lois de la robotique d'Asimov, la question n'est pas de savoir si elles ont plausibles (c'est un non sens) mais si elles sont cohérentes et efficaces. A priori, oui, en tout cas personne, envore, ne les a dénoncées.

Hal, c'est encore un autre problème. D'abord, il ne s'agit pas d'un robot mais d'un ordinateur. Ensuite je ne vois pas en quoi l'hypothèse Hal serait vraisemblable. Un robot ou un ordi, aussi puissants soient-ils, ne sont pas vivants, ne sont pas gouvernés par des émotions et ne risquent pas de convoiter notre place. Ce que l'on voit dans le clip est une simulation d'émotion, une imitation pratiquée dans un but ocial, rentre le robot plus sympathique. L'objectif n'est pas de donner de l'émotion aux robots mais de la provoquer chez les humains vis-à-vis du robot.  ça s'appelle l'empathie.

---

De gregoirelac, posté le 20.05.08 à 14:21
Peut être que le mot constructif était mal choisis, car c'est vrai il nous apprend que cette news est vieille. Mais je persiste à dire que ce n'est pas utile car il suffit de cliquer sur un seul des 5 liens fournis avec l'article pour s'en apercevoir.

D'autre part j'invoque la bienséance et la politesse pour défendre mes propos. On ne fait pas de commentaires du type "ton blog sert à rien on viendra pas", encore une fois je ne vois pas l'utilité d'un tel acte.

Enfin je ne connais rien à la robotique donc oui pour moi c'est du cinéma, c'est de la prospective, ça en met plein là vue et c'est pour ça que je trouve ce domaine passionnant. Donc pour répondre à ta question oui je parle de cinéma.

---

De Troudair, posté le 20.05.08 à 14:42
Hey, on peut discuter calmement, non ?
Pourquoi une simple info qui date, ô malheur, de quelques mois, déclenche un tel élan de mépris ?

bref... pour répondre à Laurent,
je ne pense pas que HAL soit un sujet différent des lois de la robotique, bien au contraire, puisque justement, l'élimination des humains dans 2001 est guidée par ce que Asimov définissait comme la loi Zéro de la robotique.
HAL ne détruit pas les humains pour son plaisir, ou par haine, mais dans l'intérêt, pense-t-il, de la mission, et donc de l'Humanité. C'est ça le risque majeur encouru dès qu'on cherche à définir ce que signifie vraiment "ne pas blesser un être humain".

Enfin, je ne suis absolument pas d'accord avec ta distinction robot/ordinateur. Il est évident, comme c'est le cas pour Nexi, que les systèmes robotiques seront (et sont déjà) équipés d'une intelligence artificielle et personne ne peut prévoire ce qu'un esprit aussi complexe pourra "penser". Qu'est-ce qui pilote ces robots, si ce n'est des ordinateurs ?

En conséquence, je trouve ta phrase "Un robot ou un ordi, aussi puissants soient-ils, ne sont pas vivants, ne sont pas gouvernés par des émotions et ne risquent pas de convoiter notre place" bien optimiste et surtout bien naïve. Sous quel prétexte une intelligence artificielle plus élaborée qu'un cerveau humain ne pourrait pas être guidée par des émotions alors que les humains le sont ?
C'est ça que je veux demander à un chercheur en intelligence artificielle, et c'est ça qui me fait me demander si les lois de la robotique d'Asimov sont plausibles, ce qui n'a rien d'un non-sens.
Sont-elles plausibles ? C'est à dire, ont-elles un sens autre que théorique ou romanesque ? Dans quelle mesure sont-elles applicables à une intelligence artificielle très élaborée ?
Pour Nexi, certes ses mimiques sont une interface de communication avec l'humain, mais ces mimiques sont (ou seront) pilotées par des facteurs prédéfinis résultant d'un embryon de "pensée" artificielle. Le problème, tu as raison, n'est donc pas le fait qu'un robot grimace ou sourie, mais bien de savoir si l'intelligence qui active ces réactions ressent des émotions de colère, de joie ou autre.
Et ça, je pense qu'aujourd'hui, personne n'est en mesure de l'affirmer ou de l'infirmer catégoriquement comme tu le fais.

---

De Laurent, posté le 20.05.08 à 16:42
L'intelligence artificielle n'est pas un "esprit artificiel", c'est un ensemble de règles déterminées par les humains et programmées. Ce sont des systèmes experts. Ça ne s'apparente absolument pas à une pensée. En fait, le terme même d'intelligence artificielle est spécieux. Même le plus primitif des insectes s'approche plus de ce que l'on pourrait abusivement qualifier de pensée que le plus complexe des systèmes d'A.I.

Aujourd'hui, parler d'intelligence artificielle plus élaborée que le cerveau humain est une aberration. Notre compréhension du fonctionnement du cerveau et, plus important encore, du processus de prise de décision n'en est même pas aux balbutiements. Le cerveau humain (et même animal) est une machine qui nous dépasse plus que largement.

L'humain est régi par des pulsions, des instincts, des réflexes codés dans ses gênes dans un but unique : survivre et se reproduire. C'est ce qui a présidé au développement du cerveau tel qu'il existe aujourd'hui. On pourra, bien sûr, tenter de simuler dans un sytème d'A.I. mais cela reste du simulacre. Aucun ordinateur n'a peur quand tu débranches le courant, pas plus qu'il n'est contrarié. Si on le programme pour qu'il simule cette peur et qu'il tente d'empêcher quiconque de couper du secteur, alors il aura cette réaction qui peut sembler humaine, mais qui fondamentalement ne le sera pas. C'est valable pour la joie, la colère ou n'importe quel émotion. on ne peut pas la simuler même si on peut programmer un ordinateur pour qu'il agisse comme s'il la ressentait. C'est une nuance fondamentale. Certains petits robots sont programmés pour être autonomes et chercher une source de lumière de leur propre chef. Ils sont programmés pour être "contents" lorsque il trouve de la lumière. Mais, crois-le ou non, ils n'éprouvent aucune espèce de soulagement ni ne se repaisse de la chaleur, ils ont juste executé un code. A aucun moment une conscience n'entre en jeu.

La vraie question est : est-ce que des composants électroniques pourront un jour abriter la conscience ? Mais cette question, il est un peu tôt pour se la poser, on verra ça dans quelques siècles si on est toujours là.

Tu sembles penser que ce qui inspire à Nexi ses mimiques serait une forme d'intelligence. Ce n'est pas le cas. On pourrait perfectionner la chose et faire en sorte que l'"humeur" de Nexi s'adapte à celle de son interlocuteur humain, mais ça n'en ferait pas nu être intelligent ou conscient pour autant, c'est simplement un code plus complexe fait pour répondre à certains stimulis. De toute façon tout ça est très loin de l'humain. Un humain qui en voit un autre pleurer peut être triste, mais il peut aussi en être heureux, soulagé, confus, gêné, angoissé.. la palette humaine est extrêment large. Il n'y a pas une façon "intelligente" de réagir ni une façon "humaine". Un humain ne réagira pas toujours de la même façon à un même stimuli. Un huamin est un être complexe, ce n'est pas juste un être intelligent. Et supposer que l'on peut reproduire cela est vraiment très présomptueux.

---

De Troudair, posté le 20.05.08 à 17:13
Au fond, nous sommes d'accord, alors.
La seule différence, peut-être, est que j'irais d'après toi, trop vite en besogne, ce que j'admets volontiers.
Mais si tu écartes, à raison, la littérature de science-fiction, on ne peut pas nier que la cybernétique, depuis les années 60, base le codage de ses objets et programmes robotiques sur le fonctionnement supposé, non pas du cerveau humain, mais de l'esprit humain (c'est à dire des systèmes de validations/rejets de choix multiples). Le MIT a publié une littérature plutôt fournie sur le sujet et la conception des moteurs IA va aussi dans ce sens, même si leur complexité est encore incomparable à la notre.
En fait, en filigrane, et en répondant aux messages ci-dessus, j'avais aussi et surtout en tête l'idée de "Ghost in the Shell", qui même si elle est romancée, met tout de même en garde l'humain contre une possible auto-évolution, non-programmée justement, des systèmes robotiques. Le concept des nano-robots pourrait être l'un des outils de cette évolution incontrôlée pouvant mener à l'apparition d'une conscience.
Donc tu as raison, il est présomptueux de penser que l'homme pourrait reproduire artificiellement le fonctionnement de son propre cerveau. Mais que des machines programmées pour le puissent, ça ne me paraît pas aberrant. Et qu'est-on en train de faire, au fond, si ce n'est programmer des systèmes qui programment mieux que nous, aujourd'hui ?

---

De Laurent, posté le 20.05.08 à 17:59
Il y a bien longtemps qu'on fait des calculatrices dont les "capacités de calcul" sont sans commune mesures avec ce dont l'humain est capable. Ça ne leur donne pas la moindre autonomie pour autant.

Le jeu d'échecs est également  un exemple intéressant, car c'est un domaine ou il faut des connaissances de base (on va dire une bibliothèque, un système expert), mais également un processus de prise de décisions basé sur différents critères (tous les logiciels ne jouent pas les même coups). Or aujourd'hui, le moindre module d'échecs acheté au chinois du coin fait bien plus que se défendre, il extermine son adversaire humain. Seuls les GMI (Grands Maîtres) parviennent encore parfois (pas toujours) à résister et à annuler (plus rarement à gagner).

Pourtant plusieurs choses : on considère que les ordinateurs ne jouent pas aux échecs. Leur jeu est basé sur une évaluation de la position purement matérielle (différente selon les logiciels, c'est une formule qui prend en compte beaucoup de choses, qui est jalousement gardée par les développeurs). Cela leur donne une estimation chiffrée des forces en présence. De plus, ils calculent plusieurs centaines de milliers de coups possibles à la seconde. Ils éliminent également de nombreux coups selon un algorithme spécialisé afin de gagner encore du temps.

Bref un ordinateur est incomparablement plus fort qu'un humain car il ne laisse rien passer, il voit tout. Aucune combinaison ne lui échappe. Ma sa façon de jouer diffère grandement de celle d'un humain qui ne peut pas calculer aussi loin mais compense par des connaissances spécifiques, des considérations stratégiques (absolument absentes des évaluation des ordinateurs qui elles, sont purement tactiques) et positionnelles.

Le domaine du jeu d'échecs est un de ceux ou l'intelligence artificielle est très avancée, éprouvée et fonctionnelle. Pourtant aucun logiciel ne va  décider de conquérir le monde.

Si des machines fabriquent d'autre machines en les programmant mieux qu'on ne sait le faire (car l'homme commet des erreurs), elles ne les programmeront pas pour autant différemment de ce qu'on leur demande de faire. Et même si on décide de programmer une machine destinée à programmer d'autres machines, en toute autonomie qui elles mêmes programmeront d'autres machines, à quel moment crois-tu qu'une initiative personnelle à la machine puisse naître et la décider à introduire quelque chose de nouveau est d'imprévu. Il faudrait que la machine originale soit capable d'invention ce qui est impossible. C'est un cercle vicieux.

Je disais plus haut que l'homme commet des erreurs. C'est parce qu'il n'est pas parfait. C'est vrai et c'est loin d'être un défaut. C'est un des processus mis en oeuvre par l'évolution pour parvenir à de nouveaux résultats. Il n'y a q'en faisant des erreurs qu'on progresse et qu'on invente. Et ce n'est pas du tout le chemin pris par l'intelligence artificielle.

En fait, je ne sais plus qui disait, il y a un certain temps déjà, que pour approcher lamachine de l'homme, ce n'était pas l'intelleigence artificielle qu'il fallait développer mais plutôt la connerie artificielle. Ça a fait rire beaucoup de gens mais c'était beaucoup plus profond qu'il n'y semblait.

---

De Troudair, posté le 21.05.08 à 09:15
Entièrement d'accord sur le fait qu'il ne faut pas confondre "capacité de calcul" et "intelligence".
Pourtant, je pense que la question est moins évidente que ça.
Par exemple, quand tu dis "on considère que les ordinateurs ne jouent pas aux échecs. Leur jeu est basé sur une évaluation de la position purement matérielle". En simplifiant légèrement le fonctionnement de notre pensée - ce que Jung a fait par exemple - on pourrait appliquer le même raisonnement à notre manière d'appréhender le monde. Et les concepts de "stratégie" ou de "connaissances spécifiques" que tu proposes ne me semblent pas si éloignées d'une "évaluation purement matérielle".
Ceci étant dit, j'aime beaucoup l'idée de "connerie artificielle" et je vais me mettre en quête de l'auteur, car en effet, le principe est intéressant, même si je n'y adhère pas à 100%, surtout parce que pessimiste que je suis, j'ai toujours tendance à penser que le jour où on permettra à un système hautement élaboré de corriger ses erreurs, il demeure le risque que l'erreur à supprimer sera cette "connerie humaine" que tu évoques, à commencer par le responsable de cette connerie, c'est à dire l'humain tout court.

---

De Laurentpub, posté le 21.05.08 à 11:37
Plus de précision sur l'exemple des échecs : Pour appréhender ce qui diffère entre le jeu de l'homme et celui de la machine il faut développer les notions de tactique et de stratégie. La machine a, pour le moment, un jeu purement tactique. C'est à dire que s'il existe une combinaison de mouvements en 12 coups qui rend possible le gain d'une pièce (et donc de la partie, le désavantage étant quasiment insurpassable sauf exception), la machine le verra à coup sûr et n'hésitera pas à la mettre en oeuvre. C'est ce qu'on appelle la tactique. En gros, ça répond à la question : "que faire lorsque il y a quelque chose à faire ?". La stratégie, elle, répond à la question : "que faire, lorsqu'il n'y a rien à faire ?". C'est à dire que les deux adversaires ont joué parfaitement et il n'existe pas de combinaison en 12 coups rendant possible le gain d'une pièce.

Dans ce cas la machine se contente de jouer son meilleur coup, c'est à dire celui à l'issu duquel son évaluation aura augmenté légèrement ou du moins n'aura pas baissé. L'homme, lui, va prendre en compte la notion stratégique. Il ne jouera pas un coup pour jouer un coup, mais essaiera d'établir un plan qui lui permettra, à l'issue de plusieurs coups, d'obtenir une position qu'il pourra exploiter à son avantage. On peut dire que la machine joue au coup par coup (même si sa puissance fait qu'elle trouve souvent le meilleur coup) alors que l'homme joue à long terme, selon un plan plus complexe.

Aussi puissant l'ordinateur soit-il, sa puissance de calcul se heurte à ce qu'on appelle l'effet d'horizon, c'est à dire que le nombre de coups candidats à examiner augmentant de manière exponentielle, la machine ne peut tout calculer (ça prendrait des siècles) et donc des algorithmes lui permettent de trier parmi les coups candidats, c'est là sa faiblesse car elle peut éliminer un coup qui, après une longue suite, s'avèrerait meilleur. Richard Réti, un grand joueur du début du XXe siècle, à qui on demandait combien de coups il calculait à l'avance avait répondu : "un seul, mais le bon" et c'est vrai que le jeu de l'homme fait appel aussi à l'intuition qui, dans ce cas, n'est rien d'autre que le fruit d'une longue expérience du jeu.

En ce qui concerne la fin de ta réponse, nous sommes d'accord. Si l'on programme un ordinateur universel très puissant pour qu'il analyse quel est la source d'erreur dans sa programmation, il répondra que c'est l'homme. Si on lui demande, par la même occasion, de supprimer définitivement, d'éradiquer la source des erreurs (faut être con mais admettons) alors il tentera (avec ses petits bras musclés, comme disait Coluche) d'éradiquer l'humanité. Bon faudra encore qu'on lui permette de fabriquer des machines de guerre sur lesquelles on a aucun contrôle (pour ça, on est déjà assez cons) et qu'on soit incapable d'arrêter le processus en marche (pas possible de débrancher ?). Il ne reste plus alors qu'à espérer que ce programme soit conçu par Microsoft.

Mais même dans ce cas de figure, Troudair, nous avons dévié de la question originale qui est celle de la "conscience" de la machine. Même dans ce scénario où la machine a éradiqué l'homme, ça n'en fait pas pour autant une machine consciente. Elle ne l'aura pas fait pour prendre notre place et se prélasser au soleil. Une fois l'homme supprimé, elle n'aura plus rien à faire et ne fera plus rien.

Pour finir, un scénario cauchemar à base de machines décidant de supprimer l'humanité est un peu inutile dans la mesure ou il existe déjà un principe, bien supérieur à la machine et qui parviendra au même résultat beaucoup plus rapidement, c'est la nature. La sélection naturelle en action, en quelque sorte :

Il y a quelques millions d'années, est apparu sur terre une créature intelligente qui est parvenue à dominer toutes les autres créatures. Une fois ceci fait elle s'est attelée à améliorer son confort partout ou c'était possible en pompant les ressources naturelles de la planète. Tant et si bien qu'au bout d'un certain temps, sa propre survie s'en trouve menacée. Moralité : l'intelligence humaine n'est pas un avantage mais une tare pour la survie d'une espèce. C'est ainsi que fonctionne l'évolution, une fois que l'homme se sera supprimé, la nature pourra poursuivre son oeuvre.

---

Prénom/Pseudo :
URL/blog :
Votre message :
Crypto
Recopie crypto :