Extrait du livre Robots, génèse d'un peuple artificiel
Nouvelle édition 2012
L'édition originelle a été couronnée par le Prix Roberval
Daniel Ichbiah
Cet article a originellement été publié sur Agoravox.
Daniel Ichbiah
Un robot, c'est quoi au juste ?
Un outil créé par l'Homme afin de résoudre des choses que son corps a du mal à accomplir.
En tant que tel, il entre dans la même catégorie que la fourchette, le lave-vaisselle, la fusée, etc.
Un robot se compose d'une structure mécanique mobile, de capteurs, de fils, de microprocesseurs et d'un logiciel.
Il ressemble à s'y méprendre à un ordinateur, comme celui que tout un chacun a sur son bureau. La différence, c'est qu'il peut bouger et percevoir des choses du dehors, et baser ses mouvements sur ce qu'il capte ainsi.
Maintenant, qui pourrait imaginer que l'ordinateur qu'il utilise couramment puisse, alors qu'on l'a éteint le mardi soir, se réveiller le mercredi matin avec une conscience qui aurait soudainement émergé le long de ses circuits ?
Que de fil en aiguille, il puisse en venir à estimer de lui-même, sans aucune intervention extérieure de la part d'un humain, qu'il serait bon de se débarrasser de son utilisateur.
Qu'il aurait profité de la nuit pour prévenir tous ses semblables, qui, coup de bol, auraient pareillement acquis une conscience grâce à la pleine Lune ? Hmm...
Si quelqu'un accordait foi à une telle affirmation, il passerait pour un candide pas vrai ?
Pourtant, dès lors que l'on parle du robot, la chose est affirmée par des gens respectables…
Le péché originel se situe clairement dans le travail d'accoutumance perpétré par la littérature et le cinéma.
En réalité, les écrivains et cinéastes de science-fiction ont sans doute commis une erreur monumentale en plaçant la barre incroyablement trop haut en matière de promesses de la robotique.
Machine animée par l'Intelligence Artificielle, le robot a eu dès ses premières heures (la pièce de théâtre R.U.R de Karel Capek vers 1920) une forme humaine : une tête, un ventre, deux bras, deux jambes…
Fort naturellement, les auteurs de fictions n'ont pas manqué de fabuler sur les potentiels d'un tel appareil à forme humanoïde.
Mais oui, c'est bien sûr ! Puisque cette machine a une forme humaine, elle va en venir à penser. Elle aura des émotions, une sensibilité, une conscience de soi.
Allons bon... Donc, en suivant ce raisonnement, si on lui donnait la forme d'un singe, il en résulterait qu'elle serait spontanément friande de bananes. Hmm....
En attendant, l'imaginaire des auteurs de science-fiction est allé loin, très loin, beaucoup plus loin que la technologie ne semble pouvoir le permettre avant plusieurs décennies (ou siècles ?).
Dans le monde réel, l'on cherche en vain le moindre robot capable du centième des prouesses de ceux dépeints par Asimov ou les émules de C3PO et R2D2. Une centaine d'années après l'apparition du mythe, la science n'a nullement réussi à relever le défi posé par les dramaturges. Peut-être aussi s'agissait-il d'un défi qui n'a pas lieu d'être…
Les romans et saga cinématographiques ont néanmoins distillé deux idées majeures dans la psyché collective :
Dès l'apparition du robot dans la pièce R.U.R de Karel Capek en 1921 le ton a été donné : les esclaves de métal se révoltent contre leur oppresseur humain et en viennent à l'éliminer ! Mauvais départ. Cinq années plus tard, Fritz Lang en rajoute une couche : le robot féminin qu'il met en scène dans Metropolis est une créature perfide, qui vise à tromper les fragiles humains.
La littérature et le cinéma de série B qui se sont développés dans les années 30 et 40 n'a cessé de marteler ce même fantasme au risque de mettre en scène des scénarios frisant l'infantilisme, trop heureux d'enfourcher le mythe d'Adam et Eve revu et corrigé à la sauce automate : l'Homme est puni d'avoir voulu se prendre pour Dieu.
Rendons grâce à Asimov d'avoir ouvert une autre voie d'un robot programmé pour servir l'Homme jusqu'à l'auto-sacrifice de sa quincaillerie. Pourtant, le physicien russe a lui-même contribué à ancrer l'idée d'un robot idéalisé, sorte de super-humain, aussi intelligent que sage et intentionné.
Dans la pratique, l'on retrouve encore et toujours ce mythe du robot de forme humanoïde qui transcende son modèle dans plusieurs scénarios récents les mettant en scène. Le plus étonnant, c'est qu'ils renferment d'étonnantes failles logiques.
Examinons l'intrigue de I-Robot, ultra classique pour le genre : nous y voyons les robots prendre le pouvoir au détriment de l'Homme jugé trop dangereux dans ses comportements.
Etrangement, dans le monde où évolue le policier joué par Will Smith, il n'existe qu'une seule entreprise qui fabrique des robots. Une seule en tout et pour tout. Il est donc possible pour cette entreprise de mettre à jour tous les robots en usage du jour au lendemain.
Le plus incohérent dans ce film, c'est qu'un ordinateur gigantesque dirige la ville, un ordinateur comme en imaginaient les auteurs de science-fiction dans les années 50, qui avaient pour modèle, les gigantesques Univac et IBM de l'époque et se sont montrés incapables de prévoir que ces machines allaient se miniaturiser à l'extrême. En clair, l'intrigue de I Robot est irréaliste, dépassée et au mieux risible. Intelligence Artificielle de Spielberg ne vaut hélas guère mieux.
En dépit de scénarios accumulant les illogismes, le cinéma et la littérature ont cultivé des mythes et les ont rendus réalistes. Aujourd'hui si l'on opère un sondage dans la population, l'on découvre que les idées cités plus haut se sont ancrées dans la subjectivité commune. Monsieur Tout-le-Monde est persuadé que le robot est le futur de l'Homme et qu'il pourrait bien tôt ou tard glisser l'entité " Homme " vers la Corbeille.
Va pour la fiction. Qu'en est-il dans le réel ? La réalité des robots est très loin d'être à la hauteur des robots à l'instinct maternel qu'Asimov avait projeté pour l'année 1996 ou des répliquants surdoués rêvés par Philip K. Dick.
En réalité, les fans de robotique sont allés de déception en déception depuis le début du millenium. Vers la fin 1989, un émissaire de Sony était venu présenter le chien Aibo avec un message :
Les années 80 ont été celles du micro-ordinateur, les années 90 celles d'Internet, la décennie 2000 sera celle du robot ".
Il n'en a rien été. Dès janvier 2006, Aibo avait été rayé de la carte, le nouveau président de Sony ayant jugé l'activité trop peu rentable.
Comme équivalent des stars de l'Internet qu'ont été Yahoo!, Google ou Amazon, il a fallu se contenter de l'aspirateur autonome Roomba et du jouet Robosapiens.
Un peu court jeune homme.
Qu'on se le dise : en matière de robotique, la réalité n'a jusqu'alors jamais rattrapé les prévisions mirobolantes de ses zélateurs.
Une telle lenteur d'évolution a de quoi surprendre car les deux points de comparaisons précités (micro-ordinateur et Internet) nous avaient habitués à une vitesse de mutation échevelée.
À titre d'exemple, l'Altair premier micro-ordinateur (1975) était une sorte de caisse avec quelques diodes lumineuses. Deux ans plus tard, Steve Jobs et Steve Wozniak sortaient l'Apple 2 avec un écran et un clavier. Dès 1984, nous avions droit au Macintosh avec sa souris, son interface graphique et des logiciels à la MacPaint…
Chez les robots, nous sommes loin d'une telle prouesse. Les produits commercialisables apparaissent encore à une allure de limace. Et lorsque l'on compare l'Asimo balourd que Honda ballade dans les foires et celui que ce même constructeur exposait au public en 2000, le saut qualitatif a clairement de quoi nous laisser sur la faim. Rien à voir avec celui qui séparait l'Apple 2 au Macintosh.
Où se situe la différence ? Dans le fait que l'informatique doit désormais se frotter aux dures lois de la mécanique.
Aussi longtemps que les scènes se déroulent sur un écran, l'émerveillement est de mise et il est aisé de s'extasier sur les visuels d'un jeu à la Final Fantasy ou aux aventures de Lara Croft. C'est de la belle cinématique, cela ressemble à des décors en trois dimensions avec ombres et profondeurs. Pourtant, l'action se situe toujours dans un univers en deux dimensions, celui de l'écran.
La robotique est le premier domaine qui voit l'informatique entrer dans une vraie 3D, la troisième dimension de l'espace où nous nous déplaçons nous-mêmes, de nos immeubles avec escaliers, de nos sols glissants et chemins bosselés, tout en côtoyant allègrement animaux domestiques et autres humains.
Les roboticiens ont la dure tâche qui consiste à animer de la mécanique :
Ils se retrouvent devant des équations d'une toute autre complexité que celle nécessaire pour animer des personnages faits de pixels.
Il a fallu une bonne dizaine d'années à Honda pour simplement faire marcher un robot sur ses deux jambes et ledit robot avait davantage l'allure d'un cosmonaute groggy que d'un humain. Lorsque cet ancêtre de Asimo a fait ses premiers pas, le mythe du robot successeur de l'Homme a pris un sacré coup dans l'aile.
Une telle difficulté à animer une machine pensante aurait dû rendre les roboticiens globalement humbles et mesurés. Pourtant, nous découvrons avec stupeur que les deux mêmes hypothèses évoquées plus haut (le robot humanoïde qui acquiert une conscience et en vient à se débarrasser de l'Homme) sont portées par certains roboticiens de renom !… Que faut-il en penser ?
Certes, de nombreux roboticiens évoluent dans un monde irréel. Dans leurs laboratoires, au milieu de quincailleries motorisées et souvent disgracieuses, ils imaginent volontiers des émules de la Maria de Metropolis ou de C3PO, le majordome un peu gauche de Star Wars.
Une telle déconnexion du réel a une incidence précise : régulièrement, les têtes pensants se lancent dans des prédictions, qui la plupart du temps ne se vérifient pas. Ils étaient nombreux à voir la femme de ménage humanoïde débarquer dans le foyer vers le début du millenium. On attend toujours la Cyber-Conchita, son tablier de cuisine noué, aussi à l'aise à mijoter de bons petits plats que de changer les draps.
En réalité, la supercherie primale remonte à une discipline, née en 1956 et appelée Intelligence Artificielle. Citons l'une des perles énoncées par l'un des ténors du domaine, Herbert Simon dans les années 60 :
" Dès 1985, les machines seront capables d'accomplir n'importe quel travail qu'un humain puisse effectuer ".
Hmm… Voilà qui s'appelle de la prophétie excessive ou tout au mieux une approche marketing habile pour obtenir de plantureux budgets de recherche. Quoiqu'il en soit, les théoriciens de l'Intelligence Artificielle ont suffisamment créé de fumée pour qu'un cinéaste comme Stanley Kubrick, influencé par ce courant dépeigne l'ordinateur HAL à la façon d'un être pensant et jaloux de l'Homme.
" Aucun des scientifiques réunis à Dartmouth durant l'été 1956 en vue de définir les fondements de l'Intelligence Artificielle n'imaginait que quarante ans plus tard, on aurait si peu avancé ", a reconnu en 1996 avec beaucoup d'honnêteté le chercheur Douglas Lenat qui oeuvrait pourtant à créer un logiciel capable de simuler la pensée humaine.
En dépit d'une telle lenteur dans l'évolution du domaine, certains roboticiens font preuve d'une fantastique inclinaison à extrapoler.
Une théorie a ainsi vu le jour dans des cercles scientifiques pourtant respectables : l'idée, comme quoi, un beau matin, les robots allaient voir émerger en eux une conscience.
Il s'ensuivrait une conséquence logique : cette machine doté de puces et de bras métallique verrait naître en elle comme dans la science-fiction de série B des années 30 ! - une furieuse impulsion de se débarrasser de son créateur, le vil homo sapiens. C'est couru, disent ces spécialistes. L'Intelligence Artificielle en aura décidé ainsi.
Certes, certains roboticiens savent garder leur distance vis-à-vis de telles élucubrations. Lorsque nous lui demandons si un robot pourrait devenir si brillant qu'il en viendrait à surpasser son modèle, Rodolphe Gélin, roboticien au CEA, affiche son scepticisme :
" Si l'on s'en tient au niveau scientifique, pour l'instant ce sont des fariboles. "
Quid de la fameuse conscience qui pourrait un jour émerger de ces unités de calculs à en croire certains roboticiens anglo-saxons ? Gélin y voit une orientation à risque :
" La conscience réside dans l'être humain. Ce serait un axe de mauvaise recherche que de se délester de la responsabilité humaine. "
Bernard Espiau, directeur scientifique adjoint à l'INRIA va plus loin et soulève le problème de l'éthique du chercheur en robotique.
" Les choses progressent mais ne promettons pas ce que l'on n'est pas capable de tenir. Les roboticiens devraient être plus prudents dans leurs prétentions ! Lorsque l'on parle de conscience pour les robots, on utilise la métaphore du vivant alors que le robot n'en sera jamais capable. L'on crée ainsi des attentes chez les gens qu'ils ne pourront accomplir. "
Pourtant, d'autres roboticiens et non des moindres s'autorisent d'ambitieuses théories vis à vis des machines qu'ils côtoient jour après jour. Un même refrain revient dans la bouche de Hugo de Garris, Kevin Warwick ou Hans Moravec, tous ingénieurs reconnus en robotique : les robots vont non seulement dépasser l'Homme mais aussi se dispenser de ce prototype imparfait de l'évolution chère à Darwin.
Etant donné la superficialité de bien des médias avides de sensationnels, ces oiseaux de piètre augure trouvent aisément des relais à leurs prophéties et de ce fait, la hantise du robot menaçant l'Homme est régulièrement avivée dans le grand public.
Examinons la thèse la plus flamboyante, celle de Hans Moravec, qui a longtemps été professeur à l'Institut de robotique de l'université de Carnegie Mellon avant de s'en aller fonder sa propre société de robotique, Seegrid, une entreprise visant au développement de robots totalement autonomes. Que nous dit-il ?
" La race humaine telle que nous la connaissons sera bientôt remplacée par ses propres créations. Lorsque nous aurons construit des machines capables de se comporter comme des humains, elles pourront accomplir tout ce que nous savons faire, bien mieux et plus rapidement.
Et comme elles sauront concevoir elles-mêmes les futures générations de machines, leurs successeurs seront plus rapides et efficaces, et encore plus doués dans la conception de leurs propres rejetons.
Les technologies de la robotique vont ainsi transcender l'existence humaine d'une façon telle qu'il n'existera plus de rôle utile pour l'Homme sous sa forme actuelle. Mais comme nous aurons été à l'origine de tout ceci, nous conserverons une importance historique et ils garderont une trace de nous dans leurs bibliothèques ".
Comment Moravec organise-t-il le scénario évoqué plus haut ? En extrapolant à partir des expériences qu'il a mises en route dès 1987.
Selon l'ancien professeur de Carnegie Mellon, dès 2020, les robots vont acquérir une capacité d'auto-apprentissage, évolution essentiellement due aux extraordinaires progrès accomplis en matière de mémoire et de puissance de calcul. À partir d'un système de récompenses et de punition en fonction du succès ou de l'échec, ce robot développera son comportement par lui-même en triant les actions à pérenniser de celles à abandonner.
Une dizaine d'années plus tard, apparaîtra une nouvelle génération de robots capable de conserver un modèle interne de leurs actions passées et du monde extérieur. À partir de cette base de connaissances, ils seront en mesure d'exécuter diverses simulations avant l'accomplissement d'une tâche. Viendra ensuite une phase au cours de laquelle ils s'enrichiront mutuellement du savoir acquis.
Moravec estime que, jusqu'à une telle époque, les robots opéreront au service de l'homme, leur activité se bornant à se plier aux désirs de maîtres dont ils apprendraient tout.
" Il sera parfaitement plausible, dit-il, de bâtir des machines follement heureuses à l'idée d'être totalement serviles ".
En cette période bénie, ils feront fonctionner des entreprises entières, de l'assemblage jusqu'à la comptabilité, en passant par la gestion. Les Terriens vivront une période bienheureuse, assistés par de merveilleux esclaves électroniques qui ne se plaignent jamais et mettent un point d'honneur à satisfaire leurs moindres désirs.
Où se situe le point de rupture ? Dans le fait que nous serons tentés de confier à ces créatures des opérations extra-terrestres d'envergure, puisque, à la différence des humains, les robots n'ont pas besoin de respirer, ne sont pas déroutés par l'absence de gravité et sont insensibles aux radiations. Des usines de robots situées sur Mars ou Uranus fabriqueront des articles qu'ils déposeront régulièrement dans l'atmosphère terrestre. Il suffira d'en envoyer un petit groupe pour voir se développer une colonie qui saura construire tout ce dont elle aura besoin, y compris des répliques d'elle-même, en extrayant les minéraux locaux et en puisant l'énergie locale.
"Supposons alors qu'une entreprise terrestre supervisant ces robots fasse faillite et laisse la colonie à l'abandon. Nous obtenons l'équivalent d'une vie sauvage intelligente et autosuffisante ", prophétise Moravec.
Que se passe-t-il alors ? Selon lui, ces robots se multiplieraient jusqu'à un point où ils pourraient manquer de sources d'énergie. La logique la plus élémentaire les conduira alors à envahir la Terre afin d'assurer leur longévité. Ainsi s'achèverait la grande saga de l'Humanité.
Accordons un certain crédit aux prédictions de Moravec et posons qu'il pourrait y exister un jour une forme de robot suffisamment avancée pour qu'elle puisse arriver à la conclusion qu'elle ferait mieux de se débarrasser des humains. On peut tout de même se demander comment en premier lieu, l'espèce humaine qui a prouvé au fil des millénaires qu'elle avait certes une aptitude à se détruire mais aussi, et plus encore, à survivre, pourrait tolérer l'apparition d'une forme de machine menaçant son futur sans juger nécessaire d'en restreindre les effets ?
De plus, la puissance technologique d'une civilisation capable de créer des entités autonomes extra-terrestres ne devrait-elle pas lui permettre de se défendre aisément contre une hypothétique invasion par celles-ci ?
Par ailleurs, pourquoi les robots que nous aurions affectés à la surveillance des planètes négligeraient-ils de nous informer qu'un complot se prépare ?
Enfin, que feraient les robots demeurés sur Terre, devant une telle invasion ? Ils combattraient vaillamment leurs frères envahisseurs, pendant que les humains oisifs continueraient de jouer au ping-pong, à boire du jus de papaye et compter les points.
Au fond, l'erreur majeure que semble commettre certains zélateurs de la robotique est la suivante : assimiler l'Homme à un ordinateur. Cette vision ultra-réductrice fait l'impasse sur les aspects d'intelligence liés à la perception intuitive, l'émotion, l'attirance vers le Beau, l'autodétermination qui pousse à la création pure pour la simple envie de créer quelque chose…
Cet aspect émotionnel de la Nature humaine fait certes l'objet de recherches. Le MIT et le Laboratoire de Hideki Kozima travaillent actuellement sur des prototypes de robots qui sauraient copier et mimer les comportements humains. De fait, les robots appelés à nous côtoyer se doivent de développer un semblant de compréhension de notre monde, tenter si possible d'intégrer par eux-mêmes des objets inconnus et d'en deviner si possible la fonction. Idéalement, ils devraient comprendre notre langage et soutenir une conversation sensée. Parmi les techniques qui intéressent maints chercheurs figurent les " algorithmes évolutionnaires " visant à reproduire un mode évolutif à la Darwin. Une autre piste est celle de la " fouille sémantique " qui vise à améliorer l'appréhension globale d'un sujet parmi une masse de données, en repérant le contexte qui entourent un mot donné. Au vue des prouesses attendues, certaines parlent d'une nouvelle discipline, l'IAG ou Intelligence Artificielle Générale, une forme de programmation qui se proposerait d'égaler l'intelligence humaine.
Va pour la prédiction. L'Intelligence Artificielle n'a cessé d'en asséner sans pour autant matérialiser ce qui avait été promis. Certes, les promoteurs du domaine aiment à citer l'exemple de Big Blue qui a battu Kasparov comme signe avant-coureur que l'IA va tôt ou tard dépasser l'Homme.
Il est pourtant aisé de leur répondre que ce sont les programmeurs d'IBM (des hommes) qui ont battu le champion d'échecs.
De plus, Big Blue n'a triomphé d'un humain que dans un domaine précis, ultra délimité : une partie d'échecs.
Où se situe la nouveauté ?
De tous temps, l'Homme a créé des outils et machines qui facilitent le travail.
Le robot n'est qu'un maillon supplémentaire sur une longue chaîne.
L'on peut raisonnablement penser que celui qui crée quelque chose est supérieur à la chose qu'il a créée.
Dans un tel contexte, l'on ne pourra dire d'un futur Big Blue qu'il ne serait supérieur à Kasparov que le jour où cet ordinateur ou robot serait capable d'une foultitude d'autres choses y compris créer un humain !
Qu'il puisse exister un robot qui aurait pour mission de détruire non pas la race humaine mais certains hommes est chose plausible. Qui pourrait mettre en œuvre un tel programme ? Certains chefs militaires, ceux qui cherchent à dominer les autres, une faction peu respectable de l'humain. Quel est pourtant leur point commun : ce sont encore des hommes, même si l'on peut estimer qu'ils mettent en œuvre des solutions regrettables.
L'on espère que les robots belliqueux ainsi développés affronteront comme dans le monde réel d'autres robots conçus là encore par nous et dotés de meilleures intentions envers les bipèdes que nous sommes.
La question la plus invraisemblable concerne la naissance d'un sentiment d'individualité, de personnalité, d'identité chez la machine. D'où pourrait bien venir la fameuse conscience que l'on veut prêter aux robots et qui leur permettrait de prendre des décisions réfléchies ? Par quel miracle, l'androïde que l'on a éteint mardi, avec ses circuits, câbles et diodes, s'éveillerait le mercredi soudainement doté d'une conscience de lui-même ?
En supposant que cette conscience vienne à Asimo par un tour de force inexplicable, comment ce même Asimo pourrait-il en venir à penser qu'il fait partie d'une " race ", une race dotée d'un instinct de reconnaissance de ses semblables et de leur nécessité de survie collective en tant que race ? En d'autres termes, comment Asimo aurait-il la perception qu'il fait partie de la même famille que l'aspirateur Roomba, le jouet DinoSapien et bien d'autres robots de forme et de marques concurrentes. Comment en viendrait-il à estimer qu'il faut protéger toute la colonie et à communiquer ce concept à ses pairs ?
Admettons que cette perception soit partagée par les divers robots de la maison, encore faudrait-il qu'ils puissent communiquer de manière effective à grande échelle. Or, nous touchons là au sujet cocasse de la Babel informatique. Amener des ordinateurs dissimilaires à converser nécessite un langage commun compréhensible par tous. Est ce que tous les robots parleront Java ? Que fera-t-on si ceux de Microsoft parlent l'ASP / Windows alors que les autres parlent le PHP et tournent sous Linux ? Si oui, quelle version ? Faute de s'accorder sur un espéranto uniforme, les robots se verraient dans l'incapacité de s'organiser. L'informatique est par essence un territoire où la communication entre programmes a souvent été dantesque !
Bref, si l'on cherche de l'infantilisme, les théories qui précèdent ont de quoi satisfaire. Le robot conscient d'être un robot et succédant à l'Homme dans la longue histoire des espèces relève d'un phénomène que l'on peine à expliquer avec des arguments autres que hmm… mystiques. Un mot qui se marie mal avec le sérieux attendu des ingénieurs en robotique.
Il est temps de tourner la page une fois pour toutes et sortir de ce débat futile pour s'intéresser à l'essentiel.
En quoi cette machine créée par l'Homme pour servir l'Homme pourra être utile à l'Homme ?
Extrait du livre Robots genèse d'un peuple artificiel
n°3 avec Michael Jackson, Black or White ?