La révolution Cyborg est là ! Est-ce bon pour les Juifs ?

Dans le film « Terminator 2 : le Jugement dernier » de 1991, Arnold Schwarzenegger interprète le rôle d’un cyborg, un mélange de robot et d’humain qui est renvoyé dans le temps pour protéger un jeune garçon. Le cyborg a une peau humaine et du sang, avec des parties de robots en dessous et une micropuce informatique en guise de cerveau.

Les balles et les accidents n’ont presque aucun effet sur lui, alors que sa force surhumaine et son cerveau digne d’une encyclopédie le rendent presque invincible pour les humains. Mais le cyborg a aussi des défauts. Il ne comprend pas pourquoi c’est mal de tuer des gens et manque en outre d’émotions et d’empathie.

A travers le film, le cyborg interprété par Schwarzenegger évolue. Il commence à utiliser de l’argot : « Hasta la vista, baby ! » et va même jusqu’à dire à l’enfant à un moment, « je sais pourquoi tu pleures, mais c’est quelque chose que je ne pourrai jamais faire ».

Terminator, c’est de la science fiction, pas vrai ? Eh bien, c’est ce que l’on croyait. Aujourd’hui, avec les technologies dernier cri, les scientifiques et les penseurs de premier plan avancent le spectre d’un monde dans lequel les humains s’uniraient avec des machines et des cyborgs deviendrait banals.

Plus tôt cette année, une panique internationale a accueilli l’annonce faite par des scientifiques de Chine qu’ils avaient génétiquement créé des embryons humains (avec des résultats mitigés) en utilisant une nouvelle technique puissante de CRISPR.

D’ici quelques années, des cliniques pourraient offrir aux parents des traits sur mesure (taille, muscles, résistance à Alzheimers) et potentiellement des traits de leur propre invention (des ailes ? une force mortelle ?)

https://www.youtube.com/watch?v=xHRqgxA8wZs

L’Agence de Recherche de Projets de Défense Avancée (ARPDA) américaine a révélé ce mois-ci qu’elle a implanté des micropuces sur des cerveaux de patients paralysés, leur permettant de bouger et d’expérimenter les sensations d’un bras robotique.

Mais la même technologie pourrait être utilisée pour donner à des personnes en bonne santé six bras supplémentaires qu’ils pourraient contrôler avec leurs pensées, ou créer un super soldat avec des armes et des javelots comme membres supplémentaires.

Alors que la technologie rend de telles choses possibles, beaucoup d’entre nous se sentent à la fois euphoriques, terrifiés et impuissants. Qu’est-ce qui fait de nous des humains, et y a-t-il une ligne sacrée que nous ne devrions pas franchir ? Alors que nous plongeons dans le futur, pouvons-nous regarder dans le passé, vers les traditions juives et éthiques, pour nous guider ?

Le futur post-humain

Yuval Noah Harari, maître de conférence à l’Université Hébraïque de Jérusalem et auteur de Sapiens : une Brève histoire de l’humanité, a expliqué au Times of Israel que nous nous trouvons effectivement à l’aube d’une révolution.

« A travers l’histoire, il y a eu de nombreuses révolutions économiques, politiques et technologiques », a-t-il écrit dans un email.

« Mais une chose est restée inchangée : l’humanité elle-même. Nous avons toujours le même corps et le même esprit que nos ancêtres dans l’Empire romain et l’Egypte ancienne. Pourtant, dans les décennies à venir, pour la première fois dans l’histoire, l’humanité elle-même subira une révolution radicale. Non seulement nos outils et nos politiques, mais aussi nos corps et nos esprits seront transformés par l’ingénierie génétique, la nanotechnologie et les interfaces cerveau-ordinateur. Les corps et les esprits seront les produits de l’économie du 21e siècle ».

Harari déclare que quand nous pensons au futur, nous pensons généralement au monde dans lequel les humains nous sont semblables pour toutes les choses importantes mais disposent d’une meilleure technologie : des armes lasers, des robots intelligents et des vaisseaux spatiaux qui voyagent à la vitesse de la lumière.

« Pourtant, le potentiel révolutionnaire des technolgies futures est de changer l’Homo sapiens lui-même, y compris nos corps et nos esprits, et pas seulement nos véhicules et nos armes. La chose la plus impressionnante du futur ne sera pas les vaisseaux spatiaux, mais les êtres qui les conduisent ».

Selon Harari, les problèmes, comme la crise économique mondiale, l’Etat islamique et la situation en Ukraine, qui préoccupent actuellement l’humanité, sont bien dérisoires en comparaison à la question de l’amélioration de l’humanité.

« Etant donné le rythme effréné des développements dans la biotechnologie et l’intelligence artificielle, je serai extrêmement surpris si d’ici 200 ans, la terre était encore peuplée par des humains comme vous et moi. Nous sommes probablement une des dernières générations d’Homo Sapiens. Nous avons encore des petits-enfants, mais je ne suis pas sûr que nos petits-enfants auront des petits-enfants. Ou du moins, des humains. Ils seront plus différents de nous que nous sommes différents des hommes de Néandertal ou des chimpanzés ».

La Singularité est proche

Harari n’est pas le seul à faire ces prédictions. Ses vues sur l’histoire humaine et notre futur post-humain ont touché une corde sensible.

Plus de 100 000 personnes ont suivi son cours en ligne ‘Une Brève histoire de l’humanité’. Son livre Sapiens a été un best-seller du New York Times et dans le monde au point que Mark Zuckerberg, le fondateur de Facebook, l’a récemment choisi pour son club de lecture en ligne organisé deux fois par mois.

On peut dire que qu’Harari souscrit à la notion de Singularité, une croyance très populaire dans la Silicon Valley et dans les cercles de technologie à l’échelle mondiale. La Singularité est la notion que d’ici quelques générations, la technologie deviendra si sophistiquée qu’elle atteindra un point de basculement où elle changera l’existence humaine dans des manières inconcevables pour nous aujourd’hui.

L’auteur de science fiction Vernor Vinge prédit que cela aura lieu en 2030 tandis que Ray Kurzweil, un cadre de Google, penche plutôt pour 2045. La plupart croit que la Singularité arrivera avec l’intelligence artificielle, au moment où les robots prendront conscience d’eux-mêmes.

Kurzweil prévoit une utopie où les humains, au moins certains humains, obtiendront l’immortalité en devenant des cyborgs. D’autres, comme le physicien Stephen Hawking ou l’entrepreneur Elon Musk craignent que des robots d’intelligence artificielle puissent se retourner contre leurs créateurs humains et les tuer.

La vision d’Harari est plus proche de celle de Kuzweil :

« Je pense qu’il est beaucoup plus probable que nous fusionnerons avec les robots, plutôt qu’ils se révolteront et nous tueront. Le grand danger n’est pas qu’une intelligence artificielle (IA) nous assassinera, mais plutôt que l’intelligence artificielle supérieure rende la plupart des humains inutiles. Des algorithmes informatiques rattrapent les humains dans de plus en plus de champs cognitifs. Il est extrêment improbable que les ordinateurs développeront quelque chose de proche de la conscience humaine, mais afin de remplacer des humains dans l’économie, des ordinateurs n’ont pas besoin de conscience. Ils ont seulement besoin d’intelligence ».

L’éthique juive des cyborgs

Si la technologie va nous conduire dans un monde aussi radicalement nouveau, peut-être que la tradition juive a quelque chose à dire là-dessus ? Par exemple, que c’est l’hubris des humains de vouloir jouer avec la création de Dieu ?

Non, dit le rabbin Ira Bedzow, directeur du Programme d’Humanités et de l’Ethique biomédicale à l’Université Médicale de New York. La tradition juive en général a une vision favorable de la médecine qui peut inclure l’amélioration humaine.

Par exemple, il y a des responsa (décisions) rabbiniques modernes sur la question de la chirurgie plastique.

« Certains ont déclaré que la chirurgie cosmétique est interdite si elle sort des limites du soin. Le rabbin Moshe Feinstein déclare que c’est acceptable si une personne sent qu’elle est en dessous des normes sociétales et que ça l’aiderait à se marier ou à se sentir mieux dans sa peau ».

Dans la même logique, dans une société où avoir huit bras est courant, si une personne décide de s’ajouter six bras robotiques supplémentaires, « Je ne voudrais jamais les avoir, mais si cela aide quelqu’un, alors félicitations », explique Bedzow.

Bedzow cite un midrash qui exprime la vision favorable de l’amélioration de la création tant que l’objectif est moral. Un provocateur romain malfaisant a demandé au rabbin Akiva si les travaux de Dieu sont plus grands ou si ce sont ceux de l’homme. Akiva l’a surpris en lui disant que ce sont les travaux de l’homme, et lui amène quelques épis de blé avec quelques gâteaux.

« Les premières sont les œuvres de Dieu, les secondes les œuvres de l’homme. Les secondes ne sont-elles pas supérieures aux épis de blé ? » Alors, avec la circoncision aussi, explique Akiva. Si Dieu n’avait pas voulu que les Juifs pratiquent la circoncision, Dieu aurait créé les bébés nés déjà circoncis, « mais Dieu, béni soit-Il, a donné les commandements pour le seul but d’affiner notre caractère avec eux ».

Pourtant, explique Bedzow, une ligne rouge éthique est la modification génétique d’embryons.

« Nous avons besoin de réfléchir afin de savoir si les parents possèdent leur propre enfant ou s’ils en sont seulement les gardiens. Tant que les prodécudres génétiques d’ingénierie, par exemple, sont encore à l’étape expérimentale, nous devrions aussi considérer le niveau de risque approprié à prendre avec la vie de quelqu’un d’autre ».

Qui a peur de devenir un cyborg ?

De quoi avons-nous réellement peur lorsque nous contemplons le futur cyborg ? Selon Yuval Noah Harari, c’est du changement.

« Les gens ont peur du changement et de l’inconnu. Mais le changement est inévitable. Nous devons nous confronter au changement plutôt que de le fuir ».

Le philosophe et informaticien Jaron Lanier est un critique proéminent de la Singularité et la vision de l’immortalité humaine à travers les cyborgs.

« L’idée que les gens changeraient ne me dérange pas », déclare Lanier, qui est considéré l’un des pionniers dans le domaine de la réalité virtuelle.

« Les gens ont beaucoup changé depuis les anciens temps », a dit Lanier au Times of Israel. « Nous vivons deux fois plus longtemps. Nous sommes capables d’éviter des pathologies médicales qui étaient autrefois courantes, et d’avoir une meilleure nutrition, des corps plus puissants et plus grands. Il y a même un débat pour savoir si le QI a augmenté. Cela ne me dérange pas que les gens changent ».

Ce qui dérange Lanier est l’idée de la Singularité, un changement soudain qui transforme tout, d’un coup.

« Si l’on veut avoir avoir ce niveau de changement, cela signifie que l’on est opposé à l’apprentissage et à la mémoire parce que l’apprentissage et la mémoire peuvent seulement avoir lieu graduellement. En ce sens, je dirais que la Singularité est profondément anti-juive parce que la tradition juive a apporté au monde l’idée de mémoire. Nous gardons la Torah, nous la copions très attentivement afin de ne pas oublier. Certaines des Dix Paroles concernent le souvenir, se souvenir du Shabbat, se souvenir de la nature de Dieu. La mémoire joue un rôle très important. Et l’idée de la Singularité est précisément le rejet de la mémoire. Qu’est-ce que ça pourrait signifier d’autre ? C’est pourquoi, je pense que c’est l’idée la plus anti-juive de l’histoire ».

Que pensez-vous de l’idée qu’il y aura une fusion entre humains et machines et que nous sommes la dernière génération à avoir des petits-enfants ?

« Il a une imagination très forte dans le monde de la technologie pour surmonter la mort à travers la technologie. Et c’est totalement vrai que si cela avait lieu, nous cesserions d’avoir des enfants et nous nous transformerions très rapidement en une ennuyeuse ploutocratie. Je pense que nous aurions à réinventer une nouvelle forme de mort pour nous-mêmes et ce serait une forme de mort encore pire ».

Les avantages et les inconvénients de cyborgs

Lanier déclare que quelque chose est surprenant : lorsque nous parlons de l’immortalité à travers les cyborgs, nous parlons en réalité d’inégalité.

« La position actuellement dans le monde technique n’est pas l’immortalité mais l’immortalité biologique pour une petite élite et l’immortalité simulée pour toutes les autres personnes. L’immortalité simulée serait une sorte de programme d’intelligence qui crée le fantôme d’une personne pour que sa famille puisse s’en rappeler ».

« Le programme informatique derrière l’intelligence artificielle est toujours quelque chose de moins intéressant que nous le pensons. Cela n’incarnera pas quelque chose comme une personne. Il y a déjà des projets visant à créer des fantômes artificiels de soldats. Dans la réalité, il y aurait ces programmes avec lesquels nous penserions avoir donné l’immortalité à de nombreuses personnes, mais ensuite nous essayerions de préserver les corps de certains personnes de l’élite dans un monde technique. C’est un terrible rêve. C’est quelque chose proche du mal pur ».

Harari ne conteste pas le fait que les cyborgs pourraient conduire à une plus grande inégalité que celle à laquelle nous faisons face maintenant.

« A travers l’histoire, explique Harari, les riches et les puissants ont toujours affirmé qu’ils étaient supérieurs à n’importe qui. Qu’ils étaient plus intelligents, plus courageux, plus créatifs et plus moraux que n’importe qui. Ce qui n’était pas vrai. De ce que nous savons, il n’y avait pas de réelles différences dans les capacités entre les empereurs et les paysans. Pourtant, dans les générations à venir l’humanité pourrait se diviser en deux castes biologiques, avec des êtres humains des classes supérieures aux capacités améliorées pour eux et leurs enfants. Ces super humains améliorés seront peut être plus intelligents, plus courageux et plus créatifs que n’importe qui d’autre ».

Les humains, qui ne pourront pas se permettre de se moderniser, pourraient se trouver exclus.

C’est parce qu’historiquement, explique Harari, « l’intelligence a toujours été main dans la main avec la conscience. Les seules entités intelligentes étaient les entités conscientes. Les seules qui pouvaient jouer aux échecs, conduire des véhicules, faire des guerres et diagnostiquer des maladies étaient des êtres humains conscients. Mais l’intelligence se détache maintenant de la conscience. Nous développons des algorithmes qui peuvent jouer aux échecs, conduire des véhicules, faire des guerres et diagnostiquer des maladies mieux que nous. Quand l’économie devra choisir entre l’intelligence et la conscience, l’économie choisira l’intelligence. Elle n’a pas de réelle raison de choisir la conscience. Une fois que l’IA dépassera les conducteurs humains et les docteurs, des millions de conducteurs et de docteurs dans le monde perdront leurs emplois, même si l’IA n’a pas de conscience ».

« Quelle sera l’utilité des humains dans un tel monde ? Que ferons-nous avec des milliards d’humains économiquement inutiles ? Nous ne savons pas. Nous n’avons pas de modèle économique pour une telle situation. Cela pourrait bien être la plus grande question économique et politique du 21e siècle ».

L’intelligence artificielle est-elle une fraude?

« Comment l’idée que les gens puissent devenir des cyborgs est-elle connectée à l’idée que l’intelligence artificielle surpassera l’intelligence humaine ?, » a demandé le Times of Israel à Jaron Lanier.

« Cela y est identique. »

Oui, mais c’est une chose de dire que nous allons devenir des mélanges de cyborgs avec des ordinateurs et c’en est une autre de dire que des robots nous surpasseront ?

« Si vous pensez que des machines super intelligentes prendront le dessus, alors certaines personnes pensent qu’ils garderont les humains comme des animaux de compagnie et les humains se fusionneront en eux, tandis que d’autres croient que les humains seront complètement détruits ou mangés par eux. Il n’y a pas de sorte de distinction ici, mais je pense que la base entière du débat est stupide ».

Pourquoi Lanier pense-t-il que l’idée d’une intelligence superhumaine est-elle stupide ?

Dans les années 1950, explique Lanier, il y avait ce rêve que nous serions capables d’écrire des programmes informatiques parfaits qui deviendraient intelligents et feraient des choses comme traduire entre les langues, de la même façon que le font les humains.

« Ces rêves n’ont jamais fonctionné. Ce que nous nommons intelligence artificielle a seulement commencé à fonctionner grâce à ce que nous appelons les grandes données ».

De manière générale, pour faire une traduction, notre programme actuel de traduction scanne des millions de traductions humaines chaque jour et calcule les traductions statistiquement les plus probables pour un mot particulier, une expression ou phrase.

« L’Intelligence Artificielle n’existe pas vraiment. Tout cela constitue une manière différente de combiner les efforts de millions de personnes. Pour moi, c’est une absurdité totale de dire que l’IA dépassera l’humain parce que c’est fait par les humains. Basé sur tout ce que nous avons démontré jusqu’à maintenant et toutes les indications de la recherche, ce n’est pas quelque chose de différent des humains ».

Mais peut-être qu’il y aura une percée et que l’IA deviendra vraiment quelque chose d’intelligent ? Peut-être que nous comprendrons comment le cerveau fonctionne ?

« Eh bien, peut-être un jour. C’est un phénomène que j’aime qualifier de réduction mystérieuse prématurée. D’un côté, si quelque dit, ‘Oh, c’est impossible, nous ne comprendrons jamais comment la pensée fonctionne’, cela me semble fou parce que bien sûr que c’est possible. Mais si quelqu’un dit ‘oh, nous l’avons déjà fait’ ou ‘nous sommes absolument sûrs que nous le ferons dans un certain temps’, alors c’est également fou. Pour être très clair, nous ne savons pas actuellement ce qu’est une pensée, et nous n’avons pas de modèle scientifique pour ce genre de choses. Un jour peut-être. Mais nous avons tendance à agir comme si nous l’avions déjà fait ».

Pour cette raison, explique Lanier, il n’y pas de problème concernant de personnes superflues qui pourraient être rendues inutiles par l’intelligence artificielle.

« Puisque l’intelligence artificielle est un faux et n’existe pas, ce n’est donc pas que nous n’avons pas besoin de ces humains. C’est que nous en avons besoin de manières différentes que nous le faisions avant.

« Donc, si vous prenez la traduction de la langue, par exemple, les entreprises techniques telles que Microsoft, Google, IBM et Apple volent littéralement des traductions humaines tous les jours des millions de traducteurs du monde entier pour obtenir notre exemple qui doit faire nos [traductions automatiques]. Nous ne leur disons pas que nous les volons et nous ne les payons certainement pas. Donc, si vous demandez ce que nous allons faire avec tous ces gens, nous les payons tout simplement pour la nouvelle façon dont ils sont utiles, ce qui signifie la manière dont ils fournissent des données aux algorithmes dits d’intelligence artificielle ».

Lanier utilise le terme « nous » parce qu’il a vendu une entreprise à Google et est actuellement employé par Microsoft.

Il a mentionné dans d’autres interviews que ces entreprises sont peu réceptives aux critiques faites à leur égard. Le livre de Lanier « Who Owns the Future ? » [Qui possède l’avenir ?] dans lequel il délimite ces idées, a remporté le prix Peace Prize of the German Book Trade en 2014.

« La solution à ce problème est incroyablement facile et cela s’appelle l’honnêteté. Si nous arrêtons de voler les données des gens, alors le problème se résout. Nous avons encore besoin de ces gens et nous utilisons toujours leur trucs ».

Oui, les journalistes ont vu leur revenu se décimer au cours de ces dix dernières années.

« Je veux que vous compreniez que votre perte de revenu est exactement la même chose que l’intelligence artificielle. Ils sont indiscernables. L’intelligence artificielle signifie simplement voler des données des personnes ».

Réalité ou religion ?

Si l’idée que les êtres dotés d’une intelligence artificielle rendront les humains ordinaires superflus n’est pas vraie – si, comme Lanier le fait valoir, c’est un espoir ou une idéologie plutôt qu’un fait – d’où cette idéologie vient-elle ?

Le professeur à l’Université de Boston, Richard Landes, est un historien qui se spécialise dans le millénarisme – qui est l’étude des mouvements à travers l’histoire, du culte à l’âge de pierre à la Révolution française, les mouvements religieux, le marxisme, le nazisme et le djihad mondial, qui cherchent à créer une société parfaite sur la terre.

Landes dit que l’amélioration humaine en soi – avec les verres, les bras bioniques et même le génie génétique – n’est pas millénariste, mais l’idée que cela va conduire à une transformation fondamentale de la condition humaine, l’est.

« Le rêve millénaire a un immense charme, une longue histoire de séduction qui pousse les gens dans des scénarios incroyablement stupides et/ou destructeurs, y compris certaines des personnes les plus intelligentes de la planète. Ce sont les conséquences imprévues qui sont souvent productives, mais cela peut être incroyablement destructreur ».

Quel est l’attrait ?

« Regardez l’EI, qui est un mouvement millénaire. Nous sommes stupéfaits par son attractivité, nous sommes plus stupéfaits que quiconque, encore plus autant de personnes, veulent s’y joindre. Voilà parce que nous sous-estimons la façon dont il est intéressant de croire que vous faites partie d’une transformation radicale de la condition humaine, que l’ensemble de l’histoire de l’humanité a été mise en place à ce moment ».

Dans le même temps, a ajouté Landes, l’appel même de Singularity devrait éveiller le scepticisme.

« Les gens ont annoncé des transformations millénaires depuis des millénaires. Ils ont toujours eu tort. Les probabilités sont faibles pour que ce fantasme technologique arrive de la façon dont ils l’imaginent ».

Cela ne signifie pas que les gens n’auront pas six bras ou que les bébés ne naîtront pas sur-mesures, juste que la condition humaine continuera de la même façon par la suite, avec ses frustrations, les déceptions, les triomphes, les conflits, les passions et, oui, la mortalité.

La veuve et l’orphelin

Landes a également affirmé que le mouvement Singularity est élitiste. Ses adhérents sont persuadés être « parmi les personnes qui feront partie du nouveau monde. Ils ne seront pas les rejetés. Les croyants imaginent de manière caractéristique qu’ils marcheront avec les autres saints ».

L’idée, peu importe qu’elle soit une vague supposition, que la grande majorité des gens vont devenir économiquement inutiles, et regarderont des jeux vidéo sous médicaments, « démontre un mépris pour le reste de l’humanité qui est à couper le souffle, et non juif. Ceci est un des moyens avec lesquels les idées millénaristes séduisent l’égocentrique. Ils ne pensent pas aux perdants – ils y pensent après coup. Nous, les élus, sommes les héros cosmiques ».

Harari, pour sa part, dit que ses représentations sont descriptifs et non prescriptifs.

L’avenir cyborg, dit-il, « se traduira par d’énormes nouvelles possibilités, ainsi que de nouveaux dangers affreux. Il est inutile d’être optimiste ou pessimiste à ce sujet. Nous devons être réalistes. Nous devons comprendre que ce qui se passe réellement – c’est la science plutôt que de la science-fiction – et il est grand temps que nous commencions à prendre ce sujet-là très au sérieux ».

Alors, comment devons-nous y penser ?

Une approche juive au cyborgism, a expliqué Rabbi Ira Bedzow, consiste à rejeter l’idée que la force le rend juste. Si nous ajoutons des pièces de robots ou si nous nous modifions génétiquement afin de mieux participer à l’économie, « cela sera du darwinisme social, l’idée que la vie est une question de concurrence et que le succès détermine ce qui est juste, que nous devons être aussi en forme que possible pour garder le rythme. Mais cela n’est pas le point de vue juif ».

Le point de vue juif, a poursuivi Bedzow, est de « ne pas profiter de la veuve ou de l’orphelin », terme par lequel la Torah désigne toute personne opprimée. Cela peut être bien de s’améliorer mais cela dépend de votre but. « Ceux qui peuvent survivre devrait aider ceux qui ont des difficultés ».