Technologie et futur du corps humain d’après sept œuvres de science-fiction (2)

Marie-Christine Nizzi, Harvard University et Université Lille 3. Docteur de Philosophie, ancienne élève de l’École Normale Supérieure.

Roman Bonnery® (http://bonneryblog.tumblr.com/)

La peur de l’Autre : humain versus machine

Après cette série d’utopies, passons à un type de science-fiction dont le scénario résonne souvent comme une mise en garde : la peur que le progrès technologique n’aboutisse à créer une machine prête à supplanter l’homme (cf. I, robot by Alex Proyas, 2004). Dans ce contexte, nous affranchir des limites du corps par l’usage de robots de plus en plus sophistiqués menacerait de rendre l’humanité obsolète. Ces œuvres interrogent directement en quoi notre corps, avec toutes ses limites, est ce qui nous rend humain.

Blade Runner ou une différence fragile

Dans Blade Runner, Ridley Scott (1984) dépeint le risque de voir l’humanité se dissoudre dans la quête du parfait être artificiel. En 2019, une compagnie produit des êtres humanoïdes, les réplicants, pour se charger de missions dangereuses sur nos colonies extra-terrestres. Visuellement, les réplicants sont indiscernables des humains. Deckard, un des personnages principaux, est spécialisé dans leur détection. Un jour, Deckard fait passer le test à Rachel, l’assistante du président de la compagnie produisant les réplicants. Quoiqu’elle se croie humaine, Rachel est en fait un être humanoïde de dernière génération : sa mémoire artificielle contient de faux souvenirs, implantés pour lui permettre de créer un soi narratif, une identité individuelle liée aux émotions contenue dans les souvenirs. En conséquence, le test peine à la différencier des humains.

Le film interroge l’ultime critère de notre humanité. En effet, les réplicants n’ont pas seulement un corps de nature biologique et de forme humanoïde, ils deviennent également plus « humains » dans les domaines de la moralité et des émotions. Ils ont des sensations, des attachements sociaux et sont mortels. Lors du combat final entre Deckard et Roy, le héros réplicant, ce dernier décide de sauver la vie de l’humain après une réflexion éthique sur ses actions passées. Rachel exprime une gamme complète d’émotions, une nette conscience de soi et la peur de mourir. D’où le problème central : si nous sommes prêts à intégrer des capacités élargies dans notre définition de l’humain et si les réplicants ont une composition biologique et psychique identique à l’homme, alors la seule chose qui distingue les humains des réplicants est leur génération. Cela suffit-il à les exclure de notre définition de l’humain ? À l’exception de Rachel, dont le futur est inconnu, les réplicants échouent et meurent. Ils ne deviennent pas la nouvelle norme de l’humain, mais constituent au contraire un repoussoir identitaire. Le film suggère toutefois que la différence entre humains et êtres artificiels se réduit, et pose la question de sa potentielle disparition quand la norme des êtres artificiels continue d’évoluer, mais que la définition de l’humain se fige.

Surrogates et la perte de soi

Dans Surrogates, Jonathan Mostow (2009) explore une autre menace dans l’usage de robots humanoïdes pilotés de chez eux par les humains grâce à une interface cérébrale. Les robots agissent comme une prothèse complète, remplaçant l’homme dans sa vie quotidienne, et sont largement répandus. Ils peuvent être détruits sans dommage pour l’usager, ce qui le protège des accidents du monde réel. Chaque humain peut posséder plusieurs robots et opter pour des caractéristiques physiques de son choix. Le héros, Tom Greer, est un des utilisateurs. Depuis la mort de leur fils, sa femme refuse de le rencontrer en personne et restreint leurs interactions à celles de leurs robots respectifs. Cette fiction soulève plusieurs questions intéressantes concernant notre identité d’êtres incarnés. Sommes-nous prêts à intégrer cette technologie pour augmenter notre sécurité ? Comment la possibilité d’avoir de multiples apparences va-t-elle affecter notre identité sociale et nos relations ? Risquons-nous de perdre contact avec notre identité réelle et de nous perdre dans une identité « virtuelle » après un usage répété ?

Le premier point concerne notre propension à adopter l’usage des robots. Notre mortalité, la fragilité de notre corps biologique, le risque d’accident et la possibilité de les réduire est le premier argument commercial évoqué dans le film. Dans un sens, l’impact sur notre corporéité semble mineur : nous continuons d’exister comme avant, notre conscience n’est jamais transférée au robot (l’activité cérébrale est seulement transmise en temps réel, si l’utilisateur se débranche chez lui, le robot devient inerte) et l’usage des robots ne requiert aucune modification de notre propre corps qui retient toutes ses caractéristiques préalables. Le film suggère que les avantages pratiques ont suffi à généraliser l’usage des robots dans la société, conformément au pragmatisme fonctionnel. Mais Jonathan Mostow illustre aussi l’adaptation de la norme : quand le héros retourne en ville pour la première fois en chair et en os, il ressent vivement sa fragilité parmi des robots qui ne craignent pas de le bousculer parce qu’eux-mêmes ne risquent rien dans ce contact brusque. La norme a bel et bien évolué pour s’adapter aux propriétés physiques des robots, ce qui rend de facto le corps humain moins adapté au nouvel environnement social. On imagine comment ce processus prendrait place : dès qu’un nombre suffisant d’individus a accès aux robots, la police doit s’équiper pour être en mesure d’appréhender ces individus dotés de capacités physiques surhumaines, ce qui en retour peut inciter d’avantages de citoyens à s’équiper de robots pour ne pas être désavantagés dans ce nouveau contexte. C’est un processus dialectique de redéfinition de l’incarnation humaine et de la technologie.

Le second point concerne les conséquences de cette technologie sur notre concept d’identité personnelle. La possibilité d’avoir plusieurs « corps » et plusieurs apparences, voire plusieurs identités comme le film le dépeint, interroge le rôle du corps dans notre identité sociale. Le film souligne la dissociation entre l’apparence du robot et les caractéristiques réelles de son propriétaire. Ce point n’est pas trivial : quand il devient possible de dissocier son apparence physique de son apparence réelle, la question de l’identification de l’usager quand on rencontre un robot devient problématique, et ce d’autant plus qu’il est possible de posséder plusieurs robots d’apparences distinctes. Une des caractéristiques fondamentales du corps humain que cette fiction manipule est son unicité : on ne peut pas changer notre ADN et il est difficile de changer drastiquement notre apparence, ce qui fait du corps un très bon moyen d’identification individuelle. ADN, empreintes digitales et dentaires, photo du visage, reconnaissance de l’iris sont autant de marqueurs utilisés aujourd’hui en vertu du fait qu’ils sont difficiles à dupliquer ou changer, contrairement aux robots. De sorte que l’impact majeur que cette technologie pourrait avoir sur notre définition de l’humanité incarnée est de dissocier identité personnelle et marqueurs corporels.

Le dernier point soulève le risque de perdre quelque chose d’essentiellement humain en nous éloignant de notre corps biologique comme marqueur de notre identité individuelle. Tom dénonce l’illusion quand il insiste pour voir « sa femme » et non pas son robot. La scène finale, après la destruction des robots, montre des humains désorientés, sortant pour la première fois de chez eux depuis des années et stupéfaits de se retrouver confrontés à d’autres humains, à ces êtres dont l’apparence réelle montre une humanité bien différente de l’apparence universellement soignée, sexy et jeune que permettaient les robots. En dissociant identité individuelle et caractéristiques physiques, on rend l’interaction sociale tellement incertaine qu’elle risque d’en perdre toute substance. La certitude que l’on interagit bien avec qui on croit est une conséquence indirecte de l’impossibilité de changer notre corps à volonté et, si cette certitude était perdue, c’est une des bases du tissu social qui se perdrait.

Cette fiction reflète donc une autre façon de perdre notre humanité en adaptant la norme à une nouvelle technologie, cette fois non pas parce que la distance entre humain et robot se réduit, mais parce que, en changeant la relation entre identité personnelle et corps, nous mettons en danger la réalité sociale telle que nous la connaissons. Doit-on alors conclure qu’il ne peut y avoir de fiction utopiste qui propose une humanité désincarnée ?   

Vers une humanité désincarnée ?

Dans cette dernière partie, je voudrais me pencher sur deux fictions qui posent notre incarnation comme un fait contingent de notre identité.

Transcendence

Transcendence, le dernier film de Wally Pfister (2014), suit le destin du Dr Will Caster, un scientifique qui travaille à la création d’une intelligence artificielle dotée « de toute la gamme des émotions humaines » et d’une capacité cognitive incroyable. La motivation relève encore une fois du pragmatisme fonctionnel : détection précoce du cancer, découverte d’une cure… Pourtant, après que Will soit mortellement blessé par un activiste opposé au projet, sa femme Evelyn décide de « le sauver en téléchargeant sa conscience dans un ordinateur ». Après la mort physique de Will, un message apparaît à l’écran « Is anyone there ? ». Tandis que sa femme accepte que l’entité soit bien Will, leur meilleur ami doute : « Comment savoir à quoi on a affaire ? » L’entité décrit son expérience comme une existence libre des limites imposées par le corps humain, mais, rapidement, elle demande à être connectée au réseau internet pour disposer de plus d’espace et de puissance de calcul.

Au moment où j’écris ces lignes, le film n’est pas encore sorti. Voyons ce que les principes que nous avons identifiés jusque-là prédisent ! Le destin de Will ne semble pas ouvrir une possibilité d’existence collective qui puisse relever du pragmatisme fonctionnel. Il n’y a pas de garantie quant à l’identité de l’entité. On peut choisir de croire que son identité est préservée tout comme on peut soutenir que Will est mort et qu’une entité dotée de ses souvenirs a commencé d’exister, de se développer et pour cela de se différencier, après la mort de Will. Il semble que cette technologie propose à un individu mourant de permettre à une entité électronique de commencer à exister avec tous les souvenirs de l’humain sans pour autant que la « survie » de l’être humain soit garantie. Par ailleurs, le fait que l’entité cherche à se développer jusqu’à occuper tout l’espace disponible semble limiter la diffusion de cette technologie à une large part de la population. De plus, la soudaineté du passage d’une existence incarnée à une existence totalement virtuelle prédit que cette technologie sera rejetée plutôt que la norme redéfinie. La bande-annonce suggère en effet que l’entité ne donne pas lieu à une nouvelle norme, mais est au contraire perçue comme une monstruosité et une menace pour l’humanité.

Mais on peut se demander si, quand bien même l’individu survivrait au changement de modalité existentielle, il ne serait pas néanmoins transformé en un être post-humain une fois que son existence ne serait plus déterminée par l’impossibilité d’être dans deux lieux à la fois, par les limites cognitives du cerveau humain ou par aucun des besoins élémentaires du corps humain. Il est possible que l’identité de l’individu (au sens de continuité psychologique) soit préservée tandis que son identité en tant qu’humain est rompue. Il y aurait un Will humain, déterminé par les modalités d’existence du corps humain, et un Will électronique, dont l’existence serait soumise à un ensemble de lois différent. Si ce paradigme est interprété en termes d’humain versus machine, alors il ne peut y avoir d’adaptation de la norme et l’entité sera poussée hors de la définition de l’humanité incarnée plutôt que d’être adoptée comme nouvelle possibilité. Mais peut-on imaginer que ce paradigme soit interprété comme un nouveau stade de l’évolution humaine ?

The Gentle Seduction : être humain sur Terre et au-delà ?

Pour illustrer ce scénario, j’en appelle à une nouvelle écrite en 1989 par Marc Stiegler, « The gentle seduction ^[1]». L’histoire dépeint la vie d’une femme dans un monde au début très proche du réel. Elle mène une vie simple et accomplit elle-même les tâches quotidiennes. Pourtant, le jour de ses 82 ans, un mal de dos l’empêche de déneiger devant sa porte. Ses enfants, plus versés dans la technologie, lui fournissent une pilule contenant des nano-robots qui réparent les dommages osseux et musculaires liés au vieillissement. Revigorée, l’héroïne renoue avec le plaisir de la randonnée, mais découvre que son cœur ne suit pas ses muscles régénérés. Une autre avancée technologique permet de résoudre ce problème. Lorsqu’un randonneur la sauve d’une avalanche grâce à un bandeau électronique qui lui permet d’interroger internet à distance, l’héroïne fait un choix pragmatique et adopte le bandeau, puis sa version sous-cutanée un peu plus tard.

Dans cette utopie, l’ensemble de l’humanité adopte pas à pas ces avancées technologiques qui permettent de rendre la vie plus sûre, plus saine et plus longue. L’histoire s’inscrit dans une durée bien plus longue que les films ci-dessus. Sur une aussi longue période, chaque changement est vécu comme une intégration sans secousse et se diffuse progressivement en même temps que la norme se met à jour. Mourir de vieillissement devient l’exception. Bientôt, ne pas consulter internet par la pensée devient l’exception. Et ce faisant, petit à petit, les modalités d’existence de l’homme s’adaptent à un nouvel environnement, un monde dans lequel le temps n’a plus d’effet délétère sur le corps, dans lequel l’espace n’est plus limité à la Terre après l’installation d’une colonie sur Mars. Ultimement, nous développons la technologie nécessaire au tourisme sur Jupiter et au-delà. Cela nécessite de placer notre corps en stase, car il ne survivrait pas aux conditions locales, mais des instruments nous permettent de faire de nouvelles expériences sensorielles, propres aux environnements que nous explorons. L’héroïne ne cesse jamais d’exister comme être incarné, elle découvre seulement d’autres modes d’existence, plus adaptés aux milieux extra-terrestres. L’histoire montre le corps humain comme parfaitement adapté au milieu terrestre, mais suggère qu’il n’est pas pour autant nécessairement la seule modalité d’existence possible de l’homme, si la technologie nous permettait d’évoluer dans d’autres milieux.

Par tous les principes que nous avons identifiés (pragmatisme fonctionnel, adaptation de la norme, une diffusion à l’ensemble de la société et une longue durée donnée à l’intégration de chaque progrès), cette histoire représente l’illustration du processus par lequel le concept contemporain d’humanité incarné dans le monde réel pourrait évoluer progressivement pour intégrer de nouvelles possibilités apportées par la technologie jusqu’à envisager le corps humain comme une modalité contingente de notre existence.

Conclusion

La technologie nous offre sans cesse de nouveaux possibles et provoque régulièrement notre inquiétude quant aux changements qui découleraient de l’adoption de ces inventions au quotidien. Récemment, Damien Leloup, journaliste au Monde, publiait ainsi un billet intitulé : « Ma semaine avec des Google Glass. Gadget inutile ou révolution, future norme ou fin de la vie privée ? ^[2]» Navigation GPS, lecture des e-mails en direct, prise de photographies, accès aux informations en ligne et connexion aux réseaux sociaux en temps réel : ce petit outil technologique transforme à lui seul des aspects fondamentaux de notre vie incarnée. Comment y réagirons-nous ? Dans cet article, nous avons exploré à travers plusieurs œuvres de science-fiction l’impact que différents scénarios d’évolution technologique pourraient avoir sur notre concept d’humain comme être incarné. Dans chaque cas, nous avons montré comment les trois principes de pragmatisme fonctionnel, d’évolution consécutive de la norme et de durée de diffusion déterminent l’accueil réservé à chaque invention. Bien que nous considérions souvent le futur, réel ou sur grand écran, comme un saut radical dans une vie drastiquement différente qui pourrait à tout moment nous faire basculer au-delà de l’humanité dans laquelle nous nous reconnaissons, un regard vers le passé défait cette illusion. Le nombre, la variété et le rythme des inventions technologiques de ce dernier siècle sont inédits. Pourtant, plutôt que d’avoir perdu ce qui nous rend humains, nous avons au contraire réalisé notre humanité dans son potentiel de redéfinition dialectique entre possibles du corps et découvertes technoscientifiques. L’adoption d’outils comme les Smartphones ou les Google Glass est le signe d’une création dynamique de son environnement par une humanité en constante évolution.

[learn_more caption= »Références »] Blomkamp, N (2013) Elysium. États-Unis, science-fiction, 109 min.

Burger, N. (2011) Limitless. États-Unis, thriller, 105 min.

Cameron, J. (2009) Avatar. États-Unis, science-fiction, 162 min.

Descartes, R. (1643) Méditations métaphysiques, Paris, Flammarion, 2009.

Greely, H. et al. (2008) « Towards responsible use of cognitive enhancing drugs by the healthy », Nature, 456 (7223), p. 702-705.

Locke, J. (1689) Essai philosophique sur l’Entendement humain, Paris, Vrin, 2001.

Mostow, J. (2009) Surrogates. États-Unis, science-fiction, 89 min.

Nagel, T. (1974) « What is it like to be a bat? », Philosophical Review, 93 (4), pp. 435-50.

Nozick, R. (1981) Philosophical explanations, Cambridge, Harvard University Press.

Oken, B. ; Orhan, U. ; Roark, B. ; Erdogmus, D. ; Fowler, A. ; Mooney, A. ; Peters, B. ; Miller,  M.  & Fried-Oken, M. (in press) Brain–Computer Interface With Language Model–Electroencephalography Fusion for Locked-In Syndrome, Neurorehabilitation and Neural Repair.

Owen, A. ; Coleman, M. ; Boly, M. ; Davis, M. ; Laureys, S. ; Pickard, J. (2006) « Detecting Awareness in the Vegetative State », Science, 313 (5792), p. 1402.

Parfit, D. (1984) Reasons and Persons, Londres, Oxford University Press.

Pfister, W. (2014) Transcendence. États-Unis, science-fiction, 119 min.

Platon (1940) Œuvres complètes, I et II, traduction L. Robin, Paris, Gallimard.

Scott, R. (1984) Blade Runner. États-Unis, thriller, 117 min.

Shanechi, M. ; Hu, R. & Williams, Z. M. (2014) « A Cortical-spinal Prosthesis for Targeted Limb Movement in Paralyzed Primate Avatars », Nature Communications, 5 (3237), p. 1-9.

Shoemaker, S. (1963) Self-knowledge and self-identity, Londres, Oxford University Press.

Stiegler, M. (1989) The Gentle Seduction. Analog Magazine.

Williams, B. (2003) « The self and the future », dans R. Martin, J. Barresi, Personal identity, Oxford, Blackwell, p. 75-91.