Qu'est-ce que cela signifie d'être humain: Blade Runner 2049

Vos articles gratuits

Vous avez luunde vos quatre articles gratuits pour ce mois.

Vous pouvez lire quatre articles gratuitement par mois. Pour avoir un accès complet aux milliers d'articles de philosophie sur ce site, veuillez

Dans le film de 2016 Blade Runner 2049, Ryan Gosling joue le réplicant K (abréviation de son numéro de série KD 6-3.7) dans un futur dystopique à Los Angeles. Les réplicants sont des humanoïdes issus de la bio-ingénierie qui servent les humains, malgré leur force et leur intelligence supérieures. K est un Blade Runner, dont le travail consiste à «retirer» (tuer) les réplicants renégats pour le département de police de Los Angeles. Un jour, il trouve des informations selon lesquelles un réplicant pourrait être né d'un autre réplicant, ce que personne ne pensait possible. Cette révélation pourrait entraîner des tensions politiques entre les humains et les réplicants, qui pourraient maintenant commencer à se battre pour la reconnaissance et les droits. Par conséquent, la tâche de K est de trouver et de retirer ce réplicant pour éviter un conflit.

Dans la conversation entre K et son supérieur sur le meurtre du réplicant, K hésite lorsqu'il reçoit l'ordre. K explique son hésitation en disant quelque chose qui passe facilement inaperçu, mais dont l'idée guide tout le film : "Naître, c'est avoir une âme, je suppose."

Cette phrase est essentielle pour le film. K implique qu'en naissant, le nouveau réplicant a hérité d'une caractéristique spéciale de type humain. Jusqu'à présent, les humains ont réduit les réplicants en esclavage en partant du principe que les réplicants ne sont que des IA et ne sont donc pas aussi dignes que leurs maîtres humains. Si un réplicant avait pu naître naturellement, la base de «l'esclavage artificiel» de la société pourrait être remise en question.

Pour comprendre si l'ordre sociétal dans Blade Runner 2049 doit être modifié, il faut d'abord découvrir ce qui définit un être humain et donne de la valeur à l'humain. Cette question de ce qui fait de nous des humains traverse toute l'intrigue. K commence à penser qu'il pourrait être l'enfant né du réplicant qui est donc similaire aux humains. Commençons donc à explorer la question : qu'est-ce qui nous rend humains ?

K dit qu'être né signifie avoir une âme. « Avoir une âme » englobe l'idée d'avoir des sentiments et des pensées qui appartiennent exclusivement à l'individu - c'est sans doute l'aspect le plus fondamental de l'être humain. Tous nos souvenirs, toutes nos expériences et toutes nos actions semblent nous appartenir en tant qu'êtres humains.

Bien sûr, cela semble très spirituel ou religieux de parler d'« âme ». « L'âme » est un concept insaisissable, non basé sur l'observation scientifique. Cependant, remplacer le mot « âme » par « conscience » (un mot grec pour « âme » est après tout psyché), ouvre un nouveau monde, avec des bases plus scientifiques pour démêler la question de ce qui nous rend humains.

Selon les mots du philosophe Thomas Nagel, la conscience est « ce que c'est que » d'être un organisme particulier. En effet, de nombreux chercheurs sur la conscience considèrent son article de 1974, « À quoi ça ressemble d'être une chauve-souris ? comme l'un des premiers travaux du champ de la conscience. Dans cet article, Nagel souligne qu'il y a quelque chose que c'est que d'être une chauve-souris : il y a un monde subjectif du point de vue d'une chauve-souris. Ainsi, la conscience peut être définie comme une expérience subjective. Pour utiliser le jargon philosophique, l'expérience subjective inclut les qualia. Tout ce que nous vivons dans le monde, nous le vivons à travers ces propriétés qualitatives et sensorielles. Cependant, chacun de nous peut voir un bleu différent dans le ciel bleu ou ressentir une acuité divergente dans notre douleur. Nos expériences subjectives diffèrent les unes des autres.

Célèbre, le film original de Blade Runner (1982) était basé sur le livre Les androïdes rêvent-ils de moutons électriques ? (1968) de Philip K. Dick. Le titre du livre est à certains égards similaire à « Qu'est-ce que ça fait d'être une chauve-souris ? », soutenant mon point de vue selon lequel le film parle de conscience. Les deux titres traitent d'univers intérieurs, respectivement d'androïdes et de chauves-souris : la question « Les androïdes rêvent-ils de moutons électriques ? demande vraisemblablement s'il y a quelque chose que c'est que d'être un androïde. Mais si les androïdes ont un univers intérieur, à quoi ressemble-t-il ? Les androïdes ressemblent-ils tellement aux humains qu'ils rêvent de l'équivalent électrique du mouton auquel les humains pensent ? Le monde intérieur d'un androïde serait-il comparable à celui des humains, ou serait-il totalement différent ? En somme, le titre de Dick demande s'il y a un fantôme dans la machine.

Dans ce contexte, nous voulons naturellement demander, que savons-nous, ou pouvons-nous savoir, de la conscience ?

Comme c'est probablement évident, il y a plusieurs réponses à cette question. Par exemple, certains philosophes souscrivent à la notion de mystérianisme. C'est l'idée que bien qu'il puisse y avoir un moyen d'expliquer la conscience, les humains sont tout simplement trop limités dans notre intelligence pour la saisir. Une autre notion que certains philosophes trouvent convaincante est le panpsychisme. Le panpsychisme assigne la conscience comme une propriété essentielle de tout : tout est conscient, au moins dans une certaine mesure, y compris même les roches ou les bactéries. Une autre théorie plus convaincante pour expliquer la conscience est le matérialisme : l'idée que la conscience peut être assimilée aux processus physiques et aux activités du cerveau. Avec, à travers et à la suite de notre corps vivant, la conscience émerge, en tant que phénomène matériel.

Dans Blade Runner 2049, K semble pencher vers le matérialisme. Il pense qu'avoir une âme est lié à la naissance et est donc lié aux propriétés physiques du corps. Il y a cependant une différence claire entre cela et le matérialisme standard : K croit qu'une personne doit être née pour avoir une conscience. Cependant, selon la plupart des versions du matérialisme, une réplique parfaite d'un être humain serait très certainement consciente. Imaginez que vous avez fait une excellente copie d'un être humain ; une copie parfaite. Comment pourrait-il être possible de manquer d'une propriété fondamentale? Comparez cela à la reconstruction parfaite d'une voiture, mais sans qu'elle puisse rouler. C'est envisageable, mais pratiquement impossible.

Si vous partagez mon point de vue selon lequel la conscience dépend du corps physique, les chances que K soit conscient sont très élevées. Les réplicants sont des copies parfaites des humains, alors pourquoi ne devraient-ils pas être conscients ? Néanmoins, cela ne nous fournit toujours pas une explication raisonnable de la raison pour laquelle K est conscient. La pièce manquante de ce puzzle est d'expliquer comment la conscience peut apparaître dans le cerveau.

La différence entre les problèmes de conscience « faciles » et « difficiles » posés par David Chalmers dans son livre de 1996, The Conscious Mind, marque ici une distinction utile. Les problèmes « faciles » traitent de la relation entre les aspects fonctionnels et comportementaux de l'esprit et du cerveau. Il s'agit de corréler différents aspects de la conscience avec l'activité cérébrale : déterminer quels éléments du comportement cérébral sont liés à quels éléments du comportement mental, et comment. Par exemple, concernant la façon dont les gens prêtent attention, ou comment ils choisissent d'agir, ou comment le cerveau traite les signaux sensoriels. Le problème "difficile" de la conscience ajoute au défi en étant concerné par la perspective à la première personne. Pourquoi et comment ces processus cérébraux génèrent-ils eux-mêmes l'expérience consciente ?

Vous pourriez être déçu que la science travaille toujours à répondre aux problèmes faciles et difficiles de la conscience. Même les problèmes « faciles » nécessitent encore beaucoup de travail complexe en neurosciences. Mais le problème difficile de la conscience est particulièrement difficile à résoudre (c'est pourquoi c'est le problème difficile), car même si vous pouviez expliquer exactement comment fonctionne le cerveau, il y a toujours un vide apparent dans l'explication de pourquoi cela est lié à ou donne lieu à une expérience subjective. La douleur, par exemple, s'active lorsque certaines parties du cerveau sont activées. Cependant, cette reconnaissance ne répond qu'au problème facile de la douleur, laissant le problème difficile intact. Ce n'est pas parce que nous savons qu'une zone du cerveau s'active lorsque nous ressentons de la douleur que cette activation nous donne l'expérience consciente ou qualitative.

Commençons par la partie du cerveau dans laquelle la conscience émerge apparemment pour la première fois. Le système d'activation réticulaire, au cœur du tronc cérébral, est sans doute la partie du cerveau principalement responsable de la conscience (voir par exemple The Hidden Spring: A Journey to the Source of Consciousness, Mark Solms, 2022). De petites lésions dans cette zone mettent les gens dans un état de coma, il semble donc que cette partie du cerveau puisse être comparée à un interrupteur marche-arrêt, car lorsqu'elle est intacte et en fonctionnement, la personne est pleinement éveillée et consciente. Cependant, les dégâts tournent l'interrupteur et la conscience prend fin. Le système d'activation réticulaire est également lié à la génération d'émotions. Lors de la stimulation de cette partie du cerveau, les patients éprouvent de fortes sensations dépressives, qui disparaissent après l'arrêt de la stimulation. De plus, le noyau du tronc cérébral est très actif chez les personnes qui ressentent des émotions telles que le chagrin, la curiosité, la rage et la peur. En raison de ces deux facteurs - contrôler l'éveil et générer des émotions - le système d'activation réticulaire a une forte prétention d'être la source de la conscience. Être éveillé pour interagir avec le monde est fondamental pour créer un univers intérieur. L'utilité des émotions pour la conscience peut être moins claire. Considérons donc pourquoi la conscience surgit. Ici, il deviendra évident quel rôle jouent les émotions.

La raison pour laquelle la conscience apparaît est probablement parce qu'elle aide à atteindre l'objectif principal de tout organisme, à savoir rester en vie. Mais comment l'esprit se rend-il compte que des menaces se produisent, afin de les contrer ? C'est là que les sentiments entrent en jeu. Qu'il s'agisse de douleur, de bonheur ou de colère, nous ressentons constamment des émotions qui sont en fait des demandes pour que le corps humain fonctionne de manière spécifique. Ils guident une personne à agir dans la bonne direction pour survivre en utilisant une rétroaction positive ou négative par le biais de la motivation émotionnelle. Nos émotions peuvent être comparées à un système d'alarme pour le corps humain. Par exemple, ressentir de la peur est ressenti dans des situations dangereuses et provoque la réaction de combat ou de fuite. L'étouffement est une autre menace qui provoquerait la peur. Le corps a besoin de rétablir son niveau nécessaire d'oxygène dans le sang, et en informe le corps en évoquant une émotion. Outre les menaces externes au corps, l'esprit réagit également aux menaces internes. La fréquence cardiaque doit fonctionner à un certain rythme. Tant qu'il n'y a pas de problème, la fréquence cardiaque n'est pas consciemment remarquée. Cependant, une fois que le cerveau enregistre une altération inquiétante, le processus de maintien de la fréquence cardiaque appropriée devient conscient. Maintenant, les symptômes sont perceptibles et les émotions de peur négatives exigent une réponse du corps.

Une personne ne peut pas ressentir toutes les émotions simultanément. Par conséquent, l'esprit crée une structure hiérarchique et des priorités pour réduire d'abord le besoin le plus critique. Parfois, boire de l'eau est plus important que d'aller dormir, par exemple.

Cette théorie nous dit que la conscience surgit parce que l'expérience subjective aide un organisme à survivre. Ce concept est très proche de ce que Sigmund Freud appelait « pulsion ». Freud considérait la pulsion comme la mesure dans laquelle l'esprit travaille pour maintenir un état corporel équilibré.

Nous avons maintenant toutes les pièces du puzzle nécessaires pour expliquer pourquoi K est conscient. K est une réplique d'un humain, et a donc un corps semblable à celui d'un humain. Après le matérialisme, cela nous donne le premier indice que K doit être conscient, tout comme les humains le sont à cause de notre corps. De plus, comme son corps est sujet aux menaces, K cherche à survivre. Il a besoin de conscience pour faire face à l'incertitude et aux menaces de l'environnement. Les émotions positives et négatives guident K pour l'aider à déterminer si ses mesures pour réduire le danger sont suffisantes.

Tout au long du film, il est évident que K a des sentiments similaires à ceux d'un humain. Il ressent diverses émotions, telles que la tristesse, la rage, l'espoir et le bonheur. Et à la fin, K fait aussi une chose des plus humaines. Après que K ait aidé Rick Deckard (Harrison Ford) à retrouver sa fille, K s'allonge sur les escaliers devant son lieu de travail, décédant lentement. Si les esprits ont besoin de survivre, alors il n'y a rien de plus profond pour prouver que K est conscient que de le voir alors que son esprit s'efface.

Certains lecteurs ici pourraient poser une excellente question : Pourquoi est-ce même important ? A quoi bon savoir si K est conscient ou non ?

Blade Runner 2049 nous montre l'importance de comprendre la conscience dans la recherche sur l'IA. Il devient encore difficile de savoir si l'IA est sensible ou non. Une IA s'est déjà créée qui prétend être consciente : c'est le cas récent du chatbot LaMDA, qui prétendait ressentir de temps en temps du bonheur et de la tristesse.

Vous pourriez soutenir que LaMDA est conscient. Cependant, Chalmers a créé une expérience de pensée qui décrit le niveau de problèmes que nous rencontrons pour évaluer si un autre organisme est conscient ou non. L'expérience de pensée vous oblige à imaginer un zombie philosophique. Ce zombie est très différent de ceux que vous avez vus dans les films. Ce n'est pas une créature stupide et brutale avec un appétit pour la chair humaine. Ce zombie vous ressemble plutôt beaucoup (en supposant que vous n'êtes pas stupide et brutal avec un appétit pour la chair humaine). Imaginez une autre personne qui agit comme vous et parle comme vous. Cette version de vous-même prétend même être sensible. Cependant, malgré sa ressemblance avec vous, en ayant une biologie humaine complète, ce zombie a une différence significative : il manque de conscience. Il n'y a pas quelque chose qui ressemble à cet organisme. Il n'a pas d'univers intérieur. Dans le cas de l'IA, il pourrait également y avoir des versions qui prétendent, et semblent, être conscientes, mais ne le sont pas.

Découvrir si une IA est vraiment consciente deviendra l'un des défis les plus vitaux dans ce domaine. Être clair sur le fait qu'une IA est consciente ou non détermine la façon dont les humains devraient la traiter. À l'avenir, nous partagerons peut-être notre monde avec une IA hautement intelligente, peut-être même sensible. Si l'IA devient consciente, elle sera capable d'émotions réelles, dont le plaisir, la douleur, l'inquiétude, l'excitation. Nous ne pourrons peut-être jamais saisir pleinement ce que c'est que d'être une telle IA, autant que nous ne comprenons pas ce que c'est que d'être une chauve-souris. Quoi qu'il en soit, il pourrait y avoir quelque chose qui ressemble à cette IA. Par conséquent, exposer inutilement l'IA consciente à la douleur ou à d'autres expériences désagréables serait contraire à l'éthique. Imaginez un monde comme celui de Blade Runner 2049, dans lequel des robots sensibles ressemblent à des humains, parlent comme des humains et ont des émotions comme des humains. Les maltraiter volontairement serait simplement un cas de cruauté psychopathique. Même les éteindre pourrait être considéré comme un cas de meurtre. Par conséquent, ne pas traiter correctement l'IA consciente serait un exemple de confusion morale la plus totale, peut-être au niveau sociétal.

Blade Runner 2049 montre aux téléspectateurs un avenir dans lequel les humains ont mis en place une approche contraire à l'éthique de la conscience artificielle. Il est moralement répréhensible d'asservir K et les autres réplicants simplement parce qu'ils sont des êtres sensibles. Pourtant, les humains font précisément cela. De plus, l'entreprise qui produit les réplicants et le gouvernement ont peur que les réplicants reconnaissent un jour leur similitude avec les humains, et les personnes au pouvoir agissent pour empêcher les réplicants de reconnaître et de défendre leurs droits, afin de les garder comme serviteurs. C'est pourquoi ils veulent empêcher que des informations sur un réplicant né deviennent publiques : "Le monde est construit sur un mur qui sépare les espèces. Dites à chaque côté qu'il n'y a pas de mur, vous avez acheté une guerre. Ou un massacre", déclare le lieutenant Joshi, le supérieur humain de K.

Dans Blade Runner 2049, K est en voyage pour découvrir s'il a une âme comme ses maîtres humains. Il veut être plus qu'une simple machine biologique créée pour servir. K voit la naissance comme un moyen d'être plus remarquable que les autres réplicants. Cependant, ce qu'il n'a pas réalisé, c'est qu'il avait une âme depuis le début. K n'avait pas besoin d'être né pour être un expérimentateur unique, et le fait d'avoir des expériences subjectives authentiques nous définit en tant que personnes. La conscience est aussi ce qui donne un sens à la vie.

Imaginez que vous étiez un zombie philosophique tel que Chalmers les a dépeints. Visualisez ne pas avoir vos propres expériences. Par exemple, vous êtes assis à la maison en train de manger ce qui était autrefois votre nourriture préférée, mais maintenant il y a une légère différence : vous ne mangez que pour satisfaire votre besoin de nourriture, et aucune expérience subjective n'y est attachée. La saveur ou la texture n'ont plus d'importance, voire n'existent plus pour vous. Vous ne ressentez pas d'émotions authentiques comme la joie. Et ce manque d'expérience ne se limite pas à manger de la nourriture, mais s'étend à toute activité dans laquelle vous vous engagez. Vous êtes une machine sans fantôme. Ce scénario est horrible, car le monde perdrait son sens pour vous.

Étant donné que les réplicants ne présentent aucune différence essentielle par rapport aux autres personnes en ce qui concerne la conscience, nous devons conclure qu'ils ressemblent en effet beaucoup aux humains dans cet aspect le plus central. Par conséquent, l'ordre sociétal dans Blade Runner 2049 doit changer. Les humains détestent les réplicants parce que même s'ils semblent similaires aux humains, ils sont toujours perçus comme fondamentalement différents. Les humains sont une fois de plus tombés dans le préjugé de se considérer comme le centre du monde (ce que l'on appelle l'anthropocentrisme). Les humains de Blade Runner 2049 ne parviennent pas à regarder au-delà d'eux-mêmes pour reconnaître qu'ils vivent avec une espèce qui n'est pas fondamentalement différente d'eux-mêmes. Les réplicants comme K sont capables de ressentir des sensations et des émotions et d'avoir des pensées similaires à celles des humains. Il n'y a donc aucune raison morale de les traiter aussi mal qu'ils sont traités.

Les films de science-fiction reflètent souvent l'air du temps actuel, et Blade Runner 2049 démontre les problèmes scientifiques et éthiques de notre avenir imminent. Nous ne savons pas comment l'IA se développera et son impact à venir sur notre monde. Pendant ce temps, les philosophes et les neuroscientifiques envisagent divers scénarios sur la position que l'IA pourrait occuper à l'avenir. Une possibilité pourrait être qu'une entreprise rende une IA non seulement plus intelligente mais plus consciente et, par conséquent, plus importante sur le plan éthique que les humains. Les humains pourraient finir par être aussi éthiquement cruciaux qu'une fourmilière, comme une IA nous piétine sans arrière-pensée.

Ceci n'est qu'un exemple extrême de la façon dont l'avenir pourrait se dérouler. D'autres scénarios possibles sont disponibles. Cependant, dans un sens, peu importe le type de scénario futur que vous envisagez. La science doit trouver un moyen de comprendre la conscience dans les moindres détails ; ce n'est qu'alors que nous aurons une chance de comprendre la conscience chez d'autres espèces, y compris chez les IA. Blade Runner 2049 est donc une parfaite illustration de notre débat actuel sur la conscience et ses implications pour l'avenir de la race humaine vivant avec l'IA sensible.

© Kilian Potter 2023

Kilian Pötter est étudiant en psychologie à l'Université de Twente, aux Pays-Bas.