Voitures autonomes, dilemmes moraux et éclipse du politique.

 

À propos du « problème » du tramway de Philippa Foot

 

 Kevin Ladd. Chercheur associé au Centre Chevrier de l’Université de Bourgogne et professeur de philosophie en classes préparatoires au lycée Montaigne de Mulhouse

Résumé Le propos de cet article est d’indiquer pourquoi l’expérience de pensée du tramway imaginée par Philippa Foot n’est pas à strictement parler un dilemme moral, et n’a jamais été conçue comme telle. Les véritables questions philosophiques entourant le problème du tramway (cohérence éthique, cognitivisme moral et analyse de l’action) sont négligées par ladite « philosophie expérimentale » et les médias généralistes. Les voitures autonomes et les possibilités offertes par l’Intelligence artificielle exigent pourtant d’être prises en considération par les citoyens sous la forme de délibérations publiques, ce qui en fait avant tout un problème de nature politique.

Mots-clés : utilitarisme, Philippa Foot, dilemme, intelligence artificielle, voiture autonome

Abstract

The aim of this paper is to explain why, strictly speaking, Philippa Foot’s trolley thought experiment does not qualify as a moral dilemma, and was never intended as such. The genuine philosophical issues surrounding the trolley problem (ethical consistency, moral cognitivism and action analysis) are neglected by the so-called « experimental philosophy » and the mainstream media. However, the potential of Self-driving cars and Artificial Intelligence need to be taken into consideration by the citizens, through public deliberation, thus making them a problem political in nature.

Keywords: utilitarianism, Philippa Foot, dilemma, artificial intelligence, autonomous vehicle

 

Certaines de nos pensées sont ainsi, elles ne servent qu’à occuper, par anticipation, la place d’autres pensées qui prêteraient davantage à réfléchir.

José Saramago¹

Introduction

Chacun connaît, ou croit connaître, l’histoire : un tramway roulant à tombeau ouvert menace d’écraser cinq personnes occupées à travailler sur la voie ; mais le conducteur de la rame, ou bien un employé assigné au poste d’aiguillage, ou encore un simple passant, selon les versions, peut conduire le véhicule fou sur une voie sur laquelle ne se trouve qu’une seule personne. Que doit-il faire ? Et surtout que devrons-nous décider lorsque, à moyen terme², les premières voitures autonomes seront commercialisées et qu’il faudra avoir prévu que des circonstances comparables, inévitablement, se présentent ? La philosophe américano-britannique Philippa Foot (1920-2010), en proposant cette expérience de pensée qui n’occupe au demeurant qu’une place assez secondaire dans son article de 1967, Le problème de l’avortement et la doctrine du double effet, dont nous publions la traduction dans ce dossier³, n’imaginait sans doute pas que celle-ci pût connaître une telle postérité. Depuis son introduction, et singulièrement au cours de la dernière décennie sur fond de développement et de promotion peu discrets de la voiture autonome par les sociétés Google ou Tesla, le « dilemme du tramway » – dont il faut d’ores et déjà souligner que Foot ne le nomme jamais ainsi⁴ – a en effet connu un destin singulier. De simple exemple dans le fil d’une analyse consacrée à la notion d’action intentionnelle qui en comporte une douzaine d’autres, d’inégale importance, il a peu à peu accédé au statut de « problème extraordinairement intéressant⁵ » de philosophie morale, puis à celui de lieu commun des sciences du comportement et de la psychologie de la décision⁶, enfin à celui d’aimable paradoxe de la dite « philosophie expérimentale », dont l’une des fonctions plus ou moins avouées est de procurer une caution intellectuelle ad hoc à l’industrie des nouvelles technologies auprès des médias généralistes⁷. Se soucier des conséquences délétères de certaines de ses lucratives inventions n’étant pas le trait le plus reconnaissable du monde industriel en général, le « problème du tramway » est apparu en l’espèce comme le moyen de s’offrir le consentement éclairé des futurs acheteurs de véhicules autonomes⁸. N’auront-ils pas été associés, en effet, par anticipation à la vaste consultation baptisée « Machine morale » mise en œuvre par le prestigieux Massachussetts Institute of Technology (MIT)⁹ ?

Comment en est-on venu à ce que le scénario du tramway s’impose auprès du grand public comme le principal, sinon le seul, « problème » relatif aux véhicules autonomes ? On ne saurait entièrement négliger « le sentiment que se trouvent là des problèmes intellectuels à la fois passionnants et accessibles, fût-ce de façon imprécise, aux non spécialistes¹⁰ » – en bref l’attrait exercé par la vulgarisation de paradoxes philosophiques. Le paradoxe est de bonne compagnie : il a un je-ne-sais-quoi de profond et la courtoisie de ne pas nous obliger à le résoudre. On doit aussi mentionner le rôle d’intermédiaire qu’a pu jouer Judith Jarvis Thomson, professeur de philosophie au MIT, entre cercles philosophiques et industrie de l’Intelligence artificielle (IA) : souvent présentée à tort comme le premier auteur de l’exemple, Thomson a néanmoins joué un rôle déterminant dans sa popularisation autant que dans l’intérêt que lui ont porté ses pairs¹¹. Mais le phénomène obéit aussi à une tendance plus profonde à éclipser les aspects politiques d’une question derrière la discussion, réduite à une logique du consentement, de problèmes d’« éthique »¹²  – cette catégorie de problèmes dont le drame est que chacun se montre d’autant plus avide de livrer son sentiment à leur sujet qu’il semble moins disposé à contribuer à une résolution collective. C’est là le sort que connaît aujourd’hui le « problème » du tramway, dont l’emploi sauvage témoigne d’évolutions aussi regrettables que symptomatiques du manque de vigueur de la vie démocratique et, ce qui en est un aspect parmi d’autres, d’un contresens sur la tâche de la philosophie.

I. Intelligence artificielle et « dilemme » du tramway : brève histoire d’un malentendu

IA et « simulation cognitive »¹³ posent un certain nombre de problèmes théoriques directs (qu’est-ce que penser, parler, savoir, avoir une intention, etc. ?¹⁴) et indirects (relatifs par exemple aux libertés publiques et à la vie privée dans le cas des dispositifs de reconnaissance faciale). Quant à la voiture assistée par l’IA, ou « voiture autonome », elle paraît concentrer une série d’enjeux moraux et juridiques portant sur des notions aussi centrales que celles de responsabilité, de dilemme et de décision. Considérons la question de la décision.

Il apparaît vite qu’un programme informatique, si sophistiqué soit-il, est incapable de décision au sens propre : si l’IA est apte à résoudre des problèmes, ce ne saurait être qu’au sens le plus pauvre du terme, c’est-à-dire là où existe « une procédure déterminée (qu’on appelle un algorithme) menant à sa solution¹⁵ ». À supposer même qu’il soit permis de rabattre entièrement l’analyse des dilemmes ou problèmes pratiques sur celle des problèmes théoriques, ce qui n’est pas le cas¹⁶, « chercher à développer l’intelligence artificielle de telle sorte qu’elle puisse résoudre des problèmes intéressants et vraiment complexes est voué à l’échec¹⁷ ». Résoudre un problème « met à l’épreuve la capacité à distinguer l’essentiel de l’inessentiel¹⁸ », capacité qui fait défaut à la machine. Seuls les êtres humains ont accès à la notion d’ « importance » qui, pour indéterminée qu’elle soit, est capitale dans l’analyse des questions morales, et pas seulement¹⁹.

Il est certainement possible, néanmoins, de simuler les décisions humaines là où des situations conflictuelles existent, d’où l’idée d’appliquer la « simulation cognitive » au champ moral et de se demander ce que des personnes, placées dans des conditions comparables à celles que Foot décrit dans le scénario du tramway, décideraient quant à elles. Ce qui n’a pas été fait, en revanche, c’est de prendre la mesure du changement radical que constitue le fait de passer du point de vue moral d’un agent engagé dans l’action à celui d’une assemblée délibérante qui devrait, cette fois en un sens politique, déterminer une série de dispositions législatives²⁰ – car c’est d’une règle dont nous avons besoin dans la circonstance, pas d’une obscure « prise de décision ». C’est pourquoi la véritable question que pose l’exemple légué par Foot est plutôt la suivante : qu’est-ce qui change, lorsque la technologie nous permet de passer d’une expérience de pensée à une situation dilemmatique bien réelle ? Pour bien comprendre ce point, il est nécessaire de revenir brièvement sur la notion de dilemme elle-même.

Si la notion et son analyse ont joué un rôle de premier plan dans les développements qu’a connus la philosophie morale britannique au cours du dernier demi-siècle²¹, le problème du tramway ne s’inscrit que de façon marginale dans cette histoire. Après une période dominée par la méta-éthique²², jusque vers la fin des années 1960, les philosophes se sont peu à peu tournés vers la résolution de dilemmes et de controverses²³ dont l’occasion et le modèle ont été fournis par ce que nous appelons en France des « questions de société », tout en les élevant à un niveau d’abstraction visant à les libérer de leurs attaches idéologiques et religieuses²⁴. Le texte de Foot constitue à cet égard un témoignage à la fois précoce et particulièrement clair dans ses intentions : il présente d’emblée la question de l’avortement comme un dilemme relatif aux droits de l’enfant à naître²⁵, non comme un conflit entre ceux qui verraient dans l’avortement un crime contre Dieu ou la patrie (à qui un enfant, futur citoyen et défenseur, est soustrait) et ceux qui voudraient y voir au contraire un simple expédient venant satisfaire un droit exclusif de la femme à disposer de son corps ou bien l’intérêt supérieur de la nation (pensons aux « grossesses d’État » des athlètes soviétiques et à la politique de l’enfant unique en Chine). L’analyse philosophique s’intéresse aux sources conceptuelles internes du dilemme, et non au concept pris, pour ainsi dire, dans son milieu idéologique ambiant : par exemple à l’idée d’un droit de l’enfant à la vie, mais pas à celle d’un caractère sacré de la vie ; à l’idée d’un droit de la femme à disposer de son corps, mais pas à celle de liberté sexuelle en général. Un « dilemme » ne désigne pas une opinion incertaine dans une controverse²⁶. De fait, dans son article, Philippa Foot – qui n’a jamais fait mystère de ses options éthiques libérales ni de son athéisme – ne prend pas directement position sur le droit à l’avortement ; elle se contente de souligner le caractère « déraisonnable²⁷ » de la doctrine catholique, qui rejette a priori la possibilité du dilemme.

Qu’a à voir l’exemple du tramway avec la question de l’avortement ? Il est d’abord destiné à illustrer un paradoxe de l’action, qui est que « quelqu’un peut prévoir la mort d’une personne sans en avoir strictement l’intention (comme dans le cas du conducteur du train), alors même qu’il est en train de faire ce qui en est la cause²⁸ ». C’est un paradoxe de cette nature qu’on retrouve, dit l’auteur, dans certains cas d’avortement thérapeutique. Paradoxe toutefois ne veut pas dire dilemme. Répétons que l’expérience de pensée du tramway n’a jamais été conçue comme un dilemme par son auteur ni par ses premiers lecteurs²⁹, du moins pas au sens strict où des principes moraux entrent directement en conflit, ou bien sont contrariés dans leur application, prima facie ou tout bien considéré³⁰. Pris à la rigueur, un « dilemme » désigne une situation dans laquelle « l’idée d’agir pour le mieux » semble « perdre tout contenu³¹ », ou encore dans laquelle l’agent est contraint de « faire le mauvais choix là où il n’existe pas de bon choix³² ». Ce n’est pas le cas du conducteur du tramway.

En effet, dans ce scénario, si conflit il devait y avoir, celui-ci naîtrait de la simultanéité³³ de deux « devoirs négatifs » (le devoir de ne pas nuire à autrui). Mais la solution en est évidente : il n’y a pas d’autre choix raisonnable que d’épargner le plus de vies possible³⁴. « Ce genre de cas est discuté avec une tonalité d’absolue nécessité quant au devoir de sauver des vies³⁵ », note Anscombe ; on peut même dire qu’il a été conçu dans ce but. La solution reçoit une formulation d’allure utilitariste: maximiser la somme totale de biens ou plutôt, ici, minimiser la somme de maux³⁶ ; et, comme dans la plupart des cas où un calcul de ce type s’impose, le problème est comme dissous dans l’évidence de sa solution. Foot admet que maintes situations appellent une réponse utilitariste, même si, dans d’autres, devra prévaloir l’interdit kantien portant sur le fait de se servir d’une personne³⁷. Comme Williams, elle conteste l’idée que produire une doctrine éthique impliquerait de l’organiser autour d’un principe moral unique³⁸.

L’un des plus profonds malentendus liés à l’emploi sauvage du dilemme du tramway tient ainsi à l’ignorance de la méthode qui domine la philosophie morale anglo-saxonne depuis l’après-guerre : prendre acte « d’intuitions³⁹ » plus ou moins partagées, qui serviront de pierre de touche à la théorie, et s’efforcer de les expliquer ou de les clarifier⁴⁰, plutôt que de promouvoir un corps de maximes éthiques comme le firent, chacun à sa façon, les Socrate, Kant ou Bentham. La théorie la plus concluante sera celle qui témoignera du pouvoir de clarification le plus grand, sans laisser de difficultés ouvertes⁴¹, et c’est là le principal mérite que la philosophie se donne pour tâche de mesurer. Les cas d’école où kantiens et benthamiens sont conduits à prendre des décisions différentes ne sont précisément que cela, et occultent le fait très important d’un point de vue moral que dans l’immense majorité des cas ceux-ci adoptent la même ligne de conduite, quoiqu’ils la justifient diversement. En matière morale, la différence des justifications n’est ni plus ni moins importante que l’identité des conduites.

Sous le nom de « Trolleyologie », l’exemple de Foot a pourtant été enrôlé dans la controverse entre « conséquentialisme » et « éthique déontologique »⁴², et encore aujourd’hui c’est bien souvent ainsi que sont présentés ses enjeux⁴³ – ce qui montre combien l’ironique constat dressé par Williams est toujours d’actualité : « Se préoccuper ainsi de l’utilitarisme est, on peut le dire, non seulement une obsession typiquement anglaise [et américaine], mais aussi une chose néfaste à la santé mentale⁴⁴. » Mais pourquoi des philosophes a priori sains d’esprit parlent-ils, comme le fait Judith Thomson « en l’honneur de l’exemple de Mrs. Foot⁴⁵ », d’un « problème du tramway » ? Il faut comprendre que cet exemple ne constitue que de l’un des termes du problème, qui peut s’énoncer ainsi : quelle différence y a-t-il entre le cas du tramway et (parmi d’autres exemples similaires) celui du prélèvement d’organes sur une personne vivante⁴⁶ ? L’exemple du tramway n’est qu’un contrepoint ou un cas-limite et ne contient à lui seul « aucun véritable conflit⁴⁷ ». Selon Thomson, dont la conclusion sur ce point rejoint exactement celle de Foot, dans ce contexte précis « il n’y a rien de dommageable à dire que « tuer cinq personnes est pire que d’en tuer une », tout bien considéré, est vrai⁴⁸ ».

Le débat ne porte donc pas du tout sur la solution, sur laquelle tout le monde est d’accord, mais bien sur la façon d’y parvenir : le choix d’écraser une personne plutôt que cinq doit-il se fonder sur le principe utilitariste strict (un mort est moins mauvais que cinq), sur la doctrine du double effet (la mort de cette personne n’est pas le moyen de sauver les cinq autres, le fait qu’elle se trouve ou non sur l’autre voie ne jouant aucun rôle dans leur survie), ou bien sur le principe, établi par Foot au §13, de commensurabilité des devoirs de chaque type (négatif ou positif⁴⁹) ? Là se trouve le problème philosophique – non dans la nature du choix à faire, mais dans ce qui le justifie. Ce n’est pas un problème moral au sens strict, tant la solution en est évidente, et ce n’est évidemment pas un problème pour l’IA, qui n’est là que pour mettre en œuvre la règle qui nous apparaît comme exprimant la seule position raisonnable – position qui, remarquons-le à nouveau, est relativement indépendante de la doctrine morale au nom de laquelle on voudra la justifier.

Pourquoi alors persister à nommer « problème du tramway » autre chose que ce que cette formule est censée désigner ? La forme la plus récente de ce malentendu se découvre dans le phénomène de préemption de la philosophie morale par la psychologie sociale qu’on rencontre sous le nom de « philosophie expérimentale », un phénomène qui n’a rien de mystérieux dans le contexte trop familier de notre époque : il s’agit de donner une double coloration « scientifique » et « démocratique » à des questions morales qui ne devraient pas, dit-on, être la chasse gardée des philosophes de profession. Ce que l’on comprend un peu moins en revanche, c’est que certains auteurs semblent n’éprouver aucune gêne à mêler à des considérations strictement analytiques et conceptuelles (ou qui devraient l’être) des résultats d’enquête aux allures de sondage d’opinion⁵⁰. Sous la dénomination de « neuroéthique⁵¹ » on fait un pas supplémentaire en direction de ce que j’appellerais volontiers un scientisme de la post-vérité⁵² : les difficultés philosophiques devraient être résolues par des « méthodes expérimentales », dans le cas qui nous occupe par une méthode « participative » garantissant à chacun la liberté d’exprimer ce que lui inspire la plus grande variété possible de scénarios, et d’élaborer ainsi une petite casuistique personnelle qui sera prétexte à d’interminables et inoffensives chamailleries sur les forums opportunément dédiés.

Mais ce qui est en question, en philosophie morale, ce n’est pas ce que les gens inclinent à dire, mais pourquoi (les raisons pour lesquelles) ils le disent⁵³. L’idée même de la Machine morale repose sur la confusion de deux notions élémentaires, celle de motivation et celle de principe moral –- ou ce que d’une part nous inclinons à faire, ce que d’autre part nous reconnaissons comme notre devoir⁵⁴. À l’arrière-plan de cette confusion, qui est l’une de formes de ce que les philosophes nomment, depuis G. E. Moore, le sophisme naturaliste⁵⁵, on trouve fréquemment d’obscures considérations sociobiologiques relatives à des systèmes de préférences acquises : nous inclinerions par un effet de « l’adaptation évolutive⁵⁶ » à privilégier les intérêts de l’espèce aux dépens de l’individu.

Dire qu’il est possible de trancher ou même d’éclairer des dilemmes moraux en se contentant de recueillir les réactions plus ou moins sincères et spontanées d’un « échantillon représentatif » témoigne par conséquent d’un contresens non seulement sur ce qu’est un « dilemme », péché certainement véniel, mais sur la question bien plus importante des rapports entre éthique et politique. C’est à l’examen de ces deux points que les sections suivantes de l’article seront consacrées.

II. Qu’est-ce qu’un dilemme moral, et en quel sens le « dilemme du tramway » en est-il un ?

On ne pèche qu’en l’application.

Blaise Pascal⁵⁷

La littérature consacrée à la notion de dilemme moral dans la philosophie britannique est, comme on l’a dit, considérable⁵⁸, mais seules quelques distinctions d’ordre général suffiront à fournir des éléments de contraste entre les dilemmes « authentiques » et le scénario du tramway, qui partage néanmoins avec eux suffisamment de traits pour qu’il ne soit pas entièrement absurde de parler de dilemme à son sujet⁵⁹. Pour paraphraser Wittgenstein, la parenté est aussi indéniable (et importante) que la différence⁶⁰. En imaginant que le dilemme du tramway mérite ce nom, ne serait-ce que sous un aspect⁶¹, quel sera-t-il ?

Toutes les expériences de pensée n’ont pas pour objet, en philosophie morale, la construction de dilemmes⁶² ; et pour nombre d’entre elles le dilemme, sitôt formulé, trouve eo ipso sa solution, dans la mesure où celle-ci constitue un élément essentiel à sa reconnaissance⁶³. Si on m’ordonne de dénoncer une personne que je sais innocente sous peine de mort, je ne peux comprendre qu’il y a dilemme que si j’ai d’emblée pris conscience que mon devoir est de ne pas céder au chantage⁶⁴ ; un individu qui n’obéirait qu’à des motivations d’ordre égoïste ou conatif (sa propre survie) ne percevrait tout bonnement pas le dilemme comme tel. En d’autres termes, l’esprit humain, à la différence de l’IA, est capable d’effectuer le trajet depuis la solution vers le problème, ou depuis l’application de la règle en direction de la règle elle-même, opération qui ne se laisse pas enfermer dans les rets d’une procédure.

Le cas du tramway se trouve à la périphérie des deux problèmes qui ont le plus retenu l’attention des philosophes, à savoir : l’existence de dilemmes, c’est-à-dire de choix qui ne peuvent être faits sans « reliquat moral⁶⁵ », si elle est avérée (1^er problème), est-elle une preuve de l’incohérence (inconsistency) de nos principes moraux (2^nd problème) ? À ces deux questions, Foot répond par la négative⁶⁶ : les dilemmes ne sont qu’apparents et doivent toujours pouvoir être résolus, ce qui ne veut pas dire qu’ils le seront sans douleur. C’est la raison pour laquelle contester l’existence de dilemmes au sens strict ne signifie pas s’interdire l’emploi du mot⁶⁷.

Il existe en effet des cas où l’application des principes paraît inextricable⁶⁸, comme aussi des situations dans lesquelles nous hésitons quant au principe à appliquer. Mais l’exemple du tramway et la majorité des scénarios dits « sacrificiels » n’en font pas partie. MacIntyre écrit ainsi :

Un second type d’exemple obscurcit la discussion des authentiques dilemmes moraux, celui dans lequel deux personnes sont en train de se noyer et où, mettons, je ne peux en sauver qu’une. Mais il n’y a pas ici le moindre dilemme. Peu importe celle des deux que je sauve (sauf bien sûr si l’une d’entre elles est ma femme, auquel cas il n’y a à nouveau aucun dilemme) ; […] ce qui importe, au plan moral, est uniquementd’en sauver une plutôt qu’aucune.⁶⁹

Dans l’exemple que propose MacIntyre, il existe au moins un espace pour la conduite immorale (se détourner et ne sauver aucune des deux personnes), possibilité qui n’existe pas dans les différents scénarios de la Machine morale. Pour des dilemmes, ceux-ci sont étrangement confortables, puisqu’ils excluent par hypothèse la possibilité de mauvaises décisions – de décisions immorales ; tout se résume à une inclination à sauver telle personne plutôt que telle autre. Or il paraît difficile de maintenir la dénomination de « problème » pour des situations dans lesquelles il n’y aurait nulle place pour une mauvaise réponse, sous quelque acception qu’on l’entende. « Je suis face à un dilemme » doit vouloir dire ou bien « J’ai peur de prendre une mauvaise décision », ou bien « Aucune bonne décision ne s’offre à moi ».

L’exemple des deux nageurs en détresse est toutefois moins dénué d’intérêt que MacIntyre ne le prétend. Un dilemme repose sur un certain emploi du modal lorsque je dis que « je ne peux pas faire à la fois x et y⁷⁰». Dans le cas du tramway, « je ne peux pas sauver les six personnes » exprime une impossibilité physique, qui est un effet (contingent) de la simultanéité des deux termes de l’alternative ; dans le cas du chantage exercé par le tyran (chez Aristote puis chez Kant), l’impossibilité est en revanche un effet de sa volonté arbitraire⁷¹. Le fait que « je ne puisse pas » sauver les six personnes, mais seulement une ou bien cinq, suffit-il à faire du scénario du tramway un « dilemme » ? Paradoxalement, cette impossibilité correspond au plus bas degré du dilemme moral, celui qui se résume à une alternative dont les termes sont connus d’avance : il existe bien une procédure (un algorithme) pour le résoudre. Quant aux cas proposés par la Machine morale, il est naïf de désigner comme le type même du dilemme des situations dans lesquelles des personnes différentes réagiraient différemment à un même problème, puisque le problème lui-même dépend étroitement de la description qu’on en donne⁷² : « La question de savoir quelles sont les demandes morales qu’impose la vie n’est pas indépendante de ce que notre morale demande à la vie.⁷³ » On voit donc assez mal comment un programme informatique pourrait générer des problèmes moraux, sans parler de les résoudre. Calquer la structure du dilemme moral sur celle du problème pratique au sens étroit ou de l’énigme (qui existent quant à eux indépendamment de notre volonté de les résoudre) n’est par conséquent qu’une tactique peu subtile destinée à rapprocher l’esprit humain de l’IA, la tentative inverse ayant jusqu’à présent échoué.

N’existe-t-il toutefois pas des cas dans lesquels nous serions authentiquement embarrassés ? Que faire si l’IA pilotant le véhicule devait choisir entre renverser une femme enceinte et heurter un jeune couple ? La femme enceinte compte-t-elle pour deux ? Ne peut-on s’attendre à ce que le jeune couple ait un jour une descendance ? Il faut toutefois garder à l’esprit, note Foot, que « les difficultés de délimitation ne peuvent jamais être employées comme argument contre l’affirmation selon laquelle certains cas tombent clairement d’un côté et certains de l’autre⁷⁴ ». L’incertitude n’est pas ici l’indice d’un problème spécialement profond, pas davantage qu’un conflit territorial ne remet en question le concept de nation⁷⁵. À nouveau, et aussi décevant cela puisse-t-il paraître, il n’existe pas de réponse morale plus élaborée que celle du nombre : « il n’y a qu’à compter⁷⁶ », pour parler comme Pascal⁷⁷. Les soi-disant dilemmes proposés par la Machine morale ne représentent donc pas même des difficultés internes pour le courant utilitariste, puisqu’on ne saurait attendre d’aucune théorie morale qu’elle évite les problèmes de délimitation : ceux-ci sont induits par la notion même, nécessaire à toute doctrine morale, de « cas identiques ».

C’est pourquoi on ne voit pas du tout, dans les différentes hypothèses proposées par la Machine morale, quel genre de conclusion nous sommes censés tirer de ce qu’une majorité se dégage en faveur d’un « homme cadre » plutôt que d’un « malfaiteur » ou d’un « sans-abris » (sic), d’une « femme athlète » plutôt que d’un « homme en surpoids » ou de cinq « personnes âgées », et encore moins en quoi de tels jugements pourraient bien revêtir un caractère moral. Non seulement nous sommes de nouveau en plein sophisme naturaliste, mais l’idée qu’on puisse ne serait-ce qu’envisager une justification morale à la décision d’écraser un sans-abri plutôt qu’un médecin, ou bien deux vieux grabataires plutôt qu’une seule personne satisfaisant « la norme éthologique : œil vif et pelage luisant⁷⁸ », est le signe d’une corruption intellectuelle radicale, comparable à celle qu’Anscombe déplorait au sujet du pseudo-problème de la punition de l’innocent⁷⁹. C’est une dénaturation de l’utilitarisme, réduit à la fonction de « machine à justifier⁸⁰ », ou plutôt, bien pire, c’est de l’eugénisme déguisé. Que l’existence de dilemmes constitue un indice concluant du fait qu’il n’existe pas de droit absolu à la vie⁸¹ ne nous autorise en aucun cas à faire fi du droit égal à la vie que détient tout un chacun. Nul besoin d’être kantien, me semble-t-il, pour juger particulièrement choquant un dispositif auquel seul un darwinien fanatique ne trouverait rien à redire.

C’est ce qui rend d’autant plus intriguant, par contraste, l’humanisme de façade de cette Machine morale : quels que soient les scénarios, on n’y rencontre que des humains et des animaux, des chats et des chiens, mais – pourquoi donc ? – ni animaux d’élevage, ni animaux sauvages ou protégés, ni animaux revêtus d’une valeur culturelle particulière (type vache sacrée) ; on n’y trouve pas non plus de statues, de musées, de cimetières ni d’édifices religieux, ni de cours d’école ni d’hôpitaux, qui sont pourtant impliqués dans les dilemmes relatifs aux opérations militaires, une catégorie de dilemmes qui a elle-même très tôt servi de modèle pour la notion⁸².

Ce que la vulgarisation psycho-philosophique a retenu du « dilemme du tramway » correspond par conséquent au type le plus pauvre de dilemme (celui qui le rend comparable à une difficulté à traiter, dont on aurait préféré à tous points de vue ne pas avoir à s’occuper), combiné à une étrange conception de la moralité qui en fait l’expression de préférences mâtinées d’utilitarisme dévoyé (faut-il écraser le médecin ou le sans-abri, Fénelon ou mon valet de chambre⁸³ ?). Williams soulignait qu’« en fait de psychologie, l’utilitarisme se contente de combiner une psychologie de nature économique, et qui n’a rien de moral, à une aspiration sentimentale à la morale », et ajoutait : « Ce n’est là qu’une tentative de moraliser la société commerciale par le simple pouvoir du souhait.⁸⁴ » Tout cela caractérise ô combien notre époque, mais j’ai essayé de montrer que l’utilitarisme n’était pas en cause ici, seulement une version dénaturée de ce vénérable courant philosophique dont on oublie trop souvent que son application première était politique et non morale⁸⁵. Il reste à présent, justement, à faire passer à l’avant-plan la face politique du problème ; je partirai pour cela du fait que les différents scénarios de la Machine morale diluent la dimension tragique du choix⁸⁶ dans l’abstraction d’un dispositif expérimental qui nous demande de nous mettre à la place d’une machine.

III. Les « pauvres problèmes » et ceux qui nous « inspirent », ou l’anti-politique des « questions d’éthique »

Ces objets courants vantés par la réclame, pâte dentifrice, chaussettes, pneumatiques, appareils photographiques ou bouilloires électriques, étaient pour lui des symboles et des preuves de l’excellence, signes de joie, de passion, de sagesse, qui finissaient par en tenir lieu.

Sinclair Lewis⁸⁷

Si le scénario du tramway, qu’on présente comme le prototype des problèmes liés à la voiture autonome, est à peine un dilemme, est-ce à dire qu’il ne s’inscrit dans le contexte d’aucun problème authentique ? Bien au contraire, on ne saurait se contenter de dire que le « problème du tramway » n’en est pas du tout un, au prétexte que « les philosophes » l’auraient déjà résolu. La question est de savoir ce qui change lorsqu’on passe d’une expérience de pensée à une invention bien réelle, en sus du fait évident que dans un cas et non dans l’autre il est possible de suspendre son jugement. Cette dernière section défendra l’idée que le problème des voitures autonomes doit être compris dans un ensemble plus large, de nature politique.

Reconnaissons d’abord qu’il existe bien un devoir moral relevant de la rationalité pratique, un devoir non seulement de « prudence » mais de « vertu » au sens de Foot, de s’efforcer de prévenir toute situation analogue au cas du tramway⁸⁸. Or l’insistance sur l’aspect dilemmatique de ce scénario repose sur un curieux renversement des choses : on présente comme une prouesse technologique que l’IA pilotant la voiture autonome puisse prévoir, de façon quasi infaillible, l’accident et ses conséquences, mais, question naïve qui en annonce quelques autres, la véritable prouesse ne consisterait-elle pas plutôt à prévenir les accidents ? Notre dilemme (qui, par hypothèse, est occasionné par une défaillance de la machine) ne vient-il pas à point nommé détourner l’attention du public de la responsabilité des sociétés qui produisent ce genre de machines ? Il serait toutefois trop simple de convertir un problème moral en un autre, et de dire que celui-ci concerne exclusivement, en tant qu’agent, le fabricant de ces voitures.

Il est caractéristique des problèmes moraux que ceux-ci se posent en première personne. Un problème moral est de la forme « que dois-je faire ? », ou « que puis-je faire ? », ou encore « que devrais-je faire que ferait un homme vertueux ? » – le choix du modal n’est pas ce qui m’intéresse ici, et l’analyse qui suit doit être valable pour une diversité de doctrines morales. Un problème politique est au contraire de la forme « que devons-nous faire ? » ou « qu’allons-nous faire ? », à la première personne du pluriel. Le nous dont il est question est celui de nous tous et non celui de chacun d’entre nous⁸⁹ ; c’est celui au sein duquel chacun est capable de se soucier d’un problème qui ne le concerne pas directement, autrement dit du bien commun⁹⁰.

L’absence de distinction claire entre les problèmes moraux et les problèmes politiques se lit dans la tendance à interpréter ceux-ci comme une extrapolation de ceux-là, et en pratique la plupart du temps comme une simple négociation ou recherche de compromis. Ainsi, par exemple, chacun d’entre nous aurait une position morale sur l’avortement, qui ne deviendrait un problème politique qu’en raison des conflits qu’entraînerait la diversité des options individuelles. Ce qu’il y a de politique dans la question de l’avortement se résumerait à une morne oscillation de la posture au compromis, et la recherche du compromis relèverait quant à elle d’une simple nécessité sociale. (C’est ce qui, au passage, explique le sentiment répandu qu’en définitive l’opposition à l’avortement ou à l’euthanasie aurait quelque chose d’incongru dans une société libérale entièrement focalisée sur la recherche du consensus⁹¹.)

Pourtant, une partie seulement du caractère politique de la question de l’avortement est une conséquence de la diversité des positions morales parmi les individus qui composent la société : l’avortement est une question de santé publique, que l’on peut assimiler à un problème pratique ou prudentiel dont il revient à la collectivité de se saisir, sauf à tomber dans un criminel déni de réalité ; elle est bien entendu une question médicale, à plusieurs niveaux, y compris déontologique ; elle est une question économique et sociale, et enfin elle forme un enjeu de reconnaissance pour cette « minorité » qui représente un peu plus de 50 % de la population⁹². Le problème politique de l’avortement est l’ensemble hétérogène formé par toutes ces considérations, dont aucune ne peut prétendre a priori être plus importante que les autres, surtout pas les options morales individuelles, même si l’une ou l’autre pourra bénéficier d’une « priorité délibérative⁹³ » (établie par la délibération elle-même) – par exemple la santé publique ou le droit à disposer de son corps. Pour dire les choses autrement, là où il peut exister des problèmes moraux a priori, les problèmes politiques semblent toujours se poser a posteriori, et c’est en ce sens que l’avortement, parmi quantité d’autres, est notre problème. Personne ne peut dire, en tant que citoyen, que l’avortement n’est pas « son problème » : ce serait un abus de catégorie.

On peut illustrer ce point en revenant au deuxième article de Thomson consacré au scénario du tramway (1985). La philosophe reproche à Foot d’avoir négligé la question du point de vue de l’agent dans sa description du problème. Elle fait donc varier la position du personnage, qui peut être un employé de la compagnie des tramways ou un simple passant (bystander at the switch), ou encore un acteur impliqué qui peut sacrifier sa propre vie en détournant le véhicule dans sa direction. Autrement dit : je peux occuper une variété de positions dans un même problème. Mais dans le cas de la voiture autonome l’enjeu n’est pas de savoir qui peut être la référence de ce « je » qui doit prendre une décision, car il n’est pas de « je » qui tienne : et pour cause, il n’est pas question de se mettre à la place d’une machine, puisque la machine elle-même, sauf en un sens banalement pratique, ne tient pas lieu de conducteur⁹⁴. Elle est bien plutôt l’objectivation de règles de sûreté, du code de la route, et (ce qui est justement en question) de règles ou de principes d’ordre éthique. La machine, pas davantage que la législation, n’a d’état d’âme, ni de vertu d’intégrité à préserver ; elle peut écraser chats et chiens sans vergogne si nous en décidons ainsi. « On parle d’un pied artificiel, mais pas de souffrances artificielles du pied⁹⁵ », notait Wittgenstein ; on peut bien parler d’« Intelligence artificielle », mais pas de « dilemmes artificiels ».

Est constitutive de la notion de problème la possibilité que quelqu’un n’ait pas aperçu ou reconnu un problème. Or, l’insistance très commode sur les dilemmes moraux est un exercice qui a pour vertu de nous exonérer à bon compte d’une réponse aux questions qui se posent effectivement en suggérant à la place des questions qui ne se poseront probablement jamais et qui, le cas échéant, ne trouveraient de toute façon aucune réponse qui fasse consensus. Toute pratique philosophique qui se respecte est rabat-joie ; elle ne doit faire preuve d’aucune indulgence, mais au contraire prendre ses distances à l’égard de ceux qui ont assez d’influence et de pouvoir pour imposer leur conception de ce que devraient être les authentiques problèmes ou défis de l’humanité, à l’image du médiatique co-fondateur de Tesla, Elon Musk – dans une déclaration qui constitue, si l’on peut dire, une pièce à conviction de choix :

Des choses affreuses arrivent en permanence dans le monde. Mais la vie, ce n’est pas résoudre de misérables problèmes les uns après les autres. [« Life cannot just be about solving one sad problem after another. »] Il doit y avoir des choses qui nous inspirent, qui nous font nous lever le matin, qui nous rendent fiers de l’humanité.⁹⁶

Péroraison tout à fait révélatrice du prophétisme et du prométhéisme tapageurs de ceux qui méprisent ces « misérables problèmes » que sont les inégalités abyssales, la précarité économique, alimentaire et énergétique, la délinquance petite ou grande, la détresse des laissés-pour-compte, pour ne rien dire de l’arrogance politique des grands groupes industriels qui ne représentent que leurs intérêts et ceux de leurs actionnaires. On ne saurait manifester avec plus de clarté et de candeur la négation pure et simple du politique, comme en témoigne encore la suite de la conférence de presse de Musk, avec ses propositions démagogiques à base de démocratie directe et (évidemment !) de réduction du corpus législatif. De nos jours, la technologie se veut inspirante – stimulante ou enthousiasmante en bon français, l’enthousiasme désignant d’ailleurs par étymologie la possession divine. Il ressort pourtant des analyses qui précèdent que si les véhicules autonomes posent effectivement des « problèmes », ceux-ci sont éminemment rébarbatifs, concrets, pressants – pour tout dire aussi ennuyeux qu’une voiture. Ces problèmes, qui ne tournent pas simplement autour de la voiture autonome, mais qui sont bien les problèmes de la voiture autonome, touchent aux conditions de production de ces futurs véhicules, au droit du travail et aux droits humains, aux équilibres géopolitiques (terres rares nécessaires aux batteries, etc.). En un sens, les enquêtes récentes publiées par Amnesty⁹⁷ contiennent bien plus d’informations utiles à l’usage du citoyen que la majeure partie des analyses qui ont été proposées ici – ce qui ne veut pas dire qu’il ne serve à rien de philosopher, bien au contraire. La philosophie est même le véritable stimulant de l’imagination, bien davantage que les fantasmes spielbergiens de voitures roulant toutes seules :

Les considérations philosophiques ne rejoignent pas le débat politique d’une façon qui leur est propre. Elles le rejoignent bien plutôt d’une diversité de manières, tout comme peuvent le faire d’autres formes écrites ou orales, ce qui inclut le fait non seulement d’organiser des arguments, mais aussi de modifier quelque peu les perceptions des gens, ou de stimuler leur imagination.⁹⁸

En conclusion : Que la philosophie reprenne ses droits

Il n’y a plus guère aujourd’hui que les criminels

qui osent nuire à autrui sans recourir à la philosophie.

Robert Musil⁹⁹

L’expérience de pensée du tramway occupe une place mineure dans un mouvement quant à lui majeur de remise en cause du modèle utilitariste dominant dans la philosophie morale britannique de l’après-guerre. Elle n’a que peu de rapport, du point de vue des préoccupations philosophiques de son auteur, Philippa Foot, avec l’usage qui en est fait sous le nom de Machine morale.

Nombre de discussions autour de l’IA, des voitures autonomes et des réseaux informatiques nous laissent avec le sentiment qu’un monde familier a passé, un monde dans lequel la philosophie devait perpétuellement protester de son utilité sociale¹⁰⁰, et qu’à présent la philosophie peut servir au contraire à justifier à peu près n’importe quoi¹⁰¹. Le mépris proverbial dans lequel certaines écoles philosophiques ont pu tenir la technique, mépris parfois étrangement combiné à une prétention exorbitante à en livrer le « sens profond »¹⁰², semble être lui aussi passé de mode. Or certaines prouesses de l’IA hautement respectueuses des libertés publiques, comme la reconnaissance faciale expérimentée en France, en Chine et ailleurs, ne méritent ni admiration ni dédain. Là où les articles de presse hésitent le plus souvent entre enthousiasme juvénile et références superficielles à George Orwell, il est bon de rappeler que c’est d’abord le manque de contrôle démocratique exercé sur la législation et les marchés publics qui pose problème – et que le reste n’est pour l’essentiel que glose et contrefeu. Qui par exemple a eu son mot à dire sur cette absurde informatisation à marche forcée des établissements scolaires ? Certainement pas les professeurs. Imaginons seulement qu’il en aille de même pour la surveillance généralisée des populations. Alors bien sûr, il faut reconnaître avec Susan Sontag qu’« il ne suffit pas, pour éloigner les cauchemars collectifs, de démontrer que, du point de vue de l’intelligence et de la morale, ce sont simplement des fadaises¹⁰³ ». Mais la philosophie doit néanmoins assumer cette tâche ; elle doit reprendre ses droits ; et si cela ne nous avancera pas toujours dans la résolution des problèmes politiques, cela permettra au moins de faire place nette et d’éviter que le public ne soit diverti des enjeux politiques les plus pressants par des difficultés philosophiques plus ou moins imaginaires.

---

1José Saramago, Le radeau de pierre, Paris, Seuil, 1990, p. 110.

2Voir Jean-Michel Normand, « La voiture autonome lève le pied », Le Monde, 16 avril 2019.

3Une première traduction a été donnée (sans la réponse à James LeRoy Smith) dans un volume désormais épuisé (Marc Neuberg, dir., La Responsabilité, questions philosophiques, Paris, PUF, 1997, p. 155-170, tr. fr. Fabien Cayla). Hormis sur quelques points mineurs (anglicismes résiduels notamment), la traduction est bonne, et propose des solutions ingénieuses. Je ne vois guère de raison en revanche de rendre « doctrine of the double effect » par « doctrine de l’acte à double effet », dans la mesure où, notait Anscombe, la formule anglaise est elle-même « un latinisme malencontreux ». « Ce dont il est question », ajoute-t-elle, c’est « d’un effet secondaire provoqué en même temps que l’effet visé » (« Action, Intention and ‘Double Effect’ », Human Life, Action and Ethics, Exeter, Imprint Academic, 2005, p. 220). Sur la doctrine du double efftet, en rapport avec Foot, voir Raymond G. Frey, « Some Aspects to the Doctrine of Double Effect », Canadian Journal of Philosophy, vol. V, n°2, 1975, p. 259-283 ; Suzanne M. Uniacke, « The Doctrine of Double Effect », The Thomist : A Speculative Quarterly Review, vol. 48, n°2, 1984, p. 188-218 ; Cyrille Michon, « Anscombe et la doctrine du double effet », Klesis, n°35, 2006, p. 143-163.

4Pour la bonne raison que ce n’est pas du tout,pour elle, un dilemme, et non pour la raison très générale que Foot, rare parmi les philosophes non utilitaristes et non kantiens, conteste l’existence des dilemmes moraux au sens strict. Voir Philippa Foot, Moral Dilemmas and Other Topics in Moral Philosophy, Oxford, Clarendon Press, 2002, p. 3, et infra, section 2.

5Judith Jarvis Thomson, « The Trolley Problem », The Yale Law Journal, vol. 94, n° 6, 1985, p. 1395-141 (tr. fr. Fabien Cayla, in, Neuberg, La Responsabilité, op. cit., p. 171-194).

6Voir David Edmonds, Would You Kill the Fat Man ? The Trolley Problem and What Your Answer Tells Us about Right and Wrong, Princeton, Princeton University Press, 2013 ; Christopher W. Bauman et al., « Revisiting External Validity : Concerns about Trolley Problems and Other Sacrificial Dilemmas in Moral Psychology », Social and Personality Psychology Compass, 2014, p. 537-538 ; Shane Bretz et Ron Sun, « Two Models of Moral Judgment », Cognitive Science, mai 2018, supplément S1, vol. 42, p. 4-37 ; Daniel Kasenberg et al., « Quasi-dilemmas for artificial moral agents », Proceedings of the International Conference on Robot Ethics and Standards, 2018.

7Voir Sarah Bakewell, « Clang Went the Trolley », The New York Times, 22 nov. 2013.

8L’Université de Toulouse 1 Capitole propose une séquence intitulée « Voitures autonomes : que veulent les consommateurs ? » [en ligne], dans une rubrique au titre délicieux, « Comprendre pour entreprendre ». Ce qui peut seulement être décrit comme un vague souci de cohérence utilitariste (sacrifier le conducteur pour épargner plusieurs passants) se trouve curieusement qualifié de « position morale très forte », au motif que les sondés expriment un égoïsme tempéré.

9http://moralmachine.mit.edu/

10Bernard Williams, Essays and Reviews 1959-2002, Princeton and Oxford, Princeton University Press, 2014, p. 141.

11Judith Jarvis Thomson, « Killing, Letting Die, and the Trolley Problem », The Monist, vol. 59, 1976, p. 204-217 et « The Trolley Problem », article cité. Thomson est à l’origine de certaines réécritures du dilemme, en particulier celle du « gros homme sur le pont ».

12Voir Michela Marzano, « Le café du commerce de l’éthique », Cités, n°28, supplément, nov. 2006, p. 4 ; Pascal Engel, « Retour à la raison », Revue philosophique de la France et de l’étranger, 2015, n°3, t. 140, p. 359-370.

13Voir Bernard Williams « What Computers Can’t Do : A Critique of Artificial Reason, by Hubert L. Dreyfus », Essays and Reviews, op. cit., p. 91-92. Voir aussi John Searle, La redécouverte de l’esprit, Paris, Gallimard, 1995, p. 271, et la distinction qu’établit l’auteur entre « IA forte » et « IA faible » (dont relève la simulation cognitive, qui nous intéressera en priorité dans cet article).

14Voir Searle, La redécouverte de l’esprit, op. cit.

15Williams, Essays and Reviews, op. cit., p. 90.

16Voir Elizabeth Anscombe, L’Intention, §33, Paris, Gallimard, 2002, p. 112.

17Williams, Essays and Reviews, op. cit., p. 91.

18Ibidem, p. 93.

19Voir Williams, L’Éthique et les limites de la philosophie, op. cit., p. 196 sq.

20Voir Vincent Descombes, Le complément de sujet. Enquête sur le fait d’agir de soi-même, chap. LII, Paris, Gallimard, 2004, p. 439 sq.

21Voirles pages remarquables d’Alan Donagan, « Moral Dilemmas, Genuine and Spurious : A Comparative Anatomy », Ethics, n°104, 1993,notamment section III) ; voir aussi Alasdair MacIntyre, « Moral Dilemmas », Philosophy and Phenomenological Research, vol. 50, Supplement, autumn, 1990, p. 382 ; Philippa Foot, « Moral Realism and Moral Dilemma », The Journal of Philosophy, vol. 80, n°7, 1983, p. 379-398 (repris dans Moral Dilemmas and Other Topics in Moral Philosophy, op. cit., p. 37-58).

22La méta-éthique s’interroge sur la forme ou le statut (cognitif, expressif) des jugements moraux : « Lorsque nous déclarons qu’une action est moralement mauvaise [wrong], de quelle sorte de jugement s’agit-il ? » (Thomas Scanlon, What We Owe to Each Other, Cambridge & London, Harvard University Press, 2000, p. 1).

23Voir Bernard Williams, « Reasons and Persons, by Derek Parfit », Essays and Reviews, op. cit., p. 218.

24On peut dire qu’au cours des dernières décennies le débat sur l’avortement (et plus récemment encore sur l’euthanasie) a fini par s’imposer comme « notre paradigme d’énoncé moral » (Cora Diamond, L’Esprit réaliste. Wittgenstein et la philosophie de l’esprit, Paris, Puf, 2004, p. 515).

25Voir les premières lignes du « Problème de l’avortement et la doctrine du double effet », §1. (Seront dorénavant indiqués en référence les numéros de paragraphe, qui figurent dans notre traduction.)

26Voir Williams, « Ethical consistency », Problems of the Self, Cambridge, Cambridge University Press, 1973, p. 169 sq.

27Voir Foot, « Le Problème de l’avortement », §17.

28James LeRoy Smith, « The Problem of Abortion and Negative and Positive Duty », The Journal of Medecine and Philosophy, 1978, vol. 3, n°3, p. 247.

29Voir Elizabeth Anscombe, « Who is Wronged ? Philippa Foot on Double Effect : One Point », The Oxford Review (repris dans Human Life, Action and Ethics, op. cit., p. 249-251), qui conteste l’interprétation d’un autre exemple de l’article, celui du médicament épuisé qui pourrait sauver cinq vies au lieu d’une seule – un exemple d’une tragique actualité, en mars 2020.

30Voir Williams, « Ethical consistency », article cité, p. 170-171 ; Donald Davidson, « Comment la faiblesse de la volonté est-elle possible ? », Actions et événements, Paris, PUF, 1993, p. 54 ; Foot, Le Bien naturel, Genève, Labor et Fides, 2014, p. 116 sq.

31Williams, « Ethical consistency », article cité, p. 173. Voir aussi Donagan, article cité, p. 17, à propos du Choix de Sophie de Styron (ou, pour le lecteur français, de La Chute de Camus).

32Foot, « Moral Realism and Moral Dilemma », article cité, p. 394.

33L’unité de temps et de lieu contribue à la scénographie (et à la séduction) du problème du tramway ; elle n’est pourtant pas un élément nécessaire du dilemme moral. Voir infra, section 2.

34Voir Foot, « Le Problème de l’avortement » », §§7 et 13.

35Elizabeth Anscombe, « Action, Intention and ‘Double Effect’ », Human Life, Action and Ethics, op. cit., p. 221.

36Voir Smith, article cité, p. 247 : « Il est raisonnable d’agir selon le principe du moindre mal. » Il est à noter que Foot évite quant à elle d’employer le terme de « principe » (voir note suivante).

37Voir Foot, « Le problème de l’avortement », §14 et la réponse à Smith, §3.

38Voir Williams, L’Éthique et les limites de la philosophie, chap. X.

39Ibidem, p. 104 sq.

40Cf. Frances M. Kamm, Morality, Mortality vol. I : Death and Whom to Save from It,New York, Oxford University Press, 1998, p. 6-7.

41Voir Foot, « Le problème de l’avortement », §9.

42Sur l’emploi de ces termes, voir Anscombe, « Modern Moral Philosophy », Collected Philosophical Papers, vol. III, Oxford, Blackwell, 1981, p. 26-42, et Human Life, Action and Ethics, op. cit., p. 231. Voir aussi J. J. C. Smart et Bernard Williams, Utilitarisme. Le pour et le contre, Genève, Labor et Fides, 1997, « Une critique de l’utilitarisme », section 2.

43Voir Bretz et Sun, article cité, p. 4 ; Fredrik Andreas Dahl et Gry Oftedal, « Trolley Dilemmas Fail to Predict Ethical Judgment in a Hypothetical Vaccination Context », Journal of Empirical Research on Human Research Ethics, vol. 14, n°1, 2019, p. 23.

44Bernard Williams, « La modernité et l’échec de la morale », in, Monique Canto-Sperber (dir.), La philosophie morale britannique, Paris, Puf, 1994, p. 124.

45Thomson, « Killing, Letting Die, and the Trolley Problem », article cité, p. 206.

46Voir Foot, « Le Problème de l’avortement », §7.

47Thomson, « Killing, Letting Die, and the Trolley Problem », article cité, p. 206-207.

48Thomson, « The Trolley Problem », article cité, p. 1414.

49Voir aussi Thomson, « Killing, Letting Die, and the Trolley Problem », article cité, p. 206-207.

50Voir Michel Crispo, Trolleyologie et utilitarisme, mémoire de recherche, Université Laval, Québec, Canada, 2017 (notes 13, 14 et 17 en particulier).

51Voir Nadia El Eter, « The Neuroscience of Ethics Beyond the Is-Ought Orthodoxy », in, Jon Leefmann & Elisabeth Hildt (dir.), The Human Sciences after the Decade of the Brain, Londres, Academic Press, 2017, p. 147.

52Voir aussi Pascal Engel, « La vérité, what else ? », En attendant Nadeau, n°82, juin 2019, p. 72-77.

53Voir Thomson, « The Trolley Problem », article cité, p. 1409. Voir aussi Smith, article cité, p. 245 : « Les problèmes moraux impliquent des jugements, pas seulement des sentiments. »

54Je laisse de côté la question de savoir si principes moraux et motivations peuvent par ailleurs être distingués du point de vue des raisons d’agir. Voir l’article classique de Williams, « Raisons internes et raisons externes » publié dans Bruno Gnassounou (dir.), Philosophie de l’action. Action, raison et délibération, Paris, Vrin, 2007, p. 231-249, et Thomas Scanlon, « Williams on Internal and External Reasons », What We Owe to Each Other, op. cit., p. 363-373.

55Sur ce terme et les difficultés qu’il pose, voir Williams, L’Éthique et les limites de la philosophie, op. cit., p. 133 sq.

56Voir Charles Taylor, Les sources du moi, Paris, Seuil, coll. « Essais », 1998, p. 21 et 27.

57Blaise Pascal, Pensées, Lafuma 634.

58Voir MacIntyre, article cité, p. 367.

59Pour une première approche typologique, voir l’article classique d’E. J. Lemmon, « Moral dilemmas », The Philosophical Review, vol. 71, n°2, avril 1962, p. 139-158.

60Ludwig Wittgenstein, Recherches philosophiques, §76, Paris, Gallimard, 2004, p. 69.

61Là où l’anglais dilemma est défini par l’Oxford Advanced Learner’s Dictionnary comme une « situation dans laquelle on doit choisir entre deux choses, deux lignes de conduite, etc., toutes deux défavorables ou indésirables » (édition de 1963) ou comme une « situation qui pose problème, souvent une situation dans laquelle nous sommes confrontés à un choix très difficile entre deux choses d’égale importance » (édition courante), le Robert définit l’équivalent français en premier lieu par sa composante logique (sens 2 : « Alternative contenant deux propositions contraires ou contradictoires et entre lesquelles on est mis en demeure de choisir »). On peut en tirer trois éléments de définition : la contradiction ou contrariété et l’égalité de valeur des termes de l’alternative, et l’issue défavorable de la décision prise, quelle qu’elle soit. Le débat philosophique sur l’existence des dilemmes moraux concerne ces trois aspects.

62Pensons à l’anneau de Gygès, au livre II de la République de Platon (359d-360d).

63Comme dans le cas d’une devinette, la solution contribue à la description ou à la redescription du problème. Voir Ludwig Wittgenstein, Grammaire philosophique, Paris, Gallimard, « Folio essais », 1980, p. 227.

64Emmanuel Kant, Critique de la raison pratique, I, I, §7, scolie, Paris, Gallimard, coll. « Folio essais », 1985, p. 53. Voir à l’inverse le dilemme portant sur la restitution de l’épée à l’ami devenu fou (cf. Platon, République I, 331c et Thomas d’Aquin, Somme théologique, II, II, q. 120, a. 1, ad 1, 2). Voir aussi MacIntyre, article cité, p. 367.

65« Residue » signifie « reliquat » au sens juridique de « ce qui reste dû » : il y a « reliquat moral » lorsque la solution apportée à un dilemme n’efface pas les devoirs attachés à l’autre partie de l’alternative, ni par conséquent la culpabilité ou le remords. Voir Williams, « Ethical Consistency », article cité ; Ruth Barcan Marcus, « Moral Dilemmas and Consistency », The Journal of Philosophy, vol. 77, n°3, 1980, p. 121-136 ; Marco Bélanger, Existe-t-il des dilemmes moraux insolubles ?, Paris, L’Harmattan, 2011.

66Voir Foot, « Moral Realism and Moral Dilemma », article cité.

67Voir Foot, « Le Problème de l’avortement et la doctrine du double effet », §19.

68Voir Foot, « Moral Realism and Moral Dilemma », article cité, p. 385-386.

69MacIntyre, article cité, p. 369.

70Soutenir qu’il existe des dilemmes moraux irréductibles, c’est dire que « tu dois » n’implique pas nécessairement « tu peux » (Williams, L’Éthique et les limites de la philosophie, op. cit., p. 189).

71Aristote, Éthique à Nicomaque III, 1, 1110a5 (tr. f. Tricot p. 119). Voir Foot, « Moral Realism and Moral Dilemma », article cité, p. 394 ; Williams, Utilitarisme, op. cit., p. 101.

72VoirBernard Williams, Morality : An Introduction to Ethics, New York, Harper and Row, 1972, Préface, p. X.

73Williams, Utilitarisme, op. cit., p. 135. Voir aussi Ludwig Wittgenstein, Leçons et conversations, Paris, Gallimard, coll. « Folio essais », 1992, p. 167 sq.

74Philippa Foot, « Le problème de l’avortement et les devoirs négatifs et positifs : une réponse à James LeRoy Smith », §4 de notre traduction.

75Voir Ludwig Wittgenstein, Remarques sur la philosophie de la psychologie, t. II, §621, Mauvezin, TER, 1994, p. 125.

76Blaise Pascal, Pensées, éd. Brunschvicg, fragment 319.

77La question est en réalité plus complexe ; outre le court texte d’Anscombe déjà cité (« Who is Wronged ? »), voir les références données par Thomson à John Taurek et Derek Parfit dans « The Trolley Problem », note 2, p. 1395.

78La formule, citée par Foot dans « La vertu et le bonheur » (La philosophie morale britannique, op. cit., p. 134) est de Williams (L’Éthique et les limites de la philosophie, op. cit., p . 55).

79Voir Anscombe, « Modern Moral Philosophy », article cité p. 40.

80John Rawls, « Deux concepts de règle », Philosophie, n°133, vol. 2, 2017, p. 17.

81Voir Alan Gewirth, « Are there any Absolute Rights ? », The Philosophical Quaterly, vol. 31, n°122, 1981, p. 1.

82Voir Foot, Moral dilemmas, op. cit., p. 184.

83Voir Williams, L’Éthique et les limites de la philosophie, op. cit., p. 118.

84Williams, « La modernité et l’échec de la morale », article cité, p. 125.

85Voir John Rawls, « Deux concepts de règle », article cité.

86Voir Frédéric Worms, « Admettre les dilemmes éthiques et politiques, pour mieux les dépasser », Libération, 11 juillet 2019.

87Sinclair Lewis, Babbitt, Paris, Stock, 2010, p. 139, tr. fr. Maurice Rémon.

88Voir Philippa Foot, « Morality as a System of Hypothetical Imperatives », Virtues and Vices, op. cit. ; Williams, « Ethical consistency », article cité, p. 177.

89Voir Ludwig Wittgenstein, Remarques sur les fondements des mathématiques, I, §10, Paris, Gallimard, 1983, p. 37.

90Cela ne veut pas dire nier la question de la délimitation entre Je et Nous (voir Williams, L’Éthique et les limites de la philosophie, op. cit., p. 21), ni le problème spécifique du rapport à soi et à la Cité du sujet politique (voir Vincent Descombes, Le Complément de sujet, op. cit., chap. XLVII) .

91Voir Hilary Putnam, Le réalisme à visage humain, Paris, Gallimard, coll. « Tel », 2011, p. 374.

92Voir Axel Honneth, La lutte pour la reconnaissance, Paris, Gallimard, coll. « Folio essais », 2000, chap. VI.

93Williams, L’Éthique et les limites de la philosophie, op. cit., p. 197. Voir aussi Vincent Descombes, Philosophie du jugement politique, Paris, Seuil, coll. « Points », 2008.

94Voir Ludwig Wittgenstein, Dictées à Friedrich Waismann et pour Moritz Schlick, Paris, Vrin, 2015, p. 94.

95Wittgenstein, Grammaire philosophique, V, §64, op. cit., p. 143.

96Le Monde daté du 12/03/18 : « Humanité en péril, loi martienne et intelligence artificielle : à Austin, Elon Musk fait son show. »

97Voir Amnesty International, « Les voitures électriques roulent encore sur les droits humains », 3 décembre 2018 [en ligne].

98 Bernard Williams, Making Sense of Humanity, Cambridge, Cambridge University Press, 1995, p. 233.

99 Robert Musil, L’Homme sans qualité, I, Paris, Seuil, 1979, p. 230-231.

100 Voir Jacques Bouveresse, La demande philosophique. Que veut la philosophie et que peut-on vouloir d’elle?, Paris, éditions de l’Éclat, 2015, p. 31.

101Voir Theodor W. Adorno et Max Horkheimer, La Dialectique de la raison, Paris, Gallimard, 1983, p. 14.

102Voir Jacques Bouveresse, « Les philosophes et la technique », Essais IV, Marseille, Agone, 2004, p. 101-127.

103Susan Sontag, « Images du désastre », L’Œuvre parle, Paris, Christian Bourgois, 2010, p. 338.