Critique hégélienne de la logique formelle et logiques formelles contemporaines

ou : de l’actualité intempestive de la logique spéculative

Jean-Michel POUZIN

Il paraît vain, voire absurde, de tenter de transposer la critique hégélienne de la logique formelle aux logiques formelles contemporaines. Outre que cette tentative tombe sous le coup de l’anachronisme, elle se heurte à deux faits connus. En premier lieu, la logique formelle est devenue, à partir de Boole et de Morgan, un calcul particulier et elle a pu, de Frege à Hilbert, formaliser l’activité mathématique et se formaliser elle-même. Il s’ensuit que l’expression de « logique formelle », telle que l’emploient les traités de logique contemporaine, n’est probablement qu’un homonyme de la même expression sous la plume de Hegel. En second lieu, Hegel, à propos d’Euler et de Lambert, formule dans la Doctrine du concept une critique définitive du projet « d’élever les types de relation (Beziehungsweisen) logiques à un calcul — ou plutôt en fait à les [y] abaisser »^[1]. « En regard [des déterminations de concept] », précise-t-il, « les objets de cette sorte ont ceci en propre qu’ils sont extérieurs les uns aux autres, [et] ont une détermination fixe. Si maintenant des concepts se sont trouvés pris de telle manière qu’ils correspondent à de tels signes, ils cessent d’être des concepts »[2]. Cette critique, on le voit, ne porte pas sur le calcul en tant que méthode de connaissance spécifique, mais en tant que méthode pour le « concept ». Nier que l’extériorité réciproque et la fixité de ce qu’on appelle de nos jours les symboles de constantes et de variables soit la condition nécessaire de leur univocité serait en effet anéantir le calcul en condamnant toutes ses opérations à l’indétermination.

Pourtant, si l’on considère la question du fondement de vérité des lois logiques et celle du rapport de la logique formelle au langage ordinaire, la critique hégélienne de la valeur « conceptuelle » ou « spéculative » du symbolisme calculatoire est d’un même mouvement une critique interne et donc pertinente de la logique impliquée dans le calcul. Afin d’en convaincre, on s’interrogera d’abord sur la spécificité de la logique formelle dite moderne, afin de s’assurer que celle-ci ne nie pas l’existence d’une essence de la logique formelle, sans laquelle serait impossible une comparaison pertinente des diverses logiques. Sera ensuite considérée la prise en compte par le jeune Hegel des problèmes d’autofondation des preuves logiques. On tentera enfin de préciser, pour toute logique formelle qui se veut norme de vérité de la signification, l’intérêt de la saisie de la langue commune par la rationalité ou le « logos » dialectico-spéculatifs.

Refus du calcul du type booléen à travers le refus du calcul leibnizien.

Sur l’originalité des travaux de Boole, et, partant, sur celle du nouveau calcul logique, L. Liard a dit, nous semble-t-il, l’essentiel. Boole a produit « une analyse mathématique de la logique formelle, un calcul de l’inférence déductive »^[3]. Liard insiste sur la nouveauté de cette analyse mathématique. « Traiter la logique par le calcul, ce n’est pas, comme on pourrait le croire, appliquer purement et simplement à la syllogistique les procédés de l’algèbre, et rendre ainsi la logique tributaire de la mathématique »^[4]. « Qu’est-ce qu’au fond l’opération déductive ? C’est l’élimination d’un terme moyen dans un système de trois termes. Boole, guidé par son instinct de mathématicien, généralise le problème et le pose de la façon suivante : étant donné un système d’un nombre quelconque de termes, en éliminer autant de moyens termes qu’on voudra, et déterminer toutes les équations impliquées par les prémisses entre les éléments qu’on désire retenir ; [..] Là est la conception originale, l’idée nouvelle qui, si elle est vraie, doit changer la face de la logique »^[5]. Ce que Liard nomme « algèbre logique », et qui serait mieux nommé « algèbre de Boole »^[6], résulte de l’annulation de la différence entre la rectitude de la « déduction », qui donne la valeur de vérité, et la rectitude des opérations algébriques sur des symboles de classes. Cette annulation donne ce que Leibniz nomme la « connaissance aveugle ou encore symbolique »[7]. Cela n’implique pas qu’il soit de l’essence du calcul de porter sur une suite de nombres. Le concept de calcul logique suppose la possibilité du contraire. Mais cela signifie que, pour Boole comme pour Leibniz, toute donnée non numérique peut être traduite en valeur numérique, celle-ci donnant le moyen de simplifier et surtout de mécaniser les opérations de pensée d’une manière qui est sans commune mesure avec les moyens qu’offrent les lettres qu’Aristote le premier a utilisées pour obtenir l’abstraction et, par là, l’universalité de la forme logique.

Or Hegel, on le sait, a exclu aussi de la logique philosophique le traitement « combinatoire » de la logique : « Le point culminant de ce traitement dépourvu de concept des déterminations de concept du syllogisme est bien [le fait] que Leibniz [a] soumis le syllogisme au calcul combinatoire, et, par lui, a calculé combien de positions du syllogisme sont possibles »^[8]. Si, par hypothèse heuristique, on admet que la combinatoire leibnizienne anticipe le calcul logique de type booléen, on admet alors que la récusation de la première équivaut à celle du second. La supposition d’un Leibniz précurseur du calcul logique « moderne » est certes très contestée par les historiens de la logique. Knecht, par exemple, l’affirme sans ambages : « Leibniz n’est un précurseur de la logique contemporaine ni d’un point de vue historique, puisque aussi bien il n’a exercé aucune influence directe sur la constitution de celle-ci, ni même par anticipation, tant il est vrai que ses objectifs sont totalement différents et que ses travaux reposent sur des présuppositions qui n’ont aucun sens pour les logiciens actuels »[9]. Toutefois, ne fût-ce que pour décider de ce qui est logique dans « la » logique contemporaine, le logicien ne peut pas ne pas présupposer un certain concept de vérité de la logique. Dans la mesure où An investigation of the Laws of Thought de Boole est la première réalisation systématique du programme esquissé par Leibniz dans De l’art combinatoire, ce concept minimal de vérité logique, qui va être précisé plus bas, suffit à l’admission de notre hypothèse d’un Leibniz précurseur du calcul logique contemporain.

Les apories de l’autofondation supposent celles de l’autoréférence

En quoi la récusation hégélienne, désormais aggravée, garde-t-elle une pertinence lorsqu’on la rapporte aux problèmes contemporains d’autofondation des lois logiques ? Depuis Platon demandant d’inverser le mouvement de la déduction et de remonter vers « l’anhypothétique », le problème d’une fondation des hypothèses de démonstration se pose en raison de la structure linéaire de la relation démonstrative. Qu’elle procède par calcul ou non, une logique qui ferait l’économie du concept de conséquence, d’inférence ou encore d’implication, renoncerait à l’apodicticité et donc à elle-même. Avec la relation de nécessité entre prémisses et conséquences, au sens élémentaire si bien défini par Aristote^[10], nous tenons une des propriétés du concept de vérité logique. Un logicien contemporain en rappelle la formule la plus simple : « A ® A est l’archétype de l’inférence, le fondement trivial de tout raisonnement »[11]. Nous savons depuis Aristote que la volonté de démontrer les premières prémisses aboutit à une aporie pour toute logique acceptant le principe de non-contradiction. La démonstration, en effet, ou bien ira à l’infini, ou bien s’arrêtera à une « hypothèse »^[12], ou bien sera « circulaire ». Aristote en conclut qu’il existe nécessairement des vérités indémontrables. Il n’est pas insignifiant que la logique contemporaine ait retrouvé cette thèse par les voies du seul calcul. « Les propositions hilbertiennes », explique J. Vuillemin, « sont énoncées dans le langage qui est celui des philosophes, et c’est Gödel qui a dû les transcrire pour en faire des énoncés mathématiques démontrables ou réfutables. Ce que j’appelle réflexion, c’est précisément cette traduction dans le mode formel. [..] Il a fallu traduire en mathématique un énoncé philosophique »^[13]. Or, dans l’article de 1802 sur La relation du scepticisme à la philosophie^[14], l’aporie issue d’Aristote, loin d’être négligée par Hegel, fait l’objet d’une réfutation qui prépare les modes de probation véritablement rationnels de la Science de la logique. Hegel y commente les « cinq tropes postérieurs »^[15] rapportés par Sextus Empiricus et dont la réduction à trois résume la totalité des modes d’autoréfutation de la logique démonstrative ou déductive : la régression à l’infini, le diallèle, le postulat^[16]. De cette version systématique de l’aporie d’Aristote, que Sextus Empiricus attribue à Agrippa, Hegel dit qu’elle est déjà la vraie réflexion en acte, puisqu’à la différence des autres tropes sceptiques, ceux-ci « renferment uniquement des concepts de réflexion »^[17]. Par là s’annonce l’autoréfutation de la détermination réflexive du « fondement (Grund) » qui s’accomplira dans la Doctrine de l’essence et qui contient la vraie solution, ou plutôt la dissolution vraie, de l’aporie formulée par Aristote.

Mais avant d’affirmer trop vite que la « dissolution » hégélienne est l’unique alternative logique à la solution aristotélicienne, qui est le recours à l’intuition noétique des premières prémisses, prêtons attention aux logiques contemporaines. Car elles n’ignorent pas que, pour établir la non-contradiction de leurs concepts primitifs, elles ne peuvent faire l’économie de l’opérateur logique de sui-référence ou encore d’autoréférence, dont l’usage met en péril ce principe des principes que semble être pour elles le principe de non-contradiction. Une commentatrice de Fichte conclut un aperçu historique sur l’autoréférence en contexte logique ainsi : « [Q]ue l’on déclare l’autoréférence interdite (Russell), exceptionnelle (Tarski), ou indécidable (Reichenbach), il n’en demeure pas moins que les contradictions qu’elle engendre ne sont pas résorbées, mais seulement situées, puis, à terme, abandonnées »[18]. Qu’elle soit auto-inclusion ou bien auto-application, l’autoréférence produit d’ailleurs en « logique formelle » moins une contradiction, qui, en tant que disjonction ou alternative totale entre deux opposés, autorise le choix, qu’un dilemme, lequel conclut d’une disjonction exclusive à la nécessaire conjonction des deux opposés. Puisque la modalité d’interdiction de l’autoréférence prend dans le Tractatus logico-philosophicus sa forme la plus radicale, essayons d’en dégager quelques conséquences dans le cas de la vérité du principe de non-contradiction.

Suppression du problème des vérités logiques dans le Tractatus.

« Il est clair », affirme L. Wittgenstein, « que les lois logiques ne doivent pas elles-mêmes se soumettre derechef à des lois logiques. (Il n’y a pas, comme le voulait Russell, pour chaque « type » une loi de contradiction particulière, mais une seule suffit, parce qu’elle ne s’applique pas à elle-même) »^[19]. Les lois logiques ne nécessiteraient d’être subordonnées à des principes logiques que si leur vérité devait être fondée sur eux, et, par conséquent, que si ces principes étaient des vérités logiques sur la logique. Or, dans l’esprit des praticiens du nouveau calcul logique, ces lois logiques ne nécessitent pas d’être fondées pour la simple raison qu’elles ne sont pas en elles-mêmes des vérités, quand bien même les appellerait-t-on des axiomes. Sans doute, s’il était impossible de donner une preuve de la non-contradiction des propriétés des connecteurs eux-mêmes, le logicien n’éprouverait pas le sentiment de nécessité intellectuelle que suscite la « force de la forme »^[20], et qui transforme en assentiment, c’est-à-dire en jugement de vérité, la constatation des effets de ces propriétés au cours du calcul. Mais le calcul logique, en tant que tel, ignore la psychologie de la vérité. Suivant Wittgenstein, une proposition (Satz) n’a en effet de contenu ou de référence (Bedeutung) vérifiable qu’à la seule condition d’exclure certains états de choses ou certains mondes possibles dans lesquels elle est fausse. L’axiome logique est donc sans vérité, puisque sa nécessité n’exclut aucun état de choses, aucun monde possible, nul axiome, faute de « référence », n’est à proprement parler vrai. En fait, les formules prises pour des vérités ou des principes premiers logiques ou mathématiques ne rendent pas raison d’elles-mêmes, mais exhibent la forme logique de ce que Wittgenstein, à la suite de Russell[21], nomme « tautologies ». Celles-ci, comme les contradictions, sont dénuées de sens (sinnlos). Elles ne sont toutes deux que des résultats particuliers du calcul de formules dont la « table de vérité » ne contient que la valeur de vérité « V » (vrai), quelles que soient les valeurs de vérité des propositions composant les dites formules[22]. Le principe de contradiction n’est alors qu’une « tautologie » parmi d’autres. Liard précise qu’avec Boole, «l’axiome appelé par les logiciens principe de contradiction, et considéré par eux comme une loi primitive et irréductible de la pensée, est une conséquence de cette loi [du calcul] dont l’expression est : [x = x²] »^[23]. La nécessité de l’axiome n’est pas celle d’une loi de la pensée qui serait une vérité logique sur le calcul logique. Elle est, d’une part, dans l’application mécanique de la combinaison des « valeurs » de vérité et de fausseté, en fonction de l’opérateur de connexion choisi. Cette combinaison féconde est l’héritière lointaine de celle de Leibniz. D’autre part, la nécessité coïncide avec le constat que la valeur « faux » n’apparaît pas dans le résultat. Si la valeur « faux » d’une proposition est constatée, cela ne signifie pas que la proposition est « jugée » fausse au sens où elle contredirait les lois du raisonnement ou de la pensée. La « valeur » de fausseté n’a ni plus, ni moins de « valeur » que le 0 et le 1 auxquels Boole est parvenu à réduire les valeurs du calcul logique. La seule « philosophie » de la vérité logique qui est par conséquent impliquée par le calcul logique moderne est celle qui, au lieu de placer la vérité, pourrait-on dire, au-dessus du calcul, au titre de loi de la pensée, ou avant lui, en la posant à son principe, la place dans le calcul, pour la raison que la valeur de vérité est produite ou construite dans le calcul et que les lois logiques sont elles-mêmes des résultats du calcul.

La position de Wittgenstein dans le Tractatus est radicale en ce qu’elle refuse le présupposé rationaliste qui est commun aux deux grandes possibilités de justification de la vérité logique, à savoir, d’une part, la justification médiate, résultant d’une inférence partant d’un fondement, qu’il soit a priori ratione, à la manière de Leibniz, ou bien a posteriori ratione, à la manière de J. S. Mill ou des empiristes logiques ; d’autre part, la justification immédiate, donnée dans une évidence noétique à la manière d’Aristote. Une théorie récente offre une troisième solution en distinguant, d’un côté, la « justification », et, de l’autre, « l’autorisation » à suivre des règles en raison de définitions implicites[24]. Mais la nature de « l’autorisation » maintient cette théorie dans le camp rationaliste. Au contraire, l’ostension d’une tautologie n’a pas dans le Tractatus à rendre raison d’elle-même : « La proposition montre ce qu’elle dit, la tautologie et la contradiction montrent qu’elles ne disent rien »[25]. La position de Wittgenstein se soustrait par conséquent à la triple aporie d’Aristote, et, en particulier, s’immunise par avance contre les objections que W. van O. Quine[26] a pu avancer à l’encontre de la thèse conventionnaliste de la vérité logique, défendue par des positivistes logiques tels que Jules Ayer[27]. Mais la radicalité de la position logicienne du Tractatus fait aussi sa faiblesse, parce qu’il semble difficile d’éviter l’objection d’irrationalité des lois logiques, ainsi que de la relation d’inférence. Le seul sens qu’ait l’inconditionnalité de la vérité de la tautologie et de la fausseté de la contradiction est celui que lui confère le « symbolisme »[28]. Par conséquent, du symbole qui montre qu’il ne dit rien d’autre que sa propre forme logique vide de sens, rien d’autre ne doit être dit.

Le statut « réflexif-spéculatif » des lois de la pensée

Si, à l’occasion de cet apophatisme du Tractatus, la critique hégélienne de la logique formelle ne consistait qu’à rappeler que toute vérité logique formelle est en dernière analyse conditionnelle, que le calcul logique ne peut fonder ses propres règles primitives ou axiomes, et qu’il existe par suite des vérités indémontrables, que ferait-elle de plus que répéter la critique aristotélicienne ? Dans son article sur le Scepticisme, Hegel annonce une autre voie pour la logique : « le rationnel est le rapport (Verhältnis) même, et puisque le rationnel est la relation (Beziehung) même, les choses qui sont en relation, celles qui, lorsqu’elles sont posées par l’entendement, devraient se fonder (begründen) les unes dans les autres, tomberont bien dans le cercle, c’est-à-dire dans le diallèle du cinquième trope, mais le rationnel lui-même n’y tombera pas, car dans la relation les termes n’ont pas à se fonder les uns les autres »^[29]. Car c’est seulement dans la Doctrine de l’essence que seront distingués la relation (Beziehung) et le rapport (Verhältnis). On le sait, à la différence de la relation à soi de l’être, la relation à soi de l’essence nie en elle-même sa relation à son autre^[30]. Les deuxième et troisième sections de la Doctrine de l’essence se terminent chacune par un chapitre qui spécifie cette forme « essentielle » de la relation qu’est le « rapport ». Mais, dans le troisième chapitre de la première section, la catégorie du « fondement (Grund) » ne donne lieu qu’à la « relation fondamentale (Grundbeziehung) », parce que cette catégorie appartient aux déterminations de réflexion, en tant qu’elles ne sont pas encore le « rapport » du phénomène ou celui de la substance, et en tant qu’elles expriment sous forme de propositions les « lois du penser » : « Les déterminations de réflexion se trouvaient habituellement prises naguère dans la forme de propositions (Sätzen)[..] Ces propositions valaient comme les lois universelles du penser qui se trouvent au fondement de tout penser, [qui] en elles-mêmes seraient absolues et indémontrables, mais par tout penser, quelle que soit la façon dont il saisisse leur sens, se trouvent reconnues et admises immédiatement et sans contredit comme vraies »^[31].

Dans ce changement de statut logique des « lois du penser » proposé par Hegel, que peut apprendre sur elle-même une logique formelle ? En quoi l’interprétation de ces lois en termes de « déterminations de réflexion », et donc de médiation « essentielle », libère-t-elle le savoir des lois logiques de toute espèce d’immédiateté, y compris de l’immédiateté « symbolique » défendue dans le Tractatus ? Tâchons de le préciser successivement à propos de la forme qui définit la logique formelle, de la relation d’inférence, de l’aporie de l’autofondation et enfin de la loi de non-contradiction.