De quoi les Mathématiques sont-elles la science ?

 

     Quels enseignements peut-on tirer de la crise épistémologique qu’ont provoquée les développements récents de la science mathématique ?

     On pourrait être tenté d’en rester à un jugement purement sceptique sur la scientificité des Mathématiques, pour deux raisons convergentes.

     La première tient à l’arbitraire axiomatique qui est apparu au sein des théories : s’il est inévitable, il est alors impossible de considérer les Mathématiques comme une science en entendant par là une connaissance certaine de ce qui est, puisque les certitudes qu’elles offrent reposent sur des présuppositions incertaines, affaire de décisions conventionnelles.

     On pourrait chercher une issue à cette difficulté dans la notion de vérité formelle : la vérité mathématique ne serait pas de nature catégorique, mais seulement de nature hypothétique, c’est-à-dire portant sur le lien d’implication entre l’antécédent que constitue un système d’axiomes, et le conséquent que constitue l’ensemble des théorèmes qu’on peut en inférer, moyennant les règles de déduction qu’on s’est données. Un théorème n’est pas une proposition qu’on puisse déclarer vrai en la considérant à part. On peut seulement le déclarer démontrable à l’intérieur d’une certaine théorie. Les notions de démonstration et de vérité démontrée voient du même coup leur signification restreinte et relativisée : une proposition démontrée n’est pas une vérité nécessaire en soi, une proposition qui ne peut pas ne pas être vraie, et l’est par suite éternellement ; c’est seulement une proposition conditionnellement vraie, parce qu’il est vrai qu’elle découle nécessairement de ses prémisses. Plutôt que de vérité, l’épistémologie des Mathématiques préférera parler de démontrabilité à l’intérieur d’un système, et renoncera à l’idée d’une démontrabilité absolue.

     L’échec historique du formalisme en Mathématiques semble alors donner une deuxième raison d’être sceptique, s’il est vrai qu’il montre l’impossibilité de réduire la vérité à la vérité formelle en faisant apparaître, de l’intérieur même des théories formelles, des éléments qui y échappent, soit sous la forme de propositions nécessairement vraies quoiqu’indécidables, soit sous la forme de totalités qui ne peuvent être considérées comme des ensembles, et échappent à la mathématique ensembliste. Or, s’il y a, à l’intérieur même des théories formelles, des propositions vraies qui ne sont pas formellement démontrables, la notion de vérité devient équivoque, puisqu’elle signifie soit la démontrabilité formelle, soit l’impossibilité d’une telle démonstration.

      Ici encore une issue se présente. S’il faut renoncer à réduire la vérité à la vérité formelle, on peut envisager de considérer la seconde comme un cas particulier de la première, c’est-à-dire à considérer que la vérité d’une proposition hypothétique est de même nature que celle d’une proposition catégorique : les deux peuvent être dites vraies si elles énoncent adéquatement ce qui est, mais ce qui est, c’est, dans le premier cas, l’implication d’une proposition par une autre proposition, et dans le deuxième, l’inhérence d’un prédicat à un sujet – laquelle peut être contingente aussi bien que nécessaire, contrairement à ladite implication.

     Ce qui s’impose ici, c’est de rappeler la thèse métaphysique qui interdit de considérer l’être comme un terme univoque, c’est-à-dire réductible à un seul sens. L’être est le prédicat minimal attribuable à tout le reste – car de ce qui n’est absolument pas, il n’y a rien à dire –, mais c’est chaque fois en un sens différent. Et cette multiplicité des significations de l’être est toujours impliquée dans n’importe quelle énonciation. Car, pour qu’il soit vrai d’attribuer un prédicat à un sujet, il faut que le prédicat soit, mais en un autre sens que le sujet auquel il appartient : il n’est que comme appartenant à quelque chose (in-hérence) qui est tout court (sub-sistance). La moindre proposition implique donc la distinction d’au moins deux sens fondamentaux de l’être, et les propositions Mathématiques pas moins que les autres.

     Si l’on s’interroge sur la possible vérité de ces propositions, on commencera par se dire qu’il n’y a aucune raison de réduire l’être, auquel une proposition vraie doit correspondre, à l’existence physique, ni de supposer que la seule vérité envisageable soit la correspondance du discours avec les propriétés de fait du monde matériel – ses lois –, ou les événements qui s’y produisent. Il n’y a aucune raison a priori de penser qu’on ne puisse dire ce qui est, être dans le vrai, et de façon certaine, qu’en parlant de l’univers physique et de ce qui existe matériellement. Il n’y donc pas non plus de raison de nier que les Mathématiques connaissent en rien ce qui est, pour la seule raison qu’elles ne procèdent pas comme une science physique. En d’autres termes, ce n’est pas parce que les Mathématiques font abstraction des conditions de l’existence matérielle qu’elles ne disent rien de ce qui est, et ne peuvent pour autant être considérées comme une science.

     Il faut alors examiner et préciser le rapport entre les deux types de discours.

     Il y a lieu de rappeler ici l’origine empirique des Mathématiques, mais on peut aussi invoquer un fait peu exploité plutôt qu’ignoré  par les Anciens, et constitutif de la Physique moderne : les Mathématiques sont applicables, tout à la fois théoriquement et techniquement. Elles ne sont assurément pas expérimentales, et elles ne le sont pas devenues plus qu’elles ne l’ont été à leur origine, bien au contraire. Mais on comprendrait difficilement qu’elles puissent recevoir, ou du moins que certaines de leurs parties puissent recevoir des applications dans le monde sensible, c’est-à-dire permettre d’y représenter des lois explicatives, ou d’y produire des effets de manière très sûre, si ce qu’elles connaissent de manière purement théorique n’avait aucun rapport avec ce monde, ou, inversement, si ce monde ne comportait rien de mathématisable. On sait que Galilée proclamait vigoureusement le contraire, en se prévalant de la Bible, et que Platon voyait dans le compte et la mesure les opérations rigoureuses qui pouvaient seules permettre d’acquérir une connaissance sûre des choses, soustraite aux aléas de la sensation.

     Ces faits, qui attestent, en amont ou en aval, le rapport entre les connaissances mathématiques et le réel empiriquement donné, ne sont nullement indifférents quant à la question du rapport des Mathématiques à l’être, mais aussi quant à la question de leur scientificité.

     Le développement moderne des Mathématiques a réactivé l’interrogation sur la vérité et la nécessité des principes de la démonstration, soit sur la possibilité de connaître des vérités à la fois nécessaires et indémontrables.

     Qu’il puisse exister de telles vérités, et même qu’il en existe nécessairement, c’est ce que les théorèmes de Gödel ont attesté sous une forme et par des moyens renouvelés.

     Quant à la question de savoir comment nous pouvons acquérir la connaissance de telles vérités, Aristote faisait valoir que « nous n’apprenons que par démonstration ou par induction »¹, soit par déduction a priori ou par expérience, et que, puisqu’il serait contradictoire de démontrer les principes de la démonstration, seule l’induction à partir de l’expérience peut nous permettre de les acquérir, c’est-à-dire de prendre conscience de leur vérité : les principes de la démonstration seraient alors les nécessités intelligibles dont l’intellect prend conscience à partir du rapport initial avec l’être qu’est l’expérience sensible.

     Il ne paraît ni difficile ni problématique de reconnaître une origine inductive aux premières abstractions mathématiques, à savoir les nombres entiers et les figures planes. Elles attestent la capacité qu’a l’intellect de concevoir l’universel à partir du sensible, et de disposer par là-même de ce qui lui est nécessaire pour raisonner et prouver : « l’induction est principe de l’universel, tandis que le syllogisme part des universels »². Les définitions font partie des principes nécessaires à la mathesis.

     L’abstraction se présente ainsi comme un fait originaire qui a rendu possible les Mathématiques, et cela permet de répondre à l’objection critique de Platon contre les mathématiciens : on ne peut leur reprocher de simplement présupposer le pair, l’impair, et les espèces de figures, s’il y a là d’abord autant de données, puisqu’il existe effectivement des multiplicités dénombrables, et des grandeurs délimitées de telle ou telle forme. En reprochant aux mathématiciens de ne pas rendre compte de ces points de départ, Platon en demande trop : car cela revient à leur demander de déduire logiquement une définition, alors que l’on peut démonter logiquement qu’une définition est nécessairement indémontrable³.

     Platon a été le premier sceptique en laissant entendre qu’un point de départ ne pourrait être que présupposé, sauf s’il s’agissait d’une connaissance intuitive de l’absolu lui-même. De tels points de départ ne doivent pas paraître présupposés si on peut les considérer comme donnés, ce qui paraît possible dès lors qu’ils ont un rapport évident – et non démontrable – avec un donné empirique.

     Par ailleurs, le scepticisme trouve sa limite dans le fait que certaines propositions, qui ne sont pas des définitions, s’imposent comme à la fois vraies et indémontrables, parce que leur négation est impossible. On pourrait douter qu’il existe des principes pour démontrer scientifiquement quelque chose si pour toute proposition, l’opposée apparaissait également admissible. Or il faut reconnaître que ce n’est pas le cas, puisqu’il y a des propositions qui s’éliminent d’elles-mêmes et qu’il suffit d’examiner pour voir qu’elles impliquent non pas la fausseté, mais la vérité de leur opposée⁴.

     À quoi on pourrait objecter que, précisément, en Mathématiques, tout ne paraît pas si simple.

     Il y a d’abord le fait, devenu évident avec l’invention des géométries non-euclidiennes, que ce qui se présentait et qui était reçu comme une démonstration mathématique ne l’était pas toujours au sens strict, ou du moins au sens que l’on donnait à ce terme depuis les Grecs, et dont les Mathématiques passaient pour la plus éclatante réalisation. La démonstration était considérée comme l’opération qui permettait de s’assurer de propositions telles qu’il serait impossible de démontrer le contraire. Il s’avérait que, pour certaines propositions, c’est cela même qui était impossible, puisqu’il était toujours possible de déduire ce contraire avec la même rigueur logique.

     Sur ce point, il faut dire que les efforts qui ont été faits pour parfaire les Éléments d’Euclide, ainsi que le travail de formalisation et d’axiomatisation qui s’en est suivi, avaient pour intérêt de discriminer les prémisses premières qui ne s’imposaient pas comme propositions nécessaires – parce que leur négation pouvait tout autant être posée en principe  –, et celles qui ne pouvaient pas être éliminées, à commencer par le principe de contradiction, et toutes les propositions qui en sont comme des applications immédiates à des domaines particuliers – tels les axiomes de l’égalité, ou celui du tout et de la partie. Il apparaît alors que les théories Mathématiques comportent à la fois des axiomes au sens ancien du terme – vérités indéniables – et des axiomes au sens moderne – conventions de base.

     Dès lors, on pourra dire, en dépit des arguments sceptiques, qu’il n’est pas vrai qu’il n’y ait pas de principes à la fois vrais et nécessaires, qui permettent d’authentiques démonstrations. Mais, si l’on conserve au concept de démonstration son sens fort, il faudra dire que les théories mathématiques sont démonstratives à la mesure du caractère nécessaire de leurs principes, et qu’elles le sont d’autant moins qu’elles comportent plus de présuppositions « arbitraires ». Étant donné le nombre important de telles présuppositions, qui apparaissent nécessaires dès que l’on dépasse le niveau le plus élémentaire – celui de la logique bivalente, application immédiate du principe de contradiction, et de l’arithmétique élémentaire –, il apparaît toujours douteux qu’une proposition mathématiquement démontrée doive être considérée comme vraie absolument.

     Par ailleurs, même si l’on admet une connexion initiale entre les abstractions mathématiques et l’existant physique, il est au moins aussi évident que l’abstraction mathématique s’est très tôt affranchie de cette attache, et que les Mathématiques ont été amenées à concevoir et à théoriser des notions intelligibles qu’il paraît difficile d’associer, sinon indirectement, avec des aspects donnés de l’expérience sensible : c’était déjà vrai de la découverte des nombres irrationnels et des paradoxes de la continuité spatiale, comme, a fortiori, de la conception des espaces n-dimensionnels ou des nombres imaginaires. C’est sans doute ce qui a fait dire à Kronecker : « Dieu a fait les nombres entiers. Tous les autres sont l’invention de l’homme », manière de dire que les entiers peuvent être considérés comme donnés, ou comme la traduction conceptuelle immédiate d’un donné naturel, tandis que les autres espèces de nombres n’existent comme telles que moyennant un travail d’abstraction supplémentaire. Celui-ci n’est plus une simple généralisation à partir de l’expérience, mais elle consiste plutôt à identifier, c’est-à-dire à concevoir d’autres nombres dont l’existence est impliquée dans celle des premiers – comme lorsque l’on établit l’existence de l’irrationnelle en démontrant l’incommensurabi­lité de la diagonale du carré, ou lorsque Cantor généralise la notion de nombre cardinal pour lui faire désigner la « puissance » des ensembles.

     Cette progression dans l’abstraction mathématique a conduit certains à se demander si les objets mathématiques devaient être considérés comme donnés ou construits, découverts ou inventés.

     Ici encore, il n’est pas sûr que la réponse puisse être simple.

     On est tenté de voir une invention dans l’introduction du nombre imaginaire i, défini par l’éga­lité i ² = –1, impossible en arithmétique des entiers relatifs, mais qui permet d’écrire tout nombre négatif comme le produit de sa valeur absolue par i ². À partir de quoi on peut « construire » la théorie des nombres complexes, dans laquelle il devient possible d’avoir des nombres carrés négatifs :

– 4 = 4 i ² = ( 2 i )².

     La « construction » consiste alors dans le développement d’une possibilité ouverte par l’invention d’un principe incompatible avec les théories antérieures. On peut dire exactement la même chose de l’invention des géométries dites non-euclidiennes.

     Mais, pour autant, on peut aussi considérer que l’invention et la construction qui en découle n’est jamais que la découverte de possibilités inhérentes aux théories déjà acquises. C’est ainsi que la construction des logiques trivalentes ou n-valentes a été le développement d’une possibilité rendue évidente par la formalisation de la logique classique bivalente. De même, l’invention des transfinis était la découverte d’une possibilité offerte par la notion de nombre cardinal en tant qu’expression de la puissance d’un ensemble fini ou infini. Aussi Cantor écrit-il à Dedekind qu’il les « voit », sans pouvoir « y croire », comme un explorateur qui découvre une contrée inconnue et fascinante : il les voit comme implicitement contenus dans l’opération élémentaire qui a conduit à concevoir les premiers cardinaux, c’est-à-dire les entiers, dont chacun est le cardinal d’un ensemble fini.

     Il y aurait lieu sur ce point de modifier la formule de Kronecker. Car les nombres entiers ne sont pas plus donnés, ni moins inventés par les hommes, que les autres. Ce qui est donné, c’est-à-dire existant indépendamment de la pensée et des intentions humaines, c’est ce dont les nombres ont permis de représenter conceptuellement les aspects quantitatifs, en commençant par les nombres entiers qui traduisent immédiatement l’opération du décompte. Mais les nombres entiers n’existent pas plus dans la nature que les autres, et la conception de ces derniers n’est que le prolongement de l’abstraction initiale qui a permis celle des nombres entiers. La répartition entre Dieu et l’homme n’a donc pas lieu d’être : on peut voir dans la conceptualisation mathématique, à tous ses niveaux d’abstraction, l’actualisation de formes d’intelligibilité inhérentes au réel lui-même, puis aux conceptions déjà acquises pour le traduire intellectuellement.

     Ainsi, dans l’abstraction mathématique, l’intellect humain peut avoir conscience d’inventer quelque chose qu’il ne trouve pas comme tel antérieurement à son activité propre : c’est en fait le cas de tout concept. Mais en même temps il découvre dans ce qu’il invente quelque chose qui s’impose à lui, à commencer par les propriétés quantitatives que les nombres et les figures lui ont permis de comprendre. C’est évidemment ce que voulait exprimer Cantor en disant qu’il voyait les transfinis, d’une vision dont l’intellect seul est capable, mais dans laquelle son objet s’impose à l’intellect avec autant ou plus de force que les objets colorés aux yeux du corps.

     Il y a quelque chose de platonicien dans cette parole de Cantor. En appelant idée ce par quoi il peut y avoir science, Platon enracinait la science dans une vision de l’intelligible, inaccessible aux seuls sens. Et s’il glorifiait les Mathématiques tout en les critiquant, c’est parce qu’il y voyait une source de vérités bien plus sûres que les propositions aléatoires qu’autorise la seule sensation. C’était pour lui dans ce domaine, et dans celui de l’intellection en général, qu’il y avait lieu de chercher une certitude, et c’est pourquoi il voulait qu’on attribue plus de réalité, ou qu’on reconnaisse une réalité plus vraie aux intelligibles qu’aux sensibles.

     Certes Platon a suffisamment critiqué sa propre théorie pour qu’Aristote déjà renonce à considérer les idées comme des choses – car cela conduit à des contradictions⁵ –, sans pourtant nier que l’universel ait une réalité alors même qu’il ne subsiste pas comme une chose, mais n’existe que comme attribut commun de choses existantes, et se trouve présent à la pensée sous la forme du concept. Cette réalité de l’universel est suffisante pour que la science ait rapport à l’être, sans que cela implique qu’elle s’étende à tout l’être, s’il y a, dans l’univers des réalités subsistantes, des singularités qui ne se laissent pas réduire à la nécessité intelligible.

     C’est en ce sens affaibli du topos noètos que Popper en est venu à parler des objets mathématiques comme du Monde III, pour le distinguer du Monde I, qui désigne pour lui l’univers matériel, et le Monde II, qui désigne l’esprit lui-même, irréductible au monde matériel qu’il pense et connaît, notamment en suscitant l’existence du troisième monde, celui des représentations conceptuelles mises en œuvre par la science. L’idée que celles-ci forment un monde revient à les présenter comme un ensemble organisé d’éléments comportant un réseau de relations nécessaires qui s’imposent à l’esprit quand il les pense, et dont il ne décide pas plus qu’il ne décide des lois du monde physique. Comme dit Leibniz : « Il y a de la réalité là-dedans qui ne trompe pas »⁶, c’est-à-dire qui s’impose plus sûrement à la conscience pensante que ce qu’elle perçoit par les sens.

     Il n’y a donc pas lieu de considérer que les Mathématiques ne sont pas une science au prétexte qu’elles conçoivent des choses qui n’existent pas, au sens où elles ne subsistent pas à la manière des êtres singuliers matériels. Mais il faut tenir compte aussi de ce que les Mathématiques ont étendu le regard de l’intellect bien au-delà de ce qui lui était donné à connaître au départ.

     Les Mathématiques apparaissent en fait plus comme une science du possible, que comme une science du réel, si l’on entend par là l’existant actuel, alors même qu’elles sont originairement enracinées dans ce réel, et qu’une science du possible doit logiquement englober la science du réel, puisque le réel est en tant que tel possible, tandis que l’inverse n’est pas vrai.

      Par exemple, on a longtemps cru – et ce fut encore le cas de Kant – qu’il n’y avait d’autre espace possible que l’espace tridimensionnel euclidien. Pourtant, la géométrie a fait la preuve qu’il pourrait exister des espaces possédant d’autres propriétés et qui ne seraient pas moins possibles que l’espace euclidien, parce qu’ils seraient tout aussi cohérents et se prêteraient eux aussi à une modélisation géométrique.

     Seule l’expérience atteste quelles sont les propriétés de l’espace physique réel, et l’on tend à penser aujourd’hui que l’espace universel a une structure et des propriétés « riemanniennes », l’espace euclidien correspondant plutôt à une approximation de notre perception sensible.

     Précisément, cette question et la réponse à y apporter sont étrangères à la connaissance mathématique. Ce qui lui est propre en revanche, c’est d’avoir apporté la preuve qu’il n’est pas possible de démontrer a priori que l’espace réel est le seul qui puisse exister, ou qu’il ne pourrait pas être autrement qu’il n’est.

     Cette considération n’est pas sans importance du point de vue ontologique. Car l’idée que le monde tel qu’il est n’est pas le seul possible atteste sa contingence plutôt que sa nécessité. Cela ne revient pas à dire que le monde réel soit exempt de toute nécessité : au contraire, ce sont les nécessités intelligibles qu’il comporte qui font qu’il peut être objet de science. Mais ces nécessités sont conditionnelles plutôt qu’absolues, puisqu’il pourrait exister d’autres mondes comportant des rapports nécessaires – des structures et des lois – différents.

     Que les vérités Mathématiques soient elles-mêmes, pour leur plus grande part, de nature conditionnelle est peut-être paradoxalement leur manière propre d’offrir une science de ce qui est. Aristote soulignait déjà qu’il faut reconnaître la même conditionnalité à la nécessité des rapports physiques de cause à effet, et à la nécessité des rapports mathématiques d’implication formelle. Le propre des Mathématiques est d’avoir pris appui sur cette nécessité conditionnelle pour étendre le domaine du concevable au-delà de ce qui pouvait être conçu à partir de l’expérience du monde réel, et de ce qui se présentait comme vrai de fait à son propos.

     Ainsi les Mathématiques donnent-elles aussi à connaître le monde réel en connaissant autre chose que lui, et en attestant qu’il n’est que l’un des mondes possibles.

 

Michel Nodé-Langlois