En nous appuyant sur les notions d’objet et de classe issues de la logique naturelle, nous avons redéfini le concept d’ensemble de manière intuitive, établissant ainsi une théorie naturelle des ensembles sans recourir à la logique formelle. Cette approche s’appuie sur six axiomes qui constituent la base de cette théorie fondamentale. Progressant vers une reconstruction complète de l’univers mathématique et une refondation de notre science de l’infini, nous introduisons les quatre axiomes supérieurs, proprement mathématiques : l’infini, le choix, la fondation, et l’univers. Ancrés dans une perspective logiciste intuitive, ils dispensent de l’utilisation de la logique mathématique formelle et permettent également d’aborder les hiérarchies cumulatives naturelles. Celles-ci organisent les ensembles au-dessus d’un ensemble de base donné et, via les cardinaux inaccessibles, offrent des exemples concrets d’univers mathématiques. Ces structures servent de fondement à notre prise en charge de la théorie des catégories, qui décrit la structure à grande échelle du méta-univers.

Les notions évoquées dans cet article sont tirées de la publication scientifique Natural Set Theory: An Ultimate Foundation for Mathematics.

1.Planter un arbre dans l’univers

1.1.Inscrire la mathématique dans la théorie des ensembles

En posant les fondements d’une théorie naturelle des ensembles, à partir des notions d’objet et de classe et sans logique formelle, nous avons adopté une approche intuitive basée sur le langage naturel. Tout l’intérêt d’une telle théorie est de pouvoir y inscrire l’intégralité de la mathématique, comme un arbre infini planté dans le terreau fertile du méta-univers. Les 6 axiomes de Réalité, de la Paire, de Compréhension, des Parties, de la Réunion et de Remplacement assurent en effet qu’au sein de la classe $\mathbb S$ de tous les ensembles, toutes les définitions et constructions mathématiques usuelles puissent se déployer. Car l’intérêt scientifique de la théorie des ensembles, c’est précisément de pouvoir y décrire tous les objets mathématiques, et de faire de la mathématique une science par leur représentation rigoureuse à travers des structures.

1.2.Reconstruire les ensembles naturels par une approche structurelle

C’est pourquoi la science mathématique ne commence véritablement qu’avec la reconstruction des ensembles naturels et leur structure arithmétique, et notamment l’ensemble $\mathbb N$ des entiers naturels, l’ensemble $\mathbb Z$ des entiers relatifs, l’ensemble $\mathbb Q$ des nombres rationnels et l’ensemble $\mathbb R$ des nombres réels. En effet, l’existence de ces ensembles est en quelque sorte axiomatique, et leur émergence au sein de la théorie des ensembles repose alors sur l’adoption d’au moins une hypothèse supplémentaire, par exemple celle de l’existence du premier d’entre eux, si nous voulons fonder l’arithmétique elle-même comme science. A partir de là, nous pouvons définir, c’est-à-dire construire, tous les autres, ce qui est devenu l’approche traditionnelle, et y étendre la structure arithmétique naturelle pour recouvrer tout l’univers mathématique à partir des opérations ensemblistes. En ce sens, l’axiome de l’infini est la graine qui permet de planter l’arbre mathématique dans la théorie naturelle des ensembles.

2.L’axiome de l’infini et les entiers naturels

2.1.L’ensemble infini des entiers naturels

En effet, l’existence de l’ensemble $\mathbb N$ des entiers naturels ne va pas de soi. La notion intuitive de nombre entier naturel, bien qu’elle soit définissable de manière rigoureuse sur le plan philosophique, ne fournit en effet pas immédiatement une définition ou une construction de l’ensemble $\mathbb N$. Il faut donc soit en admettre l’existence, avec ses propriétés axiomatiques, soit adopter une représentation des entiers naturels dans la théorie des ensembles, par exemple par les ordinaux finis. Sachant que les ordinaux sont des ensembles, et que la notion d’ensemble fini est habituellement définie à partir des entiers naturels, on aboutit à une circularité dont on peut toutefois s’extraire à partir de la définition originale suivante :

Définition 1
Un entier naturel est un ordinal pour lequel toute partie finie et non vide admet un plus grand élément.

Le concept est dès lors parfaitement défini sur le plan mathématique, et on peut alors définir la notion d’ensemble fini à partir de l’intuition naturelle, en rappelant que pour un entier naturel $n$, l’intervalle entier $[[1,n]]$ est l’ensemble des entiers naturels $i$ compris entre $1$ et $n$ :

Définition 2
Un ensemble $E$ est dit fini, si il existe un entier naturel $n$ et une bijection $f:E\cong [[1,n]]$.

On démontre alors qu’un entier naturel est exactement un ordinal fini en tant qu’ensemble, et on peut former la classe, notée $\omega$, des nombres entiers naturels, sous-classe infinie de la classe $Ord$ des ordinaux. Rien ne garantit a priori toutefois que cette classe est un ensemble, c’est pourquoi on introduit ici le 7ième axiome, dit de l’infini, sous la forme suivante :

Axiome de l’Infini (7)
La classe $\omega$ des ordinaux finis est un ensemble.

En fait, il est même possible d’introduire cet axiome sans utiliser explicitement la notion d’ordinal, sous la forme suivante : il existe un ensemble $E$ tel que $\emptyset\in E$ et $S\cup\{S\}\in E$ pour tout $S\in E$. On reconnaît ici une forme du principe de récurrence de l’arithmétique naturelle, et sous cette hypothèse, l’intersection de tous les ensembles $E$ ayant cette propriété est précisément la classe $\omega$.

2.2.Infini et arithmétique

Sous l’axiome de l’infini, l’ensemble $\omega$ des ordinaux finis est le premier exemple explicite d’ensemble infini et leur archétype, puisqu’il sert de représentation à l’ensemble $\mathbb N$ des entiers naturels. Or, on sait définir le successeur d’un ordinal $\alpha$ comme l’ordinal $\alpha+1:=\alpha\cup\{\alpha\}$, de sorte que la fonction $s:\omega\to\omega$ qui associe à un ordinal fini $n$ l’ordinal fini $n+1$ est aussi une représentation de la fonction successeur des nombres entiers naturels. On démontre en fait, à partir de la seule théorie des ensembles et sans l’axiome de l’infini, que la classe $\omega$ des ordinaux finis et la fonction $s$ possèdent les propriétés axiomatiques suivantes servant à fonder l’arithmétique elle-même :

Proposition 1
La fonction $s:\omega\to\omega$ possède les propriétés suivantes :
i) $0:=\emptyset$ n’est le successeur d’aucun ordinal fini
ii) Si deux ordinaux finis $n,m$ ont le même successeur – c’est-à-dire si $s(m)=s(n)$ – alors $m=n$
iii) Si $C$ est une sous-classe de $\omega$ qui contient $0=\emptyset$ et qui contient $s(n)$ dès que $n\in C$, alors $C=\omega$.

On reconnaît ici les trois axiomes de Peano, qui déterminent de manière unique la structure arithmétique de l’ensemble $\mathbb N$, à supposer que celui-ci existe. En fait, on peut démontrer, grâce au théorème de récurrence adapté à la classe $\omega$, que dans la théorie naturelle des ensembles l’axiome de l’infini (7) est équivalent à la consistance logique de l’arithmétique de Peano, c’est-à-dire essentiellement à l’existence d’une représentation de l’ensemble $\mathbb N$ des nombres entiers naturels. En ce sens, l’arithmétique naturelle comme « pilier » de la science mathématique se fonde en théorie des ensembles sur l’axiome de l’infini, lequel est donc le premier axiome proprement mathématique de la théorie.

3.L’axiome du choix et les ensembles infinis

3.1.Axiome du choix et caractérisation de l’infinité mathématique

L’axiome de l’infini énonce l’existence d’un certain ensemble infini, mais cet ensemble vient avec une « structure », essentiellement la fonction successeur des ordinaux finis. Si nous devions en adopter une version abstraite, c’est-à-dire admettre l’existence d’un ensemble infini, afin d’en déduire l’axiome de l’infini – ou la consistance de l’arithmétique – il nous faudrait introduire un nouvel axiome, dont la formulation et les applications sont toujours déroutantes, et qui est le principe suivant de la théorie naturelle des ensembles :

Axiome du Choix (8)
Si $C$ est une classe d’ensembles non vides, alors il existe une fonction $f:C\to \bigcup C$ telle que $f(S)\in S$ pour tout $S\in C$.

Reformulons cet axiome pour le comprendre, en remarquant que l’utilisation de la réunion $\bigcup C$ n’intervient que pour définir proprement la fonction $f$, dont les valeurs sont des éléments des éléments de $S$. L’axiome énonce que si $C$ est une collection d’ensembles tous non vides, alors on peut « choisir » dans chaque élément $S$ de $C$ un élément de $S$. C’est ce que signifie l’existence de la fonction $f$, appelée « fonction de choix », parce qu’elle associe à chaque ensemble $S\in C$ un élément $f(S)$ de $S$. L’axiome du choix permet de définir de nombreux objets mathématiques sans avoir à en donner une construction explicite. En particulier, en conjonction avec le précédent il permet de caractériser les ensembles infinis à la fois à partir de l’ensemble $\omega$ et de manière intrinsèque (on rappelle qu’une partie $S$ d’un ensemble $E$ est dite propre si $S\neq E$) :

Théorème 1
i) Un ensemble $E$ est infini si et seulement si il existe une fonction injective $f:\omega\hookrightarrow E$
ii) Un ensemble $E$ est infini si et seulement si existe une bijection de $E$ sur une partie propre $S$ de $E$ (propriété de Dedekind).

La caractérisation de Dedekind permet ainsi de retrouver dans la théorie naturelle des ensembles la notion d’infinité comme une propriété intrinsèque et positive, par contraste avec la notion de finitude, qui est toujours soit extrinsèque (relative à une énumération possible, Définition 2), soit négative (comme négation de la propriété de Dedekind).

3.2.Enumération et cardinalité

La notion mathématique d’infini doit en effet de toute manière être celle de « non-fini », c’est-à-dire la négation de la Définition 2 : un ensemble est infini lorsqu’il est impossible de l’énumérer par un entier naturel. Or, le théorème de Cantor montre que les ensembles infinis n’ont pas tous « le même nombre d’éléments » : il n’existe pas de bijection entre un ensemble $E$ et l’ensemble $\mathcal P(E)$ des parties de $E$; par exemple, il existe strictement plus de nombres réels que de nombres rationnels. Mais s’il est impossible de « dénombrer » les ensembles infinis au sens habituel, comment distinguer leurs quantités ? Ici, l’axiome du choix permet précisément d’étendre l’énumération aux ensembles infinis, c’est-à-dire de compter leurs éléments. Ceci est possible grâce à un principe de récurrence dite « transfinie », c’est-à-dire une extension du théorème de récurrence aux ordinaux infinis, à partir du fameux corollaire suivant :

Proposition 2 (Théorème de Zermelo)
Si $E$ est un ensemble quelconque, alors il existe une bijection entre $E$ et un ordinal $\alpha$.

Ceci étant dit, l’énumération de tous les ensembles grâce aux ordinaux fait apparaître une nouveauté : tandis que toutes les manières possibles de compter les éléments d’un ensemble fini donnent le même résultat (le cardinal de l’ensemble), le nombre ordinal infini associé à l’énumération d’un ensemble infini $E$ dépend de cette énumération ! C’est ainsi que transparaît le caractère « arbitraire » de la fonction de choix de l’axiome dans la mise en oeuvre du théorème de Zermelo; et c’est la raison pour laquelle la quantité associée à un ensemble infini $E$ doit être choisie parmi tous les ordinaux qui permettent de l’énumérer, comme le plus petit d’entre eux, qu’on appelle cardinal de $E$.

4.L’axiome de fondation et les hiérarchies cumulatives

Avec les axiomes de l’infini et du choix, nous disposons de tout ce qui est nécessaire pour construire les objets de la mathématique moderne et énoncer leurs propriétés. Ceci étant dit, il reste deux axiomes essentiels à une théorie naturelle des ensembles, afin que celle-ci soit d’une part bien fondée au sens logique, et qu’elle puisse d’autre part intégrer la théorie des catégories, laquelle décrit « la structure à grande échelle » de l’univers mathématique.

4.1.Les hiérarchies cumulatives