Un ensemble fini, c’est un ensemble qu’on peut dénombrer à l’aide des entiers naturels \(1,\ldots,n\) pour un certain entier naturel \(n\). Mais qu’est-ce que dénombrer ? Et qu’est-ce qu’un ensemble infini ?

1. Comparer des ensembles : la notion de bijection

Les notions d’ensemble fini et d’ensemble infini, et la conceptualisation mathématique du « comptage » (des éléments) d’un ensemble, sont intimement liées et permettent de distinguer et définir rigoureusement le fini et l’infini mathématiques, sans autre ressource conceptuelle que la théorie naïve des ensembles (voir Qu’est-ce qu’un ensemble ?).

Pour compter les éléments d’un ensemble (on dit dénombrer), on utilise la notion de bijection. Une bijection entre deux ensembles \(E\) et \(F\) est une fonction (on dit aussi une application) de \(E\) dans \(F\), c’est-à-dire un « procédé » ou une « opération » \(f\) qui transforme les éléments de \(E\) en des éléments de \(F\) (on dit mathématiquement que \(f\) associe à chaque élément \(x\) de \(E\) un élément \(y\), noté \(f(x)\), de \(F\)), de manière très particulière : \(f\) est une bijection précisément lorsqu’elle associe à chaque élément de \(E\) exactement un élément de \(F\) (on parle de fonction injective) et que tout élément de \(F\) est associé à un élément de \(E\) (on parle de fonction surjective).

Autrement dit, une fonction \(f:E\to F\) est une bijection exactement lorsque qu’elle met en correspondance, un-à-un, les éléments de \(E\) et de \(F\) ! On doit ainsi souvent traduire de manière un peu détournée des idées très simples pour leur donner une certaine rigueur mathématique. Cette façon d’apparier un-à-un les éléments de deux ensembles est une manière naturelle d’en comparer les quantités, avant même de les compter : les enfants qui veulent comparer leur nombre de billes ou de cartes à la récréation procèdent souvent ainsi !

Cette figure illustre l’existence d’une bijection entre les ensembles \(E\) et \(F\) : on a mis en correspondance « un-à-un » les éléments de l’un et de l’autre. Il existe plusieurs manières de le faire, on peut d’ailleurs les dénombrer précisément.

2. Les ensembles finis sont ceux qu’on peut dénombrer

En utilisant de cette notion élémentaire mais fondamentale de bijection, on peut définir rigoureusement ce qu’est un ensemble fini. Un ensemble fini, c’est un ensemble dont on peut théoriquement compter les éléments, ce qu’on appelle « dénombrer », autrement dit un ensemble qui est en bijection avec un ensemble de la forme \(\{1,2,3,\ldots,n\}\) (soit tous les nombres entiers de \(1\) à \(n\)) pour un certain entier naturel \(n\) . Cette définition simple conceptualise précisément la façon dont nous comptons : alors qu’on peut comparer deux ensembles en les mettant en bijection, on compte un ensemble en associant à chacun de ces éléments un et un seul nombre entier entre \(1\) et le « nombre d’éléments » de cet ensemble (qui vaut \(0\) si l’ensemble est vide…) ! Mathématiquement, comparer deux ensembles ou dénombrer un ensemble revient donc à la même chose, décrire une bijection; seulement, lorsqu’on dénombre, on décrit une bijection avec un ensemble particulier, un ensemble de nombres.

L’ensemble des nombres de \(1\) à \(n\) est noté \([[1,n]]\). A un ensemble fini \(E\), on peut donc attacher un nombre d’éléments, qui est l’entier naturel \(n\) qu’on obtient en mettant, par définition, \(E\) en bijection avec l’ensemble \([[1,n]]\). L’expérience nous montre que quelle que soit la manière dont on compte, on aboutit au même résultat; mais est-ce théoriquement vrai, autrement dit est-il impossible de compter un ensemble fini de deux façons différentes et d’obtenir deux résultats différents ? Même si il paraît étrange de se poser la question, cela ne fait pas partie de la définition, et la rigueur mathématique demande que cela soit démontré ! C’est en effet un théorème, qui demande un peu de réflexion. Et la question est loin d’être anodine, puisque lorsqu’on dénombre un ensemble infini, du moins en utilisant ce qu’on appelle un nombre « ordinal », on peut aboutir à des résultats différents…

Pour revenir aux ensembles finis, puisque n’importe quelle manière de dénombrer un ensemble \(E\) – c’est-à-dire, conceptuellement, n’importe quelle bijection entre \(E\) et un ensemble de la forme \([[1,n]]\) – donne le même résultat, on peut définir le nombre d’éléments de \(E\) comme cet unique nombre entier naturel n, qu’on appelle aussi le cardinal de \(E\) (et dans le cas où le cardinal d’un ensemble infini peut être défini, il ne dépend pas non plus de la manière de compter). Certaines autres propriétés « évidentes » des ensembles finis demandent à être établies rigoureusement, c’est-à-dire démontrées : par exemple, qu’un sous-ensemble \(S\) d’un ensemble fini \(E\) est lui-même fini, et qu’il possède moins d’éléments que \(E\) ! De même, il faut démontrer que la réunion de deux ensembles finis est un ensemble fini…

On dénombre l’ensemble \(E\) en utilisant le même principe de la bijection : on associe un-à-un les éléments de \(E\) aux premiers entiers naturels, jusqu’à avoir associé tous ses éléments : l’ensemble \(E\) est en bijection avec l’ensemble \(\{1,2,3,4\}\), il possède donc \(4\) éléments.

3. Le premier des ensembles infinis

Ceci étant dit, puisque nous disposons d’une définition mathématique rigoureuse de ce qu’est un ensemble fini, en bonne logique nous pouvons définir un ensemble infini comme la notion « complémentaire » : un ensemble infini, c’est un ensemble qui n’est pas fini. Cette définition, la plus simple possible, est décevante pour qui veut comprendre un peu ce qu’est l’infini mathématique. Elle n’en est pas moins parfaitement rigoureuse, au vu des définitions introduites jusqu’ici, et elle se reformule directement de la manière suivante : un ensemble infini, c’est un ensemble qu’on ne peut pas dénombrer, c’est-à-dire qu’on ne peut pas mettre en bijection avec un ensemble de la forme \([[1,n]]\). Nous avons déjà fait un progrès dans la compréhension de l’infini : il « excède » tout ce qui est fini. A partir de là, nous allons donner deux caractérisations plus intéressantes de l’infini.

Caractériser une propriété, c’est établir qu’elle est équivalente à une autre propriété, qui peut souvent servir de définition alternative. La première de ces caractérisations est liée à l’ensemble \(\mathbb N=\{0,1,2,3,\ldots\}\) des nombres entiers naturels (voir Qu’est-ce qu’un nombre entier naturel ?). On peut en effet assez simplement démontrer que l’ensemble \(\mathbb N\) est infini, selon la définition donnée ! Si une telle démonstration excède le niveau de cet article, on peut toutefois le comprendre intuitivement : on voit mal comment on pourrait établir une correspondance un-à-un de tous les nombres entiers naturels avec des nombres \(1,\ldots,n\) en s’arrêtant à un certain \(n\) : après avoir établi cette correspondance, on pourrait toujours trouver un entier naturel plus grand que tous ceux qu’on a déjà comptés…

En fait, l’ensemble \(\mathbb N\) est le prototype des ensembles infinis, au sens où admettre son « existence » (théorique) en théorie des ensembles revient à admettre l’existence d’ensembles infinis. De plus, en utilisant des méthodes assez simples également, on peut démontrer qu’un ensemble \(E\) est infini si et seulement si il contient (une copie de) l’ensemble \(\mathbb N\) : c’est notre première caractérisation de l’infini. Qu’un ensemble \(E\) contiennent une « copie » d’un ensemble \(F\), cela signifie simplement qu’il existe une bijection entre \(F\) et un sous-ensemble de \(E\). Ainsi, avec les ressources élémentaires de la théorie naïve des ensembles, on aboutit à une compréhension déjà solide de ce qu’est l’infini mathématique : il « commence », du point de vue du « nombre d’éléments », avec l’ensemble \(\mathbb N\).

Grâce à cette première caractérisation, on peut donner de nombreux exemples d’ensembles infinis, car il existe de nombreuses bijections naturelles entre l’ensemble \(\mathbb N\) et des parties d’autres ensembles naturels. Par exemple, les ensembles de nombres \(\mathbb Z\) (entiers relatifs), \(\mathbb Q\) (nombres rationnels), \(\mathbb R\) (nombres complexes et \(\mathbb C\) (nombres réels) sont tous infinis parce qu’ils « contiennent » l’ensemble \(\mathbb N\). De même un cercle de rayon non nul est infini, ainsi qu’un intervalle ouvert non vide de la droite réelle (par exemple un ensemble de la forme \(]a,b[=\{x\in\mathbb R : a<x<b\}\), pour \(a<b\) des nombres réels). Un autre type d’exemple concerne certains sous-ensembles de \(\mathbb N\) lui-même : ainsi, l’ensemble des nombres pairs est en bijection avec \(\mathbb N\), tout comme l’ensemble des nombres impairs, ce qui a donné lieu à l’illustration appelée « hôtel de Hilbert« , dont une version est la suivante. Si un hôtel possédant un nombre infini de chambres numérotées \(1,2,3,\ldots\) par les entiers naturels est complet, et qu’il arrive un bus de touristes avec autant de passagers, comment est-il possible de les loger tous à l’hôtel ? Il suffit de demander à l’occupant de la chambre numérotée \(n\) de s’installer dans la chambre numérotée \(2n\) : on libère ainsi toutes les chambres de numéro impair, et on peut loger les nouveaux arrivants !

On peut démontrer qu’il existe une bijection entre l’ensemble \(\mathbb N\) et l’ensemble des points du cercle \(C\) notés comme nombres complexes \(\{e^{2i\pi/(n+1)} : n\in\mathbb N\}\). Par conséquent, le cercle \(C\) est un ensemble infini.

4. Un secret de l’univers mathématique : une définition intrinsèque de l’infini

Mais si nous voulons véritablement percer le mystère de l’infini mathématique, nous devons en aboutir à une caractérisation intrinsèque, c’est-à-dire qui ne fait appel ni au fini, ni à un ensemble auxiliaire, fût-il \(\mathbb N\), « le premier des infinis ». C’est ce que nous allons présenter ici, et cela ne demande pas plus de technologie mathématique que la théorie des bijections esquissée auparavant.

Nous n’avons pas défini rigoureusement ce qu’un un sous-ensemble d’un ensemble \(E\) : si les éléments d’un ensemble sont les objets qui le « constituent », ses sous-ensembles en sont les parties, c’est-à-dire les ensembles \(S\) dont les éléments sont tous des éléments de \(E\). La clef de la caractérisation intrinsèque des ensembles infinis réside dans la notion extrêmement simple de sous-ensemble propre : un sous-ensemble \(S\) d’un ensemble \(E\) est dit propre lorsqu’il n’est pas \(E\) tout entier, c’est-à-dire lorsqu’il existe un élément de \(E\) qui n’est pas un élément de \(S\)…

A partir de là, et en utilisant par exemple la première caractérisation des ensembles infinis, on peut démontrer le théorème suivant, qui ne fait plus aucune référence explicite aux ensembles finis ou aux entiers naturels : un ensemble \(E\) est infini si et seulement si il existe une bijection entre \(E\) et un sous-ensemble propre de \(E\). En termes plus intuitifs, les ensembles infinis sont exactement ceux qui « conservent le même nombre d’éléments » lorsqu’on leur enlève un, ou même un nombre fini, d’éléments. En fait, si on choisit bien les éléments, on peut même les délester d’autant d’éléments qu’il y a dans l’ensemble \(\mathbb N\) sans en diminuer la quantité ! Il est à peu près évident qu’un ensemble qu’on peut mettre en bijection avec un ensemble infini est lui-même infini; ainsi, toute droite du plan euclidien (voir Le Plan euclidien : géométrique antique et approche analytique), qui peut être mise en bijection avec l’ensemble \(\mathbb R\), est un ensemble infini.

Cette caractérisation « intrinsèque » est-elle une supercherie, puisque nous proposons de l’établir à partir de la première caractérisation ? Non : il faut toujours partir de quelque part en mathématique, et nous sommes partis de la définition du fini, pour définir l’infini; la seconde caractérisation s’appuie donc sur cette définition. Mais comme toute caractérisation, elle peut servir de définition alternative : nous pourrions définir un ensemble infini à partir de cette propriété – qui ne mentionne ni les ensembles finis, ni les entiers naturels – et définir un ensemble fini comme étant, cette fois-ci, non fini. Il faudrait alors démontrer qu’un ensemble est fini si et seulement si on peut le dénombrer… Si cette façon de procéder est fort intéressante en ce qu’elle part d’une conceptualisation « pure » de l’infini mathématique, elle n’est toutefois pas très naturelle du point de vue de l’intuition initiale : dans l’ordre de la connaissance, nous partons du fini pour aller vers l’infini. Mais sur le plan de la théorie, peu importe : il est possible de définir rigoureusement et simplement l’infini, à partir des ressources pures de la théorie naïve des ensembles, et ce n’est pas une moindre réalisation de la science mathématique.

La fonction exponentielle, représentée en partie sur cette figure et dont la base est le fameux nombre \(e\), est une bijection entre l’ensemble \(\mathbb R\) des nombres réels et le sous-ensemble propre \(\mathbb R_+^*\) des nombres réels strictement positifs. On voit ainsi d’une autre manière que l’ensemble \(\mathbb R\) est infini. La fonction exponentielle se prolonge à une fonction exponentielle « complexe » (utilisée dans la figure précédente), qui est une bijection entre l’ensemble \(\mathbb C\) des nombres complexes et l’ensemble \(\mathbb C^*\) des nombres complexes non nuls, ce qui montre là aussi autrement que l’ensemble \(\mathbb C\) est infini; dans ce cas, le sous-ensemble propre est obtenu en supprimant un seul élément !

Vers l’infini et au-delà

Se peut-il que la théorie de l’infini mathématique soit aussi simple ? Hélas, non. Ce que nous avons fait ici, c’est esquisser comment on peut définir l’infini mathématique, au sens de ce qu’est un ensemble infini. Mais la théorie ne fait que commencer : de même que tous les ensembles finis n’ont pas le même nombre d’éléments (il existe en fait, nous l’avons vu, une quantité infinie de quantités finies différentes), les ensembles infinis n’ont pas tous le même nombre d’éléments, au sens d’un « nombre d’éléments » tiré lui-même de la notion de bijection, laquelle peut s’appliquer indifféremment aux ensembles finis et infinis.

Par exemple, on peut démontrer que les ensembles \(\mathbb N\), \(\mathbb Z\) et \(\mathbb Q\) ont le « même nombre d’éléments », tandis que les ensembles \(\mathbb R\), \(\mathbb C\) et \(\mathbb H\) (ensemble des quaternions) par exemple, ont aussi le même nombre d’éléments, mais en ont plus que les trois premiers ! Cela demande un peu plus de ressources, et c’est une autre histoire. Il existe d’ailleurs, comme dans le cas des quantités finies, une infinité de quantités infinies différentes…

Dans la « théorie axiomatique des ensembles », on apprend à calculer avec les quantités infinies, ordinales ou cardinales, ce qui commence comme une théorie simple mais possède des développements techniques et complexes. Plus près de nous, nous pouvons toutefois citer pour terminer suivant : si \(E\) est un ensemble quelconque, fini ou infini, alors l’ensemble \(\mathscr P(E)\) des parties de \(E\) possède strictement plus d’éléments que l’ensemble \(E\); en fait, si \(E\) possède \(n\) éléments, \(\mathscr P(E)\) en possède \(2^n\).

Dans l’ensemble \(E\) représenté, qui possède \(3\) éléments, on a représenté les différentes parties de \(E\) : \(E\) lui-même, en violet les parties à \(2\) éléments, en vert les parties à \(1\) élément, et en rouge l’ensemble vide, la seule partie à \(0\) élément; au total, on a bien \(1+3+3+1=8=2^3\) parties. Dans un ensemble infini \(E\) de taille \(k\), cardinal infini, on peut (au moins sous certaines hypothèses) donner un sens au nombre \(2^k\) et démontrer que \(E\) possède \(2^k\) éléments.

Pour aller plus loin…

La caractérisation et la définition de l’infini mathématique repose sur des bases élémentaires de théorie naïve des ensembles. Découvrez l’intérêt de la théorie des ensembles et son rôle essentiel dans la science mathématique en suivant un cours d’initiation offert ici :

En savoir plus sur les ensembles mathématiques