La théorie naïve des ensembles ou « science des patates » est le fondement naturel (et compréhensible !) de la science mathématique

Introduction : les concepts primitifs

« Je sais ce qu’est le temps. Si tu me le demandes, je ne le sais plus. » Saint-Augustin

Cette citation pénétrante de Saint-Augustin souligne qu’il existe des notions que nous comprenons du point de vue de l’intuition, mais que nous ne saurions expliquer : ce sont des concepts « primitifs », dont l’appréhension intuitive précède tout ce qu’on peut en dire.

Dans la science mathématique, il existe trois (types de) concepts primitifs : les nombres (entiers naturels : \(0,1,2,3,\ldots\)), les ensembles (la notion d’ensemble), et les objets (concept qui n’est pas spécifiquement mathématique, mais aussi philosophique).

1. Quelqu’un a-t-il la science des patates ?

Lorsque j’étais étudiant en Master de mathématiques, j’ai suivi un cours de géométrie algébrique. Le professeur nous a demandé lors de la première séance : « Est-ce que quelqu’un peut dire ce qu’est un ensemble ? En ce qui me concerne, on ne me l’a jamais expliqué ».

Logicien en herbe, j’avais une réponse à la question : un ensemble est un point d’un univers de la théorie ZFC des ensembles (si le lecteur ne comprend pas, c’est normal !). Je n’ai pas osé le dire, incertain de la réaction de mes camarades.

Dans le silence assourdissant et gêné, le prof nous a alors dessiné deux ou trois ellipses grossières au tableau, représentant des ensembles (de connaissances : chacune représentait un domaine des mathématiques), et nous a donné la définition suivante : « Pour moi, un ensemble, c’est une patate ». Bien sûr, tout le monde a (un peu) ri (c’était quand même l’ENS).

Avec le recul, je crois avoir compris sa définition : comme le temps pour Augustin, les ensembles sont pour les mathématiciens une notion primitive, intuitive, et aucune forme de théorie à leur propos ne peut remplacer l’intuition que nous en avons. Ma propre réponse, dans un sens valable bien sûr, n’était qu’un raffinement mathématique de l’interprétation des ensembles en tant que pluralité, à travers une définition de ce qu’est un univers d’ensembles ; mais elle ne disait rien sur ce qu’est un ensemble. Finalement, je ne regrette pas complètement de m’être tu.

E. Zermelo

2. Pourquoi faudrait-il définir ce qu’est un ensemble ?

2.1. Le point commun aux objets mathématiques

Pourquoi faudrait-il pouvoir définir ce qu’est un ensemble ? Après tout, la mathématique s’occupe surtout des nombres, des figures et formes géométriques, des fonctions, de l’espace, etc… Le problème est que si on « sent » que tous ces objets font partie d’une même science, on ne voit pas directement ce qu’ils ont en commun. Même la notion de nombre, qui permet de compter des quantités finies, ou des mesurer des grandeurs, n’a pu intégrer ces deux dimensions, arithmétique et géométrique, qu’à travers la création des nombres réels , lesquels sont d’ailleurs conçus et compris comme un ensemble.

2.2. Le langage conceptuel universel de la mathématique

En fait, la théorie des ensembles, que nous devons essentiellement à Georg Cantor (19ème siècle), a permis d’unifier la science mathématique : celle-ci étudie certains ensembles ou certains objets qui se représentent comme des ensembles. Cette théorie a ainsi fourni un langage conceptuel universel pour la science mathématique, et une méthode rigoureuse. En mathématique, on décrit tout, désormais, à l’aide des ensembles. Cela ne signifie pas qu’ils sont les seuls objets mathématiques, mais qu’ils occupent une place à part dans la théorie, tout comme les nombres entiers naturels (voir Qu’est-ce qu’un entier naturel ?).

2.3. Arithmétique, géométrie, analyse

A ce propos, on étudie par exemple, en arithmétique, non seulement des nombres individuels, mais aussi et surtout des propriétés d’ensembles de nombres, et notamment de l’ensemble \(\mathbb N\) des nombres entiers naturels. En géométrie plane, le plan est conçu comme un ensemble de points et la méthode de Descartes, qui consiste à introduire des coordonnées de ces points, permet de représenter ceux-ci et tous les objets géométriques du plan (et de l’espace…) à partir de « copies » de l’ensemble \(\mathbb R\) des nombres réels. En analyse, les fonctions usuelles comme \(\exp, \ln, \cos, \sin\ldots\) sont en fait des relations entre des ensembles, soit elles-mêmes des ensembles (du moins on peut les représenter comme tels).

G. Cantor

3. En quoi la théorie des ensemble est-elle naïve ?

3.1. La théorie naïve, c’est-à-dire intuitive, des ensembles

Retrouvez l’article en vidéo sur MATHESIS, la chaîne YouTube :

Pour aller plus loin