Le paradoxe ou antinomie de Russell est un paradoxe très simple de la théorie naïve des ensembles, qui surgit lorsqu’on cherche à définir un « ensemble de tous les ensembles ». Sa résolution repose sur l’introduction de la notion de classe et la distinction des ensembles parmi les classes. Grâce à la théorie des classes, il est alors possible de transfigurer la théorie naïve des ensembles grâce à la théorie des ordinaux et des cardinaux.

Le paradoxe ou antinomie de Russell

L’ensemble de tous les ensembles

Le paradoxe de Russell, du nom du philosophe, mathématicien et logicien britannique Bertrand Russell, montre les limites logiques d’une utilisation trop large du concept d’ensemble en théorie naïve des ensembles. Ce paradoxe apparaît lorsque nous considérons la possibilité d’un « ensemble de tous les ensembles« .

Tout part de la simple constatation suivante : si un tel ensemble \(E\) existe, c’est-à-dire est permis dans la théorie, alors il est nécessairement, en tant qu’ensemble, un élément de lui-même.

Bertrand Russell, philosophe, mathématicien et logicien britannique

Le sous-ensemble des ensembles qui n’appartiennent pas à eux-mêmes

Cette propriété est assez contre-intuitive : on distingue en général un ensemble des éléments qu’il contient, la théorie des ensembles est en quelque sorte faite pour cela. Cependant, elle n’apparaît pas contradictoire comme telle. Mais parmi les ensembles, nous pourrions considérer seulement ceux qui ne sont pas éléments d’eux-mêmes.

Cette propriété est tout-à-fait claire en théorie naïve des ensembles, et permet donc, puisqu’on a supposé l’existence de \(E\), de définir le sous-ensemble \(C\) de \(E\) formé de tous les ensembles qui ne s’appartiennent pas eux-mêmes, symboliquement \(C=\{x\in E : x\notin x\}\).

La formulation du paradoxe

On pose alors la question suivante : l’ensemble \(C\) est-il élément de lui-même ? Etant donné que la logique mathématique naturelle est ici considérée comme « classique », le principe du tiers exclu est valide : soit cet énoncé est vrai, soit sa négation est vraie. Supposons d’abord que \(C\) est élément de lui-même, autrement dit que \(C\in C\) : comme \(C\in E\), par définition de \(C\) on en déduit que \(C\notin C\), ce qui contredit l’hypothèse.

Supposons alors que \(C\notin C\) : on doit en déduire, par définition de \(C\), que \(C\in C\), ce qui contredit à nouveau l’hypothèse ! Ainsi, aucune des deux alternatives imposées par le principe du tiers exclu, à savoir que \(C\in C\) ou \(C\notin C\), ne peut être vraie, ce qui contredit la logique mathématique naturelle. C’est une version de ce qu’on appelle le paradoxe de Russell.

Si on pouvait former l’ensemble \(E\) de tous les ensembles, alors on pourrait le séparer en deux sous-ensembles disjoints, l’ensemble \(C=\{x\in E : x\notin x\}\) et l’ensemble \(E-C=\{x\in E : x\in x\}\); on pourrait alors situer \(E\) comme élément de \(E-C\), mais pas \(C\) : si \(C\in C\), alors \(C\in E-C\), mais si \(C\in E-C\), alors \(C\in C\)

Résoudre le paradoxe par la théorie des classes

Distinguer les ensembles parmi les classes

En général, en présence d’un paradoxe, c’est-à-dire d’une « contradiction apparente », on cherche une explication et une résolution. Dans le cas présent, on peut résoudre ce qu’on appelle aussi « l’antinomie de Russell » en introduisant en théorie naïve des ensembles une distinction entre des ensembles et des classes.

Cette distinction est établie de la manière suivante. On remplace la notion d’ensemble de la théorie de base par la notion de classe, qui va jouer le même rôle. Il faut alors décréter que certaines classes seulement sont ce qu’on considère de manière intuitive comme des ensembles, en définissant précisément ceux-ci comme les classes qui peuvent être élément d’une autre classe. On appelle alors classe propre une classe qui n’est pas un ensemble (qui n’est donc élément d’aucune classe !).

La classe propre de tous les ensembles

Ainsi, en formant la classe \(C\) de tous les ensembles en ce sens, et en spécifiant également qu’aucune classe ne peut être élément d’elle-même comme un nouvel axiome ou principe de la théorie, on évite explicitement que \(C\) ne soit lui-même un ensemble, et donc le paradoxe de Russell.

Il s’agit donc d’une classe propre et dans cette situation, comme on a exclu qu’aucune classe puisse appartenir à elle-même, la classe \(C\) est en fait aussi, trivialement, la classe de tous les ensembles qui ne s’appartiennent pas à eux-mêmes.

D’autres classes intéressantes

Cette approche simple permet de transfigurer complètement la théorie naïve des ensembles (sans qu’il soit nécessaire de faire appel, comme on le croit souvent à tort, à une théorie axiomatique formelle). En effet, la possibilité de distinguer les ensembles des classes propres permet de rassembler certains ensembles en des classes, lesquelles permettent elles-mêmes de développer la théorie des ensembles de manière beaucoup plus avancée. Nous en mentionnerons deux ici, la classe des ordinaux et la classe des cardinaux.

La classe propre des nombres ordinaux

L’exemple le plus suggestif est peut-être celui de la classe des ordinaux. Les ordinaux sont des « nombres formels », c’est-à-dire des ensembles, permettant d’énumérer n’importe quel ensemble, fini ou infini. Grâce à la théorie des classes, on peut alors former la classe \(Ord\) de tous les ordinaux, ce qui ne serait pas possible sans la distinction entre ensembles et classes. En effet, si nous définissions un « ensemble des ordinaux » nous aboutirions à une situation où cet ensemble lui-même serait, par définition, un ordinal, situation engendrant une autre forme de paradoxe (par exemple, le paradoxe de Burali-Forti). Distinguer une telle classe permet en revanche d’éviter ce type de problème et de faire des raisonnement par « récurrence transfinie », c’est-à-dire des raisonnements analogues au raisonnement par récurrence, mais portant sur tous les nombres ordinaux, finis ou infinis !

La sous-classe des nombres cardinaux

Parmi les ordinaux, on discerne également les cardinaux, qui sont les ordinaux permettant de dénombrer n’importe quel ensemble. Les cardinaux formant une sous-classe \(Card\) de la classe des ordinaux, il est alors possible d’assigner grâce à l’axiome du choix un unique nombre cardinal à tout ensemble, et de développer une arithmétique dite « transfinie », c’est-à-dire infinie, et ainsi de calculer sur les quantités infinies ! Ce que ne permet pas de faire une théorie naïve des ensembles qui ne distingue pas ceux-ci parmi les classes. Ici encore, si nous nous contentions d’essayer de définir un « ensemble de tous les cardinaux », nous aboutirions à un paradoxe, dit de Cantor.

Georg Cantor, mathématicien allemand et père de la théorie des ensembles

Conclusion

Le paradoxe de Russell, ainsi que d’autres paradoxes, apparaissent lorsqu’on adopte une approche trop « naïve » de la théorie des ensembles. En introduisant une distinction élémentaire entre classes et ensembles, on résout le paradoxe de Russell et les autres paradoxes historiques, et on aboutit à une théorie des ensembles solide, sans formalisme logique.

Retrouvez cet article en vidéo sur MATHESIS, la chaîne YouTube :