Le raisonnement mathématique [C1.I.5]

Après avoir esquissé le panorama des ensembles mathématiques naturels, introduit l’expression mathématique naturelle et symbolique, décrit les propriétés élémentaires des ensembles $\mathbb N$, $\mathbb Z$, $\mathbb Q$ et $\mathbb R$, et posé les bases de la théorie naïve des ensembles, dans ce dernier chapitre nous abordons le dernier « bloc » de connaissances essentielles à l’acquisition de la mathématique supérieure moderne.

Dans la section précédente, nous avons acquis des bases fondamentales en théorie naïve des ensembles, et nous avons établi un lien essentiel entre cette théorie et la logique mathématique naturelle, à travers la notion de définition d’un sous-ensemble par une clause.

La théorie des ensembles et la logique mathématique, au niveau où nous nous plaçons dans ce cours introductif, sont les deux ingrédients conceptuels indissociables qui donnent à la mathématique sa puissance d’expression et sa rigueur.

Dans la deuxième section, nous avons précisé l’usage du langage naturel en mathématique, et introduit le symbolisme typique de notre science, et nous avons appris à nous exprimer rigoureusement.

Dans cette cinquième et dernière section, nous abordons l’autre « articulation » du langage mathématique, ou le « deuxième volet » de l’expression mathématique, celui de la « grammaire » des arguments mathématiques, c’est-à-dire des démonstrations.

Argumenter fait partie de l’usage courant du langage : tout le monde y est habitué, depuis l’enfant qui discute les instructions de ses parents jusqu’au commerçant qui défend la valeur du produit qu’il vend.

Il ne s’agit donc pas tant ici d’apprendre à argumenter, que d’apprendre à le faire en mathématique, c’est-à-dire en utilisant les conventions de l’expression mathématique spécifique.

1. Règles, propositions et arguments

1.1. Un jeu de règles fini et une proto-théorie des ensembles naturels

Il s’agit ici d’aborder les principaux types de raisonnement mathématique, qui sont en nombre fini, et même très restreint. Il n’est pas du tout évident a priori qu’un nombre fini de règles suffise à écrire tous les raisonnements mathématiques dont nous avons besoin ! Et il n’est pas non plus évident que ce nombre soit si restreint qu’on puisse en donner une liste accessible à ce niveau. C’est pourtant le cas, et l’étudiant(e) ou la lectrice qui travaillera soigneusement ce cours jusqu’au bout aura posé des fondements solides pour la construction de son savoir mathématique.

Nous n’allons pas présenter ces règles comme un simple « catalogue », mais nous allons présenter au mieux les exemples sur lesquels nous les illustrons comme les éléments d’une « proto-théorie » des ensembles $\mathbb N$, $\mathbb Z$, $\mathbb Q$ et $\mathbb R$. Non seulement cela présente l’avantage d’être plus intéressant et d’approfondir la connaissance de ces ensembles et de leurs opérations et relations fondamentales, mais aussi ces quelques résultats établissent des relations subtiles entre ces ensembles, qui illustrent une continuité sous-jacente, mystérieuse, entre arithmétique et géométrie.

Ces différentes règles ou types de raisonnement sont au nombre de cinq : le raisonnement direct, le raisonnement par (disjonction de) cas, le raisonnement par contraposition, le raisonnement par l’absurde et le raisonnement par récurrence.

1.2. Les propositions mathématiques

Contrairement au vocabulaire grammatical naturel, en mathématique une proposition désigne en général (tout du moins hors d’un contexte de logique formelle) un énoncé vrai. Rappelons que cette notion de « véracité » (ou « validité ») d’un énoncé demeure intuitive, et est intrinsèquement liée à la relation qu’entretiennent la théorie naïve des ensembles et le langage mathématique naturel.

Il n’en demeure pas moins vrai qu’en principe, cette notion est rigoureuse et que le but de l’activité créatrice en mathématique, est d’énoncer et de démontrer des propositions, c’est-à-dire des énoncés vrais, lesquels émergent souvent d’une intuition à propos d’un « état de choses (c’est-à-dire un fait) mathématique », qui demande à être établie rigoureusement, et qu’on appelle une conjecture. C’est précisément par une démonstration qu’on établit la véracité d’une conjecture, qui peut alors être considérée comme une proposition.

On appelle aussi classiquement théorème un énoncé vrai, ce que nous avons appelé ici « proposition ». Il n’y a pas de différence de nature entre une proposition et un théorème, mais il est d’usage de réserver le terme « théorème » à une proposition d’importance capitale dans un texte mathématique. Il va sans dire qu’il s’agit là d’une affaire de jugement ou de goût… Mais certaines propositions simples ou accessoires ne seront pas appelées « théorèmes ». Le terme « proposition » est donc un terme générique.

Par ailleurs, on dispose également d’autres noms pour certaines propositions. Un lemme est une proposition auxiliaire, qu’on utilise pour démontrer une proposition plus importante; souvent, on traite de parties entières de théorèmes complexes dans des lemmes « préparatoires » ou « auxiliaires », qui permettent de clarifier la démonstration du théorème. Un corollaire est une conséquence, relativement directe, d’une proposition ou d’un théorème; si on a bien choisi la terminologie, un théorème apporte en effet une connaissance substantiellement nouvelle avec plusieurs retombées.

En somme, le « lemme » prépare et précède une proposition importante, le « corollaire » la suit, et la proposition capitale est un « théorème ». Il existe d’autres termes utilisés occasionnellement, et qui relèvent de la tradition mathématique et philosophique, mais le présent vocabulaire est standard.

1.3. Les arguments mathématiques

Enfin, si l’on cherche à démontrer des énoncés vrais, il nous faut une méthode de démonstration.

Lorsque nous avons abordé l’expression mathématique, nous avons caractérisé celle-ci comme une variante du discours naturel, marquée par sa référence particulière aux objets mathématiques et à la théorie des ensembles, et nous avons vu qu’un petit nombre de règles de syntaxe « logique » permettait de décrire la « grammaire » des clauses mathématiques.

Il en va de même de la démonstration mathématique : il s’agit d’une variante du discours naturel, lequel est également susceptible de démonstration et d’argumentation, et la spécificité du discours mathématique permet d’isoler des modes de raisonnement mathématiques propres.

Comme nous l’avons déjà évoqué, les règles essentielles en usage dans les démonstrations mathématiques de tout niveau sont en très petit nombre, et accessibles à un niveau élémentaire. Nous allons les exposer en les illustrant par quelques résultats sur les ensembles naturels $\mathbb N$, $\mathbb Z$, $\mathbb Q$ et $\mathbb R$, ce qui fournira à l’étudiant(e) ou le lecteur une « théorie élémentaire des ensembles naturels », et une bonne introduction au semestre et à l’ensemble du cursus.

2. Le raisonnement direct

2.1. Principe du raisonnement direct