Rédigé et vérifié par un professeur diplômé de l’École Polytechnique, avec le niveau d’exigence attendu en classe préparatoire. Découvrir le professeur

En réduction des endomorphismes, certaines matrices ont un comportement radical : élevées à une puissance suffisante, elles s’annulent. Ces matrices nilpotentes interviennent dans la décomposition de Dunford, la théorie de Jordan et le calcul d’exponentielles de matrices. Tu trouveras ici leur définition, leurs propriétés fondamentales (spectre, trace, inversibilité de \(I_n + N\)), les méthodes pour les identifier, 7 exercices corrigés progressifs et les pièges classiques de concours. Conforme au programme de MPSI, PCSI, MP, PC et PSI (2025-2026).

📚 Tout le cours « Algèbre linéaire »

I. Définition et premiers exemples

Avant d’énoncer les propriétés spectrales ou d’aborder les méthodes de démonstration, posons la définition rigoureuse et construisons l’intuition sur des exemples concrets.

A. Définition formelle et indice de nilpotence

Définition — Matrice nilpotente

Soit \(\mathbb{K}\) un corps (\(\mathbb{R}\) ou \(\mathbb{C}\)) et \(A \in \mathcal{M}_n(\mathbb{K})\). On dit que \(A\) est nilpotente s’il existe un entier \(p \in \mathbb{N}^*\) tel que :

\(A^p = 0_n\)

En d’autres termes, en multipliant \(A\) par elle-même un nombre fini de fois, on finit par obtenir la matrice nulle. Ce phénomène n’a rien d’anodin : la plupart des matrices ne s’annulent jamais par itération.

Définition — Indice de nilpotence

Si \(A\) est nilpotente, on appelle indice de nilpotence de \(A\) le plus petit entier \(p \in \mathbb{N}^*\) tel que \(A^p = 0_n\). On le note parfois \(\mathrm{ind}(A)\).

On a nécessairement \(1 \leq p \leq n\) (la borne \(p \leq n\) sera démontrée en section II).

Remarques immédiates :

  • La matrice nulle \(0_n\) est nilpotente d’indice \(1\) (car \(0_n^1 = 0_n\)).
  • Si \(A\) est nilpotente d’indice \(p\), alors \(A^{p-1} \neq 0_n\) (sinon \(p\) ne serait pas le plus petit entier).
  • Si \(A\) est inversible, elle n’est pas nilpotente (car \(A^p = 0\) impliquerait \(I_n = A^{-p} A^p = 0\), contradiction).

B. Exemples fondamentaux

Commençons par les exemples les plus classiques, ceux que tu rencontreras en colle et en DS.

Exemple 1 — Matrice strictement triangulaire supérieure en dimension 2.

Soit \(N = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix}\). Calculons :

\(N^2 = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix} \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0 \\ 0 & 0 \end{pmatrix} = 0_2\)

Comme \(N \neq 0_2\) et \(N^2 = 0_2\), la matrice \(N\) est nilpotente d’indice \(2\).

Exemple 2 — Matrice strictement triangulaire supérieure en dimension 3.

Soit \(N = \begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix}\). Calculons les puissances successives :

\(N^2 = \begin{pmatrix} 0 & 0 & 1 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix} \neq 0_3 \qquad \text{et} \qquad N^3 = N \cdot N^2 = \begin{pmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix} = 0_3\)

L’indice de nilpotence est \(3\) (le maximum pour une matrice \(3 \times 3\)).

Exemple 3 — Une matrice nilpotente non triangulaire.

Soit \(M = \begin{pmatrix} 1 & -1 \\ 1 & -1 \end{pmatrix}\). Cette matrice n’est pas triangulaire, et pourtant :

\(M^2 = \begin{pmatrix} 1 & -1 \\ 1 & -1 \end{pmatrix} \begin{pmatrix} 1 & -1 \\ 1 & -1 \end{pmatrix} = \begin{pmatrix} 0 & 0 \\ 0 & 0 \end{pmatrix} = 0_2\)

Donc \(M\) est nilpotente d’indice \(2\). Cet exemple illustre un point essentiel : les matrices nilpotentes ne se réduisent pas aux matrices strictement triangulaires, même si ces dernières en sont un cas particulier fondamental.

C. Endomorphisme nilpotent

La notion de nilpotence s’exprime aussi dans le cadre des applications linéaires.

Définition — Endomorphisme nilpotent

Soit \(E\) un \(\mathbb{K}\)-espace vectoriel de dimension finie \(n\) et \(f \in \mathcal{L}(E)\). On dit que \(f\) est nilpotent s’il existe \(p \in \mathbb{N}^*\) tel que \(f^p = 0_{\mathcal{L}(E)}\) (l’endomorphisme nul).

Le lien entre les deux notions est immédiat : \(f\) est nilpotent si et seulement si sa matrice dans une base quelconque \(\mathcal{B}\) est nilpotente. En effet, \(\mathrm{Mat}_{\mathcal{B}}(f^p) = (\mathrm{Mat}_{\mathcal{B}}(f))^p\), donc \(f^p = 0 \Leftrightarrow (\mathrm{Mat}_{\mathcal{B}}(f))^p = 0_n\).

De plus, la nilpotence est invariante par similitude : si \(A\) est nilpotente et \(B = P^{-1}AP\) pour une matrice inversible \(P\), alors \(B^p = P^{-1}A^p P = 0_n\). L’indice de nilpotence est donc le même pour toutes les matrices semblables.

II. Propriétés fondamentales

Les propriétés ci-dessous sont les piliers de la théorie. Plusieurs sont exigibles (marquées ⋆) en concours : tu dois savoir les démontrer proprement sur une copie.

A. Spectre d’une matrice nilpotente ⋆

Théorème — Spectre d’une matrice nilpotente

Soit \(A \in \mathcal{M}_n(\mathbb{K})\) nilpotente. Alors toutes les valeurs propres de \(A\) (dans \(\mathbb{C}\)) sont nulles :

\(\mathrm{Sp}_{\mathbb{C}}(A) = \{0\}\)

⋆ Démonstration (exigible). Soit \(\lambda \in \mathbb{C}\) une valeur propre de \(A\) et \(v \in \mathbb{C}^n \setminus \{0\}\) un vecteur propre associé, c’est-à-dire \(Av = \lambda v\).

Par récurrence immédiate, pour tout \(k \in \mathbb{N}\) :

\(A^k v = \lambda^k v\)

Comme \(A\) est nilpotente d’indice \(p\), on a \(A^p = 0_n\), donc :

\(A^p v = \lambda^p v = 0\)

Or \(v \neq 0\), donc \(\lambda^p = 0\), ce qui impose \(\lambda = 0\). ∎

Réciproque (admise ici). Si \(\mathbb{K} = \mathbb{C}\) (ou plus généralement si \(\mathbb{K}\) est algébriquement clos), la réciproque est vraie : si \(\mathrm{Sp}(A) = \{0\}\), alors \(A\) est nilpotente. La preuve repose sur le théorème de Cayley-Hamilton (voir section suivante).

B. Polynôme caractéristique et conséquences

Théorème — Polynôme caractéristique d’une matrice nilpotente

Soit \(A \in \mathcal{M}_n(\mathbb{K})\) nilpotente. Alors :

\(\chi_A(X) = X^n\)

Démonstration. Le polynôme caractéristique \(\chi_A(X) = \det(XI_n – A)\) est un polynôme unitaire de degré \(n\). D’après le théorème fondamental de l’algèbre, il se factorise sur \(\mathbb{C}\) en :

\(\chi_A(X) = \displaystyle\prod_{i=1}^{n} (X – \lambda_i)\)

où les \(\lambda_i\) sont les valeurs propres complexes de \(A\) (comptées avec multiplicité). Or, d’après le théorème précédent, \(\lambda_i = 0\) pour tout \(i\). Donc \(\chi_A(X) = X^n\). ∎

Conséquence majeure — Borne sur l’indice. Le théorème de Cayley-Hamilton affirme que \(\chi_A(A) = 0_n\). Ici, \(\chi_A(A) = A^n = 0_n\). Donc :

Propriété — Borne sur l’indice de nilpotence

Si \(A \in \mathcal{M}_n(\mathbb{K})\) est nilpotente d’indice \(p\), alors \(p \leq n\).

Concrètement, pour vérifier la nilpotence d’une matrice \(n \times n\), il suffit de calculer les puissances \(A, A^2, \ldots, A^n\). Si aucune ne s’annule, la matrice n’est pas nilpotente.

🎁 EN BONUS

Fiche de synthèse — Matrice nilpotente

Définitions, propriétés clés (spectre, trace, inversibilité de I+N), méthodes d’identification et pièges de concours — tout sur une seule page recto-verso.

📄 Télécharger la fiche PDF

Idéal pour réviser avant une colle ou un DS d’algèbre linéaire.

C. Trace, déterminant et non-inversibilité

Le polynôme caractéristique \(\chi_A(X) = X^n\) livre immédiatement les informations suivantes sur la trace et le déterminant :

Corollaire

Soit \(A \in \mathcal{M}_n(\mathbb{K})\) nilpotente. Alors :

  • \(\mathrm{tr}(A) = 0\) (coefficient de \(X^{n-1}\) dans \(\chi_A\), à un signe près)
  • \(\det(A) = 0\) (terme constant de \(\chi_A\), à un signe près)
  • \(A\) n’est pas inversible

Démonstration. On développe \(\chi_A(X) = X^n\) : le coefficient de \(X^{n-1}\) est \(0 = -\mathrm{tr}(A)\), d’où \(\mathrm{tr}(A) = 0\). Le terme constant est \(0 = (-1)^n \det(A)\), d’où \(\det(A) = 0\). La non-inversibilité découle directement de \(\det(A) = 0\). ∎

Résultat plus fort. Pour tout entier \(k \geq 1\), on a \(\mathrm{tr}(A^k) = 0\). En effet, \(A^k\) est nilpotente (d’indice \(\lceil p/k \rceil\)), donc sa trace est nulle. Ce résultat est classique en concours (voir exercice 5).

D. Inversibilité de I_n + N ⋆

Voici l’une des propriétés les plus utilisées en concours. L’idée est de transposer la formule de la série géométrique \(\displaystyle\frac{1}{1+x} = 1 – x + x^2 – \cdots\) au cadre matriciel, en exploitant le fait que la somme est finie.

Théorème — Inversibilité de \(I_n + N\)

Soit \(N \in \mathcal{M}_n(\mathbb{K})\) nilpotente d’indice \(p\). Alors \(I_n + N\) est inversible, et :

\((I_n + N)^{-1} = \displaystyle\sum_{k=0}^{p-1} (-1)^k N^k = I_n – N + N^2 – \cdots + (-1)^{p-1} N^{p-1}\)

⋆ Démonstration (exigible). Posons \(S = \displaystyle\sum_{k=0}^{p-1} (-1)^k N^k\). Calculons le produit \((I_n + N) \cdot S\) :

\((I_n + N) \cdot S = \displaystyle\sum_{k=0}^{p-1} (-1)^k N^k + \displaystyle\sum_{k=0}^{p-1} (-1)^k N^{k+1}\)

En décalant l’indice dans la seconde somme (\(j = k+1\)) :

\(= \displaystyle\sum_{k=0}^{p-1} (-1)^k N^k + \displaystyle\sum_{j=1}^{p} (-1)^{j-1} N^{j}\)

Les termes pour \(k = 1, \ldots, p-1\) s’annulent deux à deux (somme télescopique) : \((-1)^k + (-1)^{k-1} = 0\). Il reste :

\((I_n + N) \cdot S = I_n + (-1)^{p-1} N^p = I_n + 0 = I_n\)

car \(N^p = 0_n\). Le même calcul montre \(S \cdot (I_n + N) = I_n\). Donc \((I_n + N)^{-1} = S\). ∎

Exemple. Soit \(N = \begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix}\), nilpotente d’indice \(3\). Alors :

\((I_3 + N)^{-1} = I_3 – N + N^2 = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{pmatrix} – \begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix} + \begin{pmatrix} 0 & 0 & 1 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix} = \begin{pmatrix} 1 & -1 & 1 \\ 0 & 1 & -1 \\ 0 & 0 & 1 \end{pmatrix}\)

Généralisation. Pour tout scalaire \(\alpha \neq 0\), la matrice \(\alpha I_n + N\) est inversible. En effet, \(\alpha I_n + N = \alpha(I_n + \alpha^{-1} N)\), et \(\alpha^{-1}N\) est nilpotente (de même indice \(p\)). Donc :

\((\alpha I_n + N)^{-1} = \displaystyle\frac{1}{\alpha} \displaystyle\sum_{k=0}^{p-1} \left(-\displaystyle\frac{1}{\alpha}\right)^k N^k = \displaystyle\sum_{k=0}^{p-1} \displaystyle\frac{(-1)^k}{\alpha^{k+1}} N^k\)

Application remarquable — Exponentielle d’une matrice nilpotente. Si \(N\) est nilpotente d’indice \(p\), alors l’exponentielle de matrice \(\exp(N) = \displaystyle\sum_{k=0}^{+\infty} \displaystyle\frac{N^k}{k!}\) se réduit à une somme finie :

\(\exp(N) = \displaystyle\sum_{k=0}^{p-1} \displaystyle\frac{N^k}{k!} = I_n + N + \displaystyle\frac{N^2}{2!} + \cdots + \displaystyle\frac{N^{p-1}}{(p-1)!}\)

C’est l’un des rares cas où l’exponentielle se calcule explicitement à la main — un atout majeur pour résoudre des systèmes différentiels linéaires.

E. Noyaux itérés et rang

Pour un endomorphisme nilpotent \(f\) d’indice \(p\) sur un espace \(E\) de dimension \(n\), les noyaux itérés forment une chaîne strictement croissante :

Propriété — Chaîne des noyaux itérés

\(\{0_E\} = \ker(f^0) \subset \ker(f) \subset \ker(f^2) \subset \cdots \subset \ker(f^p) = E\)

Chaque inclusion est stricte pour \(k\) < \(p\). En particulier :

\(\dim(\ker f^k) \geq k \quad \text{pour tout } k \in \{0, 1, \ldots, p\}\)

Démonstration de l’inclusion. L’inclusion \(\ker(f^k) \subset \ker(f^{k+1})\) est immédiate : si \(f^k(x) = 0\), alors \(f^{k+1}(x) = f(f^k(x)) = f(0) = 0\).

Stricture de l’inclusion. Supposons par l’absurde que \(\ker(f^k) = \ker(f^{k+1})\) pour un certain \(k\) < \(p\). On montre alors par récurrence que \(\ker(f^k) = \ker(f^j)\) pour tout \(j \geq k\). En particulier, \(\ker(f^p) = \ker(f^k)\). Or \(\ker(f^p) = E\), donc \(\ker(f^k) = E\), c’est-à-dire \(f^k = 0\), ce qui contredit \(k\) < \(p\) (car \(p\) est le plus petit entier tel que \(f^p = 0\)).

Les dimensions satisfont donc \(0 = \dim(\ker f^0)\) < \(\dim(\ker f)\) < \(\cdots\) < \(\dim(\ker f^p) = n\), ce qui impose \(\dim(\ker f^k) \geq k\) et en particulier \(p \leq n\) (retrouvant la borne de Cayley-Hamilton).

Chaine des noyaux iteres pour une matrice nilpotente 4x4 d indice 3

Pour le rang, la chaîne duale est :

\(E = \mathrm{Im}(f^0) \supset \mathrm{Im}(f) \supset \mathrm{Im}(f^2) \supset \cdots \supset \mathrm{Im}(f^p) = \{0_E\}\)

avec \(\mathrm{rg}(f^{k+1})\) < \(\mathrm{rg}(f^k)\) pour tout \(k\) < \(p\). Le rang diminue strictement à chaque puissance jusqu’à atteindre \(0\).

III. Comment montrer qu’une matrice est nilpotente

En DS ou en concours, trois approches principales permettent d’établir la nilpotence d’une matrice. Chacune a son domaine de prédilection.

A. Calcul direct des puissances successives

Principe : calculer \(A^2, A^3, \ldots\) jusqu’à obtenir \(0_n\) (ou jusqu’à \(A^n\) inclus pour conclure que \(A\) n’est pas nilpotente).

Exemple. Soit \(M = \begin{pmatrix} 1 & -1 & 0 \\ 1 & -1 & 0 \\ 2 & -2 & 0 \end{pmatrix}\).

Calculons \(M^2\). On remarque que chaque colonne de \(M\) est un multiple de \(\begin{pmatrix} 1 \\ 1 \\ 2 \end{pmatrix}\). Le produit ligne-colonne donne systématiquement \(1 \cdot c_j + (-1) \cdot c_j + 0 = 0\) pour chaque entrée. Donc \(M^2 = 0_3\) et \(M\) est nilpotente d’indice \(2\).

Cette méthode est la plus directe et donne l’indice exact. Elle est efficace pour \(n \leq 3\), mais devient fastidieuse au-delà.

B. Via le polynôme caractéristique et Cayley-Hamilton

Principe : calculer \(\chi_A(X) = \det(XI_n – A)\). Si \(\chi_A(X) = X^n\), alors par Cayley-Hamilton, \(A^n = 0_n\).

Cette approche est systématique et souvent plus rapide pour les matrices \(3 \times 3\) ou \(4 \times 4\) dont le déterminant se calcule aisément.

Raccourci. Tu n’as pas besoin de calculer tout le polynôme caractéristique. Si tu montres que \(\mathrm{tr}(A) = 0\) et \(\det(A) = 0\) pour une matrice \(2 \times 2\), alors \(\chi_A(X) = X^2 – \mathrm{tr}(A) X + \det(A) = X^2\), et \(A\) est nilpotente.

C. Reconnaissance d’une structure triangulaire stricte

Propriété

Toute matrice strictement triangulaire supérieure (ou inférieure), c’est-à-dire triangulaire avec des zéros sur la diagonale, est nilpotente d’indice \(p \leq n\).

Démonstration (esquisse). Si \(N\) est strictement triangulaire supérieure, ses coefficients diagonaux sont tous nuls. Donc \(\chi_N(X) = X^n\), et par Cayley-Hamilton, \(N^n = 0_n\).

On peut aussi le voir géométriquement : en posant \(E_k = \mathrm{Vect}(e_1, \ldots, e_k)\), la matrice \(N\) vérifie \(N(E_k) \subset E_{k-1}\) pour tout \(k\). Par itération, \(N^n(E_n) \subset E_0 = \{0\}\).

Attention ! Une matrice triangulaire (non strictement) n’est en général pas nilpotente. Par exemple, \(\begin{pmatrix} 1 & 2 \\ 0 & 3 \end{pmatrix}\) est triangulaire supérieure mais ses valeurs propres sont \(1\) et \(3\), donc elle n’est pas nilpotente. Il faut des zéros sur toute la diagonale.

Réciproquement (résultat admis ici) : toute matrice nilpotente est semblable à une matrice strictement triangulaire supérieure. C’est un cas particulier de la trigonalisation.

Voici un tableau récapitulatif pour choisir la bonne approche selon le contexte.

Quelle méthode pour montrer la nilpotence ?
Méthode Quand l’utiliser Avantage Limitation
Calcul direct de \(A^k\) Petites matrices (\(n \leq 3\)) Donne l’indice exact Fastidieux si \(n \geq 4\)
Polynôme caractéristique Toute taille, surtout si \(\det\) facile Systématique, rapide Ne donne pas toujours l’indice exact
Structure triangulaire stricte Matrice déjà sous forme triangulaire Conclusion immédiate S’applique uniquement aux matrices déjà triangulaires
Logo-excellence-maths
Progresser en maths sup et maths spé avec un prof de Polytechnique
Tu veux maîtriser l'algèbre linéaire et cartonner aux concours ? Un professeur diplômé de l'X t'accompagne avec un suivi personnalisé. Résultats visibles dès les premières semaines.
Découvrir l'accompagnement prépa

IV. Exercices corrigés

Sept exercices progressifs, des applications directes aux problèmes de type concours. Chaque correction est détaillée pas à pas.

Exercice 1 ★ — Durée estimée : 5 min

Soit \(N = \begin{pmatrix} 0 & 1 & 2 \\ 0 & 0 & 3 \\ 0 & 0 & 0 \end{pmatrix}\).

Calculer \(N^2\) et \(N^3\). En déduire que \(N\) est nilpotente et préciser son indice de nilpotence.

Voir la correction

Calcul de \(N^2\) :

\(N^2 = \begin{pmatrix} 0 & 1 & 2 \\ 0 & 0 & 3 \\ 0 & 0 & 0 \end{pmatrix} \begin{pmatrix} 0 & 1 & 2 \\ 0 & 0 & 3 \\ 0 & 0 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0 & 3 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix}\)

Détail : entrée \((1,3)\) de \(N^2\) : \(0 \times 2 + 1 \times 3 + 2 \times 0 = 3\). Toutes les autres entrées sont nulles.

\(N^2 \neq 0_3\), donc l’indice est au moins \(3\).

Calcul de \(N^3\) :

\(N^3 = N \cdot N^2 = \begin{pmatrix} 0 & 1 & 2 \\ 0 & 0 & 3 \\ 0 & 0 & 0 \end{pmatrix} \begin{pmatrix} 0 & 0 & 3 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix} = 0_3\)

Conclusion : \(N^2 \neq 0_3\) et \(N^3 = 0_3\), donc \(N\) est nilpotente d’indice \(p = 3\).

Remarque : on pouvait aussi conclure immédiatement : \(N\) est strictement triangulaire supérieure en dimension \(3\), donc nilpotente d’indice \(p \leq 3\). Le calcul de \(N^2 \neq 0\) confirme \(p = 3\).

Exercice 2 ★★ — Durée estimée : 10 min

Soit \(M = \begin{pmatrix} 1 & -1 & 0 \\ 1 & -1 & 0 \\ 2 & -2 & 0 \end{pmatrix}\).

1) Calculer \(M^2\). Que peut-on en déduire ?

2) Déterminer le rang de \(M\).

Voir la correction

1) Calculons \(M^2\). On observe que les trois colonnes de \(M\) sont proportionnelles : \(C_2 = -C_1\) et \(C_3 = 0\). Pour chaque entrée \((i,j)\) de \(M^2\), on calcule le produit scalaire de la ligne \(i\) de \(M\) avec la colonne \(j\) de \(M\).

Ligne 1 : \((1, -1, 0)\). Colonne 1 : \((1, 1, 2)^T\). Produit : \(1 – 1 + 0 = 0\).

Le même calcul s’applique à toutes les entrées (chaque ligne a la forme \((\alpha, -\alpha, 0)\), donc le produit avec chaque colonne donne \(\alpha c_{1j} – \alpha c_{1j} = 0\)).

Conclusion : \(M^2 = 0_3\). Comme \(M \neq 0_3\), la matrice \(M\) est nilpotente d’indice \(2\).

2) Toutes les colonnes de \(M\) sont multiples de \(\begin{pmatrix} 1 \\ 1 \\ 2 \end{pmatrix}\), donc \(\mathrm{rg}(M) = 1\).

Remarque : une matrice nilpotente d’indice \(2\) en dimension \(n\) vérifie \(\mathrm{Im}(M) \subset \ker(M)\), donc \(\mathrm{rg}(M) \leq \dim(\ker M) = n – \mathrm{rg}(M)\), soit \(\mathrm{rg}(M) \leq \displaystyle\frac{n}{2}\). Ici \(n = 3\), donc \(\mathrm{rg}(M) \leq 1\), ce qui est cohérent.

Exercice 3 ★★ — Durée estimée : 12 min

Soit \(a \in \mathbb{R}\) et \(M(a) = \begin{pmatrix} a & 1 & 0 \\ 0 & a & 1 \\ 0 & 0 & a \end{pmatrix}\).

1) Pour quelle(s) valeur(s) de \(a\) la matrice \(M(a)\) est-elle nilpotente ?

2) Déterminer alors l’indice de nilpotence.

Voir la correction

1) Via le polynôme caractéristique. La matrice \(M(a)\) est triangulaire supérieure, donc ses valeurs propres sont ses coefficients diagonaux : \(\mathrm{Sp}(M(a)) = \{a\}\) (valeur propre triple).

Pour que \(M(a)\) soit nilpotente, il faut et il suffit que toutes ses valeurs propres soient nulles, soit \(a = 0\).

2) Pour \(a = 0\) : \(M(0) = \begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix}\)

C’est l’exemple 2 du cours. On a calculé \(M(0)^2 = \begin{pmatrix} 0 & 0 & 1 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{pmatrix} \neq 0_3\) et \(M(0)^3 = 0_3\).

L’indice de nilpotence est \(p = 3\) (le maximum pour une matrice \(3 \times 3\)).

Remarque : on peut aussi procéder directement. Pour \(a \neq 0\), le calcul \(M(a)^k\) donne toujours \(a^k\) sur la diagonale, qui ne s’annule jamais. Donc \(M(a)\) n’est pas nilpotente.

Exercice 4 ★★★ — Durée estimée : 15 min

Soit \(A, B \in \mathcal{M}_n(\mathbb{K})\) deux matrices nilpotentes telles que \(AB = BA\).

Montrer que \(A + B\) est nilpotente.

Voir la correction

Notons \(p\) l’indice de nilpotence de \(A\) et \(q\) celui de \(B\).

Point clé : comme \(AB = BA\), la formule du binôme de Newton s’applique :

\((A + B)^m = \displaystyle\sum_{k=0}^{m} C_{m}^{k} A^k B^{m-k}\)

Prenons \(m = p + q – 1\). Pour chaque terme \(C_{m}^{k} A^k B^{m-k}\) de la somme, deux cas se présentent :

  • Si \(k \geq p\), alors \(A^k = 0\) (car \(A\) est nilpotente d’indice \(p\)).
  • Si \(k\) < \(p\), alors \(m – k = (p + q – 1) – k \geq q\), donc \(B^{m-k} = 0\).

Dans les deux cas, \(A^k B^{m-k} = 0\). Donc chaque terme de la somme est nul, et :

\((A + B)^{p+q-1} = 0_n\)

Conclusion : \(A + B\) est nilpotente, d’indice au plus \(p + q – 1\).

Remarque : l’hypothèse \(AB = BA\) est essentielle. Sans elle, la formule du binôme ne s’applique pas et le résultat est faux en général.

Exercice 5 ★★★ (I) — Durée estimée : 10 min

Soit \(N \in \mathcal{M}_n(\mathbb{K})\) nilpotente. Montrer que pour tout entier \(k \geq 1\) :

\(\mathrm{tr}(N^k) = 0\)
Voir la correction

Méthode 1 — Via le spectre (la plus directe).

La matrice \(N^k\) est nilpotente : en effet, si \(N^p = 0\), on choisit \(q = \lceil p/k \rceil\) et on vérifie que \((N^k)^q = N^{kq} = 0\) (car \(kq \geq p\)).

Comme \(N^k\) est nilpotente, son spectre est \(\{0\}\) (théorème de la section II.A). Donc sa trace, qui est la somme des valeurs propres comptées avec multiplicité, vaut \(0\).

Méthode 2 — Par trigonalisation (sur \(\mathbb{C}\)).

Toute matrice nilpotente est trigonalisable sur \(\mathbb{C}\), et sa forme triangulaire \(T = P^{-1}NP\) est strictement triangulaire (diagonale nulle). Alors \(T^k\) est aussi strictement triangulaire supérieure (ou nulle), donc \(\mathrm{tr}(T^k) = 0\). Or \(\mathrm{tr}(N^k) = \mathrm{tr}(P^{-1}N^k P) = \mathrm{tr}(T^k) = 0\).

Exercice 6 ★★★ — Durée estimée : 15 min

Soit \(N \in \mathcal{M}_n(\mathbb{K})\) nilpotente d’indice \(p\). On pose \(S = \exp(N) – I_n\), où \(\exp(N) = \displaystyle\sum_{k=0}^{p-1} \displaystyle\frac{N^k}{k!}\).

Montrer que \(S\) est nilpotente et préciser une borne sur son indice.

Voir la correction

Étape 1 — Expression explicite de \(S\).

Comme \(N^p = 0_n\), la série exponentielle est une somme finie :

\(\exp(N) = I_n + N + \displaystyle\frac{N^2}{2!} + \cdots + \displaystyle\frac{N^{p-1}}{(p-1)!}\)

Donc \(S = \exp(N) – I_n = N + \displaystyle\frac{N^2}{2!} + \cdots + \displaystyle\frac{N^{p-1}}{(p-1)!} = N \left( I_n + \displaystyle\frac{N}{2!} + \cdots + \displaystyle\frac{N^{p-2}}{(p-1)!} \right)\)

Notons \(Q = I_n + \displaystyle\frac{N}{2!} + \cdots + \displaystyle\frac{N^{p-2}}{(p-1)!}\). On a \(S = NQ\).

Étape 2 — Commutativité.

Les matrices \(N\) et \(Q\) sont toutes deux des polynômes en \(N\), donc elles commutent : \(NQ = QN\). Par conséquent :

\(S^k = (NQ)^k = N^k Q^k\)

Étape 3 — Conclusion.

Pour \(k = p\) : \(S^p = N^p Q^p = 0_n \cdot Q^p = 0_n\).

Donc \(S\) est nilpotente d’indice au plus \(p\).

Remarque : ce résultat est fondamental pour les systèmes différentiels. Si \(Y^\prime = NY\), la solution est \(Y(t) = \exp(tN) Y_0\), et \(\exp(tN) – I_n\) est nilpotente en \(t\) au sens matriciel.

Exercice 7 ★★★★ (type concours) — Durée estimée : 20 min

Soit \(E\) un \(\mathbb{K}\)-espace vectoriel de dimension \(n \geq 1\) et \(f \in \mathcal{L}(E)\) un endomorphisme nilpotent d’indice \(n\) (l’indice maximal).

1) Montrer que la famille \((\mathrm{Id}_E,\, f,\, f^2,\, \ldots,\, f^{n-1})\) est libre dans \(\mathcal{L}(E)\).

2) En déduire qu’il existe un vecteur \(x \in E\) tel que \((x,\, f(x),\, f^2(x),\, \ldots,\, f^{n-1}(x))\) soit une base de \(E\).

Voir la correction

1) Liberté de \((\mathrm{Id}_E, f, \ldots, f^{n-1})\) dans \(\mathcal{L}(E)\).

Supposons qu’il existe \(a_0, a_1, \ldots, a_{n-1} \in \mathbb{K}\) tels que :

\(a_0 \,\mathrm{Id}_E + a_1 f + a_2 f^2 + \cdots + a_{n-1} f^{n-1} = 0_{\mathcal{L}(E)}\)

Posons \(P = a_0 + a_1 X + \cdots + a_{n-1} X^{n-1} \in \mathbb{K}[X]\). Alors \(P(f) = 0\), c’est-à-dire que \(P\) est un polynôme annulateur de \(f\).

Or le polynôme minimal de \(f\) divise tout polynôme annulateur. Comme \(f\) est nilpotent d’indice \(n\), le polynôme minimal de \(f\) est \(\mu_f = X^n\) (car \(f^n = 0\) et \(f^{n-1} \neq 0\)).

Donc \(X^n \mid P(X)\). Mais \(\deg(P) \leq n-1\), ce qui impose \(P = 0\), soit \(a_0 = a_1 = \cdots = a_{n-1} = 0\).

La famille \((\mathrm{Id}_E, f, \ldots, f^{n-1})\) est bien libre. ∎

2) Existence d’un vecteur cyclique.

Comme \(f^{n-1} \neq 0\), il existe \(x \in E\) tel que \(f^{n-1}(x) \neq 0\). Montrons que \(\mathcal{B} = (x, f(x), f^2(x), \ldots, f^{n-1}(x))\) est une base de \(E\).

C’est une famille de \(n\) vecteurs dans un espace de dimension \(n\), il suffit de montrer qu’elle est libre.

Soit \(\lambda_0 x + \lambda_1 f(x) + \cdots + \lambda_{n-1} f^{n-1}(x) = 0\). Appliquons \(f^{n-1}\) aux deux membres :

\(\lambda_0 f^{n-1}(x) + \lambda_1 f^n(x) + \cdots + \lambda_{n-1} f^{2n-2}(x) = 0\)

Or \(f^k(x) = 0\) pour tout \(k \geq n\) (car \(f^n = 0\)). Il reste :

\(\lambda_0 f^{n-1}(x) = 0\)

Comme \(f^{n-1}(x) \neq 0\), on obtient \(\lambda_0 = 0\).

On applique ensuite \(f^{n-2}\) à la relation (où \(\lambda_0 = 0\)) pour obtenir \(\lambda_1 = 0\), et ainsi de suite par récurrence descendante. On montre \(\lambda_k = 0\) pour tout \(k\).

Donc \(\mathcal{B}\) est libre, et c’est une base de \(E\). ∎

Remarque : ce vecteur \(x\) est dit vecteur cyclique pour \(f\). La matrice de \(f\) dans cette base est la matrice compagnon \(\begin{pmatrix} 0 & 0 & \cdots & 0 & 0 \\ 1 & 0 & \cdots & 0 & 0 \\ 0 & 1 & \cdots & 0 & 0 \\ \vdots & & \ddots & & \vdots \\ 0 & 0 & \cdots & 1 & 0 \end{pmatrix}\), qui est la forme de Jordan nilpotente de taille maximale.

V. Nilpotente, idempotente ou involutive — ne plus confondre

En algèbre linéaire, trois familles de matrices vérifient une condition polynomiale simple sur leurs puissances. Les confondre est une erreur classique. Ce tableau synthétique te permet de les distinguer d’un coup d’œil.

Comparatif : matrices nilpotentes, idempotentes et involutives
Propriété Nilpotente Idempotente Involutive
Définition \(\exists\, p : A^p = 0_n\) \(A^2 = A\) \(A^2 = I_n\)
Interprétation Opérateur « qui s’éteint » Projecteur Symétrie / réflexion
Spectre \(\mathrm{Sp}(A) = \{0\}\) \(\mathrm{Sp}(A) \subset \{0,\, 1\}\) \(\mathrm{Sp}(A) \subset \{-1,\, 1\}\)
Trace \(\mathrm{tr}(A) = 0\) \(\mathrm{tr}(A) = \mathrm{rg}(A)\) \(\mathrm{tr}(A) \in \mathbb{Z}\)
Déterminant \(\det(A) = 0\) \(\det(A) \in \{0,\, 1\}\) \(\det(A) \in \{-1,\, 1\}\)
Inversible ? Jamais Ssi \(A = I_n\) Toujours (\(A^{-1} = A\))
Diagonalisable ? Ssi \(A = 0_n\) Toujours Toujours
Polynôme annulateur \(X^p\) \(X^2 – X = X(X-1)\) \(X^2 – 1 = (X-1)(X+1)\)

Moyen mnémotechnique. Regarde le polynôme annulateur : \(X^p\) a une racine unique (0), \(X(X-1)\) a deux racines simples, \((X-1)(X+1)\) a deux racines simples. Deux racines simples distinctes ⟹ diagonalisable. Racine unique de multiplicité \(p\) ⟹ diagonalisable seulement si \(p = 1\) (i.e. \(A = 0\)).

VI. Erreurs fréquentes et pièges classiques

Voici les trois erreurs les plus sanctionnées en concours sur les matrices nilpotentes.

Piège 1 — Confondre \(A^p = 0\) et \(A = 0\).

❌ Copie fautive : « Comme \(A^2 = 0\), on en déduit \(A = 0\). »

Diagnostic : l’étudiant applique la « simplification par \(A\) » comme si \(A\) était inversible. Or une matrice nilpotente n’est jamais inversible (sauf la matrice nulle).

✅ Correction : \(A^2 = 0\) signifie que \(A\) est nilpotente d’indice \(p \leq 2\). On peut avoir \(A \neq 0\) (par exemple \(A = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix}\)).

Piège 2 — Croire que nilpotente implique diagonalisable.

❌ Copie fautive : « \(N\) est nilpotente donc diagonalisable, et sa forme diagonale est \(D = 0_n\), donc \(N = 0_n\). »

Diagnostic : le raisonnement est circulaire. Une matrice nilpotente n’est diagonalisable que si elle est la matrice nulle. Le seul cas où \(N\) est diagonalisable et nilpotente est \(N = 0_n\). En général, les matrices nilpotentes non nulles ne sont pas diagonalisables.

✅ Correction : si \(N\) est nilpotente et diagonalisable, alors \(N\) est semblable à \(\mathrm{diag}(0, \ldots, 0) = 0_n\), donc \(N = P \cdot 0_n \cdot P^{-1} = 0_n\). Autrement dit : nilpotente + diagonalisable \(\Rightarrow\) nulle.

Piège 3 — Oublier l’hypothèse de commutativité dans les problèmes de somme.

❌ Copie fautive : « \(A\) et \(B\) nilpotentes donc \(A + B\) nilpotente (par la formule du binôme). »

Diagnostic : la formule du binôme \((A+B)^m = \sum C_{m}^{k} A^k B^{m-k}\) n’est valable que si \(AB = BA\). Sans cette hypothèse, \(A + B\) peut très bien ne pas être nilpotente.

✅ Contre-exemple : \(A = \begin{pmatrix} 0 & 1 \\ 0 & 0 \end{pmatrix}\) et \(B = \begin{pmatrix} 0 & 0 \\ 1 & 0 \end{pmatrix}\) sont toutes les deux nilpotentes d’indice \(2\), mais \(A + B = \begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}\) a pour valeurs propres \(\pm 1\), donc n’est pas nilpotente. Ici \(AB \neq BA\).

VII. Questions fréquentes

Qu'est-ce qu'une matrice nilpotente ?

Une matrice nilpotente est une matrice carrée \(A \in \mathcal{M}_n(\mathbb{K})\) telle qu’il existe un entier \(p \geq 1\) vérifiant \(A^p = 0_n\) (la matrice nulle). Le plus petit tel entier \(p\) est appelé indice de nilpotence. Toutes ses valeurs propres sont nulles, sa trace et son déterminant sont nuls, et elle n’est jamais inversible (sauf si elle est la matrice nulle, d’indice 1).

C'est quoi l'indice de nilpotence ?

L’indice de nilpotence d’une matrice nilpotente \(A\) est le plus petit entier \(p \geq 1\) tel que \(A^p = 0_n\). On a toujours \(1 \leq p \leq n\) (borne obtenue via le théorème de Cayley-Hamilton). Par exemple, la matrice \(\begin{pmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{pmatrix}\) a un indice de nilpotence égal à \(3\) (le maximum pour une matrice \(3 \times 3\)).

Quelle est la trace d'une matrice nilpotente ?

La trace d’une matrice nilpotente est toujours nulle. C’est une conséquence directe du polynôme caractéristique \(\chi_A(X) = X^n\), dont le coefficient de \(X^{n-1}\) (qui vaut \(-\mathrm{tr}(A)\)) est nul. Plus fort : \(\mathrm{tr}(A^k) = 0\) pour tout \(k \geq 1\), car \(A^k\) est elle-même nilpotente.

Une matrice nilpotente est-elle diagonalisable ?

En général, non. La seule matrice à la fois nilpotente et diagonalisable est la matrice nulle \(0_n\). En effet, si \(A\) est diagonalisable et nilpotente, elle est semblable à \(\mathrm{diag}(0, \ldots, 0) = 0_n\), donc \(A = 0_n\). Les matrices nilpotentes non nulles ne sont pas diagonalisables — c’est ce qui rend la réduction de Jordan nécessaire.

Quelle est la différence entre matrice nilpotente et matrice idempotente ?

Ces deux notions sont très différentes. Une matrice nilpotente vérifie \(A^p = 0\) (ses puissances « s’éteignent »), tandis qu’une matrice idempotente vérifie \(A^2 = A\) (elle « se stabilise » — c’est un projecteur). Spectre : \(\{0\}\) pour la nilpotente, \(\subset \{0, 1\}\) pour l’idempotente. L’idempotente est toujours diagonalisable, la nilpotente ne l’est que si elle est nulle. Voir le tableau comparatif complet en section V.

Comment calculer l'exponentielle d'une matrice nilpotente ?

C’est l’un des rares cas où le calcul est explicite. Si \(N\) est nilpotente d’indice \(p\), la série \(\exp(N) = \displaystyle\sum_{k \geq 0} \displaystyle\frac{N^k}{k!}\) est une somme finie (tous les termes pour \(k \geq p\) sont nuls) :

\(\exp(N) = I_n + N + \displaystyle\frac{N^2}{2!} + \cdots + \displaystyle\frac{N^{p-1}}{(p-1)!}\)

Cette matrice est toujours inversible, d’inverse \(\exp(-N)\). Cette propriété est particulièrement utile pour résoudre les systèmes différentiels linéaires \(Y^\prime = NY\).

VIII. Pour aller plus loin

Tu maîtrises maintenant les propriétés fondamentales des matrices nilpotentes. Pour approfondir et élargir ta vision de l’algèbre linéaire :

Logo-excellence-maths
Réussir sa prépa scientifique avec un prof de Polytechnique
Algèbre linéaire, analyse, probabilités — un accompagnement personnalisé par un professeur diplômé de l'X pour viser les meilleures écoles. Premiers résultats dès les premières colles.
Découvrir l'accompagnement prépa