Rédigé et vérifié par un professeur diplômé de l’École Polytechnique, avec le niveau d’exigence attendu en classe préparatoire. Découvrir le professeur

Les matrices orthogonales — celles qui vérifient \({}^tM \, M = I_n\) — constituent l’un des objets centraux de l’algèbre bilinéaire en CPGE. Elles encodent les isométries vectorielles, interviennent dans la diagonalisation des matrices symétriques réelles via le théorème spectral, et forment le groupe orthogonal \(O(n)\). Ce cours couvre la définition, cinq caractérisations équivalentes, les propriétés structurelles de \(O(n)\) et \(SO(n)\), la classification en petite dimension, et trois exercices corrigés de difficulté croissante (MPSI → concours).

I. Définition d’une matrice orthogonale

A. Définition formelle

Définition — Matrice orthogonale

Soit \(M \in \mathcal{M}_n(\mathbb{R})\). On dit que \(M\) est orthogonale si elle vérifie :

\({}^tM \, M = I_n\)

L’ensemble des matrices orthogonales de taille \(n\) est noté \(O(n)\) :

\(O(n) = \left\{ M \in \mathcal{M}_n(\mathbb{R}) \;\middle|\; {}^tM \, M = I_n \right\}\)

La condition \({}^tM \, M = I_n\) signifie que la transposée de \(M\) est son inverse : \(M^{-1} = {}^tM\). En particulier, toute matrice orthogonale est inversible, donc \(O(n) \subset GL_n(\mathbb{R})\).

Cette définition repose sur le produit scalaire canonique de \(\mathbb{R}^n\). Autrement dit, \(M\) est orthogonale si et seulement si la multiplication par \(M\) préserve ce produit scalaire — nous le prouverons dans la section suivante.

B. Exemples fondamentaux

Matrice identité. \(I_n \in O(n)\) puisque \({}^tI_n \, I_n = I_n\). C’est l’élément neutre du groupe orthogonal.

Matrices de rotation dans \(\mathbb{R}^2\). Pour tout \(\theta \in \mathbb{R}\), la matrice

\(R_\theta = \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}\)

est orthogonale.

Vérification pour \(R_\theta\).

\({}^tR_\theta \, R_\theta = \begin{pmatrix} \cos\theta & \sin\theta \\ -\sin\theta & \cos\theta \end{pmatrix} \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix} = \begin{pmatrix} \cos^2\theta + \sin^2\theta & 0 \\ 0 & \cos^2\theta + \sin^2\theta \end{pmatrix} = I_2\)

Matrices de réflexion dans \(\mathbb{R}^2\). Pour tout \(\theta \in \mathbb{R}\), la matrice

\(S_\theta = \begin{pmatrix} \cos\theta & \sin\theta \\ \sin\theta & -\cos\theta \end{pmatrix}\)

est orthogonale (vérification analogue). Elle représente la réflexion par rapport à la droite d’angle \(\displaystyle\frac{\theta}{2}\) avec l’axe des abscisses.

Matrices de permutation. Toute matrice de permutation \(P_\sigma\) (obtenue en permutant les colonnes de \(I_n\) selon \(\sigma \in \mathfrak{S}_n\)) est orthogonale.

C. Contre-exemples instructifs

Matrice triangulaire : \(M = \begin{pmatrix} 1 & 1 \\ 0 & 1 \end{pmatrix}\). On a \({}^tM \, M = \begin{pmatrix} 1 & 1 \\ 1 & 2 \end{pmatrix} \neq I_2\). Le fait que \(\det(M) = 1\) ne suffit pas : avoir un déterminant égal à \(1\) est nécessaire mais pas suffisant.

Matrice diagonale non triviale : \(D = \begin{pmatrix} 2 & 0 \\ 0 & \displaystyle\frac{1}{2} \end{pmatrix}\). On a \(\det(D) = 1\) mais \({}^tD \, D = \begin{pmatrix} 4 & 0 \\ 0 & \displaystyle\frac{1}{4} \end{pmatrix} \neq I_2\). Cette matrice dilate un axe et contracte l’autre — elle ne préserve pas les normes.

Les caractérisations qui suivent fournissent des critères plus maniables pour vérifier l’orthogonalité.


II. Cinq caractérisations équivalentes

L’un des résultats structurants du cours sur les matrices orthogonales est le théorème suivant, qui relie la condition algébrique \({}^tM \, M = I_n\) à des interprétations en termes de colonnes, de lignes et de conservation du produit scalaire.

Théorème — Caractérisations d’une matrice orthogonale ⋆

Soit \(M \in \mathcal{M}_n(\mathbb{R})\). Les assertions suivantes sont équivalentes :

  1. \({}^tM \, M = I_n\)
  2. \(M \, {}^tM = I_n\)
  3. Les colonnes \((C_1, \dots, C_n)\) de \(M\) forment une base orthonormée de \((\mathbb{R}^n, \langle \cdot, \cdot \rangle_{\mathrm{can}})\)
  4. Les lignes \((L_1, \dots, L_n)\) de \(M\) forment une base orthonormée de \(\mathbb{R}^n\)
  5. \(\forall X, Y \in \mathbb{R}^n, \quad \langle MX, MY \rangle = \langle X, Y \rangle\) (préservation du produit scalaire canonique)

A. Démonstration des équivalences ⋆

(i) \(\Rightarrow\) (ii). Si \({}^tM \, M = I_n\), alors \(M\) est inversible d’inverse \({}^tM\). Or l’inverse est bilatère dans \(\mathcal{M}_n(\mathbb{R})\), donc \(M \, {}^tM = I_n\). ∎

(i) \(\Leftrightarrow\) (iii). Le coefficient \((i,j)\) de \({}^tM \, M\) s’écrit \(({}^tM \, M)_{i,j} = {}^tC_i \, C_j = \langle C_i, C_j \rangle\). Ainsi :

\({}^tM \, M = I_n \iff \forall (i,j), \; \langle C_i, C_j \rangle = \delta_{i,j}\)

ce qui signifie exactement que \((C_1, \dots, C_n)\) est une famille orthonormée de \(\mathbb{R}^n\). Comme elle comporte \(n\) vecteurs en dimension \(n\), c’est une base orthonormée. ∎

(ii) \(\Leftrightarrow\) (iv). Argument analogue : \((M \, {}^tM)_{i,j} = \langle L_i, L_j \rangle\), d’où l’équivalence. ∎

(i) \(\Rightarrow\) (v). Pour tous \(X, Y \in \mathbb{R}^n\) :

\(\langle MX, MY \rangle = {}^t(MX) \cdot (MY) = {}^tX \, {}^tM \, M \, Y = {}^tX \, I_n \, Y = {}^tX \, Y = \langle X, Y \rangle\) ∎

(v) \(\Rightarrow\) (iii). En appliquant (v) aux vecteurs de la base canonique \(X = e_i\), \(Y = e_j\), on obtient \(\langle Me_i, Me_j \rangle = \langle e_i, e_j \rangle = \delta_{i,j}\). Or \(Me_i = C_i\), donc \(\langle C_i, C_j \rangle = \delta_{i,j}\), ce qui donne (iii). ∎

B. Quelle caractérisation utiliser en kholle ?

En pratique, le choix de la bonne caractérisation peut faire gagner un temps considérable. Voici un guide de décision :

Choix de la caractérisation selon la situation
Situation Caractérisation Pourquoi
Vérifier \(M \in O(n)\) par le calcul (i) \({}^tM \, M = I_n\) Calcul matriciel direct, le plus rapide
Matrice donnée colonne par colonne (iii) Colonnes = BON Vérifier \(\displaystyle\frac{n(n+1)}{2}\) produits scalaires
Prouver une propriété géométrique (v) Conservation du PS Donne directement la conservation des normes, angles, distances
Calculer \(M^{-1}\) (i) directement Car \(M^{-1} = {}^tM\) sans calcul supplémentaire
Démontrer \(\det(M) = \pm 1\) (i) + passage au \(\det\) En une ligne : \(\det({}^tM \, M) = \det(M)^2 = 1\)

Astuce kholle. Si l’examinateur te donne une matrice explicite et demande « montrer qu’elle est orthogonale », commence toujours par vérifier que les colonnes sont unitaires et deux à deux orthogonales (caractérisation (iii)). C’est souvent plus rapide que de calculer le produit \({}^tM \, M\) en entier — surtout en dimension 3.

Nous avons caractérisé les matrices orthogonales. Passons maintenant à leurs propriétés fondamentales, à commencer par la contrainte forte sur le déterminant.

🎁 EN BONUS

La fiche de synthèse « Matrices orthogonales & groupe O(n) »

Définition, 5 caractérisations, propriétés de O(n) et SO(n), classification en dim 2 et 3 — tout sur une page recto-verso prête à imprimer.

📄 Télécharger la fiche PDF

Idéal pour réviser avant une kholle ou un concours — 2 minutes de lecture.


III. Propriétés fondamentales

A. Déterminant d’une matrice orthogonale

Théorème ⋆ — Déterminant

Si \(M \in O(n)\), alors \(\det(M) \in \{-1,\, 1\}\).

Démonstration. On a \({}^tM \, M = I_n\). En passant au déterminant :

\(\det({}^tM) \cdot \det(M) = \det(I_n) = 1\)

Or \(\det({}^tM) = \det(M)\), donc \(\det(M)^2 = 1\), d’où \(\det(M) = \pm 1\). ∎

Erreur classique. Ne jamais écrire « \(M \in O(n) \Rightarrow \det(M) = 1\) ». C’est faux : les réflexions ont un déterminant égal à \(-1\). La bonne conclusion est \(\det(M) \in \{-1, 1\}\), et les deux cas se réalisent effectivement.

B. Valeurs propres d’une matrice orthogonale

Proposition ⋆ — Valeurs propres réelles

Si \(\lambda \in \mathbb{R}\) est valeur propre de \(M \in O(n)\), alors \(\lambda \in \{-1, 1\}\).

Démonstration. Soit \(X \in \mathbb{R}^n \setminus \{0\}\) tel que \(MX = \lambda X\). Alors :

\(\|MX\|^2 = \|\lambda X\|^2 = \lambda^2 \|X\|^2\)

Or \(M\) préserve la norme (conséquence de la caractérisation (v) avec \(X = Y\)) :

\(\|MX\|^2 = \langle MX, MX \rangle = \langle X, X \rangle = \|X\|^2\)

Ainsi \(\lambda^2 \|X\|^2 = \|X\|^2\). Comme \(X \neq 0\), on obtient \(\lambda^2 = 1\), soit \(\lambda = \pm 1\). ∎

Complément (valeurs propres complexes). Sur \(\mathbb{C}\), les valeurs propres d’une matrice orthogonale sont de module \(1\) : elles vivent sur le cercle unité. En dimension impaire, le polynôme caractéristique (de degré impair) admet nécessairement une racine réelle, donc \(1\) ou \(-1\) est toujours valeur propre — un résultat exploité dans l’exercice 2.

C. Stabilité par produit et passage à l’inverse

Les propriétés de stabilité sont immédiates et servent de briques dans la preuve que \(O(n)\) est un groupe (section suivante).

  • Produit : si \(A, B \in O(n)\), alors \({}^t(AB) \cdot AB = {}^tB \, {}^tA \, A \, B = {}^tB \, B = I_n\), donc \(AB \in O(n)\).
  • Inverse : si \(M \in O(n)\), alors \(M^{-1} = {}^tM\) et \({}^t({}^tM) \cdot {}^tM = M \, {}^tM = I_n\), donc \({}^tM \in O(n)\).
  • Transposée : conséquence directe du point précédent : \({}^tM \in O(n)\).

Ces propriétés de stabilité nous amènent naturellement à la structure de groupe du couple \((O(n), SO(n))\).

Logo-excellence-maths
Progresser en maths sup avec un prof de Polytechnique
Tu veux maîtriser l'algèbre bilinéaire et cartonner en kholle ? Un professeur diplômé de l'X t'accompagne avec exigence et bienveillance. Résultats visibles en 4 semaines.

IV. Groupe orthogonal \(O(n)\) et groupe spécial orthogonal \(SO(n)\)

A. \(O(n)\) est un sous-groupe de \(GL_n(\mathbb{R})\)

Théorème ⋆ — Structure de groupe

\((O(n), \times)\) est un sous-groupe de \((GL_n(\mathbb{R}), \times)\).

Démonstration.

  1. Non vide : \(I_n \in O(n)\) car \({}^tI_n \, I_n = I_n\).
  2. Stabilité par produit : si \(A, B \in O(n)\), alors \({}^t(AB)(AB) = {}^tB \, {}^tA \, AB = {}^tB \, I_n \, B = I_n\), donc \(AB \in O(n)\).
  3. Stabilité par inverse : si \(M \in O(n)\), alors \(M^{-1} = {}^tM\) et \({}^t({}^tM)({}^tM) = M \, {}^tM = I_n\), donc \(M^{-1} \in O(n)\).

B. Le sous-groupe \(SO(n)\) et la décomposition \(O(n) = SO(n) \sqcup O^-(n)\)

Définition — Groupe spécial orthogonal

Le groupe spécial orthogonal est défini par :

\(SO(n) = \left\{ M \in O(n) \;\middle|\; \det(M) = 1 \right\}\)

On note \(O^-(n) = \left\{ M \in O(n) \;\middle|\; \det(M) = -1 \right\}\).

Théorème ⋆ — Sous-groupe distingué d’indice 2

\(SO(n)\) est un sous-groupe distingué de \(O(n)\) d’indice \(2\), et :

\(O(n) = SO(n) \sqcup O^-(n)\)

Démonstration. Considérons le morphisme de groupes \(\det : O(n) \to \{-1, 1\}\) (à valeurs dans le groupe multiplicatif \((\{-1, 1\}, \times)\)). Ce morphisme est surjectif (car \(I_n \in SO(n)\) et toute réflexion a un déterminant \(-1\)). Son noyau est \(\ker(\det|_{O(n)}) = SO(n)\). Par le théorème d’isomorphisme :

\(O(n) / SO(n) \simeq \{-1, 1\}\)

Donc \([O(n) : SO(n)] = 2\), et tout sous-groupe d’indice \(2\) est distingué. La partition en classes de \(\det\) donne \(O(n) = SO(n) \sqcup O^-(n)\). ∎

Piège classique. \(O^-(n)\) n’est pas un sous-groupe de \(O(n)\) : il ne contient pas \(I_n\) (dont le déterminant vaut \(1\)). De plus, le produit de deux matrices de \(O^-(n)\) est dans \(SO(n)\), pas dans \(O^-(n)\).

Géométriquement, \(SO(n)\) contient les transformations qui préservent l’orientation (rotations), tandis que \(O^-(n)\) contient celles qui la renversent (réflexions, anti-rotations). La classification explicite en petite dimension le confirme.


V. Matrices orthogonales en dimension 2 et 3

A. Classification complète en dimension 2

Théorème — Classification de \(O(2)\)

Toute matrice de \(O(2)\) est de l’une des deux formes suivantes :

  • Rotation (\(\det = 1\), dans \(SO(2)\)) : \(\; R_\theta = \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}\)
  • Réflexion (\(\det = -1\), dans \(O^-(2)\)) : \(\; S_\theta = \begin{pmatrix} \cos\theta & \sin\theta \\ \sin\theta & -\cos\theta \end{pmatrix}\)

avec \(\theta \in \mathbb{R}\).

Démonstration. Soit \(M = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \in O(2)\). La condition « les colonnes forment une BON de \(\mathbb{R}^2\) » donne :

\(a^2 + c^2 = 1, \quad b^2 + d^2 = 1, \quad ab + cd = 0\)

La première relation permet d’écrire \(a = \cos\theta\), \(c = \sin\theta\) pour un certain \(\theta\). La deuxième relation donne \(b = \cos\varphi\), \(d = \sin\varphi\). L’orthogonalité \(ab + cd = 0\) impose \(\cos(\theta – \varphi) = 0\), soit \(\varphi = \theta + \displaystyle\frac{\pi}{2}\) ou \(\varphi = \theta – \displaystyle\frac{\pi}{2}\).

  • Si \(\varphi = \theta + \displaystyle\frac{\pi}{2}\) : \(b = -\sin\theta\), \(d = \cos\theta\), ce qui donne \(R_\theta\) avec \(\det = 1\).
  • Si \(\varphi = \theta – \displaystyle\frac{\pi}{2}\) : \(b = \sin\theta\), \(d = -\cos\theta\), ce qui donne \(S_\theta\) avec \(\det = -1\).

Action d'une matrice de SO(2) (rotation d'angle π/3, couleur #1f4acc) et d'une matrice de O⁻(2) (réflexion d'axe y = x t

B. Forme réduite en dimension 3

En dimension 3, le théorème d’Euler affirme que tout élément de \(SO(3)\) est une rotation autour d’un axe. Plus précisément :

Théorème d’Euler ⋆

Soit \(M \in SO(3)\) avec \(M \neq I_3\). Il existe une base orthonormée de \(\mathbb{R}^3\) dans laquelle \(M\) s’écrit :

\(\begin{pmatrix} 1 & 0 & 0 \\ 0 & \cos\theta & -\sin\theta \\ 0 & \sin\theta & \cos\theta \end{pmatrix}\)

pour un certain \(\theta \in ]0, 2\pi[\). Le vecteur propre associé à la valeur propre \(1\) est l’axe de rotation.

Pour \(M \in O^-(3)\), on peut écrire \(M = (-I_3) \cdot (-M)\) avec \(-M \in SO(3)\). Ainsi tout élément de \(O^-(3)\) est le composé d’une rotation et de la symétrie centrale \(-I_3\).

Forme réduite générale en dimension \(n\). Tout élément de \(O(n)\) est semblable (dans \(O(n)\)) à une matrice diagonale par blocs contenant des blocs \(R_{\theta_i}\) de taille 2 (rotations) et des \(\pm 1\) sur la diagonale. C’est la forme normale des matrices orthogonales, qui prolonge la classification de la dimension 2 et s’obtient par le théorème spectral appliqué sur \(\mathbb{C}\).

Cette classification montre pourquoi les matrices orthogonales sont si intimement liées aux isométries : elles ne font que tourner et/ou refléter.


VI. Lien avec les isométries vectorielles et le théorème spectral

Les matrices orthogonales ne sont pas un objet isolé : elles apparaissent naturellement dès que l’on travaille dans un espace euclidien.

Théorème fondamental ⋆ — Isométrie et matrice orthogonale

Soit \((E, \langle \cdot, \cdot \rangle)\) un espace euclidien de dimension \(n\), \(\mathcal{B}\) une base orthonormée de \(E\), et \(f \in \mathcal{L}(E)\). Alors :

\(f \text{ est une isométrie vectorielle} \iff \mathrm{Mat}_{\mathcal{B}}(f) \in O(n)\)

La page dédiée aux isométries vectorielles développe les conséquences de ce résultat : classification en rotations et réflexions, décomposition en produit de réflexions, et applications à la géométrie.

Application au théorème spectral. Soit \(A \in \mathcal{S}_n(\mathbb{R})\) une matrice symétrique réelle. Le théorème spectral affirme qu’il existe \(P \in O(n)\) et \(D = \mathrm{diag}(\lambda_1, \dots, \lambda_n)\) telles que :

\(A = P \, D \, {}^tP\)

Autrement dit, la matrice de passage qui diagonalise une matrice symétrique réelle est orthogonale. C’est l’un des résultats les plus importants du programme de MP, et il repose sur la théorie des endomorphismes auto-adjoints.

Le procédé de Gram-Schmidt permet de construire concrètement une telle base orthonormée de vecteurs propres à partir d’une base quelconque de chaque sous-espace propre.


VII. Exercices corrigés

A. Exercice 1 — Vérification d’orthogonalité (★, Entraînement MPSI)

Énoncé. On pose \(M = \displaystyle\frac{1}{3}\begin{pmatrix} 1 & 2 & 2 \\ 2 & 1 & -2 \\ 2 & -2 & 1 \end{pmatrix}\).

  1. Montrer que \(M \in O(3)\).
  2. \(M\) appartient-elle à \(SO(3)\) ou à \(O^-(3)\) ?
Voir la correction

1. Notons \(C_1 = \displaystyle\frac{1}{3}\begin{pmatrix} 1 \\ 2 \\ 2 \end{pmatrix}\), \(C_2 = \displaystyle\frac{1}{3}\begin{pmatrix} 2 \\ 1 \\ -2 \end{pmatrix}\), \(C_3 = \displaystyle\frac{1}{3}\begin{pmatrix} 2 \\ -2 \\ 1 \end{pmatrix}\) les colonnes de \(M\). Vérifions que \((C_1, C_2, C_3)\) est une BON (caractérisation (iii)).

Normes :

\(\|C_1\|^2 = \displaystyle\frac{1}{9}(1 + 4 + 4) = 1\), \(\quad \|C_2\|^2 = \displaystyle\frac{1}{9}(4 + 1 + 4) = 1\), \(\quad \|C_3\|^2 = \displaystyle\frac{1}{9}(4 + 4 + 1) = 1\).

Produits scalaires :

\(\langle C_1, C_2 \rangle = \displaystyle\frac{1}{9}(2 + 2 – 4) = 0\), \(\quad \langle C_1, C_3 \rangle = \displaystyle\frac{1}{9}(2 – 4 + 2) = 0\), \(\quad \langle C_2, C_3 \rangle = \displaystyle\frac{1}{9}(4 – 2 – 2) = 0\).

Les colonnes forment une BON, donc \(M \in O(3)\). ✓

2. Calculons \(\det(M)\). On a \(\det(M) = \displaystyle\frac{1}{27}\det\begin{pmatrix} 1 & 2 & 2 \\ 2 & 1 & -2 \\ 2 & -2 & 1 \end{pmatrix}\).

Développons selon la première ligne :

\(\det = 1(1 – 4) – 2(2 + 4) + 2(-4 – 2) = -3 – 12 – 12 = -27\)

Donc \(\det(M) = \displaystyle\frac{-27}{27} = -1\). Conclusion : \(M \in O^-(3)\).


B. Exercice 2 — Déterminant et valeurs propres (★★, Kholle MP)

Énoncé. Soit \(n \geq 2\) et \(M \in O(n)\).

  1. Montrer que \(\det(M) \in \{-1, 1\}\).
  2. Montrer que toute valeur propre réelle de \(M\) appartient à \(\{-1, 1\}\).
  3. En déduire que si \(n\) est impair, alors \(M\) admet \(1\) ou \(-1\) comme valeur propre.
Voir la correction

1. De \({}^tM \, M = I_n\), on tire \(\det({}^tM) \cdot \det(M) = 1\). Or \(\det({}^tM) = \det(M)\), donc \(\det(M)^2 = 1\), soit \(\det(M) = \pm 1\). ∎

2. Soit \(\lambda \in \mathbb{R}\) et \(X \in \mathbb{R}^n \setminus \{0\}\) tel que \(MX = \lambda X\).

Calculons \(\|MX\|^2\) de deux façons :

  • D’une part, \(\|MX\|^2 = \langle MX, MX \rangle = \langle X, X \rangle = \|X\|^2\) (car \(M\) préserve le produit scalaire).
  • D’autre part, \(\|MX\|^2 = \|\lambda X\|^2 = \lambda^2 \|X\|^2\).

Comme \(\|X\|^2\) > \(0\), on obtient \(\lambda^2 = 1\), d’où \(\lambda \in \{-1, 1\}\). ∎

3. Le polynôme caractéristique \(\chi_M\) est de degré \(n\) (impair) à coefficients réels. Tout polynôme réel de degré impair admet au moins une racine réelle \(\lambda_0 \in \mathbb{R}\). D’après la question 2, \(\lambda_0 \in \{-1, 1\}\). ∎

Remarque pour la kholle. Ce résultat est très utile en dimension 3 : il garantit l’existence d’un axe invariant pour toute matrice de \(SO(3)\) (car si \(\det(M) = 1\) et \(n = 3\) impair, la valeur propre \(1\) se réalise nécessairement — le vérifier en examinant la parité du nombre de valeurs propres \(-1\)).


C. Exercice 3 — Structure de \(O(n)\) (★★★, Type oral CCINP MP)

Énoncé. Soit \(n \geq 2\). On rappelle que \(O^-(n) = \{M \in O(n) : \det(M) = -1\}\).

  1. Montrer que \(SO(n)\) est un sous-groupe distingué de \(O(n)\) d’indice \(2\).
  2. Soit \(S_0 \in O^-(n)\) fixé. Montrer que l’application \(\varphi : R \mapsto R \, S_0\) réalise une bijection de \(SO(n)\) sur \(O^-(n)\).
  3. Montrer que \(-I_n \in SO(n)\) si et seulement si \(n\) est pair.
  4. En déduire que pour \(n\) impair, \(O(n) \simeq SO(n) \times \mathbb{Z}/2\mathbb{Z}\).
Voir la correction

1. On considère le morphisme \(\det : (O(n), \times) \to (\{-1, 1\}, \times)\). Il est surjectif (car \(\det(I_n) = 1\) et \(\det(S_0) = -1\)) et \(SO(n) = \ker(\det|_{O(n)})\). Tout noyau d’un morphisme de groupes est un sous-groupe distingué. De plus, par le premier théorème d’isomorphisme, \(O(n)/SO(n) \simeq \{-1, 1\}\), donc \([O(n) : SO(n)] = 2\). ∎

2.

  • \(\varphi\) est bien définie : si \(R \in SO(n)\), alors \(\det(R \, S_0) = \det(R) \cdot \det(S_0) = 1 \cdot (-1) = -1\), donc \(RS_0 \in O^-(n)\).
  • Injectivité : si \(R_1 S_0 = R_2 S_0\), alors \(R_1 = R_2\) (car \(S_0\) est inversible).
  • Surjectivité : soit \(N \in O^-(n)\). Posons \(R = N \, S_0^{-1} = N \, {}^tS_0\). Alors \(\det(R) = (-1)(-1) = 1\), donc \(R \in SO(n)\), et \(\varphi(R) = R \, S_0 = N\).

3. On a \(\det(-I_n) = (-1)^n\). Donc \(-I_n \in SO(n) \iff (-1)^n = 1 \iff n\) est pair. ∎

4. Supposons \(n\) impair. Alors \(-I_n \in O^-(n)\) (car \(\det(-I_n) = -1\)). Considérons l’application :

\(\Phi : SO(n) \times \{I_n, -I_n\} \to O(n), \quad (R, \varepsilon) \mapsto R\varepsilon\)

Morphisme : \(\Phi((R_1, \varepsilon_1)(R_2, \varepsilon_2)) = \Phi(R_1R_2, \varepsilon_1\varepsilon_2) = R_1R_2\varepsilon_1\varepsilon_2\). Or pour \(n\) impair, \(-I_n\) commute avec tout (elle est scalaire), donc \(R_1\varepsilon_1 R_2 \varepsilon_2 = R_1R_2\varepsilon_1\varepsilon_2\). Ainsi \(\Phi\) est un morphisme de groupes.

Injectivité : si \(R\varepsilon = I_n\) avec \(R \in SO(n)\) et \(\varepsilon \in \{I_n, -I_n\}\) : si \(\varepsilon = I_n\) alors \(R = I_n\) ; si \(\varepsilon = -I_n\) alors \(R = -I_n\), mais \(-I_n \notin SO(n)\) (car \(n\) impair), contradiction. Donc \(\ker(\Phi) = \{(I_n, I_n)\}\).

Surjectivité : soit \(M \in O(n)\). Si \(M \in SO(n)\), alors \(M = \Phi(M, I_n)\). Si \(M \in O^-(n)\), alors \(-M \in SO(n)\) (car \(\det(-M) = (-1)^n \det(M) = (-1)(-1) = 1\)), donc \(M = (-M)(-I_n) = \Phi(-M, -I_n)\).

Ainsi \(\Phi\) est un isomorphisme, et \(O(n) \simeq SO(n) \times \mathbb{Z}/2\mathbb{Z}\). ∎

Commentaire pédagogique. Ce résultat est faux pour \(n\) pair (par exemple \(O(2) \not\simeq SO(2) \times \mathbb{Z}/2\mathbb{Z}\) car \(O(2)\) n’est pas abélien — une réflexion suivie d’une rotation n’est pas la même chose qu’une rotation suivie d’une réflexion). C’est un point de distinction subtil qu’un examinateur pourrait soulever.


VIII. Pièges classiques et rédaction concours

A. Erreurs fréquentes en colle

Erreur n°1 — Confondre « orthogonale » et « symétrique ».

« \(M \in O(n) \Rightarrow M = {}^tM\) »

Diagnostic : orthogonale signifie \({}^tM \, M = I_n\) (la transposée est l’inverse), pas \({}^tM = M\) (la transposée égale \(M\)). Les matrices de rotation vérifient \(M \in SO(2)\) sans être symétriques (sauf \(\theta = 0\) ou \(\pi\)).

Correction : \(M \in O(n) \Rightarrow M^{-1} = {}^tM\). La symétrie (\(M = {}^tM\)) est une propriété différente, liée aux endomorphismes auto-adjoints.

Erreur n°2 — Confondre « orthogonale » et « involutive ».

« \(M \in O(n) \Rightarrow M^2 = I_n\) »

Diagnostic : orthogonale signifie \({}^tM \, M = I_n\), pas \(M \cdot M = I_n\). La matrice \(R_{\pi/2}\) est orthogonale mais \(R_{\pi/2}^2 = R_\pi = -I_2 \neq I_2\).

Correction : \(M \in O(n) \Rightarrow {}^tM = M^{-1}\). L’involutivité (\(M^2 = I_n\)) est une propriété supplémentaire que seules certaines matrices orthogonales vérifient (les réflexions, par exemple).

Erreur n°3 — Affirmer que \(O^-(n)\) est un sous-groupe.

« \(O^-(n)\) est un sous-groupe de \(O(n)\) »

Diagnostic : \(I_n \notin O^-(n)\) (car \(\det(I_n) = 1\)). De plus, si \(A, B \in O^-(n)\), alors \(\det(AB) = 1\), donc \(AB \in SO(n)\), pas dans \(O^-(n)\).

Correction : \(O^-(n)\) est une classe latérale de \(SO(n)\) dans \(O(n)\), pas un sous-groupe.

B. Comment rédiger proprement en concours

Voici un modèle de rédaction pour la preuve que \(O(n)\) est un sous-groupe — un classique d’oral :

Modèle de rédaction (6 lignes).

Montrons que \(O(n)\) est un sous-groupe de \(GL_n(\mathbb{R})\).

• \(O(n) \neq \emptyset\) car \({}^tI_n \, I_n = I_n\), donc \(I_n \in O(n)\).

• Soient \(A, B \in O(n)\). Alors \({}^t(AB^{-1})(AB^{-1}) = {}^t(B^{-1}) \, {}^tA \, A \, B^{-1} = {}^t(B^{-1}) \, B^{-1}\). Or \(B \in O(n)\) implique \(B^{-1} = {}^tB\), donc \({}^t(B^{-1}) = ({}^tB)^{-1} \cdot \)… [non, simplifions]

En fait, utilisons directement : \({}^t(AB^{-1})(AB^{-1}) = ({}^tB)^{-1}({}^tA \, A)({}^tB) ^{-1}\)…

Version épurée recommandée :

• Soient \(A, B \in O(n)\). Alors \(B^{-1} = {}^tB \in O(n)\) (on l’a prouvé). Et \({}^t(A {}^tB)(A {}^tB) = B \, {}^tA \, A \, {}^tB = B \, {}^tB = I_n\). Donc \(AB^{-1} \in O(n)\).

Par le critère de sous-groupe, \(O(n)\) est un sous-groupe de \(GL_n(\mathbb{R})\). ∎

L’examinateur attend : (1) le critère utilisé est nommé, (2) chaque propriété de la transposée est explicitement invoquée, (3) la conclusion reprend les mots « sous-groupe ».


IX. Questions fréquentes

Qu'est-ce qu'une matrice orthogonale ?

Une matrice orthogonale est une matrice carrée réelle \(M\) telle que \({}^tM \, M = I_n\), c’est-à-dire dont la transposée est l’inverse. Les colonnes (et les lignes) d’une telle matrice forment une base orthonormée de \(\mathbb{R}^n\). Les matrices orthogonales représentent les isométries vectorielles : elles préservent les normes, les angles et les distances.

Comment savoir si une matrice est orthogonale ?

Deux méthodes principales :

  • Calcul direct : vérifier que \({}^tM \, M = I_n\).
  • Via les colonnes : vérifier que les colonnes sont deux à deux orthogonales et de norme 1 (c’est souvent plus rapide en dimension 3).

Dans les deux cas, il suffit de vérifier \(\displaystyle\frac{n(n+1)}{2}\) relations scalaires.

Quelle est l'inverse d'une matrice orthogonale ?

L’inverse d’une matrice orthogonale \(M\) est sa transposée : \(M^{-1} = {}^tM\). C’est une conséquence directe de la définition \({}^tM \, M = I_n\). C’est un avantage pratique considérable : calculer l’inverse d’une matrice orthogonale ne nécessite aucun calcul de cofacteurs ni de pivot de Gauss.

Quelle est la forme d'une matrice orthogonale de taille 2 ?

Toute matrice orthogonale \(2 \times 2\) est soit une matrice de rotation \(R_\theta = \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}\) (avec \(\det = 1\)), soit une matrice de réflexion \(S_\theta = \begin{pmatrix} \cos\theta & \sin\theta \\ \sin\theta & -\cos\theta \end{pmatrix}\) (avec \(\det = -1\)).

Quelle est la différence entre une matrice orthogonale et une matrice symétrique ?

Ces deux notions sont indépendantes :

  • Orthogonale : \({}^tM = M^{-1}\) (la transposée est l’inverse). Exemples : rotations, réflexions.
  • Symétrique : \({}^tM = M\) (la transposée égale la matrice). Exemples : matrices de covariance, matrices de Gram.

Une matrice peut être les deux à la fois (exemple : \(I_n\), ou toute réflexion), mais ce n’est pas le cas général. La matrice \(R_{\pi/4}\) est orthogonale sans être symétrique.

Pourquoi dit-on matrice orthogonale et non matrice orthonormale ?

En toute rigueur, le terme « orthonormale » serait plus précis, puisque les colonnes sont orthogonales et normées. L’appellation « matrice orthogonale » est une convention historique héritée du terme anglais « orthogonal matrix ». Certains auteurs (notamment Halmos) préfèrent « matrice orthonormale », mais l’usage majoritaire en CPGE et dans la littérature française reste « matrice orthogonale ».


X. Pour aller plus loin

Tu maîtrises maintenant les matrices orthogonales et la structure du groupe \(O(n)\). Pour approfondir :

Références.

  • X. Gourdon, Les Maths en Tête — Algèbre, Ellipses.
  • D. Monier, Algèbre et Géométrie MP, Dunod.
  • Programme officiel CPGE (filières MP, PC, PSI, PT).
Logo-excellence-maths
Prêt à exceller en prépa scientifique ?
Algèbre bilinéaire, espaces euclidiens, concours… Un professeur diplômé de Polytechnique t'accompagne pas à pas. Premier cours satisfait ou remboursé.