Rotations de l'espace : axe et angle

La matrice est diagonale par blocs. Le bloc $2\times2$ est la rotation du plan $(x,y)$, de valeurs propres $e^{\pm i\theta}$, et le dernier coefficient donne la valeur propre $1$, de vecteur propre $\mathbf e_z$. La trace vaut $1+2\cos\theta$. La valeur propre $1$ correspond à l'axe de la rotation : les vecteurs de cet axe sont laissés invariants.

En utilisant $RR^{\mathsf T}=\mathbf{1}$, on écrit $R-\mathbf{1}=R-RR^{\mathsf T}=R(\mathbf{1}-R^{\mathsf T})$. Ainsi

$$\det(R-\mathbf{1})=\det R\,\det(\mathbf{1}-R^{\mathsf T})=\det(\mathbf{1}-R)^{\mathsf T}=\det(\mathbf{1}-R)=(-1)^3\det(R-\mathbf{1}),$$

puisque $\det R=1$, que le déterminant d'une transposée est égal à celui de la matrice, et que multiplier une matrice $3\times3$ par $-1$ multiplie son déterminant par $(-1)^3$. On obtient $\det(R-\mathbf{1})=-\det(R-\mathbf{1})$, donc $\det(R-\mathbf{1})=0$ : $1$ est valeur propre. En dimension impaire, une rotation laisse toujours une direction invariante, ce qui est faux en dimension paire, comme le montre la rotation du plan.

L'axe est le sous-espace propre de valeur propre $1$, qu'on obtient en résolvant $R\mathbf v=\mathbf v$. La trace ne dépend pas de la base, et vaut donc $1+2\cos\theta$ dans toute base. On en déduit $\cos\theta=\frac{\tr R-1}{2}$, ce qui détermine l'angle au signe près. Le signe dépend de l'orientation choisie sur l'axe ; on le fixe en calculant l'image d'un vecteur perpendiculaire à l'axe.

Les colonnes de $M$ sont les vecteurs $\mathbf e_2$, $\mathbf e_3$, $\mathbf e_1$, qui forment une base orthonormée : $M^{\mathsf T}M=\mathbf{1}$. Le déterminant, calculé en développant selon la première ligne, vaut $1\cdot(1\cdot1-0\cdot0)=1$. C'est donc une rotation. Elle envoie $\mathbf e_1$ sur $\mathbf e_2$, $\mathbf e_2$ sur $\mathbf e_3$ et $\mathbf e_3$ sur $\mathbf e_1$ : elle permute circulairement les axes.

L'équation $M\mathbf v=\mathbf v$ s'écrit $(v_3,v_1,v_2)=(v_1,v_2,v_3)$, d'où $v_1=v_2=v_3$ : l'axe est porté par $\mathbf n=\frac{1}{\sqrt3}(1,1,1)$. La trace est nulle, donc $\cos\theta=-\frac12$ et $\theta=\pm\frac{2\pi}{3}$. Par symétrie, appliquer trois fois la rotation ramène chaque axe à lui-même : $M^3=\mathbf{1}$, ce qui est cohérent avec un angle de $2\pi/3$. En regardant depuis l'extrémité de $\mathbf n$, la rotation fait passer de $\mathbf e_1$ à $\mathbf e_2$ puis à $\mathbf e_3$ dans le sens trigonométrique : c'est la rotation d'angle $+2\pi/3$ autour de $\mathbf n$.

D'après ce qui précède, les deux autres valeurs propres sont $e^{\pm2i\pi/3}$, c'est-à-dire $\omega$ et $\omega^2=\omega^*$. Cherchons un vecteur propre de la forme $(1,a,b)$ pour la valeur propre $\lambda$ : l'équation $M\mathbf v=\lambda\mathbf v$ s'écrit $(b,1,a)=\lambda(1,a,b)$, d'où $b=\lambda$, $a=1/\lambda$, et la condition $a=\lambda b$ donne $\lambda^3=1$. Pour $\lambda=\omega^2$, on obtient $b=\omega^2$ et $a=\omega^{-2}=\omega$ : le vecteur $\frac{1}{\sqrt3}(1,\omega,\omega^2)$. Pour $\lambda=\omega$, on obtient $\frac{1}{\sqrt3}(1,\omega^2,\omega)$. Avec le vecteur $\frac{1}{\sqrt3}(1,1,1)$, ces vecteurs forment une base orthonormée de $\C^3$ : c'est la transformation de Fourier discrète à trois points, que l'on rencontre aussi dans l'étude des molécules cycliques. La matrice $M$, réelle et orthogonale, est diagonalisable sur $\C$ mais pas sur $\R$.