Diagonalisation avec une valeur propre dégénérée

Chaque coefficient de $J^2$ vaut $1+1+1=3$, donc $J^2=3J$. Si $J\mathbf v=\mu\mathbf v$ avec $\mathbf v\neq0$, alors $\mu^2\mathbf v=3\mu\mathbf v$, d'où $\mu=0$ ou $\mu=3$. Le vecteur $(1,1,1)$ vérifie $J(1,1,1)=3(1,1,1)$, et tout vecteur dont la somme des composantes est nulle vérifie $J\mathbf v=0$. Les valeurs propres de $A=\mathbf{1}+J$ sont donc $4$ et $1$.

Pour le polynôme caractéristique, on retranche la deuxième colonne à la première et la troisième à la deuxième, ce qui ne change pas le déterminant :

$$\begin{aligned} \det(A-\lambda\mathbf{1})=\begin{vmatrix}2-\lambda&1&1\\1&2-\lambda&1\\1&1&2-\lambda\end{vmatrix} =\begin{vmatrix}1-\lambda&0&1\\-(1-\lambda)&1-\lambda&1\\0&-(1-\lambda)&2-\lambda\end{vmatrix}. \end{aligned}$$

On factorise $(1-\lambda)$ dans chacune des deux premières colonnes, et il reste

$$\begin{aligned} (1-\lambda)^2\begin{vmatrix}1&0&1\\-1&1&1\\0&-1&2-\lambda\end{vmatrix}=(1-\lambda)^2\bigl[(2-\lambda+1)+1\bigr]=(1-\lambda)^2(4-\lambda). \end{aligned}$$

La valeur propre $1$ est double, et la valeur propre $4$ simple. On vérifie que leur somme $1+1+4=6$ est égale à la trace de $A$.

Le sous-espace $E_4$ est la droite engendrée par $\ket{v_1}=\frac{1}{\sqrt3}(1,1,1)$. Le sous-espace $E_1$ est le noyau de $A-\mathbf{1}=J$, c'est-à-dire le plan d'équation $x+y+z=0$, de dimension $2$, égale à la multiplicité de la valeur propre. Pour en obtenir une base orthonormée, on part de $(1,-1,0)$, qui est dans le plan, puis l'on cherche un vecteur du plan orthogonal à celui-ci, de la forme $(1,1,c)$ avec $1+1+c=0$, soit $(1,1,-2)$. On obtient

$$\ket{v_2}=\frac{1}{\sqrt2}\begin{pmatrix}1\\-1\\0\end{pmatrix},\qquad \ket{v_3}=\frac{1}{\sqrt6}\begin{pmatrix}1\\1\\-2\end{pmatrix}.$$

Cette base de $E_1$ n'est pas unique : tout couple $\cos\alpha\ket{v_2}+\sin\alpha\ket{v_3}$, $-\sin\alpha\ket{v_2}+\cos\alpha\ket{v_3}$ convient aussi, et plus généralement toute base orthonormée du plan. Seul le sous-espace propre est déterminé par la matrice. On vérifie que $E_1$ est orthogonal à $E_4$, comme le prévoit le théorème spectral.

On a $P_4=\ket{v_1}\bra{v_1}=\frac13J$. Pour $P_1$, on peut calculer $\ket{v_2}\bra{v_2}+\ket{v_3}\bra{v_3}$, mais il est plus simple d'utiliser la relation de fermeture $P_1+P_4=\mathbf{1}$ :

$$\begin{aligned} P_1=\mathbf{1}-\frac13J=\frac13\begin{pmatrix}2&-1&-1\\-1&2&-1\\-1&-1&2\end{pmatrix}. \end{aligned}$$

Le projecteur sur un sous-espace ne dépend que du sous-espace, et non de la base orthonormée choisie pour le calculer : $P_1$ est le même quel que soit $\alpha$. La décomposition spectrale s'écrit

$$A=4P_4+1\cdot P_1=\frac43J+\mathbf{1}-\frac13J=\mathbf{1}+J,$$

ce qui est bien la matrice de départ. On vérifie aussi que $P_4P_1=\frac13J-\frac19J^2=\frac13J-\frac13J=0$ : les deux projecteurs sont orthogonaux.

On prend pour colonnes de $O$ les trois vecteurs propres orthonormés :

$$\begin{aligned} O=\begin{pmatrix}\frac{1}{\sqrt3}&\frac{1}{\sqrt2}&\frac{1}{\sqrt6}\\[2pt] \frac{1}{\sqrt3}&-\frac{1}{\sqrt2}&\frac{1}{\sqrt6}\\[2pt] \frac{1}{\sqrt3}&0&-\frac{2}{\sqrt6}\end{pmatrix}, \qquad O^{\mathsf T}AO=\begin{pmatrix}4&0&0\\0&1&0\\0&0&1\end{pmatrix}. \end{aligned}$$

Les colonnes étant orthonormées, $O$ est orthogonale, et $O^{\mathsf T}AO$ est la matrice de $A$ dans la base des vecteurs propres, d'après la formule de changement de base. L'ordre des valeurs propres sur la diagonale est celui des colonnes de $O$.