Exercices corrigés - Réduction des endomorphismes : exercices pratiques

Soit $\lambda\in\mathbb R$ et $P\in E.$ Alors $P$ est un vecteur propre de $u$ associé à la valeur propre $\lambda$ lorsque $XP=\lambda P.$ Or, si $P\neq 0,$ le polynôme à gauche de l'égalité est de degré strictement plus grand que le polynôme à droite de l'égalité. Ainsi, l'égalité $XP=\lambda P$ est impossible si $P\neq 0.$ L'endomorphisme $u$ n'admet donc ni valeurs propres ni vecteurs propres.

$f$ est un vecteur propre de $D$ associé à la valeur propre $\lambda\in\mathbb R$ si et et seulement si $f'=\lambda f$. $f$ est donc un multiple de la fonction $x\mapsto \exp(\lambda x)$, et la réciproque est vraie. Autrement dit, tous les réels sont des valeurs propres pour $D$, et $\exp(\lambda x)$ est une base de l'espace propre associé à $\lambda$.

Soit $\lambda\in\mathbb R$ et $f\in E$. Alors $f$ est un vecteur propre de $u$ associé à la valeur propre $\lambda$ si et seulement si, pour tout $t>0,$ $$tf'(t)=\lambda f(t)\iff f'(t)=\frac{\lambda}t f(t).$$ Les solutions de cette équation différentielle sont les fonctions $f(t)=C\exp(\lambda\ln(t))=C t^\lambda$ avec $C\in\mathbb R,$ et ce sont bien des éléments de $E.$ Ainsi, on a prouvé que tout réel $\lambda$ est valeur propre de $u,$ et que l'espace propre associé est $\textrm{vect}(f_\lambda)$ où $f_\lambda(t)=t^\lambda.$
De plus, des vecteurs propres associés à des valeurs propres distinctes formant une famille libre, on en déduit que $(f_\lambda)_{\lambda\in\mathbb R}$ est une famille libre de $E.$

Soit $(u_n)$ un vecteur propre associé à la valeur propre $\lambda$. Alors on a $u_0=\lambda u_0$ et pour tout $n\geq 1$, on a $$\frac{u_n+u_{n-1}}2=\lambda u_n\iff (1-2\lambda)u_n=-u_{n-1}.$$ On distingue alors trois cas :

• Si $\lambda=1$, alors on a $u_0=u_0$ (qui n'implique plus rien sur $u_0$), puis pour tout $n\geq 1$, on a $u_n=u_{n-1}$. Réciproquement, toute suite constante et non-nulle est bien vecteur propre de $\phi$ pour la valeur propre 1. On en déduit que $1$ est une valeur propre de $\phi$ dont l'espace propre associé est constitué par les suites constantes.
• Si $\lambda=1/2$, alors l'équation $u_0=\lambda u_0$ donne $u_0=0$ et on a aussi, pour tout $n\geq 1$, $u_{n-1}=0$ ce qui implique que $(u_n)$ est la suite nulle et donc $1/2$ n'est pas valeur propre de $\phi$.
• Dans tous les autres cas, alors $u_0=\lambda u_0$ donne encore $u_0=0$ et pour tout $n\geq 1$, $$u_n=\frac{1}{2\lambda -1}u_{n-1}.$$ Ainsi, la suite $(u_n)$ est là-encore la suite nulle, et $\lambda$ n'est pas valeur propre. En conclusion, la seule valeur propre est 1, et les seuls vecteurs propres sont les suites constantes.

Procédons d'abord avec $A$. Son polynôme caractéristique vaut $$\chi_A(X)=(X-1)(X-2)(X+4).$$ Il est scindé à racines simples, ce qui assure que $A$ est diagonalisable. Il suffit de chercher pour chaque valeur propre un vecteur propre associé. D'abord pour $1,$ on pose $u=\begin{pmatrix}x\\y\\z\end{pmatrix}$ on résout $Au=u$, c'est-à-dire le système : $$\left\{ \begin{array}{rcl} -x+2y-z&=&0\\ 3x-3y&=&0\\ -2x+2y&=&0 \end{array} \right.$$ Ce système est équivalent à $x=y=z$ et un vecteur propre est donc donné par $\left(\begin{array}{c}1\\1\\1\end{array}\right)$. On fait de même pour $2$ et $-4,$ et on trouve respectivement $\left(\begin{array}{c}4\\3\\-2\end{array}\right)$ et $\left(\begin{array}{c}2\\-3\\2\end{array}\right)$. La matrice $A$ s'écrit donc $A=PDP^{-1}$ avec $$D=\begin{pmatrix} 1&0&0\\ 0&2&0\\ 0&0&-4 \end{pmatrix}$$ et $$P=\left(\begin{array}{ccc} 1&4&2\\ 1&3&-3\\ 1&-2&2 \end{array} \right).$$ Poursuivons avec $B$ dont on calcule le polynôme caractéristique : $$P_B(X)=X^3-5X^2+8X-4.$$ $1$ est racine évidente, on factorise par $X-1$ et finalement on trouve $$\chi_B(X)=(X-1)(X-2)^2.$$ On cherche le sous-espace propre associé à $1$ en résolvant, avec les mêmes notations, $Bu=u$, c'est-à-dire le système : $$\left\{ \begin{array}{rcl} -x+3y+2z&=&0\\ -2x+4y+2z&=&0\\ 2x-3y-z&=&0 \end{array} \right.$$ Ce système est équivalent à $x=y=-z$. Ainsi, le sous-espace propre associé à $1$ est de dimension $1,$ engendré par le vecteur propre $\left(\begin{array}{c}1\\1\\-1\end{array}\right)$. L'étude du sous-espace propre associé à $2$ conduit au système : $$\left\{ \begin{array}{rcl} -2x+3y+2z&=&0\\ -2x+3y+2z&=&0\\ 2x-3y-2z&=&0 \end{array} \right.$$ Ces trois équations se ramènent à $2x-3y-2z=0$, qui est l'équation d'un plan de $\mtr^3$. Le sous-espace propre associé à $2$ est donc de dimension $2,$ et une base est donnée par les vecteurs $\left(\begin{array}{c}3\\2\\0\end{array}\right)$ et $\left(\begin{array}{c}1\\0\\1\end{array}\right)$. La matrice $B$ s'écrit donc $B=PDP^{-1}$ avec $$D=\begin{pmatrix} 1&0&0\\ 0&2&0\\ 0&0&2 \end{pmatrix}$$ et $$P=\left(\begin{array}{ccc} 1&3&1\\ 1&2&0\\ -1&0&1 \end{array} \right).$$ Le polynôme caractéristique de $C$ est $\chi_C(X)=(-1X)^2(X-2)$. On procède exactement comme précédemment, et on trouve que $(u_1,u_2)$ forme une base de l'espace propre associé à la valeur propre $1,$ avec $u_1=(1,1,0)$ et $u_2=(0,1,1)$ et que $(u_3)$ forme une base de l'espace propre associé à la valeur propre $2,$ avec $u_3=(0,0,1)$. Ainsi, $C$ s'écrit $C=PDP^{-1}$ avec $D$ la matrice diagonale $$D=\left( \begin{array}{ccc} 1&0&0\\ 0&1&0\\ 0&0&2 \end{array}\right)$$ et $$P=\left(\begin{array}{ccc} 1&0&0\\ 1&1&0\\ 0&1&1 \end{array}\right).$$ Insistons sur un point : il n'y a pas unicité du résultat, notamment pour les matrices $B$ et $C$ où un des espaces propres est de dimension 2. Par exemple, pour la matrice $C,$ on aurait aussi pu choisir le vecteur $(1,0,-1)$ à la place du vecteur $(1,1,0)$.

La matrice $A$ étant triangulaire supérieure, ses valeurs propres sont données par les éléments de la diagonale. La seule valeur propre de $A$ est donc $\pi$. Si $A$ était diagonalisable, alors il existerait une matrice $P\in GL_3(\mathbb R)$ telle que $$A=P(\pi I_3)P^{-1}.$$ Mais puisque $I_3$ commute avec toutes les matrices, on aurait $$A=\pi I_3 PP^{-1}=\pi I_3.$$ Ce n'est pas le cas : $A$ n'est donc pas diagonalisable.

On calcule le polynôme caractéristique de $A$ et on trouve facilement que $$\chi_a(X)=X\big(X^2+(ab+bc+ca)\big).$$ Posons $\delta=ab+bc+ca$. On discute alors suivant la valeur de $\delta$ :

• Si $\delta>0$, le polynôme caractéristique n'est pas scindé sur $\mathbb R$ et donc la matrice n'est pas diagonalisable.
• Si $\delta<0$, le polynôme caractéristique est scindé à racines simples : la matrice est diagonalisable.
• Si $\delta=0$, alors $0$ est racine de multiplicité 3 du polynôme caractéristique. La matrice n'est diagonalisable que s'il s'agit de la matrice nulle, c'est-à-dire si et seulement si $a=b=c=0$.

Le polynôme caractéristique de $A$ est $$P_A(X)=(a^2-X)(2-a^2-X)(a-X).$$ Si ses racines sont distinctes, alors $A$ est diagonalisable. Or, $$a^2=a\iff a=0\textrm{ ou }a=1$$ $$2-a^2=a\iff a=1\textrm{ ou }a=-2$$ $$2-a^2=a^2\iff a=1\textrm{ ou }a=-1.$$ Donc, si $a\neq 0,1,-1,-2$, $A$ est diagonalisable. Dans les autres cas, il faut discuter.
Si $a=0$, alors $A=\left(\begin{array}{ccc} 0 & 0 & 0 \\ 0 & 2 & 1\\ 0 & 0 & 0 \end{array}\right).$ Dans ce cas, $0$ est valeur propre double. Mais pour $X=\left(\begin{array}{c}x\\y\\z\end{array}\right)$, $AX=0\iff 2y+z=0\iff z=-2y$. On en déduit que $ ( (1,0,0), (0,1,-2) )$ est une base de $\ker(A)$ qui est de dimension $2$. Ainsi, $A$ est diagonalisable.
Si $a=1$, alors $A=\left(\begin{array}{ccc} 1 & 3 & 3 \\ 0 & 1 & 2\\ 0 & 0 & 1 \end{array}\right).$ Cette matrice n'est pas diagonalisable : sa seule valeur propre est $1$, et si elle était diagonalisable, alors on aurait $A=PI_3P^{-1}=I_3$, ce qui n'est pas le cas.
Si $a=-1$, alors $A=\left(\begin{array}{ccc} 1 & -1 & -1 \\ 0 & 1 & 0\\ 0 & 0 & -1 \end{array}\right).$ Dans ce cas, $1$ est valeur propre de multiplicité $2$. Or $$AX=X\iff \left\{ \begin{array}{rcl} x-y-z&=&x\\ y&=&y\\ -z&=&z \end{array}\right. \iff \left\{ \begin{array}{rcl} x&=&x\\ y&=&0\\ z&=&0 \end{array} \right.$$ Alors, $((1,0,0))$ est une base de $\ker(A-I_3)$ qui est de dimension $1$, inférieure stricte à la multiplicité de $1$: la matrice $A$ n'est pas diagonalisable.
Si $a=-2$, alors $A=\left(\begin{array}{ccc} 4 & 0 & 0 \\ 0 & -2 & -1\\ 0 & 0 & -2 \end{array}\right).$ Dans ce cas, $-2$ est valeur propre de multiplicité $2$. De la même façon, on prouve que $\ker(A+2I_3)$ est de dimension $1$ (engendré par $(0,1,0)$). La matrice $A$ n'est donc pas diagonalisable.

Les matrices $E_{i,i}$ sont diagonales, donc diagonalisables! Si $i\neq j$, alors le polynôme caractéristique de $E_{i,j}$ est $ X^n$. Autrement dit, $0$ est la seule valeur propre de $E_{i,j}$. Cette matrice est donc diagonalisable si et seulement si c'est la matrice nulle. Et ce n'est pas le cas! Donc $E_{i,j}$ est diagonalisable si et seulement si $i=j$.

On peut commencer par calculer le rang de $A$. Il est facile de vérifier qu'il est égal à $2$. En effet, en enlevant la dernière colonne à la première colonne, et la deuxième colonne aux colonnes $3,\dots,n-1$, on trouve que le rang de $A$ est égal au rang de la matrice $$\left( \begin{array}{ccccc} 0&1&0&\dots&1\\ 0&0&0&\dots&1\\ \vdots&\vdots&\vdots&\vdots&\vdots\\ 0&1&0&\dots&1 \end{array}\right)$$ Le rang de cette dernière matrice est clairement égal à $2$. Ainsi, la dimension de $\ker A$ est égale à $n-2$. Il suffit alors de vérifier que $A$ admet deux valeurs propres distinctes, et différentes de 0, pour prouver que $A$ est diagonalisable. Pour cela, on va calculer le polynôme caractéristique de $A$. En réalisant les mêmes opérations élémentaires que pour le calcul du rang, on trouve $$C_A(X)=\left|\begin{array}{ccccc} -X&1&0&\dots&1\\ 0&-X&X&\dots&1\\ 0&0&\ddots&\ddots&\vdots\\ \vdots&\vdots&\vdots&\vdots&\vdots\\ X&1&0&\dots&1-X \end{array}\right|.$$ On ajoute ensuite la dernière ligne à la première, puis les lignes $3,\dots,n-1$ à la deuxième ligne. On peut alors finir le calcul du polynôme caractéristique (en développant par rapport aux colonnes ne contenant plus qu'un terme non nul) : \begin{eqnarray*} C_A(X)&=&\left|\begin{array}{ccccc} 0&2&0&\dots&2-X\\ 0&-X&0&\dots&n-2\\ \vdots&0&\ddots&\vdots&\vdots\\ \vdots&\vdots&\vdots&\ddots&\vdots\\ X&1&0&\dots&1-X \end{array}\right|\\ &=&(-1)^{n-1}X^{n-2}\left| \begin{array}{cc} 2&2-X\\ -X&n-2 \end{array}\right|\\ &=&(-1)^{n-1}X^{n-2}(-X^2+2X+2n-4). \end{eqnarray*} Le polynôme $-X^2+2X+2n-4$ admet deux racines distinctes et différentes de zéro (son discriminant vaut $8n-12$, il est strictement positif car on a supposé $n\geq 4$). La matrice $A$ est donc diagonalisable.
Il est aussi possible de remarquer, si l'on connait le résultat, que la matrice $A$ est diagonalisable car c'est une matrice symétrique réelle.

1. On trouve sans difficultés que $J^2=M(0,0,1)$, puis que $M(a,b,c)=aI_3+bJ+cJ^2$.
2. Calculons le polynôme caractéristique de $J$ : \begin{align*} \chi_J(X)&=\left|\begin{matrix} X&-1&0\\ 0&X&-1\\ -1&0&X \end{matrix}\right|\\ &=X\left|\begin{matrix} X&-1\\ 0&X \end{matrix}\right|-1\times\left| \begin{matrix} -1&0\\ X&-1 \end{matrix}\right|\\ &=X^3-1. \end{align*} Les racines du polynôme $X^3-1$ sont $1,j,j^2$ avec $j=e^{2i\pi/3}$. Ainsi, le polynôme caractéristique de $J$ est scindé à racines simples : $J$ est diagonalisable et ses valeurs propres sont $1,j$ et $j^2$.
3. Il faut mieux éviter de calculer le polynôme caractéristique de $M(a,b,c)$ et plutôt utiliser le résultat des questions précédentes. En effet, on peut écrire que $J=PDP^{-1}$ avec $D$ la matrice diagonale dont les coefficients diagonaux sont $1,j$ et $j^2$. On a alors \begin{align*} M(a,b,c)&=aI_3+bJ+cJ^2\\ &=P(aI_3)P^{-1}+P(bD)P^{-1}+P(cD^2)P^{-1}\\ &=P(aI_3+bD+cD^2)P^{-1}. \end{align*} Posons $D(a,b,c)=aI_3+bD+cD^2$, c'est-à-dire que $D(a,b,c)$ est la matrice diagonale $$D(a,b,c)=\begin{pmatrix} a+b+c&0&0\\ 0&a+bj+cj^2&0\\ 0&0&a+bj^2+cj \end{pmatrix}.$$ Ainsi, la matrice $M(a,b,c)$ est diagonalisable, et ses valeurs propres sont $a+b+c$, $a+bj+cj^2$, $a+bj^2+cj$.

Dans la suite, pour $\lambda\in\mathbb C$, on notera $E_\lambda=\ker(A-\lambda I_n)$ l'espace propre associé à $\lambda$ pour $A$ et $F_\lambda=\ker(B-\lambda I_{2n})$ l'espace propre associé à $\lambda$ pour $B$.
Soit $X=\binom{x}y$, et soit $\lambda\in \mathbb C$. Alors on a : $$BX=\lambda X\iff\left\{ \begin{array}{rcl} Ay&=&\lambda x\\ x&=&\lambda y\\ \end{array}\right.\iff \left\{ \begin{array}{rcl} Ay&=&\lambda^2 y\\ x&=&\lambda y \end{array}\right. $$ Ainsi, $\lambda$ est valeur propre de $B$ si et seulement si $\lambda^2$ est valeur propre de $A$, et $X=\binom{x}y$ est vecteur propre de $B$ pour la valeur propre $\lambda$ si et seulement si $x=\lambda y$ et $y$ est vecteur propre de $A$ pour la valeur propre $\lambda^2$. Soit $\mu=\lambda^2\in\mathbb C$. Si $(y_1,\dots,y_k)$ est une base de $E_\mu$, alors en posant $X_i=\binom{\lambda y_i}{y_i}$, $(X_1,\dots,X_k)$ est une base de $F_\lambda$.
Puisque $A$ est diagonalisable, on sait que $$\sum_{i=1}^p \dim(E_{\mu_i})=n,$$ où $\mu_1,\dots,\mu_p$ sont les valeurs propres de $A$. Si $\mu_i\neq 0$ pour tout $i$, chaque $\mu_i$ admet deux racines carrées complexes distinctes $\lambda_i,\lambda'_i$, et on a $$\sum_{i=1}^p \dim(F_{\lambda_i})+\sum_{i=1}^p \dim(F_{\lambda_i'})=2\sum_{i=1}^p \dim(E_{\mu_i})=2n,$$ et donc $B$ est diagonalisable. Au contraire, si $\mu_1=0$, alors on obtient une seule racine carrée, qui vaut 0, et la somme des dimensions des sous-espaces propres de $B$ vaut $$\dim(E_0)+2\sum_{i=2}^p\dim(E_{\mu_i})=2n-\dim(E_0)<2n.$$ On en conclut que $B$ est diagonalisable si et seulement si $0$ n'est pas valeur propre de $A$.

Le calcul du polynôme caractéristique ne pose pas de problèmes, et on trouve, sous forme factorisée, $\chi_A(x)=(x-2)(x-4)^2$. On ne peut pas conclure directement que $A$ est diagonalisable, il faut déterminer une base des sous-espaces propres associés. Pour la valeur propre 2, on résout l'équation $AX=2X$ avec $X=\left(\begin{array}{c}x\\y\\z\end{array}\right)$. On trouve le système $$\left\{\begin{array}{rcl} x&=&x\\ y&=&-2x\\ z&=&x \end{array}\right.$$ Ainsi, le sous-espace propre associé à la valeur propre 2 est le sous-espace vectoriel engendré par le vecteur $u_1=\left(\begin{array}c 1\\-2\\1\end{array}\right).$
Cherchons ensuite le sous-espace propre associé à la valeur propre 4. On doit résoudre $AX=4X$ et on trouve cette fois le système : $$\left\{\begin{array}{rcl} x&=&x\\ y&=&y\\ z&=&-x \end{array}\right.$$ Une base de l'espace propre associé à la valeur propre 4 est donc donné par $(u_2,u_3)$, avec $u_2=\left(\begin{array}c 0\\1\\0\end{array}\right)$ et $u_3=\left(\begin{array}c 1\\0\\-1\end{array}\right)$.
Les dimensions des sous-espaces propres sont égales aux multiplicités des valeurs propres correspondantes, donc $A$ est diagonalisable. Plus précisément on a $A=PDP^{-1}$ avec $$P=\left(\begin{array}{ccc} 1&0&1\\ -2&1&0\\ 1&0&-1 \end{array} \right)\textrm{ et } D=\left(\begin{array}{ccc} 2&0&0\\ 0&4&0\\ 0&0&4 \end{array} \right).$$ Il vient alors que, pour tout $n\in\mathbb N$, on a $A^n=PD^n P^{-1}$. $D^n$ est tout simplement égale à $$D^n=\left(\begin{array}{ccc} 2^n&0&0\\ 0&4^n&0\\ 0&0&4^n \end{array} \right).$$ Après un petit calcul, on trouve que $$P^{-1}=-\frac 12\left(\begin{array}{ccc} -1&0&-1\\ -2&-2&-2\\ -1&0&1 \end{array} \right).$$ On en déduit finalement que $$A^n=\frac 12\left(\begin{array}{ccc} 2^n+4^n&0&2^n-4^n\\ 2(4^n-2^n)&2.4^n&2(4^n-2^n)\\ 2^n-4^n&0&2^n+4^n \end{array} \right).$$

On calcule le polynôme caractéristique de $A$ et on trouve $$P_A(X)=(X-1)(X+8).$$ Les racines du polynôme caractéristique de $A$ sont toutes dans $\mathbb R$ et toutes distinctes. $A$ est donc diagonalisable. Il existe donc une matrice inversible $P$ telle que $A=PDP^{-1}$, avec $$D=\left(\begin{array}{cc} 1&0\\ 0&-8 \end{array}\right).$$ Pour prouver l'existence d'une matrice $B$ telle que $B^3=A$, l'idée est de d'abord faire la même chose avec $D$. Mais si $$M=\left(\begin{array}{cc} 1&0\\ 0&-2 \end{array}\right)$$ alors on a $M^3=D$. Posons $B=PMP^{-1}$. Alors $$B^3=PM^3P^{-1}=PDP^{-1}=A.$$ Remarquons que l'énoncé de l'exercice ne demande pas de calculer $B$...

On vérifie facilement que $A$ et $B$ ont le même polynôme caractéristique $(1-x)(2-x)^2$. Cherchons les sous-espaces propres associés à la valeur propre $2$. Pour la matrice $A$, avec $X=\left(\begin{array}{c}x\\y\\z\end{array}\right)$, on a $$AX=2X\iff \left\{ \begin{array}{rcl} x&=&2z\\ y&=&-3z\\ z&=&z \end{array}\right. .$$ Le sous-espace propre associé à la valeur propre $2$ pour $A$ est donc la droite vectorielle engendrée par $(2,-3,1)$. En particulier, $A$ n'est pas diagonalisable.
Pour $B$ maintenant, on a $$BX=2X\iff \left\{ \begin{array}{rcl} x&=&x\\ y&=&y\\ z&=&-y \end{array}\right. .$$ Le sous-espace propre associé à la valeur propre 2 est donc le plan engendré par les deux vecteurs $(1,0,0)$ et $(0,1,-1)$. En particulier, la dimension de ce sous-espace propre est égale à la multiplicité de $2$ comme racine du polynôme caractéristique.
Maintenant, ceci entraîne que $A$ et $B$ ne sont pas semblables. Si c'était le cas, alors la relation être semblable étant transitive, $A$ serait semblable à une matrice diagonale, donc diagonalisable, ce qui n'est pas le cas.

Le polynôme caractéristique de $A$ est $\chi_A(X)=(X-1)^3$. $1$ est la seule racine de ce polynôme, et comme $A\neq I_3$, $A$ n'est pas diagonalisable. Cherchons l'espace propre associé à la valeur propre 1. Notons $f$ l'endomorphisme canoniquement associé à $A$. On a $(x,y,z)\in \ker(f-I)\iff y+z=0$. L'espace propre associé est donc de dimension 2, de base $(u_1,u_2)$ avec $u_1=(1,0,0)$ et $u_2=(0,1,-1)$. On cherche ensuite un troisième vecteur $u_3$ tel que $f(u_3)=u_2+u_3$. Posons $u_3=(x,y,z)$. Alors $$f(u_3)=u_2+u_3\iff \left\{ \begin{array}{rcl} x&=&x\\ -z&=&1+y\\ y+2z&=&-1+z \end{array}\right. \iff z=-1-y. $$ Posons alors $u_3=(0,0,-1)$. Il est clair que la famille $(u_1,u_2,u_3)$ est une base de $\mathbb R^3$ et dans cette base, la matrice de l'endomorphisme canoniquement associé à $A$ est $B$. Donc $A$ est semblable à $B$.

On commence par calculer le polynôme caractéristique de A, on trouve $\chi_A(X)=(X-3)(X-2)^2$. On cherche ensuite le sous-espace propre associé à la valeur propre 3, en résolvant $AX=3X$. Un rapide calcul montre qu'il est engendré par le vecteur propre $u_1=\left(\begin{array}{c}1\\1\\1\end{array}\right)$. On cherche ensuite le sous-espace propre associé à la valeur propre 2, en résolvant $AX=2X$. On trouve cette fois qu'il est engendré par le vecteur propre $u_2=\left(\begin{array}{c}4\\3\\4\end{array}\right)$. Pour trigonaliser la matrice, il suffit de compléter la base par un troisième vecteur indépendant des deux premiers, par exemple $u_3=\left(\begin{array}{c}0\\0\\1\end{array}\right)$. On a $Au_3=\left(\begin{array}{c}-2\\-3\\0\end{array}\right)=-6u_1+u_2+2u_3$. La matrice $A$ est donc semblable à la matrice $$\left(\begin{array}{ccc} 3&0&-6\\ 0&2&1\\ 0&0&2 \end{array}\right)$$ la matrice de passage étant $$\left(\begin{array}{ccc} 1&4&0\\ 1&3&0\\ 1&4&1 \end{array}\right).$$ Il n'y a bien sûr pas unicité ni de la matrice triangulaire supérieure à laquelle $A$ est semblable, ni de la matrice de passage.
D'ailleurs, dans l'exemple de la matrice $B$, nous allons donner une forme plus précise à la trigonalisation. Le polynôme caractéristique de $B$ est égal à $\chi_B(X)=(X+1)(X-1)^2$. On cherche une base de l'espace propre associé à la valeur propre $-1$ en résolvant l'équation $BX=-X$. On trouve que le vecteur $u_1=\left(\begin{array}{c}1\\1\\2\end{array}\right)$ engendre cet espace propre. Ensuite, on cherche une base de l'espace propre associé à la valeur propre 1 en résolvant l'équation $BX=X$. On trouve que le vecteur $u_2=\left(\begin{array}c 1\\0\\1\end{array}\right)$ engendre cet espace propre. On cherche enfin un vecteur $u_3$ tel que $Bu_3=u_3+u_2$. On obtient que le vecteur $u_3=\left(\begin{array}c 0\\ -1\\0\end{array}\right)$ convient. Finalement, on a prouvé que $B=PTP^{-1}$, avec $$T=\left(\begin{array}{ccc} -1&0&0\\ 0&1&1\\ 0&0&1 \end{array}\right)\textrm{ et } P=\left(\begin{array}{ccc} 1&1&0\\ 1&0&-1\\ 2&1&0 \end{array}\right).$$ Remarquons qu'on peut toujours réduire une matrice trigonalisable de sorte que, hormis les coefficients diagonaux, les seuls coefficients non-nuls sont situés juste au-dessus de la diagonale, et ces coefficients hors-diagonale sont égaux à 0 ou 1.

On va écrire la matrice de $\phi$ dans la base canonique de $E$. Remarquons que pour tout $k=0,\dots,n$, on a $$\phi( X^k)=(-k+1)X^k-kX^{k-1}.$$ Ainsi, la matrice de $\phi$ dans la base $(1,X,\dots,X^n)$ est triangulaire supérieure, et ses coefficients diagonaux sont $1,0,\dots,-n+1$. Les valeurs propres d'une matrice triangulaire supérieure étant exactement les valeurs situées sur la diagonale, on en déduit que $\phi$ est diagonalisable, ses valeurs propres étant les $(n+1)=\dim(E)$ réels distincts $1,0,-1,\dots,-n+1$.

Soit $\lambda\in\mathbb R$ et $M\in\mathcal M_n(\mathbb R),\ M\neq 0$ tel que $\phi(M)=\lambda M$. Les termes diagonaux donnent $m_{i,i}=\lambda m_{i,i}$ pour $1\leq i\leq n$, les termes non-diagonaux donnent $m_{i,j}=\lambda m_{j,i}$, pour $1\leq i\neq j\leq n$. On en déduit que $m_{i,j}=\lambda^2 m_{i,j}$ pour tous les couples $(i,j)$. Ceci entraîne que $\lambda=\pm 1$. On distingue plusieurs cas.

• Si $\lambda=-1$, tous les coefficients sur la diagonale sont égaux à $0$ et on a $m_{i,j}=-m_{j,i}$. On en déduit que $-1$ est une valeur propre de $\phi$, les vecteurs propres appartenant à $\textrm{vect}(f_{i,j};\ 1\leq j<i\leq n)$ avec $f_{i,j}=E_{i,j}-E_{j,i}$. L'espace propre associé est donc de dimension $n(n-1)/2$.
• Si $\lambda=1$, on n'a plus de contraintes sur les éléments diagonaux, et $m_{i,j}=m_{j,i}$ pour les éléménts non-diagonaux. On en déduit que $1$ est valeur propre, les vecteurs propres étant éléments de $\textrm{vect}(E_{i,i},g_{i,j};\ 1\leq j<i\leq n)$, avec $g_{i,j}=E_{i,j}+E_{j,i}$. L'espace propre associé est donc de dimension $n+n(n-1)/2=n(n+1)/2$.

Finalement, puisque $\frac{n(n-1)}2+\frac{n(n+1)}2=n^2=\dim(\mathcal M_n(\mathbb R))$, $\phi$ est bien diagonalisable.

On commence par remarquer que $L$ est une symétrie : $L^2(P)=P$ pour tout polynôme $P$. Ainsi, $L$ est diagonalisable, et ses seules valeurs propres possibles pour $L$ sont donc $1$ et $-1$.
Cherchons maintenant les vecteurs propres associés. Il est facile de voir que, pour $\lambda=\pm 1$, le polynôme $X^k+\lambda X^{n-k}$ est un vecteur propre associé à la valeur propre $\lambda$. On distingue alors deux cas :

• $n=2p+1$ est impair. Alors pour $k=0,\dots,p$, on pose $$P_k(X)=X^k+X^{n-k}\textrm{ et }Q_k(X)=X^k-X^{n-k}.$$ Alors les familles $(P_k)_{k=0,\dots,p}$ et $(Q_k)_{k=0,\dots,p}$ sont deux familles libres (car elles sont à degré étagé) constituées de vecteurs propres associés respectivement à $1$ et $-1$. Les deux espaces propres associés étant en somme directe, la réunion des deux familles est encore une famille libre de $\mathbb R_{n}[X]$, constituée de $2(p+1)=n+1$ vecteurs. C'est donc une base de $\mathbb R_n[X]$ constituée de vecteurs propres pour $L$.
• $n=2p$ est pair. Le raisonnement est similaire. Simplement, cette fois, on ne peut plus considérer le polynôme $Q_p$ qui est nul. Mais les familles $(P_k)_{k=0,\dots, p}$ et $(Q_k)_{k=0,\dots,p-1}$ sont encore des familles libres de vecteurs propres dont la réunion est une base de $\mathbb R_n[X]$ (il y a cette fois $p+1+p=2p+1=n+1$ vecteurs).