Nous étudierons essentiellement les opérateurs linéaires, qui sont les plus importants mathématiquement car ils respectent la structure linéaire des EVN et/ou des Hilbert. Par ailleurs, la mécanique quantique ne fait appel, à très peu d'exceptions près, qu'à des opérateurs linéaires. Nous ne donnerons qu'un seul exemple d'opérateur non-linéaire utilisé en mécanique quantique.
Beaucoup de notions développées dans cette section ne nécessitent pas a priori la linéarité (par exemple, la continuité). Mais dans le cas linéaire, nous disposons de théorèmes puissants qui ne valent que dans ce cadre (par exemple, l'équivalence fondamentale entre continuité et bornitude pour les opérateurs linéaires). Par défaut donc on les supposera linéaires.
1.1. Définition et domaine
En dimension finie, on définit usuellement les applications sur tout l'espace vectoriel de départ. En dimension infinie, ceci n'est pas toujours possible. Un opérateur est défini par son action, et cette action peut ne pas avoir de sens sur tout l'espace. On est donc amené à définir :
Definition 1 (Domaine de définition)
Pour deux EVN E et F, un opérateur T:D(T)⊂E→F est défini sur son domaineD(T), qui peut être un sous-ensemble strict de E. Si le domaine n'est pas précisé, il est implicitement égal à tout l'espace de départ : D(T)=E.
On définit alors un opérateur linéaire de la façon suivante :
Definition 2 (Opérateur linéaire)
Un opérateur linéaire est une application T:D(T)→F, où D(T)⊆E qui satisfait la linéarité : T(αx+βy)=αT(x)+βT(y),∀α,β∈C,∀x,y∈D(T). L'opérateur étant linéaire, le domaine est nécessairement soit E tout entier, soit un sous-espace vectoriel strict de E. On requiert usuellement que le domaine soit au moins dense dans E, c'est-à-dire que D(T)=E.
La raison pour laquelle on requiert la densité est que cela est nécessaire pour définir l'adjoint de l'opérateur de façon unique (cf. Section [op_adjoint]). Bien sûr, rien n'interdit en soi de définir un opérateur seulement sur une sous-partie miniscule de E, comme par-exemple un sur sev de dimension finie alors que E est de dimension infinie; mais en pratique ce n'est pas très utile, et on ne les considérera pas. Dans toute la suite de ce chapitre, nous ne considérons que des opérateurs linéaires au moins densément définis.
Un exemple d'opérateur densément défini est l'opérateur de dérivation dans E=L2(R) ou plus généralement dans E=L2(I) où I est une sous-partie de R, par exemple [a,b] ou encore R+, etc. C'est un opérateur manifestement linéaire. Il est fondamental, et on le recroisera souvent.
Cet opérateur ne peut pas être défini sur E tout entier. En effet, il est défini par D(D)⊂L2(R)→L2(R) et son action est (Dψ)(x)=ψ′(x). Il ne peut donc agir que sur des fonctions dérivables dont la dérivée reste dans L2(R). Son domaine maximal est donc :
D(D)=H1(R)={ψ∈L2(R):ψ deˊrivable et ∫R∣ψ′(x)∣2dx<∞}⊊L2(R),
aussi appelé l'espace de Sobolev d'ordre 1. On admettra ici que l'espace de Sobolev est dense dans L2(R).
Un exemple d'opérateur non linéaire est le suivant. L'opérateur de normalisation N:E∖{0}→B(0,1) qui à tout vecteur de l'EVN E associe son vecteur de norme 1 appartenant à la boule unité fermée, défini par
N(x)=∥x∥x
est non-linéaire : N(x+y)=N(x)+N(y). Il est certes fréquemment utilisé en mécanique quantique, en particulier pour renormaliser un état après le mécanisme de réduction du paquet d'onde (i.e., le postulat de la mesure), mais il ne correspond pas à une observable physique de la théorie.
1.2. Addition et composition d'opérateurs
1.2.1. Addition d'opérateurs
On ne peut former les combinaisons linéaires de deux opérateurs T et Sque sur un domaine commun. En effet, pour que (λT+μS)(x) ait un sens, il faut que x appartienne à la fois à D(T) et à D(S). Le domaine naturel de λT+μS est donc
D(λT+μS)=D(T)∩D(S).
En conséquence, l'ensemble de tous les opérateurs linéaires de E dans F n'est pas un espace vectoriel, car l'addition n'y est pas toujours définie.
1.2.2. Composition d'opérateurs
On peut également définir la composition d'opérateurs. Si S est un opérateur de E dans F et T de F dans G, alors la composée T∘S (souvent notée simplement TS, et vue comme une multiplication) est définie par
(T∘S)(x)=T(S(x)),
pour le domaine
D(TS)={x∈D(S):S(x)∈D(T)}.
On observe donc que D(TS)⊆D(S) : la composition a tendance à rétrécir le domaine de définition.
Là encore, la question des domaines empêche de donner à l'ensemble des opérateurs linéaires une structure d'algèbre (pour l'addition et la composition). En revanche, et dans le cas E=F, la composition permet de définir toutes les puissances Tn d'un opérateur T, et plus généralement tout polynôme en T.
Exemple 1 (Puissances de l'opérateur de dérivation)
La composition de l'opérateur de dérivation D avec lui-même donne l'opérateur de dérivée seconde D2, défini par (D2ψ)(x)=ψ"(x). Son domaine est l'espace de Sobolev d'ordre 2 : D(D2)=H2(R)={ψ∈L2(R):ψ"∈L2(R)}. On peut montrer, même si ça ne saute pas aux yeux, que ce domaine est strictement inclus dans l'espace de Sobolev d'ordre 1 : D(D2)=H2(R)⊊H1(R)=D(D). On retrouve que le domaine se rétrécit à chaque composition.
En conclusion, sans restrictions supplémentaires (par exemple de domaine communs), l'espace de tous les opérateurs linéaires « n'a pas une bonne structure algébrique ». Pour obtenir des structures exploitables (espaces vectoriels, algèbres), il faut se restreindre à des classes d'opérateurs avec des propriétés communes, notamment :
Opérateurs définis sur tout E (domaine plein),
Opérateurs bornés (continus),
Opérateurs partageant un même domaine dense fixé.
Nous y reviendrons dans les sections suivantes.
1.3. Continuité des opérateurs
1.3.1. Notion de limite
Avant de définir la continuité, rappelons brièvement la notion de limite dans les espaces normés.
Definition 3 (Limite)
Soit T:D(T)⊂E→F un opérateur. Soient x0∈D(T) (point adhérent au domaine) et ℓ∈F. On dit que T admet pour limiteℓ en x0 si ∀ε>0,∃δ>0 tel que ∀x∈D(T):∥x−x0∥E<δ⟹∥T(x)−ℓ∥F<ε. On note alors x→x0limT(x)=ℓ.
Si la limite existe, elle est unique.
Interprétation. Cette définition signifie : « on peut rendre T(x) aussi proche que l'on veut de ℓ (à ε près) en prenant x suffisamment proche de x0 (à δ près) ».
Proposition 1 (Caractérisation séquentielle)
Dans un espace normé, on a l'équivalence x→x0limT(x)=ℓ⟺∀(xn)⊂D(T),xn→x0⟹T(xn)→ℓ. au sens de la convergence forte, c'est-à-dire ∥xn−x0∥→0⟹∥T(xn)−ℓ∥→0.
Appliquée à E=F=R, on retrouve la définition usuelle d'une limite de fonction réelle. Dans R, on peut profiter de la structure d'ordre pour définir des limites à gauche ou à droite. Ici ce n'est pas possible : l y a une infinité de chemins d'approche du point x0, et on exige simplement que la limite soit la même quel que soit le chemin d'approche suivi.
1.3.2. Continuité
La notion de limite est donc quasiment celle de la continuité. Pour que l'opérateur soit en plus continu en x0, on requiert que cette limite ℓ vaut T(x0).
Definition 4 (Continuité ponctuelle)
Un opérateur T:D(T)⊂E→F est dit continu enx0∈D(T) s'il admet une limite en x0 et si x→x0limT(x)=T(x0).
Un opérateur T est dit continu (ou continu sur son domaine) s'il est continu en tout point de D(T).
Formulation ε—δ. Puisqu'il s'agit d'une convergence forte (en norme), on peut la continuité en x0 avec des quantificateurs :
∀ε>0,∃δ>0:∀x∈D(T),∥x−x0∥E<δ⟹∥T(x)−T(x0)∥F<ε.
1.4. Continuité des opérateurs linéaires
La linéarité simplifie considérablement la question de la continuité. L'idée intuitive est de profiter du fait que T(x+a)=T(x)+T(a) nous permet de ramener par translation le problème en tout point x0 du domaine en zéro. Nous avons alors le fait remarquable suivant :
Proposition 2 (Continuité globale pour les opérateurs linéaires)
Pour un opérateur linéaire T:D(T)⊂E→F, les assertions suivantes sont équivalentes :
T est continu en un point x0∈D(T).
T est continu en 0.
T est continu sur tout son domaine.
Remarque : par linéarité on a nécessairement T(0)=0.
Démonstration.
(1)⇒(2) : Supposons T continu en x0. On a donc ∥T(x0+h)−T(x0)∥→0 lorsque ∥h∥→0. Mais comme ∥T(x0+h)−T(x0)∥=∥T(h)∥ par linéarité, on a aussi ∥T(h)∥→0. Donc T est continu en 0.
(2)⇒(3) : Supposons T continu en 0. Pour tout x0∈D(T) et tout x∈D(T), par linéarité :
T(x)−T(x0)=T(x−x0).
Si ∥x−x0∥→0, alors par continuité en 0, on a ∥T(x−x0)∥→0, donc ∥T(x)−T(x0)∥→0. Ainsi T est continu en tout point x0.
(3)⇒(1) : Trivial. □
Conséquence fondamentale. Pour un opérateur linéaire, la continuité est une propriété globale : soit il est continu partout sur son domaine, soit il ne l'est nulle part.
C'est ici que l'on s'écarte fondamentalement de la notion intuitive de continuité sur R (l'absence de "sauts" ou d'asymptotes verticales). Dans un EVN, la continuité en zéro d'un opérateur linéaire se traduit par un contrôle de l'amplification. Selon la définition ε−δ :
∀ε>0,∃δ>0:∀x∈Dom(T),∥x∥E<δ⟹∥T(x)∥F<ε
Autrement dit, être continu en 0, c'est garantir que l'opérateur ne transforme pas des vecteurs arbitrairement petits en vecteurs de taille "macroscopique". Mais cela n'éclaire pas véritablement ce qu'il se passe.
L'idée devient limpide en en regardant la négation (la discontinuité) :
∃ε>0,∀δ>0,∃hδ∈Dom(T):∥hδ∥≤δ mais ∥T(hδ)∥≥ε
Cela signifie qu'il existe un seuil ε pour lequel on trouvera toujours des vecteurs aussi petits que l'on veut, mais dont l'image "résiste" et ne s'écrase pas en norme. Le problème de la discontinuité n'est pas qu'il existe une direction fixe u pour laquelle l'action de l'opérateur explose. En l'occurrence, c'est impossible : pour n'importe quel vecteur fixé u, T(u) est par définition un vecteur de F, sa norme ∥T(u)∥F est donc nécessairement finie.
En revanche, la discontinuité signifie que l'on peut trouver une suite de directions (en) de norme 1, dont les images s'échappent à l'infini. Il suffit pour cela de choisir une suite de rayons δn=1/n tendant vers zéro. La discontinuité nous garantit l'existence de vecteurs hn (avec ∥hn∥≤1/n) tels que ∥T(hn)∥≥ε. En posant alors la suite de vecteurs unitaires en=∥hn∥hn, on obtient par linéarité :
∥T(en)∥=∥hn∥∥T(hn)∥≥1/nε=nεn→∞∞
On a ainsi construit une suite de vecteurs unitaires (de directions changeantes) pour laquelle l'amplification de l'opérateur T est non bornée.
Dès lors, deux conclusions s'imposent : d'une part, une telle non continuité ne peut se produire qu'en dimension infinie, et d'autre part, il émerge un lien entre la continuité et le caractère borné de l'opérateur, lien que l'on détaille dans la section suivante.
Exemple 2 (L'opérateur de dérivation est discontinu)
Considérons l'opérateur de dérivation D:f↦f′ défini sur un domaine dense de l'espace de Hilbert L2([0,1]) muni de son produit scalaire usuel. Cet espace admet pour base hilbertienne les fonctions de Fourier. Considérons la suite de fonctions : en(x)=2sin(nπx) On peut vérifier que chaque direction est de norme unité (∥en∥=1). L'image par l'opérateur est D(en)(x)=nπ2cos(nπx), dont la norme vaut : ∥D(en)∥=nπ comme on pourra le vérifier. Nous avons donc ici une suite de directions dont l'image explose vers l'infini (nπ→∞) à mesure que la fréquence augmente. Sur cet exemple on voit clairement que :
l'opérateur n'explose pas sur une direction fixe (pour un n donné, nπ est fini).
mais en "explorant" les hautes fréquences : là, l'opérateur D amplifie le signal de manière illimitée.
D est donc l'exemple type de l'opérateur linéaire non borné, et partout discontinu.
1.5. Opérateurs linéaires bornés
Nous allons maintenant établir de façon plus précise le lien fondamental entre continuité et bornitude pour les opérateurs linéaires.
1.5.1. Notion d'opérateur borné
Definition 5 (Opérateur borné — cas général)
Un opérateur T:E→F (pas nécessairement linéaire) est dit borné s'il envoie les ensembles bornés de E sur des ensembles bornés de F. Autrement dit : ∀A⊂E,x∈Asup∥x∥E<+∞⟹x∈Asup∥T(x)∥F<+∞.
Cette définition est équivalente à la propriété de contrôle local suivante :
∀R>0,∃M>0 tel que ∀x∈E:∥x∥E≤R⟹∥T(x)∥F≤M.
Pour un opérateur général (non linéaire), la bornitude n'implique pas la continuité, et réciproquement.
1.5.2. Cas des opérateurs linéaires
Pour les opérateurs linéaires, la situation se simplifie drastiquement.
Proposition 3 (Caractérisation de la bornitude pour les opérateurs linéaires)
Soit T:E→F un opérateur linéaire défini sur tout E. Alors T est borné si et seulement s'il existe une constante C>0 telle que
∥T(x)∥F≤C∥x∥E∀x∈E.
Démonstration.
(⇒) Supposons T borné. La boule unité fermée BE={x∈E:∥x∥E≤1} est bornée dans E. Par hypothèse, T(BE) est borné dans F, donc il existe M>0 tel que ∥T(x)∥F≤M∀x∈BE.
Soit maintenant x∈E quelconque avec x=0. On écrit
x=∥x∥E⋅∥x∥Ex.
Puisque ∥x∥ExE=1, on a ∥x∥Ex∈BE, donc
T(∥x∥Ex)F≤M.
Par linéarité :
∥T(x)∥F=∥x∥E⋅T(∥x∥Ex)F≤M∥x∥E.
Le cas x=0 est immédiat. On peut donc prendre C=M.
(⇐) Réciproquement, si ∥T(x)∥≤C∥x∥ pour tout x∈E, alors pour tout ensemble borné A (avec supx∈A∥x∥≤R), on a
Nous pouvons maintenant établir le théorème central de cette section.
Théorème 1 (Équivalence continuité—bornitude)
Soit T:E→F un opérateur linéaire défini sur tout E. Les assertions suivantes sont équivalentes :
T est continu (sur tout E).
T est continu en 0.
T est continu en un point x0∈E.
T est borné, c'est-à-dire qu'il existe C>0 tel que ∥T(x)∥F≤C∥x∥E∀x∈E.
T est borné sur la boule unité : ∥x∥E≤1sup∥T(x)∥F<+∞.
Démonstration.
L'équivalence (1)⇔(2)⇔(3) découle de la Proposition 2.
L'équivalence (4)⇔(5) découle de la Proposition 3.
Il reste à montrer (2)⇔(4).
(2)⇒(4) : Supposons T continu en 0. Alors pour ε=1, il existe δ>0 tel que
∥x∥E<δ⟹∥T(x)∥F<1.
Pour tout x=0, posons y=2∥x∥Eδx. Alors ∥y∥E=2δ<δ, donc ∥T(y)∥F<1.
Par linéarité :
T(x)=δ2∥x∥ET(y),
d'où
∥T(x)∥F=δ2∥x∥E∥T(y)∥F<δ2∥x∥E.
Ainsi T est borné avec C=2/δ.
(4)⇒(2) : Si ∥T(x)∥≤C∥x∥ pour tout x∈E, alors pour tout ε>0, en prenant δ=ε/C :
∥x∥E<δ⟹∥T(x)∥F≤C∥x∥E<Cδ=ε.
Donc T est continu en 0. □
Conséquence majeure. Pour un opérateur linéaire défini sur tout l'espace, continuité et bornitude sont équivalentes. C'est une propriété spécifique au cas linéaire qui n'a pas d'analogue général.
Un opérateur linéaire T:E→F vérifiant les conditions équivalentes du Théorème 1 est appelé opérateur borné (ou opérateur continu). On définit alors sa norme d'opérateur par ∥T∥=∥x∥E≤1sup∥T(x)∥F=x=0sup∥x∥E∥T(x)∥F=inf{C>0:∥T(x)∥≤C∥x∥∀x∈E}.
Interprétation. La norme ∥T∥ mesure le facteur d'amplification maximal de T sur les vecteurs unitaires. C'est la plus petite constante C telle que ∥T(x)∥≤C∥x∥ pour tout x∈E.
Remarque 1 (Propriétés de la norme d'opérateur)
La norme d'opérateur satisfait :
∥T(x)∥≤∥T∥⋅∥x∥ pour tout x∈E (inégalité de submultiplicité),
∥T+S∥≤∥T∥+∥S∥ (inégalité triangulaire),
∥λT∥=∣λ∣⋅∥T∥ (homogénéité),
∥T∘S∥≤∥T∥⋅∥S∥ (submultiplicité de la composition).
1.5.5. Espace des opérateurs bornés
Definition 7 (Espace L(E,F))
On note L(E,F) l'ensemble des opérateurs linéaires bornés (continus) de E dans F : L(E,F)={T:E→F∣T lineˊaire et continu}. Muni de la norme d'opérateur, L(E,F) est un espace normé. Si F est complet (espace de Banach), alors L(E,F) est également complet, donc c'est un espace de Banach.
On note L(E)=L(E,E) l'algèbre des opérateurs bornés sur E.
Remarque 2 (Structure algébrique)
Contrairement à l'ensemble de tous les opérateurs linéaires (qui n'a pas de bonne structure à cause des problèmes de domaines), l'espace L(E,F) a une structure riche :
C'est un espace vectoriel normé.
Si E=F, L(E) est une algèbre de Banach (pour la composition).
Les opérateurs bornés peuvent être ajoutés, multipliés par des scalaires, et composés sans restriction de domaine.
\begin{attention}[Hypothèse cruciale] L'équivalence continuité—bornitude requiert que l'opérateur soit défini sur tout l'espace E. Si D(T)⊊E, un opérateur linéaire peut être borné sur son domaine sans être continu (voir l'exemple de l'opérateur de dérivation ci-dessous). \end{attention}
Exemple 3 (Opérateur non borné)
L'opérateur de dérivation D:H1(R)⊂L2(R)→L2(R) défini par (Dψ)=ψ′ n'est pas borné. En effet, considérons la suite de fonctions ψn(x)=n1e−x2/2sin(nx). On a ∥ψn∥L2=O(1) mais ψn′(x)=n1e−x2/2(ncos(nx)−xsin(nx)), d'où ∥ψn′∥L2∼n→∞. Donc ∥ψn∥∥Dψn∥→∞. L'opérateur D n'est donc pas borné (et donc pas continu au sens fort).
1.6. L'opérateur adjoint
La définition de l'adjoint en dimension infinie est plus délicate qu'en dimension finie car elle fait intervenir à la fois l'action de l'opérateur et son domaine. Rappelons que pour construire l'adjoint, on utilise le théorème de représentation de Riesz sur les formes linéaires continues.
Definition 8 (Opérateur adjoint)
Soit T:D(T)⊆E→F un opérateur linéaire dont le domaine D(T) est dense dans E. On définit son adjoint T∗:D(T∗)⊆F→E de la manière suivante :
Le domaine D(T∗) est l'ensemble des vecteurs φ∈F tels que l'application ψ↦⟨φ,Tψ⟩F est une forme linéaire continue sur D(T) (muni de la norme induite de E).
Pour un tel φ∈D(T∗), le théorème de représentation de Riesz (étendu à D(T) dense) garantit l'existence d'un unique vecteur η∈E tel que ⟨φ,Tψ⟩F=⟨η,ψ⟩E∀ψ∈D(T). On pose alors T∗φ=η.
1.6.1. Pourquoi requiert-on un domaine dense ?
La densité de D(T) est la condition nécessaire et suffisante pour que l'adjoint T∗ soit bien défini (c'est-à-dire unique).
Démonstration (Explication).
Supposons que D(T) ne soit pas dense. Alors son adhérence D(T) est un sous-espace strict de E, et son orthogonal D(T)⊥ contient au moins un vecteur non nul v=0.
Si l'on a trouvé un candidat η pour être l'image de φ par l'adjoint (c'est-à-dire T∗φ=η), alors le vecteur η+v est également un candidat valide, car pour tout ψ∈D(T) :
⟨η+v,ψ⟩E=⟨η,ψ⟩E+=0 car v⊥D(T)⟨v,ψ⟩E=⟨η,ψ⟩E=⟨φ,Tψ⟩F.
Ainsi, sans densité, l'adjoint n'est pas unique : on peut ajouter n'importe quel élément de D(T)⊥ sans changer la relation définissant l'adjoint. La densité assure que D(T)⊥={0}, rendant η unique et l'opérateur T∗ bien défini. □
Remarque 3 (Propriétés de base de l'adjoint)
Lorsque T∗ est bien défini, on a les propriétés suivantes :
(T∗)∗⊇T (l'adjoint de l'adjoint contient T, avec égalité si T est fermé).
(λT+μS)∗=λT∗+μS∗ (sur le domaine approprié).
(TS)∗=S∗T∗ (quand les compositions ont un sens).
Remarque 4 (En dimension finie)
En dimension finie, tous les opérateurs sont définis sur tout l'espace, et tous les sous-espaces sont fermés, donc automatiquement denses dans eux-mêmes. La question du domaine ne se pose pas et l'adjoint T∗ est simplement la matrice adjointe (transposée conjuguée).