Théorème de Lie-Kolchin

Si toutes les matrices de G sont des matrices d'homothéties (en particulier si n = 0), le résultat est vrai. Raisonnons par récurrence sur n, en supposant, pour un n > 0, que le lemme est vrai en toute dimension strictement inférieure à n, et en le démontrant en dimension n sous l'hypothèse que G contient un élément g qui n'est pas une matrice d'homothétie.

Soient V un sous-espace propre (non nul) de g (il en existe car K est algébriquement clos) et d sa dimension (qui est donc strictement comprise entre 0 et n). Comme tous les éléments de G commutent, V est G-stable.

Dans une base de Kⁿ formée en complétant une base de V, un élément de G a pour forme :${\displaystyle g={\begin{pmatrix}\varphi _{1}(g)&\psi (g)\\0&\varphi _{2}(g)\end{pmatrix}},}$

pour certaines applications

${\displaystyle \varphi _{1}:G\to M_{d}(K),\quad \varphi _{2}:G\to M_{n-d}(K)\quad {\text{et}}\quad \psi :G\to M_{d,n-d}(K)}$

qui vérifient entre autres :

${\displaystyle \forall g_{1},g_{2}\in G\quad \varphi _{1}(g_{1}g_{2})=\varphi _{1}(g_{1})\varphi _{1}(g_{2})\quad {\text{et}}\quad \varphi _{2}(g_{1}g_{2})=\varphi _{2}(g_{1})\varphi _{2}(g_{2}).}$

Les images de φ₁ et φ₂ sont donc des ensembles de matrices qui commutent. Comme d et n – d sont strictement inférieurs à n, on peut appliquer l'hypothèse de récurrence, à savoir qu'il existe une base de trigonalisation pour φ₁(G), en des matrices triangulaires supérieures, et une pour φ₂(G), et l'on conclut en concaténant ces deux bases.

Soit ${\displaystyle S}$ l'ensemble des commutateurs et ${\displaystyle \Phi$ :(M,N)\in G\times G\mapsto MNM^{-1}N^{-1}\in S} . ${\displaystyle G\times G}$ est connexe et ${\displaystyle \Phi }$ est continue donc ${\displaystyle \Phi (G\times G)=S}$ est connexe. Soit ${\displaystyle m\geq 1}$ et ${\displaystyle S_{m}}$ l'ensemble des produits ${\displaystyle s_{1}\dots s_{m}}$ avec s${\displaystyle _{i}\in S}$. C'est l'image par l'application continue ${\displaystyle (g_{1},\dots ,g_{m})\mapsto g_{1}\dots g_{m}}$ de ${\displaystyle S^{m}}$ qui est connexe car ${\displaystyle S}$ l'est. Ainsi, ${\displaystyle S_{m}}$ est connexe. Or, ${\displaystyle D(G)=\{Id\}\cup \left(\cup _{m\geq 1}S_{m}\right)}$, comme ${\displaystyle Id\in S_{m}}$ pour tout ${\displaystyle m\geq 1}$, ${\displaystyle D(G)}$ est connexe.

Si G est abélien (en particulier si n = 0), le résultat est vrai d'après le lemme 1, sans même supposer G connexe. Raisonnons par récurrence sur n, en supposant, pour un n > 0, que le théorème est vrai en toute dimension strictement inférieure à n, et en le démontrant en dimension n sous l'hypothèse que G est non abélien.

• Montrons d'abord que Kⁿ possède un sous-espace vectoriel G-stable non trivial, c'est-à-dire distinct de {0} et de Kⁿ.
  • Notons :
    • m la classe de résolubilité de G, c'est-à-dire l'entier (> 1 puisque G est supposé non abélien) tel que D^{m – 1}(G) soit commutatif mais non réduit au neutre,
    • H = D^{m – 1}(G),
    • P l'ensemble des vecteurs (non nuls) propres simultanément pour tous les éléments de H
    • et pour un tel vecteur p, χ_p(h) la valeur propre associée à p et à un élément h de H.
  • Fixons un vecteur v dans P (il en existe d'après le lemme 1). Le sous-groupe H est normal dans G (parce que le sous-groupe dérivé d'un groupe est caractéristique) et l'on en déduit que pour tout élément g de G, gv appartient encore à P (avec χ_gv(h) = χ_v(g^–1hg) pour tout h dans H).
    Pour h fixé, l'image de G par l'application g ↦ χ_gv(h) est finie car incluse dans l'ensemble des valeurs propres de h. Elle est de plus connexe car l'application est continue. C'est donc un singleton, si bien que le sous-espace Vect(Gv) est propre pour h. Par construction, ce sous-espace est G-stable et non réduit au vecteur nul.
  • Montrons par l'absurde qu'il n'est pas non plus égal à Kⁿ. S'il l'était, chaque élément de h de H serait une homothétie. De plus, comme h appartient à D(G) (car m > 1), son déterminant est égal à 1 donc son rapport d'homothétie – notons-le χ(h) – serait une racine n-ième de l'unité. L'ensemble des χ(h) quand h parcourt H serait alors fini, mais aussi connexe (car H est connexe d'après le lemme 2), donc réduit à {1}. Ainsi, H serait réduit au neutre, ce qui contredirait la définition de m.
• On sait à présent que Kⁿ possède un sous-espace vectoriel G-stable V dont la dimension d est strictement comprise entre 0 et n. Alors, dans une base de Kⁿ formée en complétant une base de V, un élément de G a pour forme :${\displaystyle g={\begin{pmatrix}\varphi _{1}(g)&\psi (g)\\0&\varphi _{2}(g)\end{pmatrix}}}$et les applications${\displaystyle \varphi _{1}:G\to GL_{d}(K),\quad \varphi _{2}:G\to GL_{n-d}(K)}$sont continues en tant que projections et sont des morphismes de groupes. Or l'image d'un groupe résoluble par un morphisme de groupes est résoluble. L'image d'un connexe par une application continue étant connexe, on peut, comme dans le lemme 1, appliquer l'hypothèse de récurrence pour conclure.