Dualité de Tannaka-Krein

Dans la dualité de Pontriaguine pour les groupes commutatifs localement compacts, l'objet dual d'un groupe G est le groupe des caractères ${\displaystyle {\hat {G}},}$ dont les éléments sont les représentations unitaires de dimension un. Pour étendre au cas où le groupe G n'est pas commutatif, l'analogue le plus direct du groupe de caractères serait l'ensemble des classes d'isomorphisme des représentations unitaires irréductibles de G. L'analogue du produit de caractères est le produit tensoriel de représentations. Cependant, les représentations irréductibles de G ne forment pas un groupe en général, ni même un monoïde, car le produit tensoriel de deux représentations irréductibles n'est pas nécessairement irréductible. Ce qui est pertinent dans cette situation, c'est de considérer l'ensemble ${\displaystyle \Pi (G)}$ de toutes les représentations de dimension finie et de la traiter comme une catégorie monoïdale, où le produit est le produit tensoriel habituel des représentations, et l'objet dual provient du passage à la représentation duale.

Une représentation de la catégorie ${\displaystyle \Pi (G)}$ est une transformation naturelle monoïdale du foncteur identité ${\displaystyle \operatorname {id} _{\Pi (G)}}$ vers lui-même. Plus concrètement, c'est la donnée pour chaque représentation ${\displaystyle T\in \operatorname {Ob} \Pi (G)}$ d'un endomorphisme ${\displaystyle \varphi (T)}$ de ${\displaystyle T}$ de façon compatible avec les produits tensoriels, c'est-à-dire que ${\displaystyle \varphi (T\otimes U)=\varphi (T)\otimes \varphi (U)}$, et avec les opérateurs d'entrelacement quelconques ${\displaystyle f\colon T\to U}$, c'est-à-dire que${\displaystyle f\circ \varphi (T)=\varphi (U)\circ f}$. L'ensemble ${\displaystyle \Gamma (\Pi (G))}$ de toutes les représentations de la catégorie ${\displaystyle \Pi (G)}$ peut être muni d'un produit, défini par ${\displaystyle \varphi \psi (T)=\varphi (T)\psi (T)}$, et d'une topologie, dans laquelle la convergence est définie point par point, c'est-à-dire qu'une suite ${\displaystyle (\varphi _{n})_{n\in \mathbb {N} }}$ converge vers un certain ${\displaystyle \varphi }$ si ${\displaystyle (\varphi _{n}(T))_{n\in \mathbb {N} }}$ converge vers ${\displaystyle \varphi (T)}$ pour tous ${\displaystyle T\in \operatorname {Ob} \Pi (G)}$. On montre que l'ensemble ${\displaystyle \Gamma (\Pi (G))}$ devient ainsi un groupe topologique compact.

Le théorème de Tannaka donne une façon de reconstruire le groupe compact G à partir de la catégorie de ses représentations Π(G).

Soit G un groupe compact et ${\displaystyle F:\Pi (G)\to \operatorname {Vect} _{\mathbb {C} }}$ le foncteur d'oubli des représentations complexes de dimension finie de G vers les espaces vectoriels complexes de dimension finie. On met une topologie sur les transformations naturelles ${\displaystyle \tau :F\to F}$ en la définissant comme la topologie la plus grossière possible telle que les projections ${\displaystyle \operatorname {End} (F)\to \operatorname {End} (V)}$ données par ${\displaystyle \tau \mapsto \tau _{V}}$ (qui envoie une transformation naturelle ${\displaystyle \tau }$ sur son évaluation ${\displaystyle \tau _{V}}$ pour ${\displaystyle V\in \Pi (G)}$ ) est une fonction continue. On dit qu'une transformation naturelle est tensorielle si elle agit comme l'identité sur la représentation triviale de G et si elle préserve les produits tensoriels, c'est-à-dire que ${\displaystyle \tau _{V\otimes W}=\tau _{V}\otimes \tau _{W}}$. On dit aussi que τ est auto-conjugué si ${\displaystyle {\overline {\tau }}=\tau }$, où la barre désigne la conjugaison complexe. Alors l'ensemble ${\displaystyle {\mathcal {T}}(G)}$ des transformations naturelles tensorielles et autoconjuguées de ${\displaystyle F}$ est un fermé de ${\displaystyle \operatorname {End} (F)}$, qui se trouve être un groupe (compact) lorsque G est un groupe (compact). Tout élément ${\displaystyle x}$ de ${\displaystyle G}$ induit une transformation naturelle tensorielle auto-conjuguée par faisant agir ${\displaystyle x}$ sur chaque représentation. On obtient ainsi une application${\displaystyle G\to {\mathcal {T}}(G)}$. Le théorème de Tannaka exprime que cette application est un isomorphisme.

Le théorème de Krein répond à la question suivante : quelles sont les catégories qui peuvent apparaître comme l'objet dual d'un groupe compact ?

Soit Π une catégorie dont les objets sont des espaces vectoriels de dimension finie, munie du produit tensoriel et d'une involution. Les conditions suivantes sont nécessaires et suffisantes pour que Π soit un objet dual d'un groupe compact G.

1. Il existe un objet ${\displaystyle I}$ ayant la propriété que ${\displaystyle I\otimes A\approx A}$ pour tout objet A de Π (cet objet ${\displaystyle I}$ est nécessairement unique à isomorphisme près).

2. Tout objet A de Π peut être décomposé en une somme d'objets minimaux.

3. Si A et B sont deux objets minimaux alors l'espace des homomorphismes ${\displaystyle \operatorname {Hom} _{\Pi }(A,B)}$ est soit de dimension un (lorsqu'ils sont isomorphes), soit réduit à zéro.

Si toutes ces conditions sont satisfaites, alors la catégorie Π est Π(G), où G est le groupe des représentations de Π.

L'intérêt pour la dualité de Tannaka-Krein a été ravivé à la fin des années 1980 par la découverte des groupes quantiques dans les travaux de Drinfeld et Jimbo. L'une des principales méthodes d'étude d'un groupe quantique passe par ses représentations de dimension finie, qui forment une catégorie ${\displaystyle \Pi (G)}$ apparentée aux catégories monoïdales symétriques, mais de type plus général, une catégorie monoïdale tressée. Il est apparu que l'on peut construire une bonne théorie de la dualité de type Tannaka-Krein dans ce cadre et qu'elle joue un rôle important dans la théorie des groupes quantiques. Peu après, différents exemples de catégories monoïdales tressées ont été trouvés en théorie conforme des champs rationnelle (en). La philosophie de Tannaka-Krein suggère que les catégories monoïdales tressées issues de la théorie conforme des champs peuvent également être obtenues à partir de groupes quantiques, et dans une série d'articles, Kazhdan et Lusztig ont prouvé que c'était effectivement le cas. D'autre part, les catégories monoïdales tressées provenant de certains groupes quantiques ont été utilisées par Reshetikhin et Touraïev à la construction de nouveaux invariants de nœuds.

Le théorème de Doplicher-Roberts (dû à Sergio Doplicher et John E. Roberts) caractérise Rep(G) en termes de théorie des catégories, comme un type de sous-catégorie de la catégorie des espaces de Hilbert^[1]. De telles sous-catégories de représentations unitaires de groupes compacts sur les espaces de Hilbert sont :

1. une catégorie C* monoïdale strictement symétrique avec des conjugués ;
2. une sous-catégorie ayant des sous-objets et des sommes directes, telle que la C*-algèbre des endomorphismes de l'unité monoïdale ne contienne que des scalaires.