text:
# Untitled Document

Ali Baklouti* Faculté des Sciences de Sfax, Département de Mathématiques, 3038 Sfax, Tunisie. Ali.Baklouti@fss.rnu.tn, Sami Dhieb\** Faculté des Sciences de Sfax, Département de Mathématiques, 3038 Sfax, Tunisie. Sami.Dhieb@fss.rnu.tn, Dominique Manchon\*** CNRS - UMR 6620, Clermont-Ferrand, France. manchon@math.univ-bpclermont.fr

Orbites coadjointes et variétés caractéristiques

A la mémoire de N.V. Pedersen Recherche supportée par l’action d’échange CNRS-DGRSRT 01/R 15 04.

Abstract : The purpose of the present work is to describe a dequantization procedure for topological modules over a deformed algebra. We define the characteristic variety of a topological module as the common zeroes of the annihilator of the representation obtained by setting the deformation parameter to zero. On the other hand, the Poisson characteristic variety is defined as the common zeroes of the ideal obtained by considering the annihilator of the deformed representation, and only then setting the deformation parameter to zero. Using Gabber’s theorem, we show the involutivity of the characteristic variety. The Poisson characteristic variety is indeed a Poisson subvariety of the underlying Poisson manifold. We compute explicitly the characteristic variety in several examples in the Poisson-linear case, including the dual of any exponential solvable Lie algebra. In the nilpotent case, we show that any coadjoint orbit appears as the Poisson characteristic variety of a well chosen topological module.

Résumé : Nous présentons dans ce travail un procédé de déquantification pour des modules topologiques sur une algèbre déformée. Nous définissons la variété caractéristique d’un module topologique comme l’ensemble des zéros communs de l’annulateur de la représentation obtenue en annulant le paramètre de déformation. Nous définissons par ailleurs la variété de Poisson caractéristique comme l’ensemble des zéros communs de l’idéal obtenu par quotient en annulant le paramètre de déformation dans l’annulateur de la représentation déformée. Nous montrons à l’aide du théorème de Gabber l’involutivité de la variété caractéristique. La variété de Poisson caractéristique est une sous-variété de Poisson de la variété de Poisson sous-jacente. Nous explicitons la variété caractéristique dans plusieurs exemples, incluant le dual des algèbres de Lie résolubles exponentielles. Dans le cas nilpotent nous montrons que toute orbite coadjointe est la variété de Poisson caractéristique d’un module topologique bien choisi.

Table des matières

Introduction 2 I. Objets géométriques liés aux algèbres déformées 6 I.1. Modules topologiquement libres 6

I.2. Idéaux divisibles 7

I.3. Annulateurs 8

I.4. Involutivité 9

I.5. Variétés caractéristiques 10

I.6. Involutions et $``$-représentations 12

I.7. Modules topologiquement libres convergents 14 II. Application au cas des variétés de Poisson linéaires 15 II.1. L’algèbre $`(𝒜,)`$ 15

II.2. Modules topologiquement libres convergents sur $`(𝒜,)`$ 16

II.3. Unitarité 17 III. Exemples 18 III.1. Le groupe de Heisenberg 19

III.2. L’algèbre de Lie filiforme de pas $`n`$ 21

III.3 L’algèbre de Lie du groupe affine de la droite 22

III.4 Un exemple résoluble exponentiel de dimension 3 23

III.5 L’algèbre de Lie du groupe diamant 24

III.6 L’algèbre de Lie du groupe des déplacements du plan 27

III.7 Le cas semi-simple : modules de Verma 30

III.8 Modules de Verma et réalité 31 IV. Le cas résoluble exponentiel 33 IV.1 Rappels sur la méthode des orbites pour les groupes exponentiels 33

IV.2 Construction d’une représentation $`\pi _\nu `$ de $`𝒜`$ 36

IV.3 Calcul de la variété caractéristique 38

IV.4 Le cas nilpotent 39 Références 39

Introduction

Une sous-variété involutive (ou co-isotrope) d’une variété de Poisson $`V`$ est une sous-variété plongée $`W`$ telle que l’idéal des fonctions qui s’annulent sur $`W`$ est une sous-algèbre de Poisson de $`C^{\mathrm{}}(V)`$. Dans le contexte de la quantification par déformation, plusieurs auteurs (\[BGHHW\], \[CF2\]) ont récemment proposé des méthodes pour associer à une sous-variété involutive un idéal à gauche de l’algèbre déformée $`(C^{\mathrm{}}(V)[[\nu ]],)`$, où l’étoile-produit sur $`V`$ provient des constructions de M. Kontsevich \[K\] ou de D. Tamarkin \[T\]. Nous proposons dans cet article une démarche inverse : décrire un procédé pour déquantifier certains modules sur une algèbre déformée, c’est-à-dire associer à un tel module une sous-variété involutive et une sous-variété de Poisson de la variété de Poisson sous-jacente. Le cadre $`C^{\mathrm{}}`$ est mal adapté, mais le cadre analytique ou algébrique convient : nous travaillons d’abord sur le corps des complexes, puis, considérant une involution naturelle sur l’algèbre déformée nous mettons en évidence une classe de modules pour lesquels les objets ainsi mis en évidence vivent sur le corps des réels. Ce sont les modules fortement pseudo-unitaires, c’est-à-dire les modules munis d’une forme bilinéaire hermitienne non dégénérée compatible avec l’involution, à valeurs dans $`\mathrm{}[[\nu ]]`$ (où $`\nu `$ est le paramètre de déformation), et telle que la forme bilinéaire quotient à valeurs dans $`\mathrm{}`$ obtenue en $`\nu =0`$ est encore non-dégénérée. Soit $`(V,\{,\})`$ une variété de Poisson analytique réelle (resp. algébrique) c’est-à-dire une variété analytique réelle (resp. algébrique) munie d’un $`2`$-tenseur $`P`$ à coefficients analytiques (resp. réguliers) tel que le crochet de Schouten $`[P,P]`$ s’annule. Le crochet de Poisson munit le faisceau structural $`𝒪`$ des germes de fonctions analytiques (resp. régulières) d’une structure de faisceau d’algèbres de Poisson. Nous nous limiterons au cas plat $`V=\mathrm{}^d`$. En complexifiant nous obtenons donc une structure de variété de Poisson analytique complexe (resp. algébrique) sur $`V^{\mathrm{}}=\mathrm{}^d`$. Nous noterons $`A`$ l’algèbre de Poisson $`𝒪_V`$ des fonctions analytiques (resp. polynomiales) sur $`\mathrm{}^d`$ (c’est l’espace des sections globales du faisceau structural). M. Kontsevich \[K\] a construit un étoile-produit $`\mathrm{\#}`$ sur $`V`$ :

$$f\mathrm{\#}g=\underset{k0}{}\nu ^kC_k(f,g),$$

où les coefficients $`C_k`$ sont des opérateurs bidifférentiels décrits à l’aide de formules complètement explicites ne faisant intervenir que les dérivées partielles des constantes de structure du $`2`$-tenseur de Poisson (voir aussi \[AMM\] et \[MT\]). En particulier si le $`2`$-tenseur de Poisson est à coefficients analytiques (resp. polynomiaux) alors l’étoile-produit est aussi à coefficients analytiques (resp. polynomiaux). Autrement dit l’étoile-produit $`\mathrm{\#}`$ munit $`𝒜=A[[\nu ]]`$ d’une structure d’algèbre associative topologiquement libre sur $`\mathrm{}[[\nu ]]`$. Cette algèbre est naturellement filtrée par $`𝒜_n=\nu ^n𝒜`$, et son gradué associé $`\text{Gr}𝒜`$ est naturellement isomorphe à l’algèbre de polynômes $`A[\nu ]`$ munie du produit commutatif de $`A`$ étendu par $`\mathrm{}[\nu ]`$-linéarité. Enfin cet étoile-produit est à coefficients réels : si $`f`$ et $`g`$ sont des fonctions sur $`V`$ à valeurs réelles, alors $`f\mathrm{\#}g`$ est aussi à valeurs réelles. L’étoile-produit $`\mathrm{\#}`$ de M. Kontsevich est équivalent à un autre étoile-produit $``$ \[K § 8\], \[MT\], \[CFT\] ayant les mêmes propriétés, et vérifiant de plus la propriété suivante : pour tout $`f,g`$ dans le centre de $`(𝒜,)`$ on a :

$$fg=fg.$$

Les deux algèbres $`(𝒜,\mathrm{\#})`$ et $`(𝒜,)`$ sont bien entendu isomorphes. Nous appellerons le produit $``$ étoile-produit de Duflo-Kontsevich \[ABM\]. Nous nous placerons exclusivement dans le cadre algébrique. Nous définissons dans le premier paragraphe la variété caractéristique $`V()V^{\mathrm{}}`$ d’un $`𝒜`$-module topologiquement libre $``$ ainsi que sa variété de Poisson caractéristique $`VA()`$ en adaptant les définitions de \[J\] de la façon suivante : considérant l’annulateur $`\text{Ann}`$ du $`𝒜`$-module $``$ nous définissons $`V()`$ comme l’ensemble des zéros communs de l’annulateur du $`A`$-module $`M=/\nu `$, et $`VA()`$ comme l’ensemble des zéros communs de $`\text{Ann}/(\text{Ann}\nu 𝒜)`$. Ces deux objets sont des sous-variétés affines de $`\mathrm{}^n`$ (i.e. définies par l’annulation d’un nombre fini de polynômes). Nous montrons (à l’aide de \[G\]) que $`V()`$ est une sous-variété involutive de $`V^{\mathrm{}}`$, que $`VA()`$ est une sous-variété de Poisson de $`V^{\mathrm{}}`$ (ce qui justifie l’appellation), et que l’on a toujours l’inclusion :

$$V()VA().$$

Après avoir montré (à l’aide de \[CF1\]) que l’involution $`ff^{}`$ définie par :

$$f^{}(\xi )=\overline{f(\overline{\xi })}$$

est un anti-automorphisme de l’algèbre $`(𝒜,)`$, nous introduisons la notion de $`𝒜`$-module fortement pseudo-unitaire, et nous montrons que la variété caractéristique d’un $`𝒜`$-module fortement pseudo-unitaire est définie sur le corps des réels, ainsi que sa variété de Poisson caractéristique. Plus précisément, on prolonge d’abord la conjugaison complexe en un automorphisme de $`\mathrm{}[[\nu ]]`$ en décrétant que $`\nu =i\mathrm{}`$ est imaginaire pur, c’est-à-dire $`\overline{\nu }=\nu `$. Nous dirons que le module $``$ est pseudo-unitaire (ou, de façon équivalente, que la représentation qui lui est associée est une $``$-représentation \[Bu-W\]), s’il existe une forme sesquilinéaire non-dégénérée $`<,>_\nu `$ à valeurs dans $`\mathrm{}[[\nu ]]`$ sur $``$ qui soit hermitienne, i.e.

$$<m,n>_\nu =\overline{<n,m>_\nu },m,n$$

et compatible avec l’involution, i.e. vérifiant pour tout $`a𝒜`$ :

$$<am,n>_\nu =<m,a^{}n>_\nu .$$

La forme $`<,>_\nu `$ induit par passage au quotient une forme hermitienne $`<,>_0`$ sur $`M`$ à valeurs dans $`\mathrm{}`$. Si cette forme est non-dégénérée nous dirons que le module $``$ est fortement pseudo-unitaire (ou, de façon équivalente, que la représentation associée est une $``$-représentation fortement non-dégénérée). Contrairement \[Bu-W\], nous ne faisons pas forcément d’hypothèse de positivité sur la forme sesquilinéaire. Un module fortement pseudo-unitaire muni d’une forme définie positive sera dit fortement unitaire. Dans le deuxième paragraphe nous adaptons ce cadre aux variétés de Poisson linéaires. Soit donc g une algèbre de Lie réelle de dimension finie, et soit $`V=\text{g}^{}`$. L’algèbre déformée $`𝒜=S(\text{g})[[\nu ]]`$ s’identifie, via la version formelle de l’isomorphisme de Duflo, à l’algèbre enveloppante formelle complexifiée :

$$𝒰_\nu (\text{g}^{\mathrm{}})=T(\text{g}^{\mathrm{}})[[\nu ]]/<xyyx\nu [x,y]>.$$

Il est possible de spécialiser l’indéterminée $`\nu `$ en une valeur non nulle dans l’écriture de l’étoile-produit \[K§ 8\] : introduisons la famille à un paramètre complexe d’algèbres de Lie $`\text{g}_{\nu _0}^{\mathrm{}}`$, de même espace sous-jacent $`\text{g}^{\mathrm{}}`$ avec le crochet de Lie :

$$[X,Y]_{\nu _0}=\nu _0[X,Y].$$

L’évaluation en $`\nu =\nu _0`$ fournit une loi non-commutative $`_{\nu _0}`$ sur $`S(\text{g}^{\mathrm{}})`$, qui est la multiplication de l’algèbre enveloppante de $`\text{g}_{\nu _0}^{\mathrm{}}`$ transportée par l’isomorphisme de Duflo. Nous introduisons au paragraphe I.7 la notion de module topologiquement libre faiblement convergent, qui nous permet de spécialiser l’indéterminée $`\nu `$ en une valeur non nulle également au niveau des représentations : de façon précise un module topologiquement libre faiblement convergent sur $`𝒜`$ est un $`𝒜`$-module topologiquement libre $`=M[[\nu ]]`$ sur $`𝒜`$, où $`M`$ est un espace topologique localement convexe séparé, tel qu’il existe $`R>0`$ tel que pour tout $`a𝒜_0`$ et pour tout $`mM`$ la série entière $`\pi _\nu (a)m`$ est faiblement convergente de rayon $`R`$. Ici $`𝒜_0`$ désigne la sous-$`\mathrm{}[\nu ]`$-algèbre de $`𝒜`$ engendrée par $`A`$ et $`\pi _\nu `$ la représentation associée. Soit maintenant $`(\text{g}_{\mathrm{}})_{\mathrm{}\mathrm{}}`$ la famille à un paramètre réel d’algèbres de Lie réelles de même espace sous-jacent g, avec le crochet :

$$[X,Y]_{\mathrm{}}=\mathrm{}[X,Y].$$

Nous montrons (Proposition II.2.1 et Théorème II.3.1) l’équivalence entre la notion de $`𝒜`$-module fortement unitaire faiblement convergent de rayon $`R`$ et la notion de famille à un paramètre $`(\rho _{\mathrm{}})_{\mathrm{}]R,R[}`$ de représentations unitaires de $`\text{g}_{\mathrm{}}`$ telle que la famille de représentations de $`𝒰(\text{g}_{\mathrm{}})(S(\text{g}),_{\mathrm{}})`$ associée dépende faiblement analytiquement du paramètre $`\mathrm{}`$. Le passage d’une notion à l’autre est donné par la formule :

$$\rho _{\mathrm{}}(X)=i\pi _\nu (X)_|\nu =i\mathrm{}$$

pour tout $`X\text{g}`$. Le facteur $`i`$ s’explique par le fait que $`\mathrm{}`$ est réel alors que l’indéterminée $`\nu `$ est formellement imaginaire pure. Le troisième paragraphe est consacré à quelques exemples dans le cadre Poisson-linéaire, plus précisément dans les cadres nilpotent et résoluble, mis à part les modules de Verma traités en conclusion. Dans la dernière partie, à l’aide de la méthode des orbites de Kirillov \[Ki\] et des résultats de N.V. Pedersen \[Pe1\], \[Pe2\] nous déterminons, dans le cas des algèbres de Lie résolubles exponentielles la variété caractéristique d’un module fortement unitaire obtenu par induction unitaire d’une polarisation réelle quelconque. Nous montrons enfin que lorsque $`V`$ est le dual d’une algèbre de Lie nilpotente toute feuille symplectique (c’est-à-dire toute orbite coadjointe) peut se voir comme la variété de Poisson caractéristique d’un $`𝒜`$-module fortement unitaire $``$ bien choisi. Cette étude montre que le cadre tracé au § I pour une vaste classe de variétés de Poisson s’accorde bien avec la méthode des orbites de Kirillov dans le cas des variétés de Poisson linéaires. Remarque : contrairement à l’anneau des polynômes, l’anneau des fonctions holomorphes sur $`\mathrm{}^n`$ n’est pas noethérien. En revanche l’anneau des germes de fonctions holomorphes en un point donné est noethérien. Dans l’optique d’une adaptation de nos méthodes au cadre analytique il serait donc intéressant de “faisceautiser” la construction présentée ici, c’est-à-dire de déquantifier des faisceaux de modules topologiquement libres sur le faisceau $`(𝒪[[\nu ]],)`$ d’algèbres déformées (qui a un sens puisque l’ toile-produit est bidifférentiel). Cette même approche devrait permettre d’adapter le présent travail à des variétés algébriques lisses plus générales \[Y\]. Remerciements : Nous remercions Georges Pinczon d’avoir attiré notre attention sur le point ci-dessus, et Charles Torossian pour ses remarques pertinentes.

I. Objets géométriques associés aux algèbres déformées

Nous gardons les notations de l’introduction en nous limitant exclusivement au cadre algébrique. Nous introduisons la notion d’idéal divisible de l’algèbre déformée $`𝒜`$, puis nous introduisons, en nous inspirant de \[J\], la notion de variété caractéristique pour un $`𝒜`$-module topologiquement libre. C’est un fermé de Zariski de $`V`$. Nos variétés caractéristiques ne sont pas forcément coniques (contrairement à ce qui se passe dans \[J\] ou \[GM\]), ceci grâce à l’introduction du paramètre de déformation dans la construction. La notion de pseudo-unitarité forte permet de faire vivre ces variétés caractéristiques sur le corps des réels. I.1. Modules topologiques sur l’anneau des séries formelles Nous reprenons les définitions de \[Ka § XVI\], \[CFT § A.1\] et \[EK § 2.1\]. Soit $`k[[\nu ]]`$ l’anneau des s ries formelles sur un corps quelconque $`k`$. On munit cet anneau de la topologie $`\nu `$-adique, définie par la distance ultramétrique :

$$d(a,b)=2^{\text{val}(ab)},$$

avec $`\text{val}a=\text{sup}\{j,a\nu ^jk[[\nu ]]\}`$. Cette distance fait de $`k[[\nu ]]`$ un anneau topologique complet. Sur tout $`k[[\nu ]]`$-module $``$ on met une topologie invariante par translation en décidant que les $`\nu ^j,j\mathrm{}`$ forment une base de voisinages de zéro. Cette topologie est séparée si et seulement si l’intersection des $`\nu ^j`$ est réduite à $`\{0\}`$. Dans ce cas on peut définir la valuation :

$$\text{val}m=\text{sup}\{j,m\nu ^j\}$$

et définir la topologie par la distance ultramétrique associée $`d(m,m^{})=2^{\text{val}(mm^{})}`$. On dira qu’un $`k[[\nu ]]`$-module $``$ est sans torsion si l’action de $`\nu `$ est une injection de $``$ dans $``$. On rappelle également \[EK§ 2.1\] qu’un $`k[[\nu ]]`$-module topologiquement libre est un module $``$ isomorphe à $`M[[\nu ]]`$ pour un certain espace vectoriel $`M`$.

Proposition I.1.1 (\[Ka\] proposition XVI.2.4 et \[CFT\] lemma A1).

Un $`k[[\nu ]]`$-module $``$ est topologiquement libre si et seulement s’il est séparé, complet et sans torsion.

Voir également \[B § III.5.4\]. Remarquons que pour un module topologiquement libre $`=M[[\nu ]]`$, l’espace vectoriel $`M`$ peut se voir également comme le quotient $`/\nu `$. Soit $``$ un $`k[[\nu ]]`$-module, et soit $`𝒩`$ un sous-$`k[[\nu ]]`$-module de $``$. Considérons les $`k`$-espaces vectoriels $`M=/\nu `$ et $`N=𝒩/\nu 𝒩`$. L’inclusion $`i:𝒩`$ induit une application $`k`$-linéaire :

$$i_0:NM.$$

On dira \[E § 4.5\] que le sous-$`k[[\nu ]]`$-module $`𝒩`$ est divisible si l’application $`i_0`$ est injective. Autrement dit $`𝒩`$ est divisible si et seulement si $`\nu 𝒩=𝒩\nu `$. Un exemple simple de sous-$`k[[\nu ]]`$-module non divisible est $`\nu M[[\nu ]]M[[\nu ]]`$. Pour tout $`k[[\nu ]]`$-module $``$, on écrira aussi “$`m=O(\nu ^j)`$ dans $``$” pour $`m\nu ^j`$. Un sous-$`k[[\nu ]]`$-module $`𝒩`$ de $``$ est donc divisible si et seulement si pour tout $`m𝒩`$, $`m=O(\nu )`$ dans $``$ implique $`m=O(\nu )`$ dans $`𝒩`$. L’algèbre associative $`𝒜`$ définie dans l’introduction est par construction un $`\mathrm{}[[\nu ]]`$-module topologiquement libre. Nous appellerons $`𝒜`$-module topologique un $`\mathrm{}[[\nu ]]`$-module $``$ muni d’une application $`\mathrm{}[[\nu ]]`$-bilinéaire :

$$\begin{array}{cc}\hfill \mathrm{\Phi }:𝒜\times & \hfill \\ \hfill (\phi ,m)& \pi _\nu (\phi )m\hfill \end{array}$$

faisant de $``$ un $`𝒜`$-module.

Proposition I.1.2.

Soit $``$ un $`𝒜`$-module topologique. Alors l’application $`\mathrm{}[[\nu ]]`$-bilinéaire $`\mathrm{\Phi }:𝒜\times `$ définissant le module est continue pour les topologies $`\nu `$-adiques de $`𝒜`$ et de $``$.

Démonstration. Soient $`m`$ et $`aA`$. la famille $`𝒲_j=\mathrm{\Phi }(a,m)+\nu ^j`$ forme une base de voisinages de $`\mathrm{\Phi }(a,m)=\pi _\nu (a)m`$. Considérant les voisinages $`𝒰_j=a+\nu ^j𝒜`$ et $`𝒱_j=m+\nu ^j`$ de $`a`$ et de $`m`$ respectivement, il est alors clair que l’image par $`\mathrm{\Phi }`$ du produit $`𝒰_i\times 𝒱_j`$ est incluse dans $`𝒲_j`$, ce qui montre la continuité. En particulier la multiplication de $`𝒜\times 𝒜`$ dans $`𝒜`$ est $`\mathrm{}[[\nu ]]`$-bilinéaire continue pour la topologie $`\nu `$-adique, et fait donc de $`𝒜`$ une algèbre topologique.

$``$

Soient $`_1`$ et $`_2`$ deux $`𝒜`$-modules topologiques. Un morphisme de $`𝒜`$-modules topologiques (ou opérateur d’entrelacement) de $`_1`$ vers $`_2`$ est une application $`\mathrm{}[[\nu ]]`$-linéaire continue commutant aux actions des éléments de $`𝒜`$. On dit que $`_1`$ et $`_2`$ sont équivalents s’il existe un opérateur d’entrelacement bijectif bicontinu de $`_1`$ sur $`_2`$.

I.2. Idéaux divisibles Comme $`𝒜=A[[\nu ]]`$ est topologiquement libre on identifiera $`A`$ avec $`𝒜/\nu 𝒜`$. Soit $`𝒥`$ un idéal à gauche de $`𝒜`$. Il est immédiat de voir que $`J=𝒥/(𝒥\nu 𝒜)`$ est un idéal de l’algèbre commutative $`A`$. La situation est bien sûr la même avec les idéaux à droite.

Proposition I.2.1.

Soit $`𝒥`$ un idéal bilatère divisible de $`𝒜`$. Alors $`J=𝒥/(𝒥\nu 𝒜)`$ est un idéal de Poisson de $`A`$.

Démonstration. Soient $`a_0J`$ et $`b_0A`$. Soit $`a=a_0+\nu a_1+\mathrm{}𝒥`$ représentant $`a_0`$ et soit $`b=b_0+\nu b_1+\mathrm{}𝒜`$ représentant $`b_0`$. Par divisibilité de $`𝒥`$ on a :

$$\frac{1}{\nu }(abba)𝒥,$$

d’où on déduit, en considérant le terme constant, que $`\{a_0,b_0\}`$ appartient à $`J`$.

$``$

Remarquons que, comme $`𝒥`$ est divisible, on peut aussi identifier $`J`$ à $`𝒥/\nu 𝒥`$. I.3. Annulateurs Soit $``$ un $`𝒜`$-module topologique. On définit l’annulateur $`\text{Ann}`$ du module $``$ comme l’ensemble des $`\phi 𝒜`$ tels que $`\pi _\nu (\phi )m=0`$ pour tout $`m`$. On voit immédiatement que alors $`\text{Ann}`$ est un idéal bilatère de $`𝒜`$, et que $`\text{Ann}`$ est divisible si $``$ est sans torsion.

Proposition I.3.1.

Soit $``$ un $`𝒜`$-module. Alors $`M=/\nu `$ est un module sur l’algèbre commutative $`A=𝒜/\nu 𝒜`$.

Démonstration. C’est immédiat. On notera $`\pi _0`$ la représentation de $`A`$ dans le module $`M`$ associée.

$``$

Proposition I.3.2.

Soit $``$ un $`𝒜`$-module topologique. Alors l’annulateur du $`A`$-module $`M=/\nu `$ est stable par le crochet de Poisson de $`A`$.

Démonstration. On note $`\pi _\nu `$ la représentation de $`𝒜`$ dans le module $``$. L’annulateur de $`M`$ peut se voir comme l’ensemble des $`fA`$ tels que $`\pi _\nu (f)u=O(\nu )`$ pour tout $`u`$. Pour tout $`f,g\text{Ann }M`$ on a dans $``$ :

$$\pi _\nu (fg)u=\pi _\nu (f)\pi _\nu (g)u=O(\nu ^2),$$

ce qui nous donne :

$$\begin{array}{cc}\hfill \pi _\nu (\{f,g\})m& =\frac{1}{\nu }\pi _\nu (fggf).m+O(\nu )\hfill \\ & =O(\nu ),\hfill \end{array}$$

d’où le résultat.

$``$

Remarque : L’anneau $`A`$ étant noethérien \[B\], l’annulateur de $`M`$ est finiment engendré. I.4. Involutivité Soit $`V=\mathrm{}^d`$ une variété de Poisson plate algébrique réelle (comme dans l’introduction), et soit $`WV^{\mathrm{}}`$ une sous-variété affine. Soit $`I(W)`$ l’idéal de $`A`$ constitué par les fonctions qui s’annulent sur $`W`$. On dira que $`W`$ est involutive ou co-isotrope si l’idéal $`I(W)`$ est stable par le crochet de Poisson. C’est équivalent à l’annulation du $`2`$-tenseur de Poisson sur la deuxième puissance extérieure du fibré conormal de $`W`$ \[BGHHW\], \[CF2\].

Proposition I.4.1.

Soit $`W`$ une sous-variété affine de $`V^{\mathrm{}}`$. Soit $`W^r`$ la partie non-singulière de $`W`$. Si $`W`$ est involutive, alors pour toute feuille symplectique $`S`$ de $`V^{\mathrm{}}`$ coupant $`W^r`$ transversalement l’intersection $`W^rS`$ est une sous-variété co-isotrope de $`S`$, c’est-à-dire que pour tout $`xW^rS`$ on a :

$$(T_x(W^rS))^\omega T_x(W^rS),$$
$`(\text{I}\mathrm{.4.1})`$
où l’exposant $`\omega `$ désigne l’orthogonal dans $`T_xS`$ pour la forme symplectique.

Démonstration. Nous adaptons la démonstration de la proposition 19 de \[GM § II I.4\]. Soit $`xW^rS`$. Soit $`P_x`$ le 2-tenseur de Poisson en $`x`$, et soit $`\stackrel{~}{P}_x:T_x^{}V^{\mathrm{}}T_xV^{\mathrm{}}`$ l’application linéaire antisymétrique associée, définie par :

$$<\eta ,\stackrel{~}{P}_x(\xi )>=P_x(\xi ,\eta ).$$
$`(\text{I}\mathrm{.4.2})`$
L’image de $`\stackrel{~}{P}_x`$ est précisément $`T_xS`$.

Lemme I.4.2.

On a l’égalité :

$$T_x(W^rS)^\omega =\stackrel{~}{P}_x\left(T_x(W^rS)^{}\right),$$
$`(\text{I}\mathrm{.4.3})`$
où l’exposant $``$ désigne l’orthogonal d’un sous-espace dans le dual.

Démonstration. Soit $`\xi T_x(W^rS)^{}`$. Alors pour tout $`YT_x(W^rS)`$ on a :

$$\omega (\stackrel{~}{P}_x(\xi ),Y)=<\xi ,Y>=0,$$
$`(\text{I}\mathrm{.4.4})`$
ce qui montre l’inclusion :

$$\stackrel{~}{P}_x\left(T_x(W^rS)^{}\right)T_x(W^rS)^\omega .$$

Pour montrer l’inclusion inverse on considère un $`X`$ dans $`T_x(W^rS)^\omega `$. C’est l’image par $`\stackrel{~}{P}_x`$ d’un élément $`\xi `$ de $`T_x^{}V`$, et il est immédiat d’après (I.4.4) que $`\xi `$ appartient à $`T_x(W^rS)^{}`$.

$``$

Fin de la démonstration de la proposition I.4.1 : Soit $`XT_xS`$. Par définition d’une feuille symplectique il existe $`\phi A`$ telle que $`X`$ coïncide avec le champ hamiltonien $`H_\phi (x)`$. Alors $`X`$ appartient à $`(T_x(W^rS))^\omega `$ si et seulement si pour tout $`YT_x(W^rS)`$ on a :

$$\omega (X,Y)=Y.\phi (x)=d\phi (x)(Y)=0.$$

Maintenant, l’espace $`B_x`$ des $`d\phi (x)`$$`\phi I(W)`$ est l’orthogonal de $`T_xW^r`$. Grâce à la condition de transversalité nous pouvons donc écrire :

$$T_x(W^rS)^{}=(T_xW^rT_xS)^{}=B_x+(T_xS)^{},$$
$`(\text{I}\mathrm{.4.5})`$
Soient donc $`X,YT_x(W^rS)^\omega `$. D’après (I.4.5) et le lemme I.4.2 il existe $`\phi ,\psi I(W)`$ telles que $`X=\stackrel{~}{P}_x(d\phi (x))=H_\phi (x)`$ et $`Y=H_\psi (x)`$. On a alors grâce à l’involutivité :

$$\omega (X,Y)=\{\phi ,\psi \}(x)=0,$$

Ce qui termine la démonstration.

$``$

Remarque : on a l’égalité :

$$T_x(W^rS)^\omega =\stackrel{~}{P}_x\left((T_xW^r)^{}\right).$$
$`(\text{I}\mathrm{.4.7})`$
On a une réciproque partielle à la proposition I.4.1 :

Proposition I.4.3.

Soit $`W`$ une sous-variété affine de $`V^{\mathrm{}}`$. Soit $`W^r`$ la partie non-singulière de $`W`$. Supposons qu’il existe un ensemble Zariski-dense $`𝒰`$ de $`W^r`$ tel que :

1) pour tout $`x𝒰`$, l’intersection de $`W^r`$ avec la feuille symplectique $`S_x`$ passant par $`x`$ est transverse.

2) $`W^rS_x`$ est co-isotrope dans $`S_x`$. Alors $`W`$ est involutive.

Démonstration. On voit facilement que sous les hypothèses de la proposition, si $`f`$ et $`g`$ appartiennent à $`I(W)`$ alors $`\{f,g\}`$ s’annule sur l’ensemble Zariski-dense $`𝒰`$ de $`W^r`$, et donc sur $`W`$ tout entier. Rappelons \[V\] que même dans le cas algébrique que nous considérons, les feuilles symplectiques ne sont pas en général des sous-variétés algébriques de $`V^{\mathrm{}}`$. Un exemple de cette situation est donné au paragraphe III.4.

$``$

I.5. Variétés caractéristiques

Soit $``$ un $`𝒜`$-module topologique. La variété caractéristique $`V()`$ de $``$ est définie comme l’ensemble des zéros communs de l’annulateur du $`A`$-module $`M=/\nu `$. Si $``$ est sans torsion, on appellera variété de Poisson caractéristique de $``$ et, comme dans \[J\], on notera $`VA()`$ l’ensemble des zéros communs de l’idéal $`\text{Ann}/(\text{Ann}\nu 𝒜)`$ de $`A`$. Cette terminologie est justifiée au corollaire I.5.3 ci-dessous. Comme $`A`$ est un anneau commutatif noethérien, le gradué associé $`A[\nu ]`$ de $`𝒜`$ est aussi noethérien \[B § III.2 corollaire 1\]. On peut donc appliquer le théorème d’intégrabilité des variétés caractéristiques de Gabber \[G, Theorem I\] :

Théorème I.5.1 (Intégrabilité des caractéristiques : O. Gabber).

Supposons que $``$ soit un $`𝒜`$-module finiment engendré, et soit $`M=/\nu `$. Alors le radical $`J()`$ de $`\text{Ann}M`$ est stable par le crochet de Poisson.

Remarque : $`J()`$ est l’idéal des éléments de $`A`$ qui s’ annulent sur la variété caractéristique $`V()`$. Le théorème dit donc que $`V()`$ est involutive.

Théorème I.5.2.

L’ensemble des zéros communs d’un idéal de Poisson est une sous-variété de Poisson de $`V^{\mathrm{}}`$.

Démonstration. Soit $`J`$ un idéal de Poisson de $`A`$, et soit $`fJ`$. Soit $`x`$ annulant tous les éléments de $`J`$, et soit $`y=\varphi _t(x)`$, où $`(\varphi _t)_{|t|<\epsilon }`$ est le flot d’un champ de vecteurs hamiltonien $`H_g,gA`$. Par analyticité du flot, on a pour $`|t|`$ assez petit :

$$(f\varphi _t)(x)=\underset{k=0}{\overset{\mathrm{}}{}}\frac{1}{k!}(\text{ad}^kg.f)(x)t^k,$$
$`(\text{I}\mathrm{.5.1})`$
où le membre de droite est convergent. Or le terme :

$$(\text{ad}^kg.f)(x)=\{g,\{g,\mathrm{}\{g,f\}\mathrm{}\}\}(x)$$

s’annule, puisque $`J`$ est un idéal de Poisson. Donc $`(f\varphi _t)(x)`$ s’annule pour $`t`$ assez petit. On en déduit que la feuille symplectique passant par $`x`$ est entièrement contenue dans l’ensemble des zéros communs de $`J`$.

$``$

Corollaire I.5.3.

La variété de Poisson caractéristique $`VA()`$ d’un $`𝒜`$\- module topologique sans torsion $``$ est une sous-variété de Poisson de $`V^{\mathrm{}}`$.

Démonstration. Comme $``$ est sans torsion, l’idéal $`\text{Ann}`$ de $`𝒜`$ est divisible, et donc d’après la proposition I.2.1 $`\text{Ann}/(\text{Ann}\nu 𝒜)`$ est un idéal de Poisson de $`A`$.

$``$

Proposition I.5.4.

Pour tout $`𝒜`$-module topologique sans torsion $``$ on a l’inclusion :

$$V()VA().$$
$`(\text{I}\mathrm{.5.2})`$
Démonstration. Ce résultat découle naturellement des caractérisations suivantes :

$$\begin{array}{cc}\hfill \text{Ann}M=\text{Ann}(/\nu )& =\{\phi _0A/\pi _\nu (\phi _0)=O(\nu )\}\hfill \\ \hfill \text{Ann}/(\text{Ann}\nu 𝒜)& =\{\phi _0A/\phi =\phi _0+\nu \phi _1+\mathrm{}𝒜/\pi _\nu (\phi )=0\}.\hfill \end{array}$$
$`(\text{I}\mathrm{.5.3})`$
Il est clair que le deuxième idéal est contenu dans le premier, d’où l’inclusion inverse des variétés caractéristiques.

$``$

Remarque : les annulateurs de deux modules topologiquement libres équivalents sont égaux. La variété de Poisson caractéristique $`VA()`$ ne dépend donc que de la classe d’équivalence de $``$. Il n’en va pas de même de la variété caractéristique $`V()`$. I.6. Involution et $``$-représentations A. Cattaneo et G. Felder ont remarqué \[CF1 § 2\] que l’algèbre $`(𝒜,\mathrm{\#})`$ est naturellement munie d’une involution. Nous adaptons ici leurs arguments, et nous allons montrer que cette involution est également une involution pour l’étoile-produit $``$ de Duflo-Kontsevich. On étend la conjugaison complexe en un automorphisme involutif de $`\mathrm{}[[\nu ]]`$ en posant simplement $`\overline{\nu }=\nu `$. On considère donc $`\nu `$ comme “imaginaire pur”, et nous poserons également $`\nu =i\mathrm{}`$, où $`\mathrm{}=\overline{\mathrm{}}`$ peut être considéré comme “réel”.

Proposition I.6.1.

L’involution semi-linéaire $`ff^{}`$ de $`𝒜`$ définie par :

$$f^{}(\xi )=\overline{f(\overline{\xi })}$$
$`(\text{I}\mathrm{.6.1})`$
est un anti-automorphisme de l’algèbre $`(𝒜,\mathrm{\#})`$.

Démonstration. Dans l’expression de l’étoile-produit on peut remplacer le paramètre $`\nu `$ par n’importe quelle série formelle sans terme constant. En particulier on peut remplacer $`\nu `$ par $`\mathrm{}=i\nu `$ (qui vérifie alors $`\overline{\mathrm{}}=\mathrm{}`$). L’étoile-produit $`\mathrm{\#}`$ étant défini par des opérateurs bi-différentiels à coefficients réels, on vérifie facilement que l’on a :

$$(f\mathrm{\#}_{\mathrm{}}g)^{}=f^{}\mathrm{\#}_{\mathrm{}}g^{}.$$
$`(\text{I}\mathrm{.6.2})`$
d’où l’on déduit :

$$(f\mathrm{\#}_\nu g)^{}=f^{}\mathrm{\#}_\nu g^{}.$$
$`(\text{I}\mathrm{.6.3})`$
Enfin, on sait (voir la remarque à la fin du § 2 de \[CF1\]) que l’ étoile-produit de Kontsevich vérifie la propriété de parité alternée de ses coefficients, c’est-à-dire :

$$f\mathrm{\#}_\nu g=g\mathrm{\#}_\nu f.$$
$`(\text{I}\mathrm{.6.4})`$
D’après (I.6.3) on a donc :

$$(f\mathrm{\#}_\nu g)^{}=g^{}\mathrm{\#}_\nu f^{},$$
$`(\text{I}\mathrm{.6.5})`$
d’où le résultat.

$``$

Proposition I.6.2.

L’involution $`ff^{}`$ est également un anti-automorphisme de l’algèbre $`(𝒜,)`$ munie de l’étoile-produit de Duflo-Kontsevich. Elle se restreint à $`A`$ et sa restriction est un (anti-) automorphisme de l’algèbre commutative $`A`$.

Démonstration. Soit $`D=I+\nu D_1+\mathrm{}`$ l’opérateur différentiel formel qui réalise l’équivalence entre les deux étoile-produits :

$$fg=D(D^1f\mathrm{\#}D^1g).$$
$`(\text{I}\mathrm{.6.6})`$
Cet opérateur d’équivalence $`D`$ est à coefficients réels, et commute donc avec l’involution $`ff^{}`$. L’involution semi-linéaire $`ff^0`$ définie par :

$$f^0=D[(D^1f)^{}]$$
$`(\text{I}\mathrm{.6.7})`$
coïncide donc avec $`ff^{}`$. Dans le cadre des variétés de Poisson linéaires (voir § II.1 ci-dessous) on a même l’égalité entre les deux étoile-produits. L’involution se restreint de manière évidente à $`A`$. De plus l’involution respecte $`\nu 𝒜`$, et l’involution ainsi définie sur $`𝒜/\nu 𝒜`$ correspond à cette restriction via l’isomorphisme canonique de $`A`$ sur $`𝒜/\nu 𝒜`$.

$``$

Soit $`\pi _\nu `$ une représentation de $`(𝒜,)`$ dans un module topologique $``$. A la suite de \[Bu-W\] on dit que $`\pi _\nu `$ est une $``$-représentation de $`𝒜`$ dans $``$ si on a :

$$<\pi _\nu (f)u,v>_\nu =<u,\pi _\nu (f)^{}v>_\nu ,u,v,f𝒜$$
$`(\text{I}\mathrm{.6.8})`$
pour une certaine forme sesquilinéaire $`<,>_\nu `$ hermitienne non-dégénérée (sans hypothèse de positivité) sur $``$ à valeurs dans $`\mathrm{}[[\nu ]]`$. On dira que l’$``$-représentation est unitaire si de plus cette forme sesquilinéaire est définie positive, c’est-à-dire $`<x,x>_\nu >0`$ pour tout $`x`$ non nul, l’ordre sur $`\mathrm{}[[\nu ]]`$ étant l’ordre lexicographique. Cette forme sesquilinéaire définit par passage au quotient une forme sesquilinéaire sur $`M=/\nu `$ à valeurs dans $`\mathrm{}`$. Nous supposerons que la forme $`<,>_\nu `$ est fortement non-dégénérée, c’est-à-dire que nous supposerons aussi non-dégénérée la forme quotient sur $`M`$. Dans ce cas on dira que l’$``$-représentation est fortement non dégénérée. Une représentation fortement non dégénérée et unitaire sera dite fortement unitaire. Un $`𝒜`$-module unitaire (resp. pseudo-unitaire) sera par définition un module topologique muni d’une représentation unitaire (resp. d’une $``$-représentation) de $`𝒜`$. Un $`𝒜`$-module fortement unitaire (resp. fortement pseudo-unitaire) sera par définition un module topologique muni d’une représentation fortement unitaire (resp. d’une $``$-représentation fortement non dégénérée) de $`𝒜`$.

Proposition I.6.3.

Soit $`\pi _\nu `$ une $``$-représentation fortement non-dégénérée de $`(𝒜,)`$ dans un module topologique $``$. Alors l’annulateur de $`M=/\nu `$ est engendré par un nombre fini d’éléments auto-adjoints de $`A`$. Il en est de même de $`\text{Ann}/(\text{Ann}\nu 𝒜)`$.

Démonstration. Tout élément $`f`$ de $`A`$ s’écrit de manière unique :

$$f=f^++if^{},$$
$`(\text{I}\mathrm{.6.9})`$
$`f^+`$ et $`f^{}`$ sont auto-adjoints. On a :

$$f^+=\frac{1}{2}(f+f^{}),f^{}=\frac{1}{2i}(ff^{}).$$
$`(\text{I}\mathrm{.6.10})`$
Grâce à la non-dégénérescence du produit scalaire sur $`M`$ on voit que si $`f`$ appartient à $`\text{Ann}M`$, $`f^{}`$ appartient aussi à $`\text{Ann}M`$. Soit $`\{f_1,\mathrm{},f_k\}`$ un système de générateurs de $`\text{Ann}M`$. Il est alors clair que $`\text{Ann}M`$ est engendré par $`\{f_1^+,\mathrm{},f_k^+,f_1^{},\mathrm{},f_k^{}\}`$. Le même raisonnement s’applique à $`\text{Ann}/(\text{Ann}\nu 𝒜)`$, comme on peut le voir en utilisant la deuxième égalité (I.5.3) et la pseudo-unitarité forte de $``$.

$``$

Corollaire I.6.4.

Sous les hypothèses ci-dessus, la variété caractéristique $`V()`$ d’un module fortement pseudo-unitaire est réelle, de même que sa variété de Poisson caractéristique $`VA()`$ lorsque $``$ est sans torsion.

Démonstration. La variété caractéristique $`V()`$ est définie par les $`2k`$ équations :

$$f_j^+(\xi )=f_j^{}(\xi )=0,j=1,\mathrm{},k.$$
$`(\text{I}\mathrm{.6.11})`$
Or les polynômes $`f_j^\pm `$ sont bien à coefficients réels par définition de l’involution. Le raisonnement pour $`VA()`$ est identique.

$``$

Remarque 1 : La proposition I.6.3 et le corollaire I.6.4 n’utilisent pas d’hypothèse de positivité sur le produit scalaire. Il faut noter que les notions de non-dégénérescence introduites ici sont différentes de celles introduites dans \[Bu-W\], qui par ailleurs se placent d’emblée dans le cas unitaire. Remarque 2 : On notera indifféremment $`V()=V(\pi _\nu )`$ pour la variété caractéristique, et $`VA()=VA(\pi _\nu )`$ pour la variété de Poisson caractéristique. I.7. Modules topologiquement libres convergents Nous aurons besoin par la suite de spécialiser le paramètre de déformation $`\nu `$ en une valeur complexe non nulle, en faisant converger les séries formelles. Soit $`=M[[\nu ]]`$ un module topologiquement libre sur l’algèbre déformée $`𝒜=A[[\nu ]]`$, et soit $`\pi _\nu `$ la représentation associée. On suppose de plus que $`M`$ est un espace topologique localement convexe séparé. Soit $`𝒜_0`$ la sous-$`\mathrm{}[\nu ]`$-algèbre de $`𝒜`$ engendrée par $`A`$. C’est l’ensemble des sommes :

$$\underset{j=0}{\overset{N}{}}\nu ^j\alpha _j,$$

$`n\mathrm{}`$ et chaque $`\alpha _j`$ est une somme de termes du type $`a_1\mathrm{}a_r`$, avec $`a_1,\mathrm{},a_rA`$. On dira que $`=M[[\nu ]]`$ est faiblement convergent s’il existe $`R>0`$ tel que pour tout $`a𝒜_0`$ et tout $`mM`$ la série entière $`\pi _\nu (a)m`$ converge faiblement pour $`\nu =\nu _0`$ dans le disque de rayon $`R`$ vers un vecteur de $`M`$ que l’on notera $`\stackrel{~}{\pi _{\nu _0}}(a)m`$. L’unicité de cette limite faible est assurée par le théorème de Hahn-Banach. Le rayon de convergence $`R_{}`$ du module est alors défini comme la borne supérieure des rayons $`R`$ ci-dessus.

Proposition I.7.1.

Un module topologiquement libre faiblement convergent $`=M[[\nu ]]`$ de rayon $`R_{}`$ induit une famille de représentations $`(\stackrel{~}{\pi _{\nu _0}})_{\nu _0D(0,R_{})}`$ de $`𝒜_0`$ dans $`M`$.

Démonstration. Pour tout $`a,bA`$, pour tout $`mM`$ et pour tout $`m^{}`$ dans le dual topologique $`M^{}`$ on a égalité entre séries formelles :

$$<m^{},\pi _\nu (ab)m>=<m^{},\pi _\nu (a)\pi _\nu (b)m>.$$
$`(\text{I}\mathrm{.7.1})`$
L’égalité reste valide lorsque $`a`$ et $`b`$ sont dans $`𝒜_0`$. On a convergence de ces deux séries entières en $`\nu =\nu _0D(0,R_{})`$ , et le membre de droite est aussi la limite de la série entière $`<m^{},\pi _\nu (a)\stackrel{~}{\pi _{\nu _0}}(b)m>`$ en $`\nu =\nu _0`$. On a donc pour tout $`\nu _0D(0,R_{})`$ l’égalité dans $`M`$ :

$$\stackrel{~}{\pi _{\nu _0}}(ab)m=\stackrel{~}{\pi _{\nu _0}}(a)\stackrel{~}{\pi _{\nu _0}}(b)m.$$
$`(\text{I}\mathrm{.7.2})`$
$``$

II. Application au cas des variétés de Poisson linéaires

Nous allons appliquer les résultats précédents aux représentations des algèbres de Lie. L’ingrédient essentiel ici est la spécialisation du paramètre de déformation $`\nu `$ en un imaginaire pur quelconque, ce qui permet (Théorème II.3.1) d’associer à un module topologiquement libre faiblement convergent fortement unitaire sur l’algèbre déformée une famille à un paramètre réel $`(\rho _{\mathrm{}})`$ de représentations unitaires d’algèbres de Lie. Soit $`V=\mathrm{}^d`$ une variété de Poisson linéaire. Alors le dual $`V^{}`$ des formes linéaires sur $`V`$ forme une sous-algèbre de Lie g de l’algèbre $`A`$ des polynômes sur $`V`$ munie du crochet de Poisson. On voit donc la variété de Poisson $`V`$ comme le dual $`\text{g}^{}`$ de l’algèbre de Lie g. Le crochet de Poisson de Kirillov-Kostant-Souriau s’exprime pour $`f,gA`$ et $`\xi \text{g}`$ par la formule \[W § 3\] :

$$\{f,g\}(\xi )=<\xi ,[df(\xi ),dg(\xi )]>.$$

II.1. L’algèbre $`(𝒜,)`$ Soit g une algèbre de Lie sur le corps $`\mathrm{}`$, et soit $`A=S(\text{g}^{\mathrm{}})`$. Il résulte des travaux de B. Shoikhet sur l’annulation des poids associés aux “roues” \[FS\], \[S\], que les deux étoile-produits $`\mathrm{\#}`$ et $``$ coïncident. L’algèbre $`(𝒜,)`$ est isomorphe à ”l’algèbre enveloppante formelle complexifiée” :

$$𝒰_\nu (\text{g}^{\mathrm{}})=T(\text{g}^{\mathrm{}})[[\nu ]]/<xyyx\nu [x,y]>,$$
$`(\text{II}\mathrm{.1.1})`$
et on a précisément :

$$fg=\tau ^1(\tau f.\tau g).$$
$`(\text{II}\mathrm{.1.2})`$
Ici $`\tau :𝒜U_\nu (\text{g}^{\mathrm{}})`$ est l’isomorphisme de Duflo \[D1\] :

$$\tau =\sigma J(D)^{1/2},$$
$`(\text{II}\mathrm{.1.3})`$
$`\sigma `$ est la symétrisation et $`J(D)^{1/2}`$ est l’opérateur différentiel d’ordre infini à coefficients constants correspondant à la série formelle :

$$J(x)^{1/2}=\left(\text{det}\frac{\text{sh}\text{ad}\frac{\nu }{2}x}{\text{ad}\frac{\nu }{2}x}\right)^{1/2}.$$
$`(\text{II}\mathrm{.1.4})`$
On notera $`(S^n(\text{g}^{\mathrm{}}))_{n0}`$ la filtration croissante usuelle de l’algèbre symétrique. On peut spécialiser la valeur du paramètre de déformation $`\nu `$ : en effet, pour tout $`f,g`$ dans $`A`$ la série en $`\nu `$ définissant $`fg`$ est polynomiale en $`\nu `$ \[K § 8\], et donc peut s’évaluer en tout nombre complexe $`\nu `$ : l’étoile-produit engendre donc une famille de lois associatives non-commutatives $`(_\nu )`$ sur $`A`$, le paramètre $`\nu `$ parcourant l’ensemble des nombres complexes. Chacune de ces algèbres s’identifie via l’isomorphisme de Duflo $`\tau _\nu `$ à l’algèbre enveloppante de l’algèbre de Lie $`\text{g}_\nu ^{\mathrm{}}`$, d’espace vectoriel sous-jacent $`\text{g}^{\mathrm{}}`$ mais avec le crochet défini par $`[x,y]_\nu =\nu [x,y]`$. Pour un paramètre réel $`\mathrm{}`$ on notera $`\text{g}_{\mathrm{}}`$ l’algèbre de Lie réelle d’espace vectoriel sous-jacent g mais avec le crochet défini par $`[x,y]_{\mathrm{}}=\mathrm{}[x,y]`$. II.2. Modules topologiquement libres convergents sur $`(𝒜,)`$ Nous reprenons les notations du § I.7. Rappelons que $`𝒜_0`$ désigne la sous-$`\mathrm{}[\nu ]`$-algèbre de $`𝒜`$ engendrée par $`A`$. Comme la série entière $`ab`$ est un polynôme en $`\nu `$ pour tout $`a,bA`$ on a :

$$𝒜_0=A[\nu ].$$

Pour tout $`\nu _0\mathrm{}`$ l’évaluation en $`\nu _0`$ :

$$\begin{array}{cc}\hfill \text{ev}_{\nu _0}:𝒜_0& (A,_{\nu _0})\hfill \\ \hfill \underset{k=0}{\overset{n}{}}\nu ^ka_k& \underset{k=0}{\overset{n}{}}\nu _0^ka_k\hfill \end{array}$$

est un morphisme de $`\mathrm{}`$-algèbres.

Proposition II.2.1.

Soit $`R>0`$, et soit pour tout $`\nu _0D(0,R)`$ une représentation $`\pi _{\nu _0}`$ de l’algèbre $`(A,_{\nu _0})`$ dans un espace vectoriel topologique localement convexe séparé $`M`$. On suppose que pour tout $`aA`$, $`mM`$ et $`\nu _0D(0,R)`$, le vecteur $`\pi _{\nu _0}(a)m`$ est donné par l’évaluation en $`\nu _0`$ d’une série entière faiblement convergente de rayon $`R`$. Alors tout $`\nu _0`$ dans le disque de rayon $`R`$ induit une représentation $`\stackrel{~}{\pi _{\nu _0}}=\pi _{\nu _0}\text{ev}_{\nu _0}`$ de $`𝒜_0`$ dans $`M`$, et $`=M[[\nu ]]`$ est alors un module topologiquement libre faiblement convergent de rayon $`R`$. Réciproquement un module topologiquement libre faiblement convergent de rayon $`R`$ induit pour tout $`\nu _0D(0,R)`$ une représentation $`\pi _{\nu _0}`$ de $`(A,_{\nu _0})`$ dans $`M`$.

Démonstration. Soient $`a,bA`$ et $`mM`$. L’égalité :

$$\pi _{\nu _0}(a_{\nu _0}b)m=\pi _{\nu _0}(a)\pi _{\nu _0}(b)m$$

pour tout $`\nu _0D(0,R)`$ implique l’égalité entre séries formelles :

$$\pi _\nu (ab)m=\pi _\nu (a)\pi _\nu (b)m,$$

ce qui fait de $`=M[[\nu ]]`$ un module topologiquement libre. Il est par construction faiblement convergent de rayon $`R`$. Réciproquement si $`M`$ est un espace vectoriel topologique localement convexe séparé et si $`=M[[\nu ]]`$ est un $`𝒜`$-module topologiquement libre faiblement convergent de rayon $`R`$, considérons pour tout $`\nu _0D(0,R)`$ la représentation $`\stackrel{~}{\pi _{\nu _0}}`$ de $`𝒜_0`$ dans $`M`$ donnée par la proposition $`I\mathrm{.7.1}`$. Si on note $`\pi _{\nu _0}`$ la restriction de $`\stackrel{~}{\pi _{\nu _0}}`$ à $`A𝒜_0`$, on a immédiatement pour tout $`mM`$ :

$$\begin{array}{cc}\hfill \pi _{\nu _0}(a)\pi _{\nu _0}(b)m& =\stackrel{~}{\pi _{\nu _0}}(a)\stackrel{~}{\pi _{\nu _0}}(b)m\hfill \\ & =\stackrel{~}{\pi _{\nu _0}}(ab)m\hfill \\ & =\pi _{\nu _0}(a_{\nu _0}b)m.\hfill \end{array}$$

$``$

II.3. Unitarité On appelle représentation unitaire d’une algèbre de Lie g une représentation $`\rho `$ dans un espace préhilbertien telle que les opérateurs $`\rho (X)`$ sont antihermitiens pour tout $`X\text{g}`$. Le théorème suivant montre comment relier un module topologiquement libre sur $`𝒜`$ fortement unitaire et convergent à une famille $`\rho _{\mathrm{}}`$ de représentations unitaires de l’algèbre de Lie $`\text{g}_{\mathrm{}}`$, lorsque $`\mathrm{}`$ prend des valeurs réelles.

Théorème II.3.1.

Soit $`R>0`$, et soit $`M`$ un espace vectoriel topologique localement convexe séparé $`M`$ préhilbertien (i.e. muni d’un produit scalaire hermitien). On suppose que $`=M[[\nu ]]`$ est un module topologiquement libre faiblement convergent de rayon $`R`$. Soit pour tout $`\nu _0D(0,R)`$ la représentation $`\pi _{\nu _0}`$ de l’algèbre $`(A,_{\nu _0})`$ dans $`M`$ associée à $``$ par la proposition II.2.1. Alors : 1 ) l’égalité :

$$\rho _{\mathrm{}}(X)=i\pi _i\mathrm{}(X)$$

définit une représentation $`\rho _{\mathrm{}}`$ de l’algèbre de Lie $`\text{g}_{\mathrm{}}`$ dans $`M`$ pour tout $`\mathrm{}D(0,R)`$. 2 ) Les deux propositions suivantes sont équivalentes : a) Pour tout $`\mathrm{}]R,R[`$ la représentation $`\rho _{\mathrm{}}`$ est unitaire. b) Le module topologiquement libre $`=M[[\nu ]]`$, muni du produit scalaire à valeurs dans $`\mathrm{}[[\nu ]]`$ prolongeant naturellement celui de $`M`$, est fortement unitaire.

Démonstration. On a pour $`X,Y\text{g}`$ :

$$\begin{array}{cc}\hfill [\rho _{\mathrm{}}(X),\rho _{\mathrm{}}(Y)]& =[\pi _i\mathrm{}(X),\pi _i\mathrm{}(Y)]\hfill \\ & =i\mathrm{}\pi _i\mathrm{}([X,Y])\hfill \\ & =\mathrm{}\rho _{\mathrm{}}([X,Y]),\hfill \\ & =\rho _{\mathrm{}}([X,Y]_{\mathrm{}}),\hfill \end{array}$$

d’où la première partie de la proposition. L’unitarité du module topologique $`=M[[\nu ]]`$ se traduit pour tout $`a𝒜`$ et $`u,v`$ par l’égalité entre séries formelles :

$$<\pi _\nu (a)u,v>=<u,\pi _\nu (a^{})v>.$$

Comme nous avons supposé que l’indéterminée $`\nu `$ est imaginaire pure, cette égalité se spécialise (au vu de la proposition II.2.1) en tout paramètre $`\nu _0i]R,R[`$ : pour tout $`aA`$ et $`u,vM`$ on a :

$$<\pi _{\nu _0}(a)u,v>=<u,\pi _{\nu _0}(a^{})v>.$$

Comme $`X^{}=X`$ pour tout $`X\text{g}`$ on voit immédiatement que les opérateurs $`\pi _i\mathrm{}(X)`$ sont bien hermitiens pour tout $`\mathrm{}]R,R[`$. L’opérateur $`\rho _{\mathrm{}}(X)`$ est donc bien antihermitien, d’où l’implication $`b)a)`$. La réciproque est immédiate.

$``$

III. Exemples

Nous explicitons ici la variété caractéristique et la variété de Poisson caractéristique dans quelques exemples Poisson-linéaires. Le lemme suivant nous sera utile dans plusieurs de ces exemples ainsi qu’au chapitre IV :

Lemme III.0.1.

Soit $`K`$ un compact de $`\mathrm{}^n`$ d’intérieur non vide, $`m`$ un entier non nul, $`R>0`$, et soit $`(P_\nu )_{\nu D(0,R)}`$ une famille d’opérateurs différentiels d’ordre $`m`$ dont les coefficients restreints à $`K`$ dépendent analytiquement de $`\nu `$. Alors pour tout $`\phi C_c^{\mathrm{}}(\mathrm{}^n)`$ à support inclus dans $`K`$ et pour toute distribution $`T`$ de support inclus dans $`K`$ la fonction $`\nu <T,P_\nu (\phi )>`$ est analytique sur $`D(0,R)`$.

Démonstration. Soit $`C_K^{\mathrm{}}(\mathrm{}^n)`$ l’espace des fonctions lisses sur $`\mathrm{}^n`$ à support inclus dans $`K`$. On munit cet espace de la topologie de Fréchet définie par les seminormes :

$$N_k(\phi )=\underset{|\alpha |k}{\text{sup}}\underset{xK}{\text{sup}}|D^\alpha \phi (x)|.$$

On considère le laplacien $`\mathrm{\Delta }`$ sur $`\mathrm{}^n`$. Il existe un entier $`L`$ tel que la distribution $`(1\mathrm{\Delta })^LT`$ soit une fonction continue sur $`K`$, car $`T`$ est d’ordre fini. On a alors par intégrations par parties :

$$<T,P_\nu (\phi )>=_K(1\mathrm{\Delta })^LT(x)(1\mathrm{\Delta })^LP_\nu (\phi )(x)𝑑x.$$

On écrit le développement en série entière :

$$(1\mathrm{\Delta })^LP_\nu (\phi )(x)=P_\nu ^{}(\phi )(x)=\underset{k0}{}\nu ^kQ_k(\phi )(x),$$

où les $`Q_k`$ sont des opérateurs différentiels d’ordre $`m+2L`$. Les coefficients de $`P_\nu ^{}`$ étant donnés sur $`K`$ par des séries entières convergentes sur $`D(0,R)`$, il existe pour tout $`r<R`$ une constante $`C`$ telle que les coefficients de $`Q_k`$ sont tous majorés sur $`K`$ en module par $`Cr^k`$. On a donc :

$$\underset{xK}{\text{sup}}|Q_k(\phi )(x)|C^{}r^kN_{m+2L}(\phi ),$$

d’où la majoration :

$$|_K(1\mathrm{\Delta })^LT(x)Q_k\phi (x)𝑑x|C^{}(\text{Vol}K)N_{m+2L}(\phi )\underset{xK}{\text{sup}}|(1\mathrm{\Delta })^LT(x)|r^k.$$

Sur le disque de rayon $`r`$ l’expression $`<T,P_\nu (\phi )>`$ est donc donnée par la série entière convergente :

$$<T,P_\nu (\phi )>=\underset{k0}{}\nu ^k_K(1\mathrm{\Delta })^LT(x)Q_k\phi (x)𝑑x.$$

Ceci étant vrai pour tout $`r<R`$ on a bien convergence de cette série entière sur $`D(0,R)`$.

$``$

III.1. Le groupe de Heisenberg Considérons le groupe de Heisenberg $`H_{2n+1}=\mathrm{}^n\times \mathrm{}^n\times \mathrm{}`$ muni du produit

$$(x,y,z)(x^{},y^{},z^{})=(x+x^{},y+y^{},z+z^{}+\frac{1}{2}(xy^{}x^{}y)).$$

Son algèbre de Lie $`\text{h}_{2n+1}`$ est engendrée par $`<X_1,\mathrm{},X_n,Y_1,\mathrm{},Y_n,Z>`$ dont les crochets de Lie sont donnés par :

$$[X_i,X_j]=\delta _{ij}Z,i,j=1,\mathrm{},n.$$

Pour $`f_\lambda =\lambda Z^{}+{\displaystyle \underset{i=1}{\overset{n}{}}}a_iX_i^{}+{\displaystyle \underset{i=1}{\overset{n}{}}}b_iY_i^{}\text{h}_{2n+1}^{}`$, considérons la représentation $`\rho ^\lambda `$ associée à $`f_\lambda `$ par la méthode des orbites. Cas 1 : Si $`\lambda 0`$ on peut prendre $`f_\lambda =\lambda Z^{}`$, en effet, la dimension de $`\rho ^\lambda `$ est infinie et l’orbite associée à $`f_\lambda `$ sous l’action coadjointe est $`\mathrm{\Omega }_{f_\lambda }=\{(\lambda ,u,v),u,v\mathrm{}^n\}`$.

Si on réalise $`\rho ^\lambda `$ à l’aide de la polarisation $`\text{b}=<Y_1,Y_2,\mathrm{},Y_n,Z>`$, alors $`\rho ^\lambda `$ agit sur l’espace $`L^2(\mathrm{}^n)`$. On notera aussi $`\rho ^\lambda `$ sa différentielle, qui se réalise dans l’espace de Fréchet des vecteurs $`C^{\mathrm{}}`$, qui est ici l’espace de Schwartz $`𝒮(\mathrm{}^n)`$ \[Ki\]. Elle est donnée par :

$$\{\begin{array}{cc}\rho ^\lambda (Z)=i\lambda \hfill & \\ \rho ^\lambda (X_i)=\frac{}{t_i},i=1,\mathrm{},n\hfill & \\ \rho ^\lambda (Y_j)=it_j,j=1,\mathrm{},n.\hfill & \end{array}$$

Ainsi, la représentation $`\rho _{\mathrm{}}^\lambda `$ est définie par les relations :

$$\{\begin{array}{cc}\rho _{\mathrm{}}^\lambda (Z)=i\lambda \hfill & \\ \rho _{\mathrm{}}^\lambda (X_i)=\frac{}{t_i},i=1,\mathrm{},n\hfill & \\ \rho _{\mathrm{}}^\lambda (Y_j)=i\mathrm{}t_j,j=1,\mathrm{},n.\hfill & \end{array}$$

Le caractère polynomial en $`\mathrm{}`$ de ces expressions nous permet d’utiliser la proposition II.2.1 et le théorème II.3.1, ce qui fait de $`=𝒮(\mathrm{}^n)[[\nu ]]`$ un module topologiquement libre faiblement convergent (de rayon infini) fortement unitaire. La représentation de $`𝒜`$ associée s’écrit :

$$\{\begin{array}{cc}\pi _\nu ^\lambda (Z)=\lambda \hfill & \\ \pi _\nu ^\lambda (X_i)=i\frac{}{t_i},i=1,\mathrm{},n\hfill & \\ \pi _\nu ^\lambda (Y_j)=i\nu t_j,j=1,\mathrm{},n.\hfill & \end{array}$$

L’annulateur de $`\pi _\nu ^\lambda `$ est donc engendré par $`Z\lambda `$, et donc :

$$VA(\pi _\nu ^\lambda )=\mathrm{\Omega }_{f_\lambda }.$$

Par suite,

$$\{\begin{array}{cc}\pi _0^\lambda (Z)=\lambda \hfill & \\ \pi _0^\lambda (X_i)=i\frac{}{t_i},i=1,\mathrm{},n\hfill & \\ \pi _0^\lambda (Y_j)=0,j=1,\mathrm{},n.\hfill & \end{array}$$

On en déduit alors que $`\text{Ann}(\pi _0^\lambda )`$ est engendré par $`<Z\lambda ,Y_j,j=1,\mathrm{},n>`$.

Il vient alors que :

$$\begin{array}{cc}\hfill V(\pi _\nu ^\lambda )& =\{l\text{h}_{2n+1}^{}/l(Z\lambda )=0\text{et}l(Y_j)=0,j=1,\mathrm{},n\}\hfill \\ & =\lambda Z^{}_{i=1}^n\mathrm{}X_i^{}=f_\lambda +\text{b}^{}.\hfill \end{array}$$

Un calcul analogue montre que si on réalise $`\rho ^\lambda `$ à l’aide de la polarisation

$`\text{b}^{}=<X_1,\mathrm{},X_n,Z>`$, alors on a aussi que $`V(\pi _\nu ^\lambda )=f_\lambda +\text{b}_{}^{}{}_{}{}^{}`$ et donc on voit clairement que $`V(\pi _\nu ^\lambda )`$ dépend de la réalisation de $`\pi ^\lambda `$. Cas 2 : Si $`\lambda =0`$, alors, l’orbite $`\mathrm{\Omega }_{f_0}`$ se réduit au point $`\{f_0\}`$ et la polarisation associée à $`f_0`$ est l’algèbre de Lie $`\text{h}_{2n+1}`$ toute entière. Ainsi,

$$\rho ^0(X)=if_0(X),\text{pour tout}X\text{h}_{2n+1}.$$

Dans ce cas, on a que : $`\pi _\nu ^0(X)=\pi _0^0(X),\text{pour tout}X\text{h}_{2n+1}`$. On en déduit alors que l’annulateur de $`\pi _\nu ^0`$ est l’idéal engendré par $`\{Xf_0(X),X\text{h}_{2n+1}\}`$. Il s’ensuit alors que

$$\begin{array}{cc}\hfill V(\pi _\nu ^0)& =\{l\text{h}_{2n+1}^{}/l(Xf_0(X))=0,X\text{h}_{2n+1}\}\hfill \\ & =\{f_0\},\hfill \end{array}$$

et de même, $`VA(\pi _\nu ^0)=\{f_0\}`$.

III.2. L’algèbre de Lie filiforme de pas $`n`$ Considérons le groupe de Lie nilpotent filiforme de pas $`n`$, $`G_n`$ d’algèbre de Lie $`\text{g}_n`$ de dimension $`n+1`$ muni d’une base de Jordan-Hölder $`(X_1,\mathrm{},X_{n+1})`$ avec

$$[X_{n+1},X_j]=X_{j1},j=2,\mathrm{},n.$$

Soit $`(X_1^{},\mathrm{},X_{n+1}^{})`$ la base duale de $`\text{g}^{}`$. Le centre de g est engendré par le vecteur $`X_1`$. Soit $`l=l_1X_1^{}+\mathrm{}+l_{n+1}X_{n+1}^{}\text{g}^{}`$ avec $`l_10`$. Alors, $`\text{b}(l)=`$Vect$`\{X_1,\mathrm{},X_n\}`$ est un idéal abélien de $`\text{g}_n`$ qui polarise $`l`$.

Comme l’ensemble indice de Pukanszky est $`\{2,n+1\}`$, sans perte de généralité, on peut supposer que $`l_2=l_{n+1}=0`$ (voir \[BBR\]). La représentation unitaire et irréductible $`\rho =\rho _l`$ associée à $`l`$ se réalise alors sur $`L^2(\mathrm{})`$. Sa différentielle est donnée par :

$$\{\begin{array}{cc}\rho (X_{n+1})=\frac{}{t}\hfill & \\ \rho (X_1)=il_1\hfill & \\ \rho (X_2)=itl_1\hfill & \\ \rho (X_3)=i(l_3+\frac{1}{2}t^2l_1)\hfill & \\ .\hfill & \\ .\hfill & \\ .\hfill & \\ \rho (X_n)=i(l_nl_{n1}t+\frac{1}{2}l_{n2}t^2+\mathrm{}+(1)^{n3}\frac{l_3}{(n3)!}t^{n3}+(1)^{n1}\frac{l_1}{(n1)!}t^{n1}).\hfill & \end{array}$$

Il s’ensuit alors que la représentation $`\rho _{\mathrm{}}`$ est déterminée par :

$$\{\begin{array}{cc}\rho _{\mathrm{}}(X_{n+1})=\frac{}{t}\hfill & \\ \rho _{\mathrm{}}(X_1)=il_1\hfill & \\ \rho _{\mathrm{}}(X_2)=+i\mathrm{}tl_1\hfill & \\ \rho _{\mathrm{}}(X_3)=i(l_3+\frac{1}{2}\mathrm{}^2t^2l_1)\hfill & \\ .\hfill & \\ .\hfill & \\ .\hfill & \\ \rho _{\mathrm{}}(X_n)=i(l_nl_{n1}\mathrm{}t+\frac{1}{2}l_{n2}\mathrm{}^2t^2+\mathrm{}+\frac{l_3}{(n3)!}(\mathrm{}t)^{n3}+\frac{l_1}{(n1)!}(\mathrm{}t)^{n1}).\hfill & \end{array}$$

Ces expressions étant polynomiales en $`\mathrm{}`$ on peut encore appliquer la proposition II.2.1 et le théorème II.3.1, ce qui fait de $`=𝒮(\mathrm{})[[\nu ]]`$ un module faiblement convergent fortement unitaire. On obtient :

$$\{\begin{array}{cc}\pi _\nu (X_{n+1})=i\frac{}{t}\hfill & \\ \pi _\nu (X_1)=l_1\hfill & \\ \pi _\nu (X_2)=+i\nu tl_1\hfill & \\ \pi _\nu (X_3)=l_3\frac{1}{2}\nu ^2t^2l_1\hfill & \\ .\hfill & \\ .\hfill & \\ .\hfill & \\ \pi _\nu (X_n)=l_n+i\nu l_{n1}t\frac{1}{2}\nu ^2l_{n2}t^2+\mathrm{}+(i\nu )^{n3}\frac{l_3}{(n3)!}t^{n3}+(i\nu )^{n1}\frac{l_1}{(n1)!}t^{n1}.\hfill & \end{array}$$

Faisant $`\nu =0`$ on obtient donc :

$$\{\begin{array}{cc}\pi _0(X_{n+1})=i\frac{}{t}\hfill & \\ \pi _0(X_1)=l_1\hfill & \\ \pi _0(X_2)=0\hfill & \\ \pi _0(X_3)=l_3\hfill & \\ .\hfill & \\ .\hfill & \\ .\hfill & \\ \pi _0(X_n)=l_n.\hfill & \end{array}$$

En remarquant que Ann$`(\pi _0)`$ est engendré par $`<X_1l_1,X_2,X_3l_3,\mathrm{},X_nl_n>`$, il vient que pour $`f=(f_1,\mathrm{},f_{n+1})\text{g}^{}`$, $`fV(\pi _\nu )`$ si et seulement si $`fl+\text{b}(l)^{}`$. D’autre part on voit que l’annulateur de $`\pi _\nu `$ est engendré par les $`v_k,k=1,\mathrm{},n`$, avec :

$$v_k=X_kl_k\frac{l_{k1}}{l_1}X_2\frac{l_{k2}}{2l_1^2}X_2^2\mathrm{}\frac{l_3}{(k3)!l_1^{k3}}X_2^{k3}\frac{1}{(k1)!l_1^{k2}}X_2^{k1}.$$

La variété de Poisson caractéristique $`VA(\pi _\nu )`$ est donc égale à l’orbite coadjointe $`\mathrm{\Omega }_l`$. III.3. L’algèbre de Lie du groupe affine de la droite : Considérons le groupe de Lie complétement résoluble $`\mathrm{"}aX+b\mathrm{"}`$ défini par

$`G=\{\left(\begin{array}{cc}a& b\\ 0& 1\end{array}\right),a,b\mathrm{}\text{et}a>0\}.`$ Son algèbre de Lie est $`\text{g}=\mathrm{}X\mathrm{}Y`$,

$`X=\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right)\text{et}Y=\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)`$ et dont le crochet de Lie est donné par $`[X,Y]=Y`$.

Ce groupe possède deux représentations unitaires et irréductibles $`\rho _+`$ et $`\rho _{}`$ associées respectivement aux formes linéaires $`Y^{}`$ et $`Y^{}`$. Les différentielles de ces représentations sont définies par :

$$\{\begin{array}{cc}\rho _+(X)=\frac{d}{dx}\hfill & \\ \rho _+(Y)=ie^x\hfill & \end{array}\text{et}\{\begin{array}{cc}\rho _{}(X)=\frac{d}{dx}\hfill & \\ \rho _{}(Y)=ie^x.\hfill & \end{array}$$

Alors, les expressions de $`\rho _{+,\mathrm{}}`$ et $`\rho _,\mathrm{}`$ sont données respectivement par :

$$\{\begin{array}{cc}\rho _{+,\mathrm{}}(X)=\frac{d}{dx}\hfill & \\ \rho _{+,\mathrm{}}(Y)=ie^\mathrm{}x\hfill & \end{array}\text{et}\{\begin{array}{cc}\rho _,\mathrm{}(X)=\frac{d}{dx}\hfill & \\ \rho _,\mathrm{}(Y)=ie^\mathrm{}x.\hfill & \end{array}$$

On restreint ces différentielles à $`M=C_K^{\mathrm{}}(\mathrm{})`$$`K`$ est un compact d’intérieur non vide. Appliquant d’abord le lemme III.0.1 puis la proposition II.2.1 et le théorème II.3.1, on fait de $`=M[[\nu ]]`$ un module faiblement convergent fortement unitaire (de rayon infini). Les annulateurs des représentations $`\pi _{+\nu }`$ et $`\pi _\nu `$ sont réduits au singleton $`\{0\}`$ et par conséquent, les ensembles $`VA(\pi _{+,\nu })`$ et $`VA(\pi _{,\nu })`$ sont égaux à $`\text{g}^{}`$. En prenant $`\nu =0`$, il vient que les annulateurs de $`\pi _{+,0}`$ et $`\pi _{,0}`$ sont respectivement engendrés par $`Y1`$ et $`Y+1`$. On obtient alors que :

$$\begin{array}{cc}\hfill V(\pi _{+,\nu })& =\{l=xX^{}+yY^{}\text{g}^{}/\phi \text{Ann}\pi _{+,0},\phi (l)=0\}\hfill \\ & =\{l=xX^{}+yY^{}\text{g}^{}/y1=0\}=Y^{}+\text{b}^{}\hfill \end{array}$$

$`\text{b}=\mathrm{}Y`$ est la polarisation asoociée aux formes $`Y^{}`$ et $`Y^{}`$. De même,

$$V(\pi _{,\nu })=\{l=xX^{}+yY^{}\text{g}^{}/y+1=0\}=Y^{}+\text{b}^{}.$$

Remarque : Pour ces deux représentations, la variété de Poisson caractéristique coïncide avec l’adhérence de Zariski de l’orbite coadjointe associée. III.4. Un exemple résoluble exponentiel de dimension 3: Soit g l’algèbre de Lie engendrée par les trois vecteurs $`\{A,X,Y\}`$ dont les crochets de Lie sont donnés par: $`[A,X]=XY`$, $`[A,Y]=X+Y`$ et soit $`G=\mathrm{exp}\text{g}`$. Alors, $`G`$ est un groupe de Lie exponentiel non complètement résoluble.

Soit $`f=xX^{}+yY^{}+aA^{}\text{g}^{}`$. Si $`x^2+y^2=0`$, alors, l’orbite de $`f`$ est réduite au singleton $`\{f\}`$. Ainsi, le calcul précédent de l’exemple III.1. montre que dans ce cas, $`V(\pi _{f,\nu })=\{f\}`$.

Dans le cas où $`x^2+y^20`$, la sous-algèbre b engendrée par $`<X,Y>`$ est une polarisation de $`f`$ vérifiant la condition de Pukanszky. Soit alors $`\chi _f`$ le caractère défini sur $`B=\mathrm{exp}\text{b}`$ par $`\chi _f(\mathrm{exp}U)=e^{if(U)}`$ et $`\rho _f=\text{Ind}_B^G\chi _f`$. On sait \[ABLS\] qu’il existe un unique $`\theta [0,2\pi [`$ tel que $`\rho =\rho _\theta =\rho _{f_\theta }`$$`f_\theta =\mathrm{cos}\theta X^{}+\mathrm{sin}\theta Y^{}`$. L’orbite $`\mathrm{\Omega }`$ associée à $`\rho `$ est paramétrisée par

$$\mathrm{\Omega }=\{sA^{}+e^t\mathrm{cos}(t+\theta )X^{}+e^t\mathrm{sin}(t+\theta )Y^{},s,t\mathrm{}\}.$$

D’autre part, on a que :

$$\{\begin{array}{cc}\rho (A)=\frac{d}{dt}\hfill & \\ \rho (X)=ie^t\mathrm{cos}(\theta +t)\hfill & \\ \rho (Y)=ie^t\mathrm{sin}(\theta +t)\hfill & \end{array}\text{et}\{\begin{array}{cc}\rho _{\mathrm{}}(A)=\frac{d}{dt}\hfill & \\ \rho _{\mathrm{}}(X)=ie^\mathrm{}t\mathrm{cos}(\theta +\mathrm{}t)\hfill & \\ \rho _{\mathrm{}}(Y)=ie^\mathrm{}t\mathrm{sin}(\theta +\mathrm{}t).\hfill & \end{array}$$

On se restreint comme dans l’exemple précédent à $`M=C_K^{\mathrm{}}(\mathrm{})`$$`K`$ est un compact d’intérieur non vide. Appliquant d’abord le lemme III.0.1 puis la proposition II.2.1 et le théorème II.3.1, on fait de $`=M[[\nu ]]`$ un module faiblement convergent fortement unitaire (de rayon infini). La représentation $`\pi _\nu `$ de $`𝒜`$ s’écrit :

$$\{\begin{array}{cc}\pi _\nu (A)=i\frac{d}{dt}\hfill & \\ \pi _\nu (X)=e^{i\nu t}\mathrm{cos}(\theta i\nu t)\hfill & \\ \pi _\nu (Y)=e^{i\nu t}\mathrm{sin}(\theta i\nu t).\hfill & \end{array}\text{et}\{\begin{array}{cc}\pi _0(A)=i\frac{d}{dt}\hfill & \\ \pi _0(X)=\mathrm{cos}\theta \hfill & \\ \pi _0(Y)=\mathrm{sin}\theta .\hfill & \end{array}$$

Il s’ensuit alors que l’annulateur de $`\pi _\nu `$ est réduit à $`\{0\}`$, et donc :

$$VA(\pi _\nu )=\text{g}^{}.$$

La variété de Poisson caractéristique coïncide donc ici aussi avec l’adhérence de Zariski de l’orbite coadjointe associée. Pour le voir il suffit de se convaincre que la spirale logarithmique est Zariski-dense dans le plan, en remarquant que toute droite passant par l’origine intersecte cette spirale en une infinité de points. Par ailleurs l’annulateur de $`\pi _0`$ est l’idéal engendré par les deux générateurs $`\{X\mathrm{cos}\theta ,Y\mathrm{sin}\theta \}`$. Soit $`B=\mathrm{exp}\text{b}`$. La représentation $`\rho `$ agit sur l’espace $`L^2(G/B)`$ qui est isomorphe à $`L^2(\mathrm{exp}\mathrm{}A)`$. On a alors,

$$\begin{array}{cc}\hfill V(\pi _\nu )& =\{l\text{g}^{}/l(X\mathrm{cos}\theta )=0\text{et}l(Y\mathrm{sin}\theta )=0\}\hfill \\ & =f_\theta +\mathrm{}A^{}=f_\theta +\text{b}^{}.\hfill \end{array}$$

III.5. L’algèbre de Lie du groupe diamant C’est l’algèbre de Lie réelle g de dimension $`4`$ de base $`(H,P,Q,E)`$ avec les crochets :

$$[H,P]=Q,[H,Q]=P,[P,Q]=E,$$

les autres crochets étant nuls. Notre référence est M. Vergne dans \[BCD Chap. VIII § 1.4\]. Si $`X=aH+bP+cQ+dE`$ on calcule facilement la matrice de $`\text{ad}X`$ dans cette base :

$$\text{ad}X=\left(\begin{array}{cccc}0& 0& 0& 0\\ c& 0& a& 0\\ b& a& 0& 0\\ 0& c& b& 0\end{array}\right).$$

On a également :

$$(\text{ad}X)^2=\left(\begin{array}{cccc}0& 0& 0& 0\\ ab& a^2& 0& 0\\ ac& 0& a^2& 0\\ b^2+c^2& ab& ac& 0\end{array}\right),$$

ainsi que l’égalité :

$$(\text{ad}X)^3=a^2(\text{ad}X).$$

On en déduit l’expression explicite :

$$\mathrm{exp}(\text{ad}X)=I+\frac{\mathrm{sin}a}{a}\text{ad}X+\frac{1\mathrm{cos}a}{a^2}(\text{ad}X)^2.$$

Après transposition et passage à l’inverse on en déduit la matrice de $`\mathrm{exp}(\text{ad}^{}X)`$ dans la base duale :

$$\mathrm{exp}(\text{ad}^{}X)=\left(\begin{array}{cccc}1& c\frac{\mathrm{sin}a}{a}+b\frac{1\mathrm{cos}a}{a}& b\frac{\mathrm{sin}a}{a}+c\frac{1\mathrm{cos}a}{a}& (b^2+c^2)\frac{1\mathrm{cos}a}{a^2}\\ 0& \mathrm{cos}a& \mathrm{sin}a& c\frac{\mathrm{sin}a}{a}b\frac{1\mathrm{cos}a}{a}\\ 0& \mathrm{sin}a& \mathrm{cos}a& b\frac{\mathrm{sin}a}{a}c\frac{1\mathrm{cos}a}{a}\\ 0& 0& 0& 1\end{array}\right).$$

L’action coadjointe de $`\mathrm{exp}X`$ sur un élément $`\xi =\mu H^{}+\beta P^{}+\gamma Q^{}+\lambda E^{}`$ s’écrit donc :

$$\begin{array}{cc}\hfill \text{Ad}^{}(\mathrm{exp}X).\xi & =(\mu +(c\frac{\mathrm{sin}a}{a}+b\frac{1\mathrm{cos}a}{a})\beta +(b\frac{\mathrm{sin}a}{a}+c\frac{1\mathrm{cos}a}{a})\gamma \hfill \\ & +(b^2+c^2)\frac{1\mathrm{cos}a}{a^2}\lambda )H^{}\hfill \\ & +\left((\mathrm{cos}a)\beta +(\mathrm{sin}a)\gamma +(c\frac{\mathrm{sin}a}{a}b\frac{1\mathrm{cos}a}{a})\lambda \right)P^{}\hfill \\ & +\left((\mathrm{sin}a)\beta +(\mathrm{cos}a)\gamma +(b\frac{\mathrm{sin}a}{a}c\frac{1\mathrm{cos}a}{a})\lambda \right)Q^{}\hfill \\ & +\lambda E^{}.\hfill \end{array}$$

On note $`\xi _i`$ la i-ème coordonnée de $`\text{Ad}^{}(\mathrm{exp}X).\xi `$. La dernière coordonnée $`\xi _4`$ est ici invariante sous l’action coadjointe. Deux cas sont à considérer : Premier cas: $`\xi _4=\lambda =0`$. L’expression $`\xi _2^2+\xi _3^2=\beta ^2+\gamma ^2`$ est invariante sur le sous-espace défini par $`\xi _4=0`$. On voit alors que les orbites coadjointes correspondantes sont les cylindres d’axe $`H^{}`$ et chacun des points de cet axe, suivant que $`\xi _2^2+\xi _3^2`$ est strictement positif ou s’annule. Ce sont exactement les orbites coadjointes du quotient de g par son centre (l’algèbre de Lie du groupe des déplacements du plan) : nous traitons cet exemple au paragraphe suivant. Deuxième cas : $`\xi _4=\lambda 0`$. Faisant agir $`\mathrm{exp}Y`$ sur $`\xi `$ avec $`Y=bP+cQ`$ on obtient :

$$\begin{array}{cc}\hfill \text{Ad}^{}(\mathrm{exp}Y).\xi & =\left(\mu +c\beta +b\gamma +(b^2+c^2)\lambda \right)H^{}\hfill \\ & +(\beta +c\lambda )P^{}\hfill \\ & +(\gamma b\lambda )Q^{}\hfill \\ & +\lambda E^{}.\hfill \end{array}$$

En choisissant bien $`b`$ et $`c`$ on peut donc se ramener au cas où $`\beta =\gamma =0`$, ce que nous supposerons. La formule explicite donnant $`\text{Ad}^{}(\mathrm{exp}X).\xi `$ se simplifie alors :

$$\begin{array}{cc}\hfill \text{Ad}^{}(\mathrm{exp}X).\xi & =\left(\mu +(b^2+c^2)\frac{1\mathrm{cos}a}{a^2}\lambda \right)H^{}\hfill \\ & +(c\frac{\mathrm{sin}a}{a}b\frac{1\mathrm{cos}a}{a})\lambda P^{}\hfill \\ & +(b\frac{\mathrm{sin}a}{a}c\frac{1\mathrm{cos}a}{a})\lambda Q^{}\hfill \\ & +\lambda E^{}.\hfill \end{array}$$

On voit que l’on a :

$$\begin{array}{cc}\hfill \xi _1\frac{\xi _{2}^{}{}_{}{}^{2}+\xi _{3}^{}{}_{}{}^{2}}{2\xi _4}& =\mu \hfill \\ \hfill \xi _4& =\lambda .\hfill \end{array}$$
$`(\text{III}\mathrm{.5.1})`$
Les orbites coadjointes dans ce cas-là sont donc les paraboloïdes de révolution $`\mathrm{\Omega }_{\lambda ,\mu }`$ d’axe $`H^{}`$ donnés par les équations III.5.1.

Soit $`\phi `$ la fonction entière d’une variable complexe définie par :

$$\phi (z)=\frac{\text{sh}z/2}{z/2}.$$

Il est clair que la matrice de $`\phi ^{1/2}(\text{ad}X)`$ est de la forme :

$$\left(\begin{array}{cccc}1& 0& 0& 0\\ & \phi ^{1/2}(ia)& 0& 0\\ & & \phi ^{1/2}(ia)& 0\\ & & & 1\end{array}\right),$$

d’où avec les notations du § II.1 :

$$J(X)^{1/2}=\frac{\mathrm{sin}(\nu a/2)}{\nu a/2}.$$

L’isomorphisme de Duflo est donc donné par :

$$\tau =\frac{\mathrm{sin}(\nu _1/2)}{\nu _1/2}\sigma ,$$

$`_1`$ désigne l’opérateur de dérivée partielle $`{\displaystyle \frac{}{\xi _1}}`$ dans $`\text{g}^{}`$, et où $`\sigma `$ désigne la symétrisation. Compte tenu des équations III.5.1 on voit facilement que l’algèbre $`S(\text{g})^\text{g}`$ des polynômes invariants sur $`\text{g}^{}`$ est engendrée par $`C_1`$ et $`C_2`$, avec $`C_1(\xi )=\xi _4`$ et $`C_2(\xi )=\xi _2^2+\xi _3^22\xi _1\xi _4`$. L’orbite coadjointe $`\mathrm{\Omega }_{\lambda ,\mu }`$ définie par III.5.1 est donnée de façon équivalente par les équations :

$$C_1(\xi )=\lambda ,C_2(\xi )=2\lambda \mu .$$
$`(\text{III}\mathrm{.5.2})`$
L’opérateur $`J(D)^{1/2}`$ agit par l’identité sur ces deux générateurs, et donc l’isomorphisme de Duflo $`\tau `$ se ramène à appliquer la symétrisation sur les deux générateurs. Nous noterons encore un peu abusivement $`C_1`$ et $`C_2`$ les deux Casimirs $`\tau (C_1)`$ et $`\tau (C_2)`$. On a explicitement :

$$C_1=E,C_2=P^2+Q^22EH.$$

Nous utilisons maintenant les notations du § II. Pour tout réel $`\mathrm{}`$ il existe une famille de représentations unitaires irréductibles $`\rho _{\lambda ,\mu ;\mathrm{}}`$ de $`G_{\mathrm{}}=\mathrm{exp}\text{g}_{\mathrm{}}`$, dont les différentielles sont définies sur l’espace de Schwartz $`𝒮(\mathrm{})`$ (muni du produit scalaire de $`L^2(\mathrm{})`$) par :

$$\begin{array}{cc}\hfill \rho _{\lambda ,\mu ;\mathrm{}}(H)& =i(\frac{1}{2\lambda }\frac{d^2}{dx^2}+\frac{1}{2}\lambda \mathrm{}^2x^2+\mu )\hfill \\ \hfill \rho _{\lambda ,\mu ;\mathrm{}}(P)& =\frac{d}{dx}\hfill \\ \hfill \rho _{\lambda ,\mu ;\mathrm{}}(Q)& =i\lambda \mathrm{}x\hfill \\ \hfill \rho _{\lambda ,\mu ;\mathrm{}}(E)& =i\lambda .\hfill \end{array}$$

Ces représentations sont unitairement équivalentes à celles que l’on obtient par induction holomorphe à partir du point $`\mu H^{}+\lambda E^{}`$ et de la polarisation complexe h engendrée par $`H,E,P+iQ`$ (\[BCD\] § V.4 et VIII.1.4.4). Les expressions sont ici polynomiales en $`\mathrm{}`$. Posant $`\nu =i\mathrm{}`$ et appliquant la proposition II.2.1 et le théorème II.3.1 on en déduit une représentation unitaire $`\pi _{\lambda ,\mu ;\nu }`$ de l’algèbre déformée $`𝒜`$ dans le module topologiquement libre $`𝒮(\mathrm{})[[\nu ]]`$, faiblement convergent fortement unitaire :

$$\begin{array}{cc}\hfill \pi _{\lambda ,\mu ;\nu }(H)& =\frac{1}{2\lambda }\frac{d^2}{dx^2}\frac{1}{2}\lambda \nu ^2x^2+\mu \hfill \\ \hfill \pi _{\lambda ,\mu ;\nu }(P)& =i\frac{d}{dx}\hfill \\ \hfill \pi _{\lambda ,\mu ;\nu }(Q)& =i\lambda \nu x\hfill \\ \hfill \pi _{\lambda ,\mu ;\nu }(E)& =\lambda .\hfill \end{array}$$

En annulant le paramètre $`\nu `$ on voit que l’annulateur $`\text{Ann}\pi _{\lambda ,\mu ;0}`$ est l’idéal de $`S(\text{g})`$ engendré par $`E\lambda `$, $`Q`$ et $`C_2+2\lambda \mu `$. On en déduit que la variété caractéristique $`V(\pi _{\lambda ,\mu ;\nu })`$ est définie par les équations :

$$\xi _2^2+\xi _3^22\xi _1\xi _4=2\lambda \mu ,\xi _4=\lambda ,\xi _3=0.$$

La variété caractéristique $`V(\pi _{\lambda ,\mu ;\nu })`$ est donc une génératrice du paraboloïde de révolution $`\mathrm{\Omega }_{\lambda ,\mu }`$. La non-existence de polarisations réelles se traduit ici par le fait que la variété caractéristique n’est pas un sous-espace affine (cf. § IV.2). L’annulateur $`\text{Ann}\pi _{\lambda ,\mu ;\nu }`$ est quant à lui engendré dans $`𝒜`$ par $`C_1\lambda `$ et $`C_2+2\lambda \mu `$. L’idéal $`\text{Ann}\pi _{\lambda ,\mu ;\nu }/\nu \text{Ann}\pi _{\lambda ,\mu ;\nu }`$ est donc engendré dans $`S(\text{g})`$ par $`C_1\lambda `$ et $`C_2+2\lambda \mu `$ également. On en déduit que la variété de Poisson caractéristique $`VA(\pi _{\lambda ,\mu ;\nu })`$ coïncide avec l’orbite coadjointe $`\mathrm{\Omega }_{\lambda ,\mu }`$. III.6. L’algèbre de Lie du groupe des déplacements du plan C’est l’algèbre de Lie réelle g de dimension $`3`$ de base $`(H,P,Q)`$ avec les crochets :

$$[H,P]=Q,[H,Q]=P,$$

les autres crochets étant nuls. Nous nous référons encore à l’article de M. Vergne \[BCD Chap. VIII § 1.3\], ainsi qu’à \[AM\]. Si $`X=aH+bP+cQ`$ on calcule facilement la matrice de $`\text{ad}X`$ dans cette base :

$$\text{ad}X=\left(\begin{array}{ccc}0& 0& 0\\ c& 0& a\\ b& a& 0\end{array}\right).$$

On a également :

$$(\text{ad}X)^2=\left(\begin{array}{ccc}0& 0& 0\\ ab& a^2& 0\\ ac& 0& a^2\end{array}\right),$$

ainsi que l’égalité :

$$(\text{ad}X)^3=a^2(\text{ad}X).$$

On en déduit la même expression explicite que dans l’exemple précédent :

$$\mathrm{exp}(\text{ad}X)=I+\frac{\mathrm{sin}a}{a}\text{ad}X+\frac{1\mathrm{cos}a}{a^2}(\text{ad}X)^2.$$

Après transposition et passage à l’inverse on en déduit la matrice de $`\mathrm{exp}(\text{ad}^{}X)`$ dans la base duale :

$$\mathrm{exp}(\text{ad}^{}X)=\left(\begin{array}{ccc}1& c\frac{\mathrm{sin}a}{a}+b\frac{1\mathrm{cos}a}{a}& b\frac{\mathrm{sin}a}{a}+c\frac{1\mathrm{cos}a}{a}\\ 0& \mathrm{cos}a& \mathrm{sin}a\\ 0& \mathrm{sin}a& \mathrm{cos}a\end{array}\right).$$

L’action coadjointe de $`\mathrm{exp}X`$ sur un élément $`\xi =\mu H^{}+\beta P^{}+\gamma Q^{}`$ s’écrit donc :

$$\begin{array}{cc}\hfill \text{Ad}^{}(\mathrm{exp}X).\xi & =\left(\mu +(c\frac{\mathrm{sin}a}{a}+b\frac{1\mathrm{cos}a}{a})\beta +(b\frac{\mathrm{sin}a}{a}+c\frac{1\mathrm{cos}a}{a})\gamma \right)H^{}\hfill \\ & +\left((\mathrm{cos}a)\beta +(\mathrm{sin}a)\gamma \right)P^{}\hfill \\ & +\left((\mathrm{sin}a)\beta +(\mathrm{cos}a)\gamma \right)Q^{}.\hfill \end{array}$$

Les orbites coadjointes sont donc les points $`\mu H^{}`$ et les cylindres $`\mathrm{\Omega }_r,r>0`$ d’axe $`H^{}`$ et de rayon $`r`$, définis par l’équation $`\xi _2^2+\xi _3^2=r^2`$. L’isomorphisme de Duflo est encore donné par :

$$\tau =\frac{\mathrm{sin}(\nu _1/2)}{\nu _1/2}\sigma ,$$

$`_1`$ désigne l’opérateur de dérivée partielle $`{\displaystyle \frac{}{\xi _1}}`$ dans $`\text{g}^{}`$, et où $`\sigma `$ désigne la symétrisation. L’algèbre des invariants admet $`C:\xi \xi _2^2+\xi _3^2`$ comme seul générateur, et l’isomorphisme de Duflo consiste encore à appliquer l’identité sur ce générateur. Le Casimir $`\tau (C)`$ que nous notons encore $`C`$ s’écrit :

$$C=P^2+Q^2.$$

On considère pour $`r>0,\mathrm{}0`$ et $`0\lambda <1`$ la famille $`\rho _{r,\lambda ;\mathrm{}}`$ de représentations unitaires irréductibles de $`G_{\mathrm{}}=\mathrm{exp}\text{g}_{\mathrm{}}`$ suivantes : la représentation $`\rho _{r,\lambda ;\mathrm{}}`$ agit sur l’espace $`_\lambda `$ des classes de fonctions $`2\pi `$-pseudo-périodiques $`\phi `$, telles que :

$$\phi (t+2\pi )=e^{2i\pi \lambda }\phi (t),_0^{2\pi }|\phi (t)|^2𝑑t<+\mathrm{}.$$

Sa différentielle est définie par :

$$\begin{array}{cc}\hfill \rho _{r,\lambda ;\mathrm{}}(H)& =\mathrm{}\frac{d}{d\theta }\hfill \\ \hfill \rho _{r,\lambda ;\mathrm{}}(P)& =ir\mathrm{sin}(\theta )\hfill \\ \hfill \rho _{r,\lambda ;\mathrm{}}(Q)& =ir\mathrm{cos}(\theta )\hfill \end{array}$$

sur l’espace $`_\lambda ^{\mathrm{}}`$ des vecteurs $`C^{\mathrm{}}`$, qui est ici l’espace des fonctions $`C^{\mathrm{}}`$ de $`_\lambda `$. Ces expressions sont polynomiales en $`\mathrm{}`$. Posant $`\nu =i\mathrm{}`$ et appliquant la proposition II.2.1 et le théorème II.3.1 on a donc une famille de représentations unitaires de $`𝒜`$ dans le module topologiquement libre faiblement convergent fortement unitaire $`_\lambda ^{\mathrm{}}[[\nu ]]`$ :

$$\begin{array}{cc}\hfill \pi _{r,\lambda ;\nu }(H)& =\nu \frac{d}{d\theta }\hfill \\ \hfill \pi _{r,\lambda ;\nu }(P)& =r\mathrm{sin}(\theta )\hfill \\ \hfill \pi _{r,\lambda ;\nu }(Q)& =r\mathrm{cos}(\theta ).\hfill \end{array}$$

En annulant $`\nu `$ on voit que l’annulateur $`\text{Ann}\pi _{r,\lambda ;0}`$ est engendré par $`H`$ et par $`P^2+Q^2r^2`$. La variété caractéristique $`V(\pi _{r,\lambda ;\nu })`$ est donc le cercle de cote nulle dans $`\mathrm{\Omega }_r`$ défini par les équations $`\xi _2^2+\xi _3^2=r^2`$ et $`\xi _1=0`$. Elle est donc indépendante du paramètre supplémentaire $`\lambda `$. L’annulateur $`\text{Ann}\pi _{r,\lambda ;\nu }`$ est quant à lui engendré dans $`𝒜`$ par $`Cr^2`$. L’idéal $`\text{Ann}\pi _{r,\lambda ;\nu }/\nu \text{Ann}\pi _{r,\lambda ;\nu }`$ est donc également engendré par $`Cr^2`$ dans $`S(\text{g})`$. La variété de Poisson caractéristique $`VA(\pi _{r,\lambda ;\nu })`$ est donc égale à l’orbite coadjointe $`\mathrm{\Omega }_r`$. On considère maintenant l’espace $`_\lambda ^\omega `$ des vecteurs analytiques. Ce sont les fonctions $`\phi `$ entières sur $`\mathrm{}`$ telles que $`\phi (t+2\pi )=e^{2i\pi \lambda }\phi (t)`$. Soit $`R`$ l’opérateur sur $`C^\omega (\mathrm{})[[\nu ]]`$ défini par :

$$R\phi (\theta )=\nu \phi (\nu \theta ).$$

Cet opérateur est injectif. Soit $`\stackrel{~}{C}_\lambda =R(_\lambda ^\omega [[\nu ]])`$, et soit $`\stackrel{~}{\pi }_{r,\lambda ;\nu }`$ la représentation de $`𝒜`$ sur $`\stackrel{~}{C}_\lambda `$ définie par :

$$\stackrel{~}{\pi }_{r,\lambda ;\nu }(X)=R\pi _{r,\lambda ;\nu }R^1.$$

Les deux représentations sont équivalentes par construction, et on a :

$$\begin{array}{cc}\hfill \stackrel{~}{\pi }_{r,\lambda ;\nu }(H)& =\frac{d}{d\theta }\hfill \\ \hfill \stackrel{~}{\pi }_{r,\lambda ;\nu }(P)& =r\mathrm{sin}(\nu \theta )\hfill \\ \hfill \stackrel{~}{\pi }_{r,\lambda ;\nu }(Q)& =r\mathrm{cos}(\nu \theta ).\hfill \end{array}$$

L’annulateur de $`\stackrel{~}{\pi }_{r,\lambda ;0}`$ est engendré par $`P`$ et par $`Q+r`$. La variété caractéristique $`V(\stackrel{~}{\pi }_{r,\lambda ;\nu })`$ est donc cette fois-ci la génératrice du cylindre $`\mathrm{\Omega }_r`$ définie par les équations $`\xi _3=r`$ et $`\xi _2=0`$. III.7. Le cas semi-simple : modules de Verma Soit $`\text{g}_1`$ une algèbre de Lie semi-simple complexe. La forme de Killing définie par :

$$(X,Y)=\text{Tr}(\text{ad}X\text{ad}Y)$$

est non dégénérée et invariante par l’action adjointe. Elle induit donc un isomorphisme linéaire $`\kappa `$ de $`\text{g}_1`$ sur son dual $`\text{g}_1^{}`$, défini par :

$$\kappa (X)=(X,),$$

qui entrelace les représentations adjointe et coadjointe. Soit $`H`$ un élément semi-simple de $`\text{g}_1`$, soit $`\text{h}_1`$ une sous-algèbre de Cartan contenant $`H`$, soit $`\mathrm{\Delta }`$ le système de racines associé, et soit $`\mathrm{\Delta }_+`$ l’ensemble des racines positives provenant du choix d’un ordre sur $`\text{h}_1^{}`$. On désignera par $`W`$ le groupe de Weyl associé à ces données. La forme de Killing restreinte à $`\text{h}_1`$ est non dégénérée. Soit $`\lambda =\kappa ^1(H)\text{g}_1^{}`$. La décomposition radicielle de $`\text{g}_1`$ s’écrit :

$$\text{g}_1=\text{n}_1\text{h}_1\text{n}_{1+},$$

$`\text{n}_{1\pm }=_{\alpha \pm \mathrm{\Delta }_+}\text{g}_1^\alpha .`$ Soit $`\delta \text{h}_1^{}`$ la demi-somme des racines positives. La sous-algèbre de Cartan $`\text{h}_1`$ est orthogonale à $`\text{n}_{1+}`$ et $`\text{n}_1`$ pour la forme de Killing, ce qui permet de montrer que $`\kappa ^1(H)\text{g}_1^{}`$ s’annule sur $`\text{n}_{1\pm }`$. On identifiera donc $`\text{h}_1^{}`$ à l’orthogonal de $`\text{n}_1\text{n}_{1+}`$ dans $`\text{g}_1^{}`$ en prolongeant trivialement à $`\text{n}_1\text{n}_{1+}`$ les formes linéaires sur $`\text{h}_1`$. Si $`H`$ est régulier le stabilisateur de $`\lambda `$ pour l’action coadjointe est égal à $`\text{h}_1`$, et la sous-algèbre résoluble $`\text{b}_1=\text{h}_1\text{n}_{1+}`$ est une polarisation résoluble en $`\lambda `$. Le cadre ci-dessus s’applique aux algèbres de Lie $`(\text{g}_\nu )_{\nu \mathrm{}\{0\}}`$ (avec les notations du § II.2), qui ont toutes le même espace vectoriel sous-jacent que nous noterons g. Nous continuerons à identifier g et son dual avec la forme de Killing de $`\text{g}=\text{g}_1`$ (indépendamment de $`\nu `$) et non pas avec celle de $`\text{g}_\nu `$. La décomposition radicielle :

$$\text{g}_\nu =\text{n}_\nu \text{h}_\nu \text{n}_{\nu +}$$

est indépendante de $`\nu `$ en ce qui concerne les espaces vectoriels sous-jacents que nous noterons $`\text{n}_{}`$, h et $`\text{n}_+`$. De même, on note $`\text{b}_+=\text{h}\text{n}_+`$ et :

$$\text{g}^\alpha =\{X\text{g},A\text{h},[A,X]_\nu =\nu \alpha (A)X\}.$$

Le système de racines associé à $`\text{g}_\nu `$ est donc $`\nu \mathrm{\Delta }`$, et $`\text{g}^\alpha `$ coïncide pour tout $`\nu `$ avec le sous-espace radiciel de $`\text{g}_\nu `$ correspondant à $`\nu \alpha `$. Soit $`M_\lambda ^\nu `$ le module de Verma associé à $`\lambda `$ pour $`\text{g}_\nu `$. On a :

$$M_\lambda ^\nu =𝒰(\text{g}_\nu )\underset{𝒰(\text{b}_{\nu +})}{}\mathrm{},$$

où un élément $`A+Y`$ de $`\text{b}_{\nu +}=\text{h}_\nu \text{n}_{\nu +}`$ agit sur $`\mathrm{}`$ via la multiplication par $`(\lambda \nu \delta )(A)`$, et où l’action de $`𝒰(\text{g}_\nu )`$ est donnée par la multiplication à gauche. Lorsqu’on regarde $`\nu `$ comme une indéterminée ce module est topologiquement libre sur $`𝒜=𝒰_\nu (\text{g})`$ : il s’identifie en effet à $`𝒰_\nu (\text{n}_{})`$, et donc à $`S(\text{n}_{})[[\nu ]]`$ via symétrisation. On a la décomposition en sous-espaces de poids sous l’action de $`\text{h}_\nu `$ :

$$M_\lambda ^\nu =\underset{\beta Q_+}{}(M_\lambda ^\nu )_{\lambda \nu \delta \nu \beta },$$

$`Q_+`$ désigne l’ensemble des combinaisons linéaires à coefficients entiers positifs d’éléments de $`\mathrm{\Delta }_+`$. En annulant $`\nu `$ on voit que tout $`A\text{h}_0`$ agit sur $`M_\lambda ^0`$ par multiplication par $`\lambda (A)`$, que l’action de $`\text{n}_{0+}`$ est triviale sur $`M_\lambda ^0`$ , et que l’action de $`\text{n}_0`$ est fidèle. L’annulateur de $`M_\lambda ^0`$ dans $`S(\text{g})`$ est donc l’idéal engendré par $`\text{n}_+`$ et par les $`A\lambda (A),A\text{h}`$. On en déduit :

$$V(M_\lambda ^\nu )=\lambda +\text{b}_+^{}.$$

Soit $`\chi _\lambda ^\nu :Z(𝒰(\text{g}_\nu ))\mathrm{}`$ le caractère central de $`M_\lambda ^\nu `$. Soit $`\gamma _\nu :Z(𝒰(\text{g}_\nu ))\stackrel{~}{}S(\text{h})^W`$ l’isomorphisme d’Harish-Chandra de $`\text{g}_\nu `$ \[Dix § 7.4\]. En considérant $`S(\text{h})^W`$ comme l’ensemble des polynômes $`W`$-invariants sur $`\text{h}^{}`$ on a alors \[Dix § 7.4.6\] :

$$\chi _\lambda ^\nu (u)=\gamma _\nu (u)(\lambda ).$$

L’isomorphisme de Duflo $`\tau _\nu :S(\text{g})^{\text{g}_\nu }Z(𝒰(\text{g}_\nu ))`$ s’obtient en composant $`\gamma _\nu ^1`$ à gauche par la restriction à $`\text{h}^{}`$ (isomorphisme de Chevalley). Pour tout $`vS(\text{g})^{\text{g}_\nu }`$ on a donc finalement :

$$\chi _\lambda ^\nu (\tau _\nu (v))=v(\lambda ).$$

L’annulateur du module de Verma $`M_\lambda ^\nu `$ est l’idéal bilatère de $`𝒰(\text{g}_\nu )`$ engendré par $`\text{Ker}\chi _\lambda ^\nu `$ (\[Dix\], Théorème 8.4.3). Via l’isomorphisme de Duflo c’est donc l’idéal bilatère de $`(S(\text{g}),_\nu )`$ engendré par $`\{vv(\lambda ),vS(\text{g})^{\text{g}_\nu }\}`$. Considérons maintenant $`\nu `$ comme une indéterminée et $`M_\lambda ^\nu `$ comme module topologiquement libre sur $`𝒜`$. L’idéal $`\text{Ann}M_\lambda ^\nu /(\text{Ann}M_\lambda ^\nu \nu 𝒜)`$ de $`S(\text{g})`$ est donc l’idéal engendré par $`\{vv(\lambda ),vS(\text{g})^{\text{g}_\nu }\}`$. On en déduit la variété de Poisson caractéristique :

$$VA(M_\lambda ^\nu )=\{\xi \text{g}^{},v(\xi )=v(\lambda )\text{ pour tout }vS(\text{g})^{\text{g}_\nu }\}.$$

Lorsque $`\lambda `$ (c’est-à-dire $`H`$) est régulier, c’est l’orbite coadjointe de $`\lambda `$. Lorsque $`\lambda =0`$ c’est le cône nilpotent. III.8. Modules de Verma et réalité Le module de Verma $`M_\lambda ^\nu `$ admet une forme bilinéaire symétrique naturelle ayant de bonnes propriétés de covariance : la forme de Shapovalov \[Sha\], \[D2\]. En la modifiant pour la rendre sesquilinéaire hermitienne nous pourrons appliquer les résultats du § I.6. On garde les notations du § III.7. Soit $`(X_\alpha ,H_\alpha ,X_\alpha )_{\alpha \mathrm{\Delta }_+}`$ une base de Chevalley de $`\text{g}_1`$. Alors $`(iX_\alpha ,iH_\alpha ,iX_\alpha )_{\alpha \mathrm{\Delta }_+}`$ est une base de Chevalley de $`\text{g}_i`$ (où $`i=\sqrt{1}`$). Soit $`\text{g}_{i,\mathrm{}}`$ la forme réelle déployée de $`\text{g}_i`$ associée. Elle est définie comme l’espace vectoriel réel engendré par les $`iX_\alpha ,iH_\alpha ,iX_\alpha `$. Ceci définit une forme réelle $`\text{g}_{\mathrm{}}`$ de l’espace vectoriel sous-jacent g, qui est à son tour automatiquement une forme réelle déployée $`\text{g}_{\nu ,\mathrm{}}`$ de l’algèbre de Lie $`\text{g}_\nu `$ pour tout $`\nu `$ imaginaire pur. La conjugaison respecte les sous-espaces radiciels, donc a fortiori les trois composantes de la décomposition :

$$\text{g}_\nu =\text{n}_\nu \text{h}_\nu \text{n}_{\nu +}.$$

La conjugaison sur g (resp. sur h) par rapport à cette forme réelle induit une conjugaison sur le dual $`\text{g}^{}`$ (resp. $`\text{h}^{}`$) grâce à la formule :

$$\overline{\xi }(X):=\overline{\xi (\overline{X})}.$$

Nous étendons la conjugaison par multiplicativité à l’algèbre enveloppante $`𝒰(\text{g}_\nu )`$. Cette algèbre enveloppante admet (grâce au théorème de Poincaré-Birkhoff-Witt) la décomposition :

$$𝒰(\text{g}_\nu )=𝒰(\text{h}_\nu )\left(\text{n}_\nu 𝒰(\text{g}_\nu )+𝒰(\text{g}_\nu )\text{n}_{\nu +}\right).$$

Soit $`P_\nu :𝒰(\text{g}_\nu )𝒰(\text{h}_\nu )`$ la projection correspondant à cette décomposition. D’après ce qui précède cette projection est compatible avec la conjugaison, c’est-à-dire :

$$P(\overline{u})=\overline{P(u)}\text{pour tout }u𝒰(\text{g}_\nu ).$$

Nous définissons la transposition sur $`𝒰(\text{g}_\nu )`$ de la façon suivante :

$${}_{}{}^{t}X_{\alpha }^{}=X_\alpha ,^tX_\alpha =X_\alpha ,^tH_\alpha =H_\alpha ,$$

et on étend cette transposition en un anti-automorphisme de $`𝒰(\text{g}_\nu )`$. Il est immédiat de voir que la transposition commute avec la conjugaison. Nous considérerons sur $`𝒰(\text{g}_\nu )`$ l’involution (semi-linéaire) définie par :

$$a^{}=^t\overline{a}.$$

Cette involution (restreinte à g) définit une nouvelle conjugaison sur g, et donc une nouvelle forme réelle $`\text{g}^{\mathrm{}}`$, qui est une forme réelle compacte de chacune des algèbres de Lie $`\text{g}_{\mathrm{}}`$$`\mathrm{}=i\nu `$ est un réel non nul (cf. \[H\] § III.6). Remarquons que l’on a :

$$\text{h}\text{g}^{\mathrm{}}=i\text{h}\text{g}_{\mathrm{}}.$$

Nous noterons $`\text{h}^{\mathrm{}}`$ cette intersection et nous noterons $`\tau `$ la conjugaison (dans g ou dans h ou dans leurs duaux respectifs) par rapport à cette nouvelle forme réelle. Supposons alors que $`\lambda \text{h}^{}`$ est réel, c’est-à-dire $`\tau (\lambda )=\lambda `$. L’involution $``$ sur $`𝒰(\text{g}_\nu )`$ coïncide, via l’isomorphisme de Duflo, avec l’involution donnée au § I, la conjugaison étant $`\tau `$. Plutôt que de considérer le module de Verma $`M_\nu ^\lambda `$ comme dans le § III.7 nous considérerons le module de Verma $`M_\nu ^{\lambda +\nu \delta }`$. Considérons maintenant $`\nu `$ comme une indéterminée : en tant que modules sur l’algèbre déformée $`𝒜`$ ils coïncident à $`O(\nu )`$ près donc leurs variétés caractéristiques et leurs variétés de Poisson caractéristiques sont les mêmes. Soit $`e_{\lambda +\nu \delta }^\nu `$ le vecteur de plus haut poids de $`M_{\lambda +\nu \delta }^\nu `$. Supposons que $`\lambda `$ soit réel. Nous définissons alors une forme sesquilinéaire sur le module de Verma $`M_{\lambda +\nu \delta }^\nu `$ par la formule :

$$<m,n>_\nu =<a.e_{\lambda +\nu \delta }^\nu ,b.e_{\lambda +\nu \delta }^\nu >_\nu =P_\nu (a^{}b)(\lambda ).$$

C’est une version hermitienne de la forme de Shapovalov de $`M_{\lambda +\nu \delta }^\nu `$.

Proposition III.8.1.

La représentation $`\pi _\nu `$ de $`𝒜=𝒰(\text{g}_\nu )`$ dans $`M_{\lambda +\nu \delta }^\nu `$ vérifie pour tout $`m,nM_\lambda ^\nu `$ et pour tout $`u𝒰(\text{g}_\nu )`$ :

$$<um,n>_\nu =<m,u^{}n>_\nu .$$

Démonstration. Soient $`a,b𝒰(\text{g}_\nu )`$ tels que $`m=a.e_\lambda ^\nu `$ et $`n=b.e_\lambda ^\nu `$. La proposition découle immédiatement de l’égalité :

$$<ua.e_{\lambda +\nu \delta }^\nu ,b.e_{\lambda +\nu \delta }^\nu >=<a.e_{\lambda +\nu \delta }^\nu ,u^{}b.e_{\lambda +\nu \delta }^\nu >.$$

$``$

La représentation associée est donc une $``$-représentation. De plus la forme quotient définie par $`<,>_\nu `$ en $`\nu =0`$ est hermitienne non dégénérée. Autrement dit le module de Verma $`M_{\lambda +\nu \delta }^\nu `$ est fortement pseudo-unitaire. Nous pouvons donc appliquer les résultats du § I.6. Les variétés caractéristiques $`V(\pi _\nu )`$ et $`VA(\pi _\nu )`$ sont donc définies sur le corps des réels. Elles sont données par les mêmes formules explicites que dans le § III.7. Remarque : Soit $`\lambda \text{h}^{}`$. Alors, en utilisant le théorème 7.6.24 de \[Dix\], il est facile de voir que le module de Verma $`M_{\lambda +\nu \delta }^\nu `$ est simple (et donc que la forme de Shapovalov est non-dégénérée) sauf éventuellement sur un ensemble discret dénombrable de valeurs de $`\nu `$. Par ailleurs, sur la question de l’unitarisabilité de certains modules de plus haut poids, voir \[EHW\] et \[Jak\].

IV. Le cas résoluble exponentiel

Dans le cas résoluble exponentiel, nous explicitons dans ce paragraphe, en utilisant la construction de \[Pe2\], la variété caractéristique d’une représentation $`\pi _\nu `$ associée de manière naturelle à une représentation monomiale unitaire quelconque induite à partir d’une polarisation réelle. IV.1. Rappels sur la méthode des orbites pour les groupes exponentiels L’adaptation de la méthode des orbites de Kirillov aux groupes résolubles exponentiels est due à P. Bernat \[BCD\]. Soit $`G`$ un groupe de Lie résoluble exponentiel connexe et simplement connexe d’algèbre de Lie g, soit $`f\text{g}^{}`$ et soit h une polarisation réelle en $`f`$. Notons $`H`$ le sous-groupe $`\mathrm{exp}\text{h}`$. Soit $`O_f`$ l’orbite coadjointe de $`f`$ et $`d`$=dim $`O_f`$. Soit $`\chi _f`$ le caractère de $`H`$ défini par :

$$\chi _f(\mathrm{exp}X)=e^{i<f,X>}.$$
$`(\text{IV}\mathrm{.1.1})`$
Soit $`\text{pr}`$ la surjection de $`O_f`$ sur $`G/H`$ définie par :

$$\text{pr}(g.f)=gH.$$
$`(\text{IV}\mathrm{.1.2})`$
Celle-ci est bien définie car $`H`$ contient le stabilisateur $`G_f`$ de $`f`$. On considère la restriction du crochet de Poisson de $`\text{g}^{}`$ à la feuille symplectique $`O_f`$. Suivant \[Pe2\] on désigne par $`^0(O_f)`$ l’espace des fonctions $`\phi =\psi \text{pr}`$, où $`\psi C^{\mathrm{}}(G/H)`$, et on désigne par $`^1(O_f)`$ le normalisateur de $`^0(O_f)`$ dans $`C^{\mathrm{}}(O_f)`$ pour le crochet de Poisson. Tout $`X\text{g}`$ peut se voir comme une fonction linéaire sur $`\text{g}^{}`$. Elle induit par restriction une fonction $`C^{\mathrm{}}`$ sur $`O_f`$ que l’on note encore $`X`$.

Lemme IV.1.1.

Pour tout $`X\text{g}`$ la fonction $`X`$ appartient à $`^1(O_f)`$.

Démonstration. Le champ hamiltonien $`H_X`$ associé à la fonction $`X`$ est égal au champ fondamental donné par l’action coadjointe :

$$H_X\phi (\eta )=\frac{d}{dt}_|t=0\phi (\mathrm{exp}(tX).\eta ),\eta O_f.$$
$`(\text{IV}\mathrm{.1.3})`$
on a $`\phi ^0(O_f)`$ si et seulement si $`\phi (gh.f)=\phi (g.f)`$ pour tout $`gG`$ et $`hH`$, ou encore si $`H_X\phi =0`$ pour tout $`X\text{h}`$. Il est donc clair que pour tout $`\phi ^0(O_f)`$ et pour tout $`t\mathrm{}`$, $`\eta \phi (\mathrm{exp}tX.\eta )`$ appartient aussi à $`^0(O_f)`$. On en déduit que $`H_X.\phi =\{X,\phi \}`$ appartient aussi à $`^0(O_f)`$.

$``$

Soit $`\tau =(\tau _1,\mathrm{},\tau _{d/2}):G/H\stackrel{}{}\mathrm{\Omega }\mathrm{}^{d/2}`$ une carte globale. On supposera ici que l’ouvert $`\mathrm{\Omega }`$ est égal à $`\mathrm{}^{d/2}`$ en entier. C’est toujours possible dans le cas d’un groupe résoluble exponentiel (\[BCD\], \[AC\]) en choisissant une base $`(X_1,\mathrm{},X_{d/2})`$ coexponentielle à h dans g et en posant :

$$\tau ^1(x_1,\mathrm{},x_{d/2})=\mathrm{exp}x_1X_1\mathrm{}\mathrm{exp}x_{d/2}X_{d/2}H.$$

On supposera par la suite que la carte globale $`\tau `$ est définie comme ci-dessus. Soient $`(q_1,\mathrm{},q_{d/2})`$ les fonctions dans $`^0(O_f)`$ définies par :

$$q_j=\tau _j\text{pr}.$$
$`(\text{IV}\mathrm{.1.4})`$
Nous utiliserons les deux résultats suivants (\[Pe2\] Théorèmes 2.2.2 et 3.2.3) :

Théorème IV.1.2 (N. V. Pedersen).

Il existe une famille $`(p_1,\mathrm{},p_{d/2})`$ dans $`^1(O_f)`$ telle que $`(p_1,\mathrm{},p_{d/2},q_1,\mathrm{},q_{d/2})`$ forme une carte de Darboux globale :

$$\mathrm{\Phi }:O_f\stackrel{}{}W_f\times \mathrm{}^{d/2}$$

$`W_f`$ est un ouvert de $`\mathrm{}^{d/2}`$, c’est-à-dire :

$$\{p_i,p_j\}=\{q_i,q_j\}=0,\{p_i,q_j\}=\delta _i^j.$$
$`(\text{IV}\mathrm{.1.5})`$
Cet ouvert est $`\mathrm{}^{d/2}`$ en entier si et seulement si la polarisation h vérifie la condition de Pukanszky :

$$H.f=f+\text{h}^{}.$$
$`(\text{IV}\mathrm{.1.6})`$
Théorème IV.1.3 (N.V. Pedersen).

Soit $`(p,q)`$ un système de coordonnées de Darboux globales : $`O_f\stackrel{}{}W_f\times \mathrm{}^{d/2}\mathrm{}^d`$ comme dans le théorème précédent. Alors : 1 ) dans ces coordonnées l’espace $`^0(O_f)`$ s’identifie à l’espace des fonctions qui ne dépendent que de $`q`$, et l’espace $`^1(O_f)`$ s’identifie à l’espace des fonctions :

$$\phi (p,q)=\underset{u=1}{\overset{d/2}{}}a_u(q)p_u+a_0(q)$$
$`(\text{IV}\mathrm{.1.7})`$
$`a_0,a_1,\mathrm{},a_{d/2}C^{\mathrm{}}(\mathrm{}^{d/2})`$. En particulier pour tout $`X\text{g}`$ la fonction associée lue dans la carte s’écrit :

$$X(p,q)=\underset{u=1}{\overset{d/2}{}}a_{X,u}(q)p_u+a_{X,0}(q).$$
$`(\text{IV}\mathrm{.1.8})`$
où les $`a_{X,u},u=0,\mathrm{},d/2`$ sont des fonctions dans $`C^{\mathrm{}}(\mathrm{}^{d/2})`$.2 ) Il existe une unique représentation unitaire fortement continue $`\rho `$ de $`G`$ dans $`L^2(\mathrm{}^{d/2})`$ telle que l’espace $`_\rho ^{\mathrm{}}`$ de ses vecteurs $`C^{\mathrm{}}`$ contienne $`C_c^{\mathrm{}}(\mathrm{}^{d/2})`$, et telle que pour tout $`\xi C^{\mathrm{}}(\mathrm{}^{d/2})`$ on a :

$$\rho (X)\xi (t)=\underset{u=1}{\overset{d/2}{}}a_{X,u}(t)\frac{\xi (t)}{t_u}ia_{X,0}(t)\xi (t)+\frac{1}{2}\left(\underset{u=1}{\overset{d/2}{}}\frac{a_{X,u}}{t_u}(t)\right)\xi (t).$$
$`(\text{IV}\mathrm{.1.9})`$
Cette représentation est équivalente à l’induite $`\text{Ind}_H^G\chi _f.`$

L’expression des fonctions $`X(p,q)`$ découle immédiatement du lemme IV.1.1. Les fonctions $`a_{X,u}`$ sont de plus entières à croissance au plus exponentielle \[AC Théorème 1.6\]. On peut tirer une information supplémentaire sur la valeur en $`q=0`$ des fonctions $`a_{X,u}`$ :

Lemme IV.1.4.

1) Pour tout $`X\text{g}`$ on a $`a_{X,0}(0)=<f,X>`$. 2) Pour tout $`X\text{h}`$ et pour tout $`u=1,\mathrm{},d/2`$ on a $`a_{X,u}(0)=0`$.

3) Pour tout $`j=1,\mathrm{},d/2`$ et pour tout $`u=1,\mathrm{},d/2`$ on a :

$$a_{X_j,u}(0)=\delta _j^u.$$

Démonstration. La première assertion découle immédiatement du fait que le point de $`O_f`$ de coordonnées $`(0,0)`$ est $`f`$. La deuxième assertion vient du fait que l’ensemble des points de coordonnées $`(p,q)`$ avec $`q=0`$ est $`H.f`$, qui est inclus dans $`f+\text{h}^{}`$. Quant au troisième point, il découle d’un calcul direct :

$$\begin{array}{cc}\hfill a_{X_j,u}(0)& =\frac{}{p_u}X_j(p,0)\hfill \\ & =\{q_u,X_j\}(p,0)\hfill \\ & =\{X_j,q_u\}(p,0)\hfill \\ & =\frac{d}{dt}_|t=0q_u(\mathrm{exp}tX_j.(p,0))\hfill \\ & =\frac{d}{dt}_|t=0q_u(p,(0,\mathrm{},t,\mathrm{}0))\text{ (}t\text{ en position }j\text{)}\hfill \\ & =\delta _j^u.\hfill \end{array}$$

$``$

IV.2. Construction d’une représentation $`\pi _\nu `$ de $`𝒜`$ On applique la construction précédente à une famille $`(G_{\mathrm{}})_{\mathrm{}\mathrm{}\{0\}}`$ de groupes exponentiels. Plus précisément, soit $`(\text{g}_{\mathrm{}})_{\mathrm{}\mathrm{}}`$ la famille d’algèbres de Lie résolubles exponentielles définie par un même espace vectoriel sous-jacent g, avec le crochet :

$$[X,Y]_{\mathrm{}}=\mathrm{}[X,Y].$$

On notera $`\mathrm{exp}_{\mathrm{}}`$ l’exponentielle de $`\text{g}_{\mathrm{}}`$ dans $`G_{\mathrm{}}`$. Soit $`f\text{g}^{}`$. L’orbite coadjointe $`O_{f,\mathrm{}}=G_{\mathrm{}}.f\text{g}^{}`$ est la même pour tout $`\mathrm{}0`$, mais la structure de Poisson dépend de $`\mathrm{}`$ : pour tout $`\eta \text{g}`$ et $`\phi ,\psi C^{\mathrm{}}(\text{g}^{})`$ on a :

$$\{\phi ,\psi \}_{\mathrm{}}(\eta )=\mathrm{}\{\phi ,\psi \}_1(\eta )=\mathrm{}<\eta ,[d\phi (\eta ),d\psi (\eta )]>.$$
$`(\text{IV}\mathrm{.2.1})`$
On notera toujours $`O_f`$ cette orbite commune, lorsque la structure de Poisson n’a pas besoin d’être précisée. En revanche l’orbite $`O_{f,0}`$ dégénère et se réduit au point $`f`$, puisque le groupe $`G_0`$ est abélien. Il existe un sous-espace h de g qui est une polarisation réelle de $`f`$ dans $`\text{g}_{\mathrm{}}`$ pour tout $`\mathrm{}0`$. Soit $`H_{\mathrm{}}=\mathrm{exp}_{\mathrm{}}\text{h}G_{\mathrm{}}`$. Soit $`\chi _{f,\mathrm{}}`$ le caractère de $`H_{\mathrm{}}`$ défini par :

$$\chi _{f,\mathrm{}}(\mathrm{exp}_{\mathrm{}}X)=e^{i<f,X>}.$$
$`(\text{IV}\mathrm{.2.2})`$
On utilise les résultats rappelés au § IV.1 pour construire une réalisation simultanée de toutes les induites $`\text{Ind}_H_{\mathrm{}}^G_{\mathrm{}}\chi _{f,\mathrm{}}`$ dans le même espace $`L^2(\mathrm{}^{d/2})`$. En effet si $`(p,q)`$ est le système de coordonnées de Darboux globales du théorème IV.1 pour $`O_{f,1}`$ (correspondant à $`\mathrm{}=1`$), alors pour tout $`\mathrm{}0`$, un système de coordonnées de Darboux globales pour $`O_{f,\mathrm{}}`$ est donné par $`(p,q^{})=(p,\mathrm{}^1q)=(p_1,\mathrm{},p_{d/2},\mathrm{}^1q_1,\mathrm{},\mathrm{}^1q_{d/2})`$. Pour tout $`X\text{g}`$ la fonction correspondante lue dans cette carte s’écrit :

$$\begin{array}{cc}\hfill X(p,q^{})& =\underset{u=1}{\overset{d/2}{}}a_{X,u}(q)p_u+a_{X,0}(q)\hfill \\ & =\underset{u=1}{\overset{d/2}{}}a_{X,u}(\mathrm{}q^{})p_u+a_{X,0}(\mathrm{}q^{}).\hfill \end{array}$$

Il existe donc pour tout $`\mathrm{}0`$, d’après le théorème IV.1.3, une unique représentation unitaire fortement continue $`\rho _{\mathrm{}}`$ de $`G_{\mathrm{}}`$ dans $`L^2(\mathrm{}^{d/2})`$ telle que l’espace $`_\rho _{\mathrm{}}^{\mathrm{}}`$ de ses vecteurs $`C^{\mathrm{}}`$ contienne $`C_c^{\mathrm{}}(\mathrm{}^{d/2})`$, et telle que :

$$\rho _{\mathrm{}}(X)\xi (t)=\underset{u=1}{\overset{d/2}{}}a_{X,u}(\mathrm{}t)\frac{\xi (t)}{t_u}ia_{X,0}(\mathrm{}t)\xi (t)+\frac{\mathrm{}}{2}\left(\underset{u=1}{\overset{d/2}{}}\frac{a_{X,u}}{t_u}(\mathrm{}t)\right)\xi (t).$$
$`(\text{IV}\mathrm{.2.3})`$
Cette représentation est équivalente à l’induite $`\text{Ind}_H_{\mathrm{}}^G_{\mathrm{}}\chi _{f,\mathrm{}}`$. Elle est irréductible si et seulement si la polarisation h vérifie la condition de Pukanszky $`H_{\mathrm{}}.f=f+\text{h}^{}`$ pour un quelconque $`\mathrm{}0`$. On peut par ailleurs facilement réaliser l’induite $`\text{Ind}_{H_0}^{G_0}\chi _{f,0}`$ dans $`L^2(\mathrm{}^{d/2})`$, ce qui donne :

$$\rho _0(\mathrm{exp}tX_j).\phi (t_1,\mathrm{},t_{d/2})=\phi (t_1,\mathrm{},t_{j1},t_jt,t_{j+1},\mathrm{},t_{d/2}),$$

et pour tout $`X\text{h}`$ :

$$\rho _0(\mathrm{exp}tX).\phi (t_1,\mathrm{},t_{d/2})=e^{it<f,X>}\phi (t_1,\mathrm{},t_{d/2}).$$

En différenciant en $`t=0`$ on obtient :

$$\rho _0(X_j).\phi (t_1,\mathrm{},t_{d/2})=\frac{}{t_j}\phi (t_1,\mathrm{},t_{d/2}),$$
$`(\text{IV}\mathrm{.2.4})`$
et pour tout $`X\text{h}`$ :

$$\rho _0(X).\phi (t_1,\mathrm{},t_{d/2})=i<f,X>.\phi (t_1,\mathrm{},t_{d/2}).$$
$`(\text{IV}\mathrm{.2.5})`$
Grâce au lemme IV.1.4 les notations sont cohérentes : la représentation $`\rho _0`$ de $`G_0`$ dans $`C_c^{\mathrm{}}(\mathrm{}^{d/2})`$ s’obtient en prolongeant à $`\mathrm{}=0`$ la formule (IV.2.3). Soit maintenant $`K`$ un compact fixé de $`\mathrm{}^{d/2}`$ d’intérieur non vide, et soit $`M=C_K^{\mathrm{}}(\mathrm{}^{d/2})`$ l’espace des fonctions $`C^{\mathrm{}}`$ à support dans $`K`$. Cet espace est pour tout réel $`\mathrm{}`$ un sous-module du module des vecteurs $`C^{\mathrm{}}`$ de $`\rho _{\mathrm{}}`$. On munit $`M`$ de la topologie de Fréchet définie par les seminormes :

$$N_k(\phi )=\underset{|\alpha |k}{\text{sup}}\underset{tK}{\text{sup}}|D^\alpha \phi (t)|.$$

On reprend les notations du § II. Le dual topologique de $`M`$ est l’espace des distributions de support inclus dans $`K`$. Soient $`\phi M`$ et $`TM^{}`$. Comme les fonctions $`a_{X,u}`$ sont entières, on voit en appliquant le lemme III.0.1 que l’expression $`<T,\rho _{\mathrm{}}(w)\phi >`$ est entière en $`\mathrm{}`$ pour tout $`wS(\text{g})`$, où l’on a identifié $`S(\text{g})`$ et $`𝒰(\text{g}_{\mathrm{}})`$ via l’isomorphisme de Duflo. En posant :

$$\pi _{\nu _0}(X)=i\rho _{i\nu _0}(X)$$
$`(\text{IV}\mathrm{.2.6})`$
on obtient une famille $`(\pi _{\nu _0})`$ de représentations de $`(A,_{\nu _0})`$ dans $`M`$ vérifiant les conditions de la proposition II.2.1 (avec $`R=+\mathrm{}`$). En appliquant la proposition II.2.1 et le théorème II.3.1 on a donc structure de module topologiquement libre faiblement convergent de rayon infini fortement unitaire sur $`=M[[\nu ]]`$. L’expression de la représentation $`\pi _\nu `$ de l’algèbre déformée $`𝒜`$ dans $``$ s’obtient comme suit : pour tout $`X\text{g}`$ on a :

$$\pi _\nu (X)\xi (t)=\underset{u=1}{\overset{\frac{d}{2}}{}}ia_{X,u}(i\nu t)\frac{\xi }{t_u}(t)+a_{X,0}(i\nu t)\xi (t)+\frac{\nu }{2}\underset{u=1}{\overset{\frac{d}{2}}{}}\frac{}{t_u}a_{X,u}(i\nu t)\xi (t),$$
$`(\text{IV}\mathrm{.2.7})`$
et l’action d’un élément de $`𝒜`$ s’obtient via l’identification $`𝒜=𝒰_\nu (\text{g}^{\mathrm{}})`$ donnée par l’isomorphisme de Duflo. IV.3. Calcul de la variété caractéristique

Théorème IV.3.1.

Soient g une algèbre de Lie résoluble exponentielle, $`f`$ un élément de $`\text{g}^{}`$ et h une polarisation réelle en $`f`$. Soit $`d`$ la dimension de l’orbite coadjointe de $`f`$, soit $`K`$ un compact de $`\mathrm{}^{d/2}`$ d’intérieur non vide. Soit $`\pi _\nu `$ la représentation de l’algèbre déformée $`𝒜`$ dans le module topologiquement libre convergent $`M=C_K^{\mathrm{}}(\mathrm{}^{d/2})[[\nu ]]`$ construite au paragraphe IV.2 à partir de ces données. Alors,

$$V(\pi _\nu )=f+\text{h}^{}.$$

En particulier, si h vérifie la condition de Pukanszky on a $`V(\pi _\nu )=H.f`$.

Démonstration. Faisant $`\nu =0`$ dans (IV.2.7), on obtient :

$$\pi _0(X)=\underset{u=1}{\overset{\frac{d}{2}}{}}ia_{X,u}(0)\frac{}{t_u}+a_{X,0}(0).$$

D’après le lemme IV.1.4 on a donc :

$$\{\begin{array}{cc}\pi _0(X_j)=i\frac{}{t_j},j=1,\mathrm{},d/2\hfill & \\ \pi _0(X)=<f,X>\text{ pour tout }X\text{h}.\hfill & \end{array}$$

L’annulateur de $`\pi _0`$ est l’idéal de $`S(\text{g})`$ engendré par les $`X<f,X>,X\text{h}`$, d’où l’égalité :

$$V(\pi _\nu )=f+\text{h}^{}.$$

$``$

IV.4. Le cas nilpotent Dans les exemples III.1 et III.2 la variété de Poisson caractéristique coïncide avec l’orbite coadjointe. Cette propriété se généralise à toute représentation unitaire irréductible d’un groupe nilpotent : soit g une algèbre de Lie réelle nilpotente de dimension $`n`$. Soit $`f\text{g}^{}`$, soit h une polarisation réelle en $`f`$ et soit $`\rho _{\mathrm{}}`$ la représentation unitaire du groupe simplement connexe $`G_{\mathrm{}}=\mathrm{exp}\text{g}_{\mathrm{}}`$ donnée par la construction du § IV.2. Elle est irréductible car h vérifie toujours la condition de Pukanszky dans le cas nilpotent. L’orbite coadjointe $`O_f\text{g}^{}`$ est une sous-variété algébrique, donnée par l’annulation de polynômes à valeurs réelles $`(Q_j)_{j=1,\mathrm{},nd}`$$`d`$ désigne la dimension de l’orbite. Soit $`\tau `$ l’isomorphisme de Duflo, qui se réduit ici à la symétrisation. D’après le théorème 2.3.2 de \[Pe1\] (adapté ici à nos conventions de signe dans la définition du caractère $`\chi _f`$), l’annulateur de $`\rho _{\mathrm{}}`$ dans $`𝒰(\text{g}_{\mathrm{}})`$ est l’idéal engendré par les $`u_j`$ avec $`\tau ^1(u_j)(\eta )=Q_j(i\eta )`$. On voit alors que l’annulateur de la représentation $`\pi _\nu `$ de l’algèbre déformée $`𝒜`$ est engendré par les $`Q_j`$. L’idéal $`\text{Ann}\pi _\mathrm{\Omega }^\nu /(\text{Ann}\pi _\mathrm{\Omega }^\nu \nu 𝒜)`$ de $`S(\text{g})`$ est donc également engendré par les $`Q_j`$, d’où l’égalité entre l’orbite $`\mathrm{\Omega }`$ et la variété de Poisson caractéristique. On a donc :

Théorème IV.4.1.

Avec les notations ci-dessus,

$$VA(\pi _\nu )=\mathrm{\Omega }.$$

Remarque : ce théorème est en général faux pour un groupe résoluble exponentiel non nilpotent, comme le montrent les exemples III.3 et III.4. Dans ces deux exemples la variété de Poisson caractéristique est égale à la fermeture de Zariski de l’orbite.

Références :

\[A\] S. Araki, On root systems and an infinitesimal classification of irreducible symmetric spaces, J. of Math. Osaka City Univ. 13, 1-34 (1962). \[AC\] D. Arnal, J-C. Cortet, Représentations $``$ des groupes exponentiels, J. Funct. Anal. 92-1, 103-135 (1990). \[AM\] M. Andler, D. Manchon, Opérateurs aux différences finies, calcul pseudo-différentiel et représentations des groupes de Lie, J. Geom. Phys. 27, 1-29 (1998). \[ABLS\] D. Arnal, A. Baklouti, J. Ludwig, M. Selmi, Separation of unitary representations of exponential Lie groups, J. Lie Theory, vol. 10, 399-410 (2000). \[ABM\] D. Arnal, N. Ben Amar, M. Masmoudi, Cohomology of good graphs and Kontsevich linear star products, Lett. Math. Phys. 48, 291- 306 (1999). \[AMM\] D. Arnal, D. Manchon, M. Masmoudi, Choix des signes pour la formalité de M. Kontsevich, math.QA/0003003, Pac. J. Math. \[BBR\] A. Baklouti, C. Benson and G. Ratcliff, Moment sets and the unitary dual of a nilpotent Lie group, J. Lie Theory, Vol 11, 135-154 (2001). \[BCD\] P. Bernat, N. Conze, M. Duflo et al. Représentations des groupes de Lie résolubles, Monographies de la Soc. Math. France No 4, Dunod, Paris 1972. \[BGHHW\] M. Bordemann, G. Ginot, G. Halbout, H-C. Herbig, S. Waldmann, Star-représentations sur des sous-variétés co-isotropes, math.QA/0309321 (2003). \[BW\] M. Bordemann, S. Waldmann, Formal GNS construction and states in deformation quantization, Comm. Math. Phys. 195, 549-583 (1998). \[Bu-W\] H. Bursztyn, S. Waldmann, $``$-ideals and formal Morita equivalence of $``$-algebras, Int. J. Math. 12 No 5, 555-577 (2001). \[B\] N. Bourbaki, Algèbre commutative, Hermann, Paris 1961. \[CF1\] A. Cattaneo, G. Felder, A path integral approach to the Kontsevich quantization formula, Comm. Math. Phys. 212 N 3, 591-611 (2000). \[CF2\] A. Cattaneo, G. Felder, Coisotropic submanifolds in Poisson geometry and branes in the Poisson sigma model, math.QA/0309180 (2003). \[CFT\] A. Cattaneo, G. Felder, L. Tomassini, From local to global deformation quantization of Poisson manifolds, math.QA/0012228 (2000). \[Di\] G. Dito, Kontsevich star product on the dual of a Lie algebra, Lett. Math. Phys. 48, 307-322 (1999). \[Dix\] J. Dixmier, Algèbres enveloppantes, Gautier-Villars, Paris 1974. \[D1\] M. Duflo, Opérateurs différentiels bi-invariants sur un groupe de Lie,  Ann. Sci. Ec. Norm. Sup. 4e série t. 10, 265-288 (1977). \[D2\] M. Duflo, Sur la classification des idéaux primitifs dans l’algèbre enveloppante d’une algèbre de Lie semi-simple, Ann. of Math. (2) 105, no. 1, 107-120 (1977). \[E\] B. Enriquez, Quantization of Lie bialgebras and shuffle algebras of Lie algebras, Selecta Math. 7, no. 3, 321-407 (2001). \[EHW\] T. Enright, R. Howe, N. Wallach, A classification of unitary highest weight modules, Progr. Math. 40, 97-143,(1983). \[EK\] P. Etingof, D. Kazhdan, Quantization of Lie bialgebras, I, Selecta Math. 2, 1-41 (1996). \[FS\] G. Felder, B. Shoikhet, Deformation quantization with traces, math.QA/0002057. \[G\] O. Gabber, The integrability of the characteristic variety, Am. J. Math. 103, No 3, 445-468 (1981). \[GM\] M. Granger, Ph. Maisonobe, A basic course on differential modules, in $`𝒟`$-modules cohérents et holonomes, les cours du CIMPA, Hermann, Paris 1993. \[Gui\] V. Guinzburg, On primitive ideals, math.RT/0202079. \[H\] S. Helgason, Differential geometry and symmetric spaces, Academic Press, 1962. \[J\] A. Joseph, On the classification of primitive ideals in the enveloping algebra of a semisimple Lie algebra, Lect. Notes in Math. 1024 , 30-78. \[Ja\] J.C. Jantzen, Einhüllende Algebren halbeinfacher Lie-Algebren, Springer (1983). \[Jak\] H.P. Jakobsen, Hermitian symmetric spaces and their unitary highest weight modules, J. Funct. Anal. 52 No 3, 385-412 (1983). \[Ka\] Ch. Kassel, Quantum Groups, Springer (1995). \[Ki\] A. A. Kirillov, Elements of the Theory of Representations, Springer (1976). \[K\] M. Kontsevich, Deformation quantization of Poisson manifolds I, math.QA/9709040. \[MT\] D. Manchon, Ch. Torossian, Cohomologie tangente et cup-produit pour la quantification de Kontsevich, math.QA/0106205. \[Pe1\] N. V. Pedersen, On the infinitesimal kernel of irreducible representations of nilpotent Lie groups, Bull. Soc. Math. France 112, 42 3-467 (1984). \[Pe2\] N. V. Pedersen, On the symplectic structure of coadjoint orbits of (solvable) Lie groups and applications. I, Math. Ann. 281, 633-669 (1988). \[Sha\] N.N. Shapovalov, A certain bilinear form on the universal enveloping algebra of a complex semisimple Lie algebra Funct. Anal. Appl. 6 , no. 4, 307-312 (1972). \[Sh\] B. Shoikhet, Vanishing of the Kontsevich integrals of the wheels, math.QA/0007080. \[T\]  D. Tamarkin, Another proof of M. Kontsevich formality theorem, math.QA/9803025 (1998). \[Tr\] F. Treves, Topological vector spaces, distributions and kernels, Academic Press, New York (1967). \[V\] P. Vanhaecke, Integrable systems in the realm of algebraic geometry, Lect. Notes in Math. No 1638, Springer (1996). \[Wa\] G. Warner, Harmonic analysis on semi-simple Lie groups I, Grundlehren der mathematischen Wissenschaften No 188, Springer (1972). \[W\] A. Weinstein, The local structure of Poisson manifolds, J. Diff. Geom. 18, 523-557 (1983). \[Y\] A. Yekutieli, On deformation quantization in algebraic geometry, math.AG/0310399 (2003).