Théorème de Paley-Wiener pour les fonctions de Whittaker sur un groupe réductif p-adique
aa r X i v : . [ m a t h . R T ] M a y Th`eor`eme de Paley-Wiener pour les fonctions deWhittaker sur un groupe r´eductif p -adique Patrick Delorme
Soit F un corps local non archim´edien et soit G le groupe des points sur F d’un grouper´eductif connexe d´efini sur F . Soit ( P , P − ) un couple de sous-groupes paraboliquesminimaux oppos´es de G . On note M leur sous-groupe de L´evi commun. Soit U leradical unipotent de P et A le plus grand tore d´eploy´e de M . Soit K un bon sous-groupe compact maximal de G relativement `a A . Soit ψ un caract`ere unitaire lisse de U non d´eg´en´er´e, i.e. tel que pour toute racine P -simple de A , α , sa restriction ausous-groupe radiciel ( U ) α soit non triviale.On note C ∞ ( U \ G, ψ ) l’espace des fonctions de Whittaker lisses sur G , i.e. des fonctions, f , sur G , invariantes `a droite par un sous-groupe compact ouvert de G et telles que: f ( u g ) = ψ ( u ) f ( g ) , g ∈ G, u ∈ U . On note C ∞ c ( U \ G, ψ ) l’espace des ´el´ements de C ∞ ( U \ G, ψ ) qui sont `a support compactmodulo U .Le but de cet article est de d´efinir une transform´ee de Fourier pour cet espace et d’encaract´eriser l’image. Ce Th´eor`eme est l’analogue pour les fonctions de Whittaker duTh´eor`eme de Paley-Wiener pour les fonctions sur le groupe, du `a Joseph Bernstein [B2]et dont Heiermann [H] a fourni une autre preuve. Ici, c’est le travail d’Heiermann quisert de fil conducteur `a notre preuve.Noter que pour les fonctions de Whittaker sur un groupe r´eductif r´eel, la formule dePlancherel a ´et´e ´etablie (Harish-Chandra, non publi´e, Wallach [Wall], Chapitre 15). Laformule de Plancherel dans le cas p -adique a ´eglement ´et´e ´etable par Haris-Chandra(non publi´e), comme nous l’a indiqu´e Laurent Clozel.Si ( π, V ) est une repr´esentation lisse de G , on note W h ( π, U ) ou W h ( π ) l’espace desformes lin´eaires, ξ , sur V telles que: h ξ, π ( u ) v i = ψ ( u ) h ξ, v i , v ∈ V, u ∈ U . Si π est de longueur finie, W h ( π ) est de dimension finie (cf.[BuHen], Th´eor`eme 4.2)et [D3] pour une autre d´emonstration). Notez que si le groupe n’est pas quasi-d´eploy´e, cette dimension n’est pas toujours inf´erieure ou ´egale `a 1, comme expliqu´edans l’introduction de [BuHen] (voir aussi le Th´eor`eme 1, appliqu´e `a un sous-groupe1arabolique minimal de G ).Si v ∈ V , on note c ξ,v le coefficient g´en´eralis´e d´efini par: c ξ,v ( g ) := h ξ, π ( g ) v i , g ∈ G. C’est un ´el´ement de C ∞ ( U \ G, ψ ).Dans la suite la phrase “Soit P = M U un sous-groupe parabolique semi-standard de G ” voudra dire que P contient M , que M est son sous-groupe de L´evi contenant M et que U est son radical unipotent. On note X ( M ) le groupe des caract`eres nonramifi´es de M . C’est un tore complexe. On note δ P la fonction module de P . Soit( σ, E ) une repr´esentation lisse de M . On note ( i GP σ, i GP E ) l’induite parabolique de( σ, E ). On suppose σ irr´eductible et on note O l’ensemble des classes d’´equivalencesdes repr´esentations σ χ := σ ⊗ χ , χ ∈ X ( M ), qui est un tore complexe. On utilise dansla suite la notion de fonction sur O , qui d´ependent des objets concrets σ χ , avec desr`egles de transformations pour tenir compte des ´equivalences de repr´esentations. Onnote que W h ( σ χ ) := W h ( σ χ , U ∩ M ) est ind´ependant de χ ∈ X ( M ), car χ est trivialsur U ∩ M . Par restriction des fonctions `a K , les repr´esentations i GP σ χ admettent uner´ealisation dans un espace ind´ependant de χ , la r´ealisation compacte. Th´eor`eme: Fonctionnelles de Jacquet pour les sous-groupes paraboliquesanti-standard . Soit P = M U un sous-groupe parabolique anti-standard de G , i.e.contenant P − , P − = M U − le sous-groupe parabolique oppos´e relativement `a M . Onnote ( σ, E ) une repr´esentation lisse de longueur finie de M .Il y a un isomorphisme naturel W h ( σ ) → W h ( i GP σ ) not´e η ξ ( P, σ, η ) (Rodier [R],Casselman-Shalika [CS], Shahidi [Sh], Proposition 3.1)tel que:(i) Pour tout v dans l’espace de la r´ealisation compacte et η ∈ W h ( σ ) , h ξ ( P, σ χ , η ) , v i est polynomiale en χ ∈ X ( M ) .(ii) De plus, si χ ∈ X ( M ) est suffisamment P -dominant, le vecteur distribution ξ ( P, σ, η ) est donn´e par la fonction sur G `a valeurs dans E ∗ , ˜ ξ ( P, σ, η ) , d´efinie par: h ˜ ξ ( P, σ, η )( umu − ) , e i = ψ ( u − ) − h η, σ ( m − ) δ / P ( m ) e i , e ∈ E , ˜ ξ ( P, σ, η )( g ) = 0 isi g / ∈ U M U − = P U . On d´efinit les fonctionnelles de Jacquet pour un sous-groupe parabolique semi-standardde G , P = M U , par transport de structure.Plus pr´ecis´ement, soit K un bon sous-groupe compact maximal de G relativement `a A .On note W G (resp. W M ) le groupe de Weyl de G (resp. M ) relativement `a M . Onfixe un ensemble W G de repr´esentants dans K de W G . Pour un bon choix de w ∈ W G tel que Q := wP w − est anti-standard, on d´efinit ξ ( P, σ, η ) := ξ ( Q, wσ, η ) ◦ λ ( w ) , η ∈ W h ( P, σ ) :=
W h ( wσ ) , o`u λ ( w ) est la translation `a gauche par w , qui entrelace i GP σ et i GQ wσ . Ce choix de w conduit malheureusement `a quelques complications et `a quelques calculs p´enibles, maisque nous n’avons pas su ´eviter.Soit P , Q des sous-groupes paraboliques semi-standard de G , poss´edant le mˆeme sous-groupe de L´evi, M , contenant M . 2n suppose σ de longueur finie. On introduit les int´egrales d’entrelacement, A ( Q, P, σ ),qui, lorsqu’elles sont d´efinies, entrelacent i GP σ et i GQ σ .Les int´egrales d’entrelacement transforment les fonctionnelles de Jacquet en des fonc-tionnelles de Jacquet, ce qui permet d’introduire les matrices B : Il existe une unique fonction rationnelle sur X ( M ) `a valeurs dans End ( W h ( Q, σ ) , W h ( P, σ )) , χ B ( P, Q, σ χ ) , telle que: ξ ( Q, σ χ , η ) ◦ A ( Q, P, σ χ ) = ξ ( P, σ χ , B ( P, Q, σ χ ) η ) . On d´efinit les int´egrales de Jacquet par: E GP ( σ, η, v ) = c ξ,v ∈ C ∞ ( U \ G, ψ ) , o`u ξ = ξ ( P, σ, η ), v ∈ i GP σ. Soit ( π, V ) une repr´esentation lisse unitaire irr´eductible et cuspidale de G . On note A G le plus grand tore d´eploy´e du centre de G . Grˆace au Lemme de Schur, on voit qu’ilexiste un unique produit scalaire sur W h ( π ) tel que: Z A G U \ G c ξ,v ( g ) c ξ ′ ,v ′ ( g ) dg = ( ξ, ξ ′ )( v, v ′ ) , ξ, ξ ′ ∈ W h ( π ) , v, v ′ ∈ V. On notera que π cuspidale implique que c ξ,v est `a support compact modulo A G U doncl’int´egrale est bien d´efinie.On d´efinit maintenant la transform´ee de Fourier-Whittaker de f ∈ C ∞ c ( U \ G, ψ ), ˆ f ,comme suit. Pour tout sous-groupe parabolique semi-standard de G , P = M U , ettoute repr´esentation lisse unitaire irr´eductible cuspidale de M , ( σ, E ), le Th´eor`eme derepr´esentation de Riesz montre qu’il existe un unique ´el´ement de W h ( σ ) ⊗ i GP E , ˆ f ( P, σ ),tel que: ( ˆ f ( P, σ ) , η ⊗ v ) = Z U \ G f ( g ) E GP ( σ, η, v )( g ) dg, η ∈ W h ( P, σ ) , v ∈ i GP E. Notons F au lieu de ˆ f . Alors F v´erifie les propri´et´es suivantes:1) a) L ’application χ F ( P, σ χ ), d´efinie pour χ ´el´ement du groupe des caract`eres nonramifi´es unitaires de M , X ( M ) u , s’´etend en une fonction polynomiale sur X ( M ). Enparticulier, dans la r´ealisation compacte, cette application est `a valeurs dans un espacevectoriel de dimension finie.b) Si ( σ, E ) et ( σ , E ) sont unitairement ´equivalentes, F ( P, σ ) et F ( P, σ ) v´erifient unerelation de transport de structure.c) On peut d´efinir pour g ∈ G , ρ • ( g ) F ( P, σ ), en posant ( ρ • ( g ) F )( P, σ ) = ( Id ⊗ i GP σ ( g )) F ( P, σ ). Alors il existe un sous-groupe compact ouvert de G , H , tel ρ • ( h ) F = F pour tout h ∈ H .On appelle orbite inertielle unitaire, O u , d’une repr´esentation lisse unitaire irr´eductibleet cuspidale, ( σ, E ), l’ensemble des classes d’´equivalence unitaire des repr´esentations σ ⊗ χ , χ ∈ X ( M ) u , qui est muni d’une mesure non nulle et X ( M ) u -invariante, conven-ablement normalis´ee.On r´esume les propri´et´es a), b), c) en disant que pour toute orbite inertielle unitaire,3 u , d’une repr´esentation lisse unitaire irr´eductible cuspidale de M , ( σ, E ), F ( P, ) d´efinitun ´el´ement de P ol ( O u , W h ( P, ) ⊗ i GP ). Alors ρ • d´efinit une repr´esentation lisse de G surcet espace.2) Il existe de plus un sous-groupe compact ouvert, H , de G fixant les diverses appli-cations F ( P, . ), quand P et O varient.3) Si P est semi-standard et w est choisi comme plus haut, on note w.P := wP w − etl’on a: F ( w.P, wσ ) = ( Id ⊗ λ ( w )) F ( P, σ ) .
4) Si P est un sous-groupe parabolique anti-standard et Q est un sous-groupeparabolique semi-standard de G admettant M pour sous-groupe de L´evi:( B ( Q, P, σ ) ⊗ Id ) F ( P, σ ) = ( Id ⊗ A ( Q, P, σ )) F ( Q, σ ) . Cette relation est loin d’ˆetre triviale car elle utilise l’´egalit´e, pour σ repr´esentation lisseunitaire irr´eductible et cuspidale: B ( Q, P, σ ) ∗ = B ( P, Q, σ ) , (1.1)que l’on ´etablit beaucoup plus loin. Th´eor`eme principal Si F satisfait ces propri´et´es, elle est de la forme ˆ f pour un unique f ∈ C ∞ c ( U \ G, ψ ) . Donnons une id´ee de notre preuve.L’unicit´e r´esulte de l’adaptation (cf. 11) d’un r´esultat de Joseph Bernstein (cf. [B1]).Pour l’existence, on commence par introduire les paquets d’ondes. Avec les notationsci-dessus et en supposant P anti-standard, soit φ ∈ P ol ( O u , W h ( P, ) ⊗ i GP ). On d´efinitle paquet d’ondes f φ par: f φ ( g ) := Z O u E ( P, σ, φ ( σ ))( g ) dσ, g ∈ G, qui est un ´el´ement de C ∞ ( U \ G, ψ ). On d´efinit ensuite la notion de φ r´eguli`ere (resp.tr`es r´eguli`ere), que nous ne d´etaillerons pas dans cette introduction. Elle fait intervenirles int´egrales d’entrelacement et les matrices B . Il y a beaucoup de φ tr`es r´eguli`eres.En effet, si φ est non nulle, il existe un ´el´ement, z , du centre de Bernstein, ZB ( G ), telque ρ • ( z ) φ soit tr`es r´eguli`ere et non nulle.On montre alors: Proposition : Si φ est r´eguli`ere, alors f φ est un ´el´ement de C ∞ c ( U \ G, ψ ) . La preuve passe par le terme constant des ´el´ements de C ∞ ( U \ G, ψ ) le long d’un sous-groupe parabolique standard de G , P , qui donne lieu `a une application(cf. [D3]): C ∞ ( U \ G, ψ ) → C ∞ ( U ∩ M \ M, ψ ) , f f P . Sa d´efinition utilise le Th´eor`eme de deuxi`eme adjonction de J. Bernstein (cf. [B2], [B3],[Bu]). Le terme constant des int´egrales de Jacquet se calcule (cf. Th´eor`eme 3), commele terme constant faible des coefficients ordinaires (cf [W], section V), avec quelques4ariantes n´eammoins. Plus pr´ecis´ement, soit P = M U (resp. P ′ = M ′ U ′ ) un sous-groupe parabolique anti-standard (resp. standard) de G . Soit ( σ, E ) une repr´esentationlisse cuspidale irr´eductible de M et φ ∈ W h ( P, σ ) ⊗ i GP σ .Soit : W ( M ′ | G | M ) = W M ′ \{ s ∈ W G , sM s − ⊂ M ′ } . On r´ealise les repr´esentations i GP σ χ dans un espace ind´ependant de χ ∈ X ( M ). Alors,pour φ dans cet espace, on a une identit´e de fractions rationnelles sur X ( M ): E ( P, σ χ , φ ) P ′ = X s ∈ W ( M ′ | G | M ) E s ( σ χ , φ ) , o`u E s ( σ χ , φ ) fait intervenir les int´egrales d’entrelacements et les matrices B . Lad´efinition de φ ∈ P ol ( O u , W h ( P, ) ⊗ i GP ) tr`es r´eguli`ere comporte notamment le faitque E s ( σ χ , φ ( σ χ ))( g ) est polynomiale en χ ∈ X ( M ), pour tout g ∈ G .Par des arguments de translation `a droite par des ´el´ements de A , la preuve de laProposition se ram`ene `a montrer que pour tout φ r´eguli`ere, la restriction `a la chambrede Weyl n´egative, A − , de A relativement `a P , est `a support compact.On proc`ede ensuite par r´ecurrence sur la dimension de G . On utilise ensuite une par-tition de A − , ( X P ′ ) index´ee par les sous-groupes paraboliques standard, P ′ , de G telleque sur X P ′ , E ( P, σ χ , φ ( σ χ )) est ´egale `a E ( P, σ χ , φ ( σ χ )) P ′ , pour tout χ ∈ X ( M ). Puison utilise la formule pour le terme constant des int´egrales de Jacquet. L’hypoth`ese que φ est r´eguli`ere permet d’utiliser l’hypoth`ese de r´ecurrence pour finir la preuve de laProposition.Ensuite on calcule (cf. Th´eor`eme 5) ˆ f φ pour φ tr`es r´eguli`ere en utilisant la formule duterme constant des int´egrales de Jacquet. On proc`ede comme dans [W], section VI,en introduisant la transform´ee unipotente de f ∈ C ∞ c ( U \ G, ψ ) relative `a P = M U ,sous-groupe parabolique anti-standard de G , f P d´efinie par f P ( m ) := δ / P ( m ) Z U f ( mu ) du, m ∈ M. On en d´eduit une formule pour le produit scalaire L de deux paquets d’ondes f φ et f φ ′ (cf. Proposition 9): ( f φ , f φ ′ ) := Z U \ G f φ ( g ) f φ ′ ( g ) dg. En ´echangeant le rˆole de φ et φ ′ , on obtient une autre expression de ce produit scalaire.En faisant varier φ et φ ′ dans l’´egalit´e de ces 2 expressions de ( f φ , f φ ′ ), on en d´eduit laformule d’adjonction(1.1) (cf. Th´eor`eme 6).Pour poursuivre, on utilise le r´esultat suivant d’Heiermann (cf. [H], Proposition 0.2).Soit e H la mesure de Haar normalis´ee d’un sous-groupe compact ouvert H contenudans K . Soit P = M U un sous-groupe parabolique anti-standard de G et O u l’orbiteinertielle unitaire d’une repr´esentation lisse unitaire irr´eductible cuspidale de M . Alors,il existe ζ ( P, . ) ∈ P ol ( O u , Hom ( i GP , i GP − )) tel que, pour σ ∈ O :( i GP σ )( e H ) = X w ∈ W G ,w O = O A ( P, w − P − w, σ ) λ ( w − ) ζ ( P, wσ ) λ ( w ) A ( w − P w, P, σ ) . F satisfaisant les conditions de celui-ciet H -invariant. On d´efinit:Φ O ( σ ) := ( Id ⊗ A ( P − , P, σ ) − ) ζ ( P, σ ) F ( P, σ ) , σ ) ∈ O u et on introduit le paquet d’onde d´ecal´e f sh Φ O d´efini comme le paquet d’ondes ordinairemais en int´egrant sur O u Λ, o`u Λ ∈ X ( M ) est suffisamment P -antidominant . Onmontre de mani`ere analogue `a [H], Proposition 2.1: Proposition
Pour P anti-standard, le paquet d’ondes d´ecal´e f O := f sh Φ O est ´el´ement de C ∞ c ( U \ G, ψ ).Maintenant on d´efinit f comme ´etant la somme finie sur les classes de conjugaison decouples ( M, O ) des f O non nulles. Alors le Th´eor`eme r´esulte du fait que la transform´eede Fourier-Whittaker de f est ´egale `a F . Pour montrer cela, on se r´eduit au cas o`uΦ O est tr`es r´eguli`ere, auquel cas les paquets d’ondes d´ecal´es sont ´egaux aux paquetsd’ondes ordinaires, par holomorphie. Pour effectuer cette r´eduction on remarque que, si z est un ´el´ement du centre de Bernstein de G et ρ est la repr´esentation r´eguli`ere droitede G sur C ∞ c ( U \ G, ψ ), on a:( ρ ( z ) f )ˆ= ρ • ( z ) ˆ f , ρ ( z ) f sh Φ = f shρ • ( z )Φ . On conclut grˆace au calcul de la transformation de Fourier des paquets d’ondes men-tionn´e plus haut.L’unicit´e r´esulte de l’injectivit´e de la transformation de Fourier-Whittaker. Celle-ci estune cons´equence de l’adaption `a notre contexte de r´esultats de Bernstein sur les espaceshomog`enes [B1], que nous donnons en appendice.Comme sugg´er´e par le referee, donnons quelques pr´ecisions suppl´ementaires dans le casde G = SL (2 , F ), A ´etant le tore diagonal.On s’int´eresse aux transform´ees de Fourier-Whittaker de l’espace C ∞ c ( U \ G, ψ ) K desfonctions K -invariantes `a droite de C ∞ c ( U \ G, ψ ).On note P le sous-groupe parabolique de G oppos´e au sous-groupe parabolique standard P . On notera aussi P − au lieu de P . Pour χ ´el´ement du groupe des caract`eres non ram-ifi´es de A , X ( A ), on note V χ l’espace de la repr´esentation π χ := i GP χ et V l’espace de sar´ealisation compacte. On note v le vecteur K -invariant de V dont la valeur en l’´el´ementneutre de G est ´egale `a 1 et v χ l’´el´ement correspondant de V χ . L’espace W h ( χ ) est ´egal`a C . Avec les notations du d´ebut de l’introduction soit ξ χ := ξ ( P, χ, ∈ W h ( π χ ) o`u1 ∈ C = W h ( χ ) et soit E χ le coefficient g´en´eralis´e c ξ χ ,v χ . La transform´ee de FourierWhittaker de f ∈ C ∞ c ( U \ G, ψ ) K est enti`erement d´etermin´ee par la fonction polynomi-ale sur X ( A ), F , d´efinie par: F ( χ ) := Z U \ G f ( g ) E χ ( g ) dg. On notera parfois ˆ f au lieu de F .Soit w un repr´esentant dans K de l’´el´ement non trivial du groupe de Weyl de A . Ona wχ = χ − . Par transport de structure, les int´egrales d’entrelacement d´eterminent unop´erateur d’entrelacement A ( w, χ ) entre π χ et π χ − .6n d´efinit une fonction rationnelle sur X ( A ), a (resp. b ), `a valeurs complexes, par les´egalit´es: A ( w, χ ) v χ = a ( χ ) v wχ , ξ χ − ◦ A ( w, χ ) = b ( χ ) ξ χ . On en d´eduit l’´egalit´e de fonctions rationnelles sur X ( A ), dite ´equation fonctionnellepour E χ : a ( χ ) E χ − ( g ) = b ( χ ) E χ ( g ) , g ∈ G. Utilisant l’entrelacement donn´e `a l’aide de w entre i GP χ et i GP − χ − , on a les ´egalit´es: B ( P, P − , χ ) = b ( χ ) , B ( P − , P, χ ) = b ( χ − ) A ( P − , P, χ ) v = a ( χ ) v, A ( P, P − , χ ) v = a ( χ − ) v, (1.2)les derni`eres ´etant ´ecrites dans la r´ealisation compacte.Par ailleurs, les fonctions a et b satisfont les relations, pour χ unitaire: a ( χ ) = a ( χ − ) ∗ , b ( χ ) = b ( χ − ) ∗ , la deuxi`eme ´etant corollaire de notre ´etude du produit scalaire de paquets d’ondes (cf.Th´eor`eme 5). Grˆace `a ses relations et `a l’´equation fonctionnelle pour E χ , on montreais´ement l’identit´e de fonctions rationnelles sur X ( A ): a ( χ ) F ( χ ) = b ( χ ) F ( χ − ) . (1.3)On va voir que si F est une fonction polynomiale sur X ( A ) qui v´erifie cette relation,elle provient de la transform´ee de Fourier-Whittaker d’un ´el´ement f de C ∞ c ( U \ G, ψ ) K .Le r´esultat d’Heiermann mentionn´e plus haut signifie ici qu’il existe une fonction, ζ ,polynomiale sur X ( A ) telle que l’on ait l’identit´e: a ( χ − ) ζ ( χ ) + a ( χ ) ζ ( χ − ) = 1 . (1.4)On note dχ la mesure invariante de masse totale 1 sur le groupe X ( A ) u des caract`eresunitaires non ramifi´es de A . Si Λ ∈ X ( A ), on en d´eduit une mesure sur X ( A ) u Λ.On fixe un tel Λ suffisamment P -antidominant. On d´efinitΦ( χ ) := a ( χ ) − ζ ( χ ) F ( χ ) , f Φ ( g ) := Z X ( A ) u Λ Φ( χ ) E χ ( g ) dχ, g ∈ G. Indiquons sommairement pourquoi f Φ ∈ C ∞ c ( U \ G, ψ ) et que F provient de f Φ . Comme f Φ est K -invariante et que G = U A K , il suffit, pour montrer qu’elle est `a supportcompact modulo U , de voir que sa restriction `a A est `a support compact. D’apr`es despropri´et´es g´en´erales des fonctions de Whittaker, f Φ ( a ) = 0 pour a ∈ A suffisament P -dominant. Il reste `a voir que pour a suffisamment P -antidominant f Φ ( a ) = 0).Pour un tel a , E χ ( a ) est ´egal `a son terme constant. Le calcul de celui-ci (cf.Proposition6) et les relations conduit `a l’´egalit´e: E χ ( a ) = b ( χ ) χ ( a ) + a ( χ )( χ − )( a ) .
7e sorte que, tenant compte de la d´efinition de Φ, on a f Φ ( a ) = Z Λ X ( A ) u b ( χ ) a ( χ ) − ζ ( χ ) F ( χ ) χ ( a ) dχ + Z Λ X ( A ) u ζ ( χ ) F ( χ ) χ − ( a ) dχ. Comme Λ a ´et´e suppos´e suffisamment P -antidominant, un d´eplacement de contour estpossible sans rencontrer de pˆoles pour le premier terme du membre de gauche. Alorspour a suffisamment P -antidominant, on en d´eduit, par un passage `a la limite, que cepremier terme est nul. Pour le deuxi`eme, on int`egre une fonction polynomiale, de sortequ’on peut d´eplacer le contour et se ramener `a int´egrer sur X ( A ) u . En utilisant lefait que la transform´ee de Fourier d’une fonction polynomiale sur X ( A ) est `a supportcompact, on voit encore que pour a suffisamment P -antidominant, ce deuxi`eme termeest nul. Ainsi f Φ est bien `a support compact.Etudions la transform´ee de Fourier-Whittaker de f Φ et notons F ′ la fonction poly-nomiale sur X ( A ) associ´ee `a celle-ci comme ci-dessus. D’abord tenant compte dufait que f Φ est `a support compact modulo U , le calcul se ram`ene, par l’utilisationdu centre de Bernstein au cas o`u Φ est polynomiale. Alors on peut se ramener `aune int´egrale sur X ( A ) u dans la d´efinition de f Φ . Le calcul de la transform´ee deFourier-Whittaker est alors tr`es semblable `a un calcul de Waldspurger dans sa preuvede la formule de Plancherel pour les groupes [W], grˆace `a notre introduction des sous-groupes paraboliques semi-standard. Tenant compte des relations (1.2), on trouve (cf.Th´eor`eme 5): F ′ ( χ ) = a ( χ ) a ( χ − )Φ( χ ) + a ( χ − ) b ( χ )Φ( χ − ) . Soit encore, en tenant compte de la d´efinition de Φ:ˆ f Φ = a ( χ − ) ζ ( χ ) F ( χ ) + b ( χ ) ζ ( χ − ) F ( χ − ) . Tenant compte de (1.3), puis de la relation (1.4), on trouve finalement F = F ′ .Ce traitement de ce cas particulier nous a conduit `a une reformulation du Th´eor`emeprincipal ne faisant intervenir que les sous-groupes paraboliques anti-standard (cf.Corollaire du Th´eor`eme 2).Les sous-groupes paraboliques semi-standard sont utilis´es dans les d´emonstrations quisont de ce fait proches des preuves de Waldspurger pour la formule de Planchereld’Harish-Chandra pour les groupes (cf. [W]).Outre le r´esultat principal, l’un des int´erˆets de ce travail est l’adaptation des techniquesde [W] aux fonctions de Whittaker. Au del`a, il offre un cadre pour l’´etude de l’analyseharmonique sur des espaces homog`enes comme les espaces sym´etriques (cf. par exemple[D2] pour le cas r´eel). Concernant ceux-ci, le calcul du terme constant des int´egralesd’Eisenstein semble ˆetre l’un des obstacles majeurs `a surmonter.Nous avons ´egalement inclus (cf. Th´eor`eme 8) une r´eponse positive `a une conjecture deLapid et Mao(cf. [LM], conjecture 3.5) sur le spectre discret des fonctions de Whittaker.Nadir Matringe (cf. [Ma], Corollaire 3.1), a obtenu ind´ependamment une r´eponse pos-itive `a cette conjecture pour certains groupes. Remerciements
Je remercie chaleureusement Paul Mezo qui m’a donn´e l’impulsion n´ecessaire pour leverl’hypoth`ese de la caract´eristique nulle.Je remercie vivement le referee pour ses suggestions, notamment concernantl’introduction, l’addition de la section sur la conjecture de Lapid-Mao et l’appendice.8
Notations, d´efinitions
Voici un syst´eme de notations emprunt´e a [W] et [A]. Soit F un corps local nonarchim´edien. On consid`ere divers groupes alg´ebriques d´efinis sur F et on utiliserades abus de terminologie du type suivant: “soit A un tore d´eploy´e” signifiera “soit A le groupe des points sur F d’un tore d´efini et d´eploy´e sur F ”. Avec ces conventions,soit G un groupe alg´ebrique lin´eaire r´eductif et connexe. On fixe un tore d´eploy´e max-imal, A , de G et on note M son centralisateur dans G . On fixe P un sous-groupeparabolique minimal de G qui admet M comme sous-groupe de L´evi. On notera U leradical unipotent de P .Si P est un sous-groupe parabolique de G , on dit que P est semi-standard (resp. stan-dard) si M ⊂ P (resp. P ⊂ P ). Si P est semi-standard, il poss`ede un uniquesous-groupe de L´evi, M , contenant M . On dit que M est un sous-groupe de L´evisemi-standard.L’expression “ P = M U est sous-groupe parabolique semi-standard de G ” signifiera que P est un tel sous-groupe, que M est son sous-groupe de L´evi semi-standard et que U est son radical unipotent. On notera P − = M U − le sous-groupe parabolique oppos´e `a P de sous-groupe de L´evi M . Un sous-groupe parabolique semi-standard de G , P , seradit anti-standard si P − est standard.Si H est un groupe alg´ebrique, on note Rat ( H ) le groupe des caract`eres alg´ebriques de H d´efinis sur F .Si V est un espace vectoriel, on note V ′ son dual et, s’il est r´eel, on note V C son com-plexifi´e.On note A G le plus grand tore d´eploy´e dans le centre de G . On note a G = Hom Z ( Rat ( G ) , R ). La restriction des caract`eres alg´ebriques de G `a A G induit un iso-morphisme: Rat ( G ) ⊗ Z C ≃ Rat ( A G ) ⊗ Z C . (2.1)On dispose de l’application canonique: H G : G → a G , (2.2)d´efinie par: e h H G ( x ) ,χ i = | χ ( x ) | F , x ∈ G, χ ∈ Rat ( G ) . (2.3)o`u | . | F est la valuation normalis´ee de F . Le noyau de H G , qui est not´e G , estl’intersection des noyaux des caract`eres de G de la forme | χ | F , χ ∈ Rat ( G ). On notera X ( G ) = Hom ( G/G , C ∗ ). C’est le groupe des caract`eres non ramifi´es de G .On a des notations similaires pour des sous-groupes de L´evi semi-standard. Si P estun sous-groupe parabolique semi-standard de G , on notera a P = a M P , H P = H M P .On note a = a M , H = H M . On note a G,F , resp. ˜ a G,F , l’image de G , resp. A G ,par H G . Alors G/G est un r´eseau isomorphe `a a G,F . Soit M un sous-groupe de L´evisemi-standard. Alors les inclusions A G ⊂ A M ⊂ M ⊂ G d´eterminent un morphismesurjectif a M,F → a G,F , resp. un morphisme injectif ˜ a G,F → ˜ a M,F , qui se prolonge demani`ere unique en une application lin´eaire surjective entre a M et a G , resp. injective9ntre a G et a M . La deuxi`eme application permet d’identifier a G `a un sous-espace de a M et le noyau de la premi`ere, a GM , v´erifie: a M = a GM ⊕ a G . (2.4)Soit P = M U un sous-groupe parabolique semi-standard. On note Σ( A M ) (resp. Σ( P ))l’ensemble des racines de A M dans l’alg`ebre de Lie de G (resp. P ) qui s’identifie `aun sous-ensemble de a ′ M . On note ∆( P ) l’ensemble des racines simples de Σ( P ). Si α ∈ Σ( A M ), on note U α le sous-groupe radiciel de U correspondant `a α . On peutassocier `a tout α ∈ Σ( A M ) une coracine ˇ α ∈ a M (cf. [A], section 3).Soit λ χ λ l’application ( a ′ G ) C → X ( G ) → a G avec Rat ( G ), associe, `a χ ⊗ s , le caract`ere g
7→ | χ ( g ) | s . (2.5)Le noyau est un r´eseau et cela d´efinit sur X ( G ) une structure de vari´et´e alg´ebriquecomplexe pour laquelle X ( G ) ≃ C ∗ d , o`u d = dim R a G . Pour χ ∈ X ( G ), soit λ ∈ a ∗ G, C un ´el´ement se projetant sur χ par l’application (2.5). La partie r´eelle Re λ ∈ a ∗ G estind´ependante du choix de λ . Nous la noterons Re χ . Si χ ∈ Hom ( G, C ∗ ), le caract`ere | χ | appartient `a X ( G ). On pose Re χ = Re | χ | . De mˆeme, si χ ∈ Hom ( A G , C ∗ ), lecaract`ere | χ | se prolonge de fa¸con unique en un ´el´ement de X ( G ) `a valeurs dans R ∗ + ,que l’on note encore | χ | et on pose Re χ = Re | χ | .Soit X ( G ) u := { χ ∈ X ( G ) | Re χ = 0 } l’ensemble des ´el´ements unitaires de X ( G ).Les notations ainsi d´efinies s’appliquent `a tous les sous-groupes de L´evi semi-standardde G .On choisit K un sous-groupe compact maximal de G , dont on suppose qu’il est lefixateur d’un point sp´ecial de l’appartement associ´e `a A dans l’immeuble de G . Pourle r´esultat suivant, cf. [C], Prop. 1.4.4:Il existe une suite d´ecroissante de sous-groupes compacts ouverts de G , K n , n ∈ N , telle que pour tout n ∈ N ∗ , H = H n est normal dans K = H et pour tout sous-groupe parabolique standard de G , P , on a:1) H = H U − H M H U o`u H U − = H ∩ U − , H M = H ∩ M , H U = H ∩ U.
2) Pour tout a ∈ A − M := { a ∈ A M || α ( a ) | F ≤ , α ∈ Σ( P ) } , aH U a − ⊂ H U , a − H U − a ⊂ K U − .
3) Le groupe H M v´erifie 1) et 2) relativement aux sous-groupesparaboliques de M contenant P ∩ M .4) La suite H n forme une base de voisinages de l’identit´e de l’´el´ementneutre de G . (2.6)On dit que H poss`ede une factorisation d’ Iwahori par rapport `a ( P, P − ) si 1) et 2)sont satisfaits. On munit G (resp. K ) d’une mesure de Haar, dg , (resp. de la mesure de Haar de massetotale 1, dk ). Pour tout sous-groupe ferm´e, H , de G , on note dh une mesure de Haar10a gauche sur H , dont le choix sera ´eventuellement sp´ecifi´e et on note δ H la fonctionmodule de H .Pour tout espace totalement discontinu Z , on note C ∞ c ( Z ) (resp. C ( Z ), resp. C c ( Z ))l’espace des fonctions localement constantes, `a support compact (resp. continues, resp.continues `a support compact) sur Z `a valeurs dans C .Soit P = M U un sous-groupe parabolique semi-standard de G . Alors G = P K etle groupe M ∩ K v´erifie relativement `a M les mˆemes propri´et´es que K relativement`a G . Pour g ∈ G , on choisit u P ( g ) ∈ U , m P ( g ) ∈ M , k P ( g ) ∈ K , de sorte que g = u P ( g ) m P ( g ) k P ( g ). On note du − la mesure de Haar sur U − telle que: Z U − δ P ( m P ( u − )) du − = 1 (2.7)et de mˆeme pour U . On note dk la mesure de Haar sur K de masse totale 1. Il existeune unique mesure de Haar sur M , dm , telle que pour tout f ∈ C c ( G ) on a (cf. [W], I(1.2)): Z G f ( g ) dg = Z U × M × K f ( umk ) δ P ( m ) − dkdmdu. Z G f ( g ) dg = Z U × M × U − f ( umu − ) δ P ( m ) − dudmdu − (2.8)Soit f une fonction continue sur K et invariante `a gauche par K ∩ P . Alors (cf. parexemple [K], ch. V, section 6, cons´equence 7, pour la version r´eelle): Z K f ( k ) dk = Z U − f ( k P ( u − )) δ P ( m P ( u − )) du − . (2.9)o`u l’int´egrale du membre de droite est absolument convergente. En particulier si f estune fonction continue sur G telle que f ( umg ) = δ P ( m ) f ( g ), u ∈ U, m ∈ M, g ∈ G Z K f ( k ) dk = Z U − f ( u − ) du − . (2.10)o`u l’int´egrale du membre de droite est absolument convergente.On fixe la mesure de Har de mase totale 1 sur A G ∩ K et sur X ( A G ) u , qui s’identifieau dual unitaire de A G /A G ∩ K . On fixe sur A G /A G ∩ K la mesure de Haar dualede celle sur X ( A G ) u . Des mesures ainsi choisies, on d´eduit une mesure sur A G , not´ee da G . L’homomorphisme de restriction d´etermine un morphisme surjectif de X ( G ) u sur X ( A G ) u . On fixe sur X ( G ) u une mesure de Haar telle que ce morphisme pr´eservelocalement les mesures de Haar choisies.On choisit un ensemble de repr´esentants dans K , W G , du quotient du normalisateurde M dans G par son centralisateur, W G , qui existe parce que K est le fixateur d’unpoint sp´ecial de l’appartement associ´e `a A . On le choisit de telle sorte qu’il contienne11’´el´ement neutre de G , qu’on notera 1 G ou seulement 1 s’il n’y a pas de confusion.Si x ∈ G et Y est une partie de G , on notera x.Y := { xyx − | y ∈ Y } .De mˆeme si H est un sous-groupe de G , et ( σ, E ) est une repr´esentationde H , on notera xσ la repr´esentation de x.H dans xE := E d´efinie par xσ ( xhx − ) = σ ( h ) , h ∈ H .On rappelle que le dual d’un espace vectoriel V est not´e V ′ . Si T estune application lin´eaire entre deux espaces vectoriels complexes, on note T t sa transpos´ee. Si ( σ, E ) est une repr´esentation de H , on note σ ′ larepr´esentation de H dans E ′ d´efinie par σ ′ ( h ) = σ ( h − ) t , h ∈ H .Pour toute application d´efinie sur H , f , on note:( λ ( h ) f )( h ′ ) = f ( h − h ′ ) , ( ρ ( h ) f )( h ′ ) = f ( h ′ h ) , h, h ′ ∈ H. (2.11) Les repr´esentations lisses de G et de ses sous-groupes ferm´es seront toujours `a coeffi-cients complexes.Soit P = M U un sous-groupe parabolique semi-standard de G . Si ( σ, E ) est unerepr´esentation lisse de M , on l’´etend en une repr´esentation de P triviale sur U . Soit χ ∈ X ( M ). On note E χ l’espace de la repr´esentation σ ⊗ χ , qu’on notera σ χ , et onnote i GP E χ l’espace des fonctions v de G dans E , invariantes `a droite par un sous-groupecompact ouvert de G et telles que v ( mug ) = δ P ( m ) / σ χ ( m ) f ( g ) pour tout m ∈ M , u ∈ U , g ∈ G . On note i GP ( σ χ ) la repr´esentation de G dand i GP E χ par translations `adroite. On note i KP ∩ K E l’espace des fonctions v de K dans E , invariantes `a droite parun sous-groupe compact ouvert de K et telles que f ( pk ) = σ ( p ) f ( k ) pour tout k ∈ K et p ∈ P ∩ K . La restriction des fonctions `a K d´etermine un isomorphisme de i GP E χ sur i KP ∩ K E . On notera i GP ( σ χ ) la repr´esentation de G dans i KP ∩ K E d´eduite de i GP ( σ χ ) partransport de structure. Cette repr´esentation sera appel´ee la r´ealisation compacte de i GP ( σ χ ) dans cet espace ind´ependant de χ . Si v ∈ i KP ∩ K E , on note v χ l’´el´ement de i GP E χ dont la restriction `a K est ´egale `a v .Si σ est unitaire, on munit i KP ∩ K E du produit scalaire d´efini par:( v, v ′ ) = Z K ( v ( k ) , v ′ ( k )) dk, v, v ′ ∈ i KP ∩ K E. (2.12)Alors, muni de ce produit scalaire, la repr´esentation i GP ( σ χ ) est unitaire pour χ unitaireet par cons´equent, par transport de structure, i GP ( σ χ ) ´egalement. On a alors, grˆace `a(2.10): ( v χ , v ′ χ ) = Z U − ( v χ ( u − ) , v ′ χ ( u − )) du − . (2.13)Soit H ⊂ H ′ deux sous-groupe ferm´es de G . Soit ( θ, V ) une repr´esentation de H . Onnote ind H ′ H θ la repr´esentation de H ′ par repr´esentation r´eguli`ere droite dans l’espace ind H ′ H V des fonctions v de H ′ dans V , invariantes `a droite par un sous-groupe compactouvert de H ′ , `a support compact modulo H , et telles que v ( hh ′ ) = θ ( h ) v ( h ′ ) pour tout h ∈ H et h ′ ∈ H ′ . 12n remarque que:Si ( χ, C χ ) est une repr´esentation lisse de dimension 1 de H ′ , ( ind H ′ H θ ) ⊗ χ est naturellement isomorphe `a ind H ′ H ( θ ⊗ χ | H ), l’entrelacement ´etant donn´epar v χv , v ∈ ind H ′ H V . (2.14)On note H ( H, V ) le quotient de V par le sous-espace engendr´e par l’ensemble des ρ ( h ) v − v , h ∈ H, v ∈ V .Si H est union de sous-groupes compacts, le foncteur qui `a V associe H ( H, V ) est exact. (2.15)On note C δ H ′ δ − H le H -module de dimension 1 donn´e par δ H ′ δ − H . Alors, (cf.[ BD], Lemme1.14 et Proposition 1.15, o`u, dans la preuve et les ´enonc´es, les fonctions modules se sont´egar´ees): H ( H ′ , ind H ′ H V ) est naturellement isomorphe `a H ( H, V ⊗ C δ H ′ δ − H ) . (2.16)Explicitons l’isomorphisme, en supposant en outre H et H ′ unimodulaires. Si v ∈ V onnote p ( v ) son image dans H ( H, V ). Si v ∈ ind H ′ H V , l’application de H ′ dans H ( H, V ), h ′ p ( v ( h ′ )) passe au quotient en une application localement constante `a supportcompact sur H \ H ′ et l’on a:L’application v R H \ H ′ p ( v ( h ′ )) dh ′ de ind H ′ H V dans H ( H, V ) passe auquotient en un isomorphisme de H ( H ′ , ind H ′ H V ) avec H ( H, V ). (2.17)On remarque que, avec les notations pr´ec´edentes: i GP σ = ind GP ( σ ⊗ δ / P ) . (2.18) Soit ( π, V ) une repr´esentation lisse irr´eductible de G (resp. lisse unitaire irr´eductible).On rappelle que si χ ∈ X ( G ), π χ d´esigne la repr´esentation π ⊗ χ . On notera [( π, V )],ou simplement [ π ], la classe d’´equivalence de π . Soit O = { [ π χ ] | χ ∈ X ( G ) } (resp. O u = { [ π χ ] | χ ∈ X ( G ) u } . Les orbites inertielles (resp. orbites inertielles unitaires) derepr´esentations lisses irr´eductibles (resp. unitaires irr´eductibles) sont par d´efinition lesensembles du type O (resp. O u ).On note C (resp. C u ) la cat´egorie dont les objets sont les repr´esentations lisses(resp. repr´esentations lisses unitaires) de G ´equivalentes `a l’une des repr´esentations π χ , χ ∈ X ( G ) (resp. X ( G ) u ) et dont les fl`eches sont les entrelacements bijectifs (resp.entrelacements unitaires). On appellera, par abus de langage, objet de O (resp. O u )les objets de C (resp. C u ).On veut d´efinir les “fonctions sur O (resp. O u )”, relativement `a un foncteur Ψ entre C (resp. C u ) et la cat´egorie des espaces vectoriels. Commencons par donner une d´efinitionformelle, avant de lui donner un sens plus concret.On note E la cat´egorie dont les objets sont les couples ( E, e ) o`u E est un espace vectorielet e est un ´el´ement de E , avec les morphismes induits par les morphismes d’espaces13ectoriels. Une “fonction sur O (resp. O u )”, ou “fonction sur O (resp. O u ) `a valeursdans Ψ” est la donn´ee d’un foncteur Φ de C (resp. C u ) dans E tel que, pour tout objet π de O (resp. O u ), Φ( π ) est de la forme (Ψ( π ) , φ ( π )) et tel que, pour tout T morphismede C (resp. C u ), le morphisme Φ( T ) soit induits par Ψ( T ). Dans toutes nos applicationsle foncteur Ψ sera tel que, si T et T ′ sont des isomorphismes entre deux objets de C (resp. C u ), Ψ( T ) = Ψ( T ′ ). Par exemple, cette propri´et´e est v´erifi´ee pour le foncteurqui `a ( π , V ) associe Hom C ( V , V ). On suppose cette propri´et´e v´erifi´ee par Ψ dans lasuite. Alors si T est un isomorphisme (resp. entrelacement unitaire) entre π et π , ona la relation: φ ( π ) = Ψ( T ) φ ( π ) . (2.19)On v´erifie ais´ement que la donn´ee de Φ ´equivaut `a la donn´ee d’une fonction qui `a tout χ ∈ X ( G ) (resp. X ( G ) u ) associe f ( π ⊗ χ ) ∈ Ψ( π ⊗ χ ) telle que si T est un isomorphisme(resp. entrelacement unitaire) entre π ⊗ χ et π ⊗ χ : f ( χ ) = Ψ( T ) f ( χ ) . (2.20)Malgr´e son cot´e tr`es formel, l’int´erˆet de notre d´efinition est de montrer que Φ( π ) et φ ( π ) sont d´efinis pour toute repr´esentation π ´equivalente `a l’une des repr´esentations π χ , χ ∈ X ( G ) (resp. χ ∈ X ( G ) u ).En pratique on ne d´efinit pas le foncteur Ψ, qui est implicite, mais on d´efinit φ ou f eton v´erifie la relation (2.19) (resp. (2.20)). On ´ecrira alors que cette relation d´efinit φ comme fonction sur O , ou, si l’on pr´ecise Ψ, comme fonction sur O `a valeurs dans Ψ.Si pour tout π objet de O (resp O u ), l’espace Ψ( π χ ) s’identifie canoniquement `a unespace E π , ind´ependant de χ , on dira que:La fonction sur O (resp. O u ) `a valeurs dans Ψ, φ , est polynomiale si pourtout σ objet de O (resp. O u ), l’application χ φ ( π χ ) , χ ∈ X ( G ) (resp. X ( G ) u ), est `a valeurs dans un sous-espace de dimension finie de E π etpolynomiale (resp. se prolonge en une application polynomiale sur X ( G )).On notera P ol ( O , Ψ) (resp.
P ol ( O u , Ψ)) l’espace vectoriel des fonctionspolynomiales sur O (resp. O u ) `a valeurs dans Ψ.On d´efinit de mˆeme les applications rationnelles. (2.21) Un homomorphisme, ψ , de U dans C ∗ est un caract`ere lisse non d´eg´en´er´e, si et seule-ment si son noyau est ouvert et pour tout α ´el´ement de l’ensemble des racines simplesde A dans P , ∆( P ), la restriction de ψ au sous-groupe radiciel ( U ) α est non triviale.On fixe un tel caract`ere ψ dans la suite.Si ( π, E ) est un module lisse pour U , on notera ( π ψ − , E ψ − ) la repr´esentation π ⊗ ψ − de U dans E .On note C ∞ ( U \ G, ψ ) l’espace des fonctions f sur G , invariantes `a droite par un sous-groupe compact ouvert et telles que f ( ug ) = ψ ( u ) f ( g ) pour g ∈ G , u ∈ U . On note C ∞ c ( U \ G, ψ ) le sous-espace de C ∞ ( U \ G, ψ ) form´e des ´el´ements de C ∞ ( U \ G, ψ ) `asupport compact modulo U . 14oit ( π, V ) une repr´esentation lisse de G . On note (ˇ π, ˇ V ) la repr´esentation de G dansle dual lisse ˇ V de V . On note ( π ′ , V ′ ) la repr´esentation contragr´ediente de ( π, V ). Onnote W h ( π ) l’espace des formes lin´eaires ξ sur V telles que π ′ ( u ) ξ = ψ − ( u ) ξ pourtout u ∈ U . En d’autres termes: W h ( π ) = ( V ψ − ) ′ U ou encore W h ( π ) = ( H ( U , V ⊗ C ψ − )) ′ (3.1)o`u H d´esigne l’homologie et C ψ − d´esigne l’espace de la repr´esentation de dimension 1de U donn´ee par ψ − . On appelle les ´el´ements de W h ( π ) les fonctionnelles de Whittakerde π .Si ξ ∈ W h ( π ) et v ∈ V , on note c ξ,v le coefficient g´en´eralis´e d´efini par: c ξ,v ( g ) = h ξ, π ( g ) v i , g ∈ G. (3.2)Alors c ξ,v est un ´el´ement de C ∞ ( U \ G, ψ ).On a le r´esultat suivant du `a Bushnell et Henniart [BuHen], Th´eor`eme 4.2 (cf. [D3],Th´eor`eme 5.7 pour une autre preuve):Si ( π, V ) est de longueur finie,
W h ( π ) est de dimension finie. (3.3)Soit H un sous-groupe compact ouvert de G . On note e H la mesure de Haar normalis´eede H , qu’on regarde comme un ´el´ement de l’alg`ebre de Hecke de G . On fera danscette partie r´ef´erence `a [D3]. Il faut toutefois tenir compte, `a chaque fois, de notrechangement de point de vue: relations de covariance `a gauche et action `a droite dansl’induction. On note, pour ε > A − ( ε ) := { a ∈ A || α ( a ) | F ≤ ε, α ∈ ∆( P ) } et A − = A − (1) . Comme dans [D3], Lemme 3.1, on voitPour tout sous-groupe compact ouvert H de G , il existe un sous-groupecompact ouvert H ′ tel que pour toute repr´esentation lisse de G , ( π, V ),tout ξ ∈ W h ( π ) et tout v ∈ V H on ait: h ξ, π ( a ) v i = h e H ′ ξ, π ( a ) v i , a ∈ A − o`u e H ′ ξ est l’´el´ement de ˇ V d´efinit par h e H ′ ξ, v i := h ξ, π ( e H ′ ) v i , v ∈ V . (3.4)En effet prenons H ′ comme dans (2.6), contenu dans H avec H ′ U ⊂ Kerψ . Soit h ′ ∈ H ′ .On ´ecrit h ′ = umu − avec u ∈ H ′ U , u − ∈ H ′ U − , m ∈ H ′ M . Alors h ξ, π ( h ′ a ) v i = h ξ, π ( ama − u − a ) v i Mais a − ∈ A +0 normalise H ′ U − et H ′ fixe v . Donc h ξ, π ( h ′ a ) v i = h ξ, π ( a ) v i , h ′ ∈ H ′ , a ∈ A − .
15e qui prouve (3.4).On rappelle (cf. [D3], Lemme 5.4):Soit H un sous-groupe compact ouvert de G . Il existe C > f ∈ C ∞ ( U \ G, ψ ), invariante `a droite par H , f ( a ) = 0 si | a α | F > C pour au moins un ´el´ement α de ∆( P ), i.e. pour a ´el´ementdu compl´ementaire de A − ( C ) . (3.5)Rappelons la caract´erisation du terme constant des ´el´ements de C ∞ ( U \ G, ψ ) et desfonctionnelles de Whittaker. Soit P = M U un sous-groupe parabolique standard de G . Avec les notations ci-dessus, on note ( π P , V P ) le produit tensoriel entre, d’une partla repr´esentation de M dans le quotient de V par le M -sous-module engendr´e par les π ( u ) v − v , u ∈ U, v ∈ V , et d’autre part la repr´esentation de M sur C donn´ee par δ − / P . On appelle ( π P , V P ) module de Jacquet normalis´e de V relatif `a P . On note,pour v ∈ V , j P ( v ) ou v P sa projection naturelle dans V P .Soit Θ P l’ensemble des ´el´ements de ∆( P ) qui sont racines de A dans l’alg`ebre de Liede M . On note, pour ε > A − ( P, < ε ) := { a ∈ A − || α ( a ) | F < ε, α ∈ ∆( P ) \ Θ P } . D’apr`es [De] Th´eor`eme 3.4, Remarque 3.5 et Proposition 3.6, on dispose d’une uniqueapplication lin´eaire
W h ( π ) W h ( π P ), ξ → j P − ( ξ ), not´ee aussi ξ ξ P pour plus decommodit´e, qui v´erifie:Pour tout sous-groupe compact ouvert H de G , il existe ε H > P , avec les propri´et´es suivantes:Pour toute repr´esentation lisse ( π, V ) et ξ ∈ W h ( π ), on a: δ / P ( a ) h ξ P , π P ( a ) v P i P = h ξ, π ( a ) v i , a ∈ A − ( P, < ε H ) , v ∈ V H . (3.6)Le terme constant le long de P d’un ´el´ement f de C ∞ ( U \ G, ψ ) a ´et´e d´efini dans [D]D´efinition 3. C’est un ´el´ement f P de C ∞ ( U ∩ M \ M, ψ ). Il v´erifie, pour tout f invariant`a droite par un sous-groupe compact ouvert H de G : δ / P ( a ) f P ( a ) = f ( a ) , a ∈ A − ( P, < ε H ) . (3.7)L’application f f P est un morphisme de P -modules entre C ∞ ( U \ G, ψ )et C ∞ ( U ∩ M \ M, ψ ), o`u P agit par repr´esentation r´eguli`ere droite surle premier espace et M (resp. U ) agit par repr´esentation r´eguli`ere droitetensoris´ee par δ / P (resp. trivialement) sur le second. (3.8)Soit ( π, V ) une repr´esentation lisse de G et ξ ∈ W h ( π ). Avec les notations de (3.2),on a: ( c ξ,v ) P = c ξ P ,v P , v ∈ V. (3.9)16 emme 1 (i) Si ( π, V ) est une repr´esentation lisse cuspidale de G , pour tout v ∈ V ,le coefficient g´en´eralis´e c ξ,v est `a support compact modulo l’action `a gauche de U A G sur G .(ii) On suppose ici ψ unitaire. Si ( π, V ) est une repr´esentation lisse et unitaire de G et ξ ∈ W h ( π ) , pour tout v ∈ V , le coefficient g´en´eralis´e c ξ,v est born´e en module sur G .D´emonstration: (i) est donn´e par [D3], Th´eor`eme 4.4 (ii).(ii) L’´egalit´e G = P K montre qu’il existe un ensemble fini, I , d’´el´ements de G tel que G = U A IK . Pour d´emontrer (i), il suffit donc de montrer que pour tout v ∈ V , c ξ,v est born´e sur A . Mais si a ∈ A , c ξ,v ( a a ) = c ξ,π ( a ) v ( a ) , a ∈ A . Tenant compte de (3.5), on voit que pour a bien choisi, c ξ,π ( a ) v est nul sur A \ A − .Ainsi, on est r´eduit `a prouver que pour tout v ∈ V , c ξ,v est born´e sur A − . Mais celar´esulte de (3.4) et du fait que tout coefficient d’une repr´esentation unitaire est born´e. Soit P = M U un sous-groupe parabolique anti-standard de G . Soit ( σ, E ) unerepr´esentation lisse de M . On rappelle que pour χ ∈ X ( M ), la repr´esentation ( σ χ , E χ )d´esigne la repr´esentation ( σ ⊗ χ, E ) de M . On note B ( M ) ou B , l’alg`ebre des fonctionsr´eguli`eres sur X ( M ): c’est l’alg`ebre de fonctions sur X ( M ) engendr´ee par les applica-tions b m , m ∈ M , d´efinies par b m ( χ ) := χ ( m ) , χ ∈ X ( M ). On d´efinit ´egalement unestructure de ( M, B )-module sur E B = E ⊗ B en faisant agir B par multiplication surle deuxi`eme facteur et m ∈ M par le produit tensoriel de σ ( m ) avec la multiplicationpar l’´el´ement b m de B .Soit encore: σ B ( m )( e ⊗ b ) = ( σ ( m ) e ) ⊗ b m b, e ∈ E, b ∈ B. On ´etend l’action de M `a P en la prenant triviale sur U .On notera • `a la place de χ ou B . On consid`ere ( i GP σ • , i GP E • ) On notera aussi I • au lieude i GP E • qui est un ( G, B )-module.Les points (i) `a (iv) du Th`eor`eme suivant sont dus `a Rodier [R] et Casselman-Shalika[CS] (voir aussi [Sh], Proposition 3.1). Nous en donnons une preuve qui permet demontrer la polynomialit´e du point (v).
Th´eor`eme 1 (i) On note J • = { v ∈ I • | v est `a support contenu dans P U } qui estun sous- U -module lisse de I • . Alors H ( U , J • ⊗ C ψ − ) est naturellement isomorphe`a H ( M ∩ U , E ⊗ C ψ − ) si • est ´egal `a χ , et `a H ( M ∩ U , E ⊗ C ψ − ) ⊗ B comme B -module si • est ´egal `a B . ii) Passant au dual, cela d´etermine un isomorphisme entre W h ( σ ) et W h ( J χ ) , η ξ ( P, σ χ , η ) .La restriction des ´el´ements de J χ `a U sont `a support compact modulo U ∩ M . Alorson a: h ξ ( P, σ χ , η ) , v i = Z U − h η, v ( u − ) i ψ ( u − ) − du − , v ∈ J χ . (iii) L’injection naturelle de J • dans I • d´etermine un isomorphisme: H ( U , J • ⊗ C ψ − ) ≃ H ( U , I • ⊗ C ψ − ) . (iv) Passant aux duaux dans (iii) et tenant compte de (ii), on dispose d’un isomor-phisme: W h ( σ ) → W h ( i GP σ χ ) qu’on note: η ξ ( P, σ χ , η ) . La restriction de ξ ( P, σ χ , η ) `a J χ est ´egale `a ξ ( P, σ χ , η ) et elle d´etermine enti`erement ξ ( P, σ χ , η ) .(v) On dispose de la r´ealisation compacte de i GP σ χ dans un espace ind´ependant de χ , I .On note ξ ( P, σ χ , η ) la forme lin´eaire obtenue sur I d´eduite de ξ ( P, σ χ , η ) par transportde structure. Alors pour tout v ∈ I , l’application χ
7→ h ξ ( P, σ χ , η ) , v i est une fonctionpolynomiale sur X ( M ) , i.e. un ´el´ement de B . En d’autres termes, pour tout v ∈ I , notant pour χ ∈ X ( M ) , v χ l’´el´ement de I χ dont la restriction `a K est ´egale `a v ,l’application χ
7→ h ξ ( P, σ χ , η ) , v χ i d´efinit un ´el´ement de B .D´emonstration: On commence par ´etudier I • comme U -module. D’apr`es la d´ecomposition de Bruhat, iln’y a qu’un un nombre fini de ( P, U )-doubles classes et on peut choisir un ensemble derepr´esentants de celles-ci dans W G , Ω = { x , x , . . . , x n } , contenant 1. On introduit lesensembles O = P U ⊂ O ⊂ ... ⊂ O n = G tels que O i +1 \ O i = P x i +1 U . Un bon choixde l’ordre des x i permet de supposer les O i ouverts. On note I i = { v ∈ I • | suppv ⊂ O i } de sorte que I = J • et { } ⊂ I ⊂ I ... ⊂ I n = I • . On montre (cf. par exemple [BlD],Proposition 1.17, voir aussi [BZ], Th´eor`eme 5.2) que: I i /I i − ≃ ind U U ∩ x i .P x i σ •| U ∩ x i .P o`u, pour i = 0 , ..., n , x i σ • est la repr´esentation de x i .P dans E • d´efinie par: x i σ • ( x i px − i ) = σ • ( p ) , p ∈ P. (4.1)Remarquons que notre d´efinition des induites paraboliques diff´ere de celle de [BlD] (cf.(2.18)). Cela implique qu’il devrait plutot apparaitre ˜ σ = σ ⊗ δ / P au lieu de σ dansle second membre de la derni`ere ´equation. Mais δ / P ´etant triviale sur les sous-groupescompacts et U ∩ x i .P ´etant r´eunion de tels sous-groupes, on peut ignorer ce facteur.Ce qui pr´ec`ede montre en particulier:La restriction des fonctions `a U d´etermine un isomorphisme de U -modulesentre J • et ind U U ∩ P ( E • ). (4.2)18omme U et ses sous-groupes ferm´es sont r´eunion de sous-groupes compacts, ils sontunimodulaires. Le lemme de Shapiro (cf. (2.17)) et (2.14) impliquent donc:Il existe un isomorphisme canonique T entre H ( U , J • ⊗ C ψ − ) et H ( U ∩ P, E • ⊗ C ψ − ) . (4.3)Mais U ∩ P = U ∩ M car P est anti-standard. D’autre part si χ ∈ X ( M ) et u ∈ U ∩ M , χ ( u ) = 1 et b u = 1. On en d´eduit (i) imm´ediatement.Pour (ii), l’assertion sur le support des restrictions des ´el´ements de J `a U r´esulte del’explicitation de (4.2). Il en r´esulte que l’int´egrale de (ii) est bien d´efinie, et qu’elled´efinit un ´el´ement de W h ( J χ ). On remarque que ( U ∩ M ) \ U s’identifie canoniquement`a U − . L’explicitation de l’isomorphisme de (i), grˆace `a (2.14), (2.17), (4.2), conduit `a(ii).Maintenant on choisit x = x i avec i >
0. On pose P = x.P , M = x.M , χ = xχ etc.... On note ( E ) • l’espace de ( σ ) • := xσ • . On veut calculer H ( U , I i /I i − ⊗ C ψ − ).D’apr`es (2.17) et (4.1), cet espace est isomorphe `a H ( U ∩ P , ( E ) • ⊗ C ψ − ). Comme x i normalise M , P est un sous-groupe parabolique semi-standard et U ∩ P est ´egal `a( U ∩ M )( U ∩ U ). Alors, d’apr`es [BlD], Proposition 1.12, H ( U ∩ P , ( E ) • ⊗ C ψ − )est isomorphe `a H ( U ∩ M , H ( U ∩ U , ( E ) • ⊗ C ψ − )).Montrons que H ( U ∩ U , ( E ) • ⊗ C ψ − ) est r´eduit `a z´ero. L’action de U ´etant trivialesur ( E ) • , on est r´eduit `a prouver que H ( U ∩ U , C ψ − ) = { } . (4.4)Comme x = x i avec i > U P n’est pas ouvert et en particulier P n’est pas anti-standard. Montrons qu’il existe α ∈ ∆( P ) telle que ( U ) α soit contenu dans U .Si c’´etait faux, tous les ( U ) α serait contenu dans P − , donc P − contiendrait U , cequi voudrait dire que P − est standard, donc que P est anti-standard. On a doncprouv´e notre affirmation. Ceci prouve que la restriction de ψ `a U ∩ U est non triviale.L’assertion (4.4) en r´esulte imm´ediatement en utilisant la d´efinition. On a donc montr´eque pour tout i > H ( U , I i /I i − ⊗ C ψ − ) est nul.Par ailleurs, U ´etant r´eunion de sous-groupes compacts ouverts, le foncteur qui, `a tout U -module lisse V , associe H ( U , V ⊗ C ψ − ) est exact (cf. (2.15)). Alors, un argumentde suite exacte montre (iii).(iv) est obtenu par passage au dual dans (iii).On va prouver (v) essentiellement comme dans [BlD], Th´eor`eme 2.8 (iv). A l’aide (i) et(iii), on voit que Hom B ( H ( U , I B ) , B ) est canoniquement isomorphe `a Hom B ( H ( U ∩ M, E ⊗ C ψ − ) ⊗ B, B ). A η ∈ W h ( σ ), il correspond un unique ´el´ement de cet espace qui`a e ⊗ b ∈ H ( U ∩ M, E ⊗ C ψ − ) ⊗ B associe η ( e ) b ∈ B . On note ξ ( P, σ B , η ) l’´el´ementcorrespondant de Hom B ( H ( U , I B ) , B ) dans l’isomorphime ci-dessus.Pour tout B -module, ou morphisme de B -module, on dispose de la sp´ecialisation entout ´el´ement χ de X ( M ), qu’on note avec χ en un indice inf´erieur. Le sp´ecialis´e de I B est I χ , notamment. Montrons que le sp´ecialis´e en χ de ξ ( P, σ B , η ) est ξ ( P, σ χ , η ).D’apr`es le point (iii), il suffit pour prouver cette ´egalit´e, d’´etudier la restriction de cesformes lin´eaires `a J χ . On conclut en explicitant les isomorphismes grˆace `a (i) et (ii).19a r´ealisation compacte de I B se fait dans l’espace I ⊗ B . Si v ∈ I , ξ ( P, σ B , η )( v ⊗ B dont la valeur en χ est ´egale `a ξ ( P, σ χ , η )( v ), d’apr`es ce que l’onvient de voir. Cela prouve (v). Proposition 1
On suppose σ unitaire. Soit η ∈ W h ( σ ) . (i) Si χ ∈ X ( M ) est tel que Re ( χδ − / P ) soit strictement P -dominant, la fonction sur G `a valeurs dans E ′ , χ ˜ ξ ( P, σ χ , η ) , d´efinie par: h ˜ ξ ( P, σ χ , η )( umu − ) , e i = ψ ( u − ) − h η, ( χ − δ / P )( m ) σ ( m − ) e i , e ∈ E, u ∈ U, m ∈ M, u − ∈ U − et ˜ ξ ( P, σ χ , η )( g ) = 0 , g / ∈ U M U − , est faiblement continue, i.e. pour tout e ∈ E , l’application g
7→ h ˜ ξ ( P, σ χ , η )( g ) , e i estcontinue sur G .(ii) Pour tout v ∈ I χ et χ comme en (i), on a: ξ ( P, σ χ , η )( v ) = Z K h ˜ ξ ( P, σ χ , η ) , v ( k ) i dk ainsi que: ξ ( P, σ χ , η )( v ) = Z U − h η, v ( u − ) i ψ ( u − ) − du − , l’int´egrale ´etant absolument convergenteD´emonstration: Nous aurons besoin du Lemme suivant pour prouver (i).
Lemme 2 Si umu − ∈ U M U − tend vers un ´el´ement du compl´ementaire de U M U − dans G , alors pour tout ´el´ement ν de a ∗ M strictement P − -dominant, e ν ( H M ( m )) tend versz´ero.D´emonstration: Nous allons utiliser des repr´esentations rationnelles de G . Fixons quelques notationssuppl´ementaires.On note G le groupe alg´ebrique dont G est le groupe des points sur F . On utiliserades notations similaires pour les sous-groupes de G . Soit T un F -tore maximal de G contenant A , B un sous-groupe de Borel de G , contenant T et contenu dans P − . Onnote Σ( T ) l’ensemble des racines de T dans G . On note Λ( T ) (resp. Λ( T ) rac ) le r´eseaudes poids (resp. le r´eseau des racines) de T relatif `a G . On note Γ le groupe de Galoisde F qui agit sur ces r´eseaux. On note Λ + l’ensemble des poids dominants relatifs `a B .On note Λ + M l’ensemble des ´el´ements λ de Λ + tels que G admette une repr´esentationrationnelle irr´eductible, de dimension finie, de plus haut poids λ , ( π λ , V λ ), telle que ,notant v λ un vecteur non nul de poids λ on ait:Le vecteur v λ se transforme sous un caract`ere rationnel de M not´e ˜ λ . Deplus, il existe v ′ λ ∈ V ′ λ invariant par U et tel que le coefficient c λ ( g ) = |h π λ ( g ) v λ , v ′ λ i| F soit nul sur le compl´ementaire dans G de U M U − . Onnote l l’´element de a ∗ M tel que pour tout m ∈ M , | ˜ λ ( m ) | F = e l ( H M ( m )) . (4.5)20n remarque que:Λ + M est stable par multiplication par la restriction `a T des caract`eres ra-tionnels de G . (4.6)Soit β un ´el´ement de l’ensemble des racines de A dans G , Σ( A ). On note˜ β := X α ∈ Σ( T ) ,α | A = β α. On voit facilement qu’il existe n ∈ N ∗ tel que, pour tout β ∈ Σ( A ), il existe n β ∈ N ∗ tel que n β ˜ β | A = nβ . Notons n. Λ rac ( A ) le r´eseau engendr´e par les n β ˜ β , β ∈ Σ( A ). Parconstruction, les ´el´ements de n. Λ rac ( A ) sont invariants sous Γ et ´el´ements de Λ rac ( T ).On note que tout ´el´ement de n. Λ rac ( A ) est invariant par le groupe de Weyl de M relatif `a T , W ( M , T ). Notons Λ( A ) le r´eseau des poids de A . Comme l’ensemble desrestrictions `a A des ´el´ements de n. Λ rac ( A ) contient n Λ rac ( A ), o`u Λ rac ( A ) d´esigne ler´eseau des racines de A dans G , il existe n ′ ∈ N ∗ tel que l’ensemble des restrictions `a A de n. Λ rac ( A ) contienne n ′ Λ( A ).Par ailleurs un ´el´ement de n. Λ rac ( A ) est dans Λ + si et seulement si sa restriction `a A est un ´el´ement de l’ensemble, Λ + ( A ), des poids U − -dominants de A . Donc :L’ensemble des restrictions `a A des ´el´ements de n. Λ rac ( A )) + := n. Λ rac ( A ) ∩ Λ + contient n ′ Λ + ( A ) (4.7)Soit λ ∈ ( n. Λ rac ( A )) + ⊂ Λ( T ) rac ∩ Λ + . On d´eduit de [T], Th´eor`eme 3.3 et Lemme3.2, l’existence d’une repr´esentation rationnelle de G , irr´eductible de plus haut poids λ , ( π λ , V λ ). Soit v λ ∈ V λ un vecteur non nul de poids de poids λ . Montrons qu’il setransforme sous un caract`ere rationnel de M . On peut pour cela passer `a la clˆoturealg´ebrique. L’invariance de λ par W ( M , T ), le fait que l’espace de poids λ soit dedimension 1 (cf. [Hu], Proposition 31.2) et la d´ecomposition de Bruhat de M permetde conclure.On note Λ ++ M l’ensemble des ´el´ements de ( n. Λ rac ( A )) + dont la restriction`a A est orthogonale aux racines de simples, pour U − , de A dans M , cequi est automatique, et non orthogonale aux autres racines simples de A dans U − . (4.8)On va montrer: Λ ++ M ⊂ Λ + M . (4.9)Soit λ ∈ Λ ++ M . Il faut d’abord montrer que v λ se transforme sous un caract`ere rationnelde M , qu’on notera ˜ λ . On note λ la restriction de λ `a A . On prouve de mani`ereanalogue `a la Proposition 31.2 de [Hu], en utilisant ici la densit´e de U − M U dans G ,que le sous-espace de poids λ sous A dans V est de dimension 1. On voit de mˆeme queles poids de A dans V λ sont de la forme µ = λ + P β ∈ ∆( P ) c β β , o`u les c β sont ´el´ementsde N (on rappelle que B est contenu dans P − ). Par ailleurs le goupe de Weyl, W M ,de M relatif `a A fixe λ car λ ∈ Λ + M . On ach`eve de prouve notre assertion sur v λ enutilisant la d´ecomposition de Bruhat de M relative `a P − ∩ M .21n consid´ere maintenant l’hyperplan de V λ engendr´e par les sous-espaces de poids sous A pour des poids distincts de λ . Grˆace `a l’information obtenue ci-dessus sur les poidsde A dans V λ et `a la Proposition 27.2 de [Hu], on voit que cet hyperplan est stablepar U . En cons´equence la forme lin´eaire sur V λ , v ′ λ , nulle sur cet hyperplan et valant 1sur v λ se transforme sous un caract`ere rationnel du groupe unipotent U . Elle est doncinvariante par U .Consid´erons la fonction c λ sur G , `a valeurs r´eelles, d´efinie par: c λ ( g ) = |h π λ ( g ) v λ , v ′ λ i| F , g ∈ G. Montrons que l’hypoth`ese sur λ implique que c λ est nulle en dehors de U M U − . Eneffet, d’apr`es la d´ecomposition de Bruhat, un ´el´ement de ce compl´ementaire s’´ecrit g = uwmu − , o`u w ∈ W G repr´esente un ´el´ement du groupe de Weyl W G qui n’appartientpas au groupe de Weyl W M . Alors c λ ( g ) est un multiple de |h π λ ( w ) v λ , v ′ λ i| F . Mais π λ ( w ) v λ est de poids wλ sous A . Ce poids est distinct de λ car λ ∈ Λ ++ M . On end´eduit que |h π λ ( w ) v λ , v ′ λ i| F est nul. Donc c λ ( g ) est nul, comme d´esir´e. Ceci ach`eve deprouver (4.9).Soit λ ∈ Λ + M . La fonction c λ est continue sur G . On en d´eduit que, si umu − tend versun un ´el´ement du compl´ementaire de U M U − dans G , | ˜ λ ( m ) | F = e l ( H M ( m ) tend versz´ero. Soit ν comme dans l’´enonc´e. Notons, pour β racine simple de A dans l’alg`ebrede Lie de P − , δ β le poids fondamental de A relatif `a U − correspondant. D’ap`es (4.9) et(4.7), on voit que toute combinaison lin´eaire `a coefficients dans N ∗ des n ′ δ β , o`u β n’estpas une racine de A dans M , est ´egale `a un l comme ci-dessus. En prenant tous lescoefficient ´egaux `a un sauf celui correspondant `a un β , que l’on prend tr`es grand, et enfaisant varier β puis en tenant compte de (4.6), on voit que ν s’´ecrit comme combinaisonlin´eaire `a coefficients positifs d’´el´em´ents l pour λ ∈ Λ + M . Le Lemme en r´esulte.Alors le point (i) de la Proposition r´esulte imm´ediatement du Lemme pr´ec´edent et dufait que pour tout e ∈ E , la fonction sur M , m
7→ h σ ′ ( m ) η, e i est born´ee car σ estunitaire(cf. Lemme 1 (ii)).Prouvons (ii). D’abord l’´egalit´e: Z K h ˜ ξ ( P, σ χ , η ) , v ( k ) dk = Z U − h η, v ( u − ) i ψ ( u − ) − du − r´esulte de la formule int´egrale (2.10) et de la la continuit´e montr´ee en (i), les int´egrales´etant de plus absolument convergentes. Le deuxi`eme membre de cette ´egalit´e, lorsque v varie, d´efinit une fonctionnelle de Whittaker sur I χ , comme le montre de simpleschangement de variables, en ´etudiant s´epar´ement la transformation selon U ∩ M et U − de cette forme lin´eaire. Celle-ci poss`ede les propri´et´es caract´eristiques de ξ ( P, σ χ , η ) (cf.Th´eor`eme 1 (i) et (ii)). (ii) en r´esulte. Proposition 2
Soit P un sous-groupe parabolique anti-standard de G .(i) Soit O l’orbite inertielle d’une repr´esentation lisse irr´eductible de M . Si ( σ, E ) est unobjet de O et η ∈ W h ( σ ) , on d´efinit ξ ( P, σ, η ) en idenfiant σ `a σ ⊗ . La correspondance η ξ ( P, σ, η ) est une application lin´eaire bijective entre W h ( σ ) et W h ( i GP σ ) , que l’on ote φ ( σ ) .Soit ( σ, E ) et ( σ , E ) deux objets de O ´equivalents. Soit T : E E un op´erateurd’entrelacement bijectif entre σ et σ . La transpos´ee de T , T t , d´etermine une bijectionnot´ee encore T t , de W h ( σ ) sur W h ( σ ) . On note indT , l’op´erateur d’entrelacementinduit par T entre i GP σ et i GP σ , qui est simplement la composition des applications de G dans E avec T . Alors on a: ξ ( P, σ , η ) = ξ ( P, σ, T t η ) ◦ ( indT ) − , η ∈ W h ( σ ) . (4.10) Cela d´efinit φ comme fonction sur O `a valeurs dans Hom ( W h ( . ) , W h ( i GP )( . )) , not´eaussi Hom ( W h, W h ( i GP )) (cf. (2.19)).(ii) En particulier, on a:Si σ = mσ avec m ∈ M ∩ K , l’application T = σ ( m − ) entrelace σ et σ , T t = σ ′ ( m ) est une bijection de W h ( σ ) sur W h ( σ ) . De plus indT est la multiplication par σ ( m − ) , donc est ´egal `a λ ( m ) (cf. (2.11) pour lesnotations), car δ / P est ´egale `a 1 sur les ´el´ements de M ∩ K . La formuleci-dessus se lit donc dans ce cas: ξ ( P, mσ, η ) = ξ ( P, σ, σ ′ ( m ) η ) ◦ λ ( m − ) , η ∈ W h ( σ ) ou bien ξ ( P, mσ, σ ′ ( m − ) η ) = ξ ( P, σ, η ) ◦ λ ( m − ) , η ∈ W h ( σ ) . (4.11) D´emonstration:
Cela r´esulte de la caract´erisation de ξ ( P, σ, η ) donn´ee par le Th´eor`eme 1 (iv).Soit ( σ, E ) un objet de O et e ∈ E . Soit H un sous-groupe compact ouvert de G contenu dans K poss´edant une factorisation d’Iwahori par rapport `a ( P, P − ) (cf. (2.6))et tel que e soit invariant par H M . On suppose en outre que H est assez petit, de sorteque H U − soit contenu dans Kerψ . On d´efinit une application de G dans E , v P,He,σ , par: v P,He,σ ( umh U − ) = δ / P ( m ) σ ( m ) e si h U − ∈ H U − et m ∈ M, u ∈ U . v P,He,σ ( g ) = 0 si g / ∈ P H = P H U − . (4.12)Comme e est H M -invariant, v P,He,σ est invariante `a droite par H . C’est un ´el´ement de i GP E et mˆeme de J , avec les notations du Th´eor`eme 1. On remarque que:Pour χ ∈ X ( M ), la restriction de v P,He,σ χ `a K ne d´epend pas de χ . (4.13)Notons vol ( H U − ) = Z H U − du − o`u du − est la mesure de Haar sur U − choisie en (2.7). En utilisant le Th´eor`eme 1 (ii)et (iv), on voit que: h ξ ( P, σ, η ) , v P,He,σ i = vol ( H U − ) h η, e i , (4.14)23 emme 3 Induction par ´etage pour les fonctionnelles de Jacquet
Soit P = M U sous-groupe parabolique de G contenant le sous-groupe parabolique anti-standard P . On note ( σ , E ) = ( i M P ∩ M σ, i M P ∩ M E ) . On identifie i GP σ `a i GP σ . Alors si η ∈ W h ( σ ) , η := ξ ( P ∩ M , σ, η ) est un ´el´ement de W h ( σ ) et on a: ξ ( P, σ, η ) = ξ ( P , σ , η ) . D´emonstration:
D’apr`es le Th´eor`eme 1 (iv) et (ii), il suffit de voir que pour tout v ∈ i GP E `a supportdans P U − on a: h ξ ( P, σ, η ) , v i = h ξ ( P , σ , η ) , v i , (4.15)o`u v est l’´el´ement de i GP E correspondant `a v dans l’identification de i GP E `a i GP E . Lepremier membre de l’´egalit´e `a d´emontrer est donn´e par le Th´eor`eme 1 (ii) et (iv): h ξ ( P, σ, η ) , v i = Z U − h η, v ( u − ) i ψ − ( u − ) − du − . De mˆeme v est `a support dans P U − = P U . Cela permet de calculer le deuxi`ememembre: h ξ ( P , σ , η ) , v i = Z U − h η , v ( u − ) i ψ − ( u − ) − du − . Mais v ( u − ), comme ´el´ement de E = i M P ∩ M E est `a support dans ( P ∩ M )( U − ∩ M ).En utilisant `a nouveau le Th´eor`eme 1 (ii) et (iv), on exprime h η , v ( u − ) i . Le Th´eor`emede Fubini permet de conclure `a l’´egalit´e (4.15). On rappelle que W G d´esigne un ensemble de repr´esentants dans K du groupe de Weyl, W G , de G par rapport `a M . Si M est un sous-groupe de L´evi d’un sous-groupeparabolique semi-standard de G , P , on note W M = W G ∩ M qui est un ensemble derepr´esentants dans M de W M . La longueur des ´el´ements de W G est d´etermin´ee par lechoix de P .On suppose en outre ici P anti-standard. Il existe un ensemble de repr´esentants de W G /W M , W M , dans W G tel que (cf. [War], Proposition 1.1.2.13):Tout ´el´ement w de W G s’´ecrive sous la forme w M w M , avec w M ∈ W M , w M ∈ W M , et tel que la longueur de w soit ´egale `a la somme des longueursde w M et w M . (4.16)Soit P = M U un sous-groupe parabolique semi-standard de G . Onnotera w P ou parfois seulement w , s’il n’y a pas d’ambiguit´e, l’´el´ement w P de G tel que w − P ∈ W G , P ′ = w P .P soit anti-standard et tel que w − P repr´esente l’´el´ement du groupe de Weyl de longueur minimum dans w − P W M ′ = W M w − P . L’unicit´e de w P r´esulte du fait que deux sous-groupesparaboliques anti-standard de G conjugu´es sont ´egaux. (4.17)24lors, avec les notations de (2.11), w P .M est le sous-groupe de L´evi de w P .P .Soit ( σ, E ) une repr´esentation lisse de M et w ∈ W G . On dispose de l’isomorphisme λ ( w ) : i GP E i Gw.P wE entre les repr´esentations i GP σ et i Gw.P wσ qui `a v associe v w , o`u v w ( g ) = v ( w − g ) pour g ∈ G . Notons, que comme w ∈ K , pour v ∈ i KP ∩ K E et tout χ ∈ X ( M ), la restriction de λ ( w ) v χ `a K est ´egale `a λ ( w ) v . On voit aussi que si σ estunitaire, λ ( w ) est unitaire. D´efinition 1
On d´efinit:
W h ( P, σ ) :=
W h ( w P σ ) ξ ( P, σ, η ) := ξ ( w P .P, w P σ, η ) ◦ λ ( w P ) , η ∈ W h ( P, σ ) . Alors:L’application η ξ ( P, σ, η ) est une bijection entre
W h ( P, σ ) et
W h ( i GP σ )( ⊂ ( i GP E ) ′ ) . (4.18)On a:Pour tout v ∈ i KP ∩ K E , l’application χ
7→ h ξ ( P, σ χ , η ) , v χ i est polynomialeen χ ∈ X ( M ), o`u v χ est l’´el´ement de l’espace de i GP σ χ dont la restriction `a K est ´egale `a v . (4.19)En effet cela r´esulte de la D´efinition 1 et du Th´eor`eme 1 (iv).Soit ( σ, E ) et ( σ , E ) des repr´esentations lisses ´equivalentes de M . Soit T : E → E un op´erateur d’entrelacement bijectif entre σ et σ . Comme T entrelace aussi w P σ et w P σ , la transpos´ee de T , T t d´etermine une bijection, not´ee encore T t , de W h ( P, σ )sur W h ( P, σ ). Alors, on d´eduit de la D´efinition 1 et de la Proposition 2 que: ξ ( P, σ , η ) = ξ ( P, σ, T t η ) ◦ ( indT ) − , η ∈ W h ( P, σ ) . (4.20)Reformulons la D´efinition 1 en posant s = w − P , Q = w P .P , de sorte que Q est anti-standard et P = s.Q , et en changeant σ en sσ :Si Q est un sous-groupe parabolique anti-standard de G , de sous-groupede L´evi M Q , et si s ∈ W G est de longueur minimum dans sW M Q , on a: W h ( s.Q, sσ ) = W h ( Q, σ ) ξ ( s.Q, sσ, η ) = ξ ( Q, σ, η ) ◦ λ ( s − ) . (4.21) D´efinition 2
Soit P = M U un sous-groupe parabolique semi-standard de G et ( σ, E ) une repr´esentation lisse de M . Avec les notations pr´ec´edentes, on d´efinit des ´el´ements E GP ( σ, v, η ) de C ∞ ( U \ G, ψ ) , appel´ees int´egrales de Jacquet, par: E GP ( σ, η, v )( g ) = h ξ ( P, σ, η ) , i GP σ ( g ) v i , v ∈ i GP E, η ∈ W h ( P, σ ) . On d´eduit de (4.19) que:Si χ ∈ X ( M ), v ∈ i KK ∩ P σ , on rappelle que v χ est l’´el´ement de i GP σ χ dont larestriction `a K est v .Alors, pour tout g ∈ G , l’application χ E GP ( σ χ , η, v χ )( g ) est polynomialeen χ ∈ X ( M ). (4.22)25 Fonctionnelles de Jacquet et int´egrales d’entrelacement
Soit P = M U , P ′ = M U ′ deux sous-groupes paraboliques semi-standard de G de sous-groupe de L´evi M . Soit O l’orbite inertielle d’une repr´esentation lisse irr´eductible de M . Il existe une fonction rationnelle d´efinie sur O , A ( P ′ , P, . ) `a valeurs dans Hom G ( i GP ., i GP ′ . ) avec les propri´et´es suivantes:Pour tout ( σ, E ) objet de O , il existe R ∈ R tel que pour tout χ ∈ X ( M )v´erifiant h Reχ, α i > R pour tout α ∈ Σ( P ) ∩ Σ( P ′− ) on ait: h ( A ( P ′ , P, σ χ ) v )( g ) , ˇ e i = Z U ∩ U ′ \ U ′ h v ( u ′ g ) , ˇ e i du ′ , v ∈ i GP V χ , ˇ e ∈ ˇ E, l’int´egrale ´etant absolument convergente. (5.1)La rationalit´e s’entend dans le sens suivant:Il existe une fonction polynˆome sur X ( M ) non nulle, b , telle que pourtout v ∈ i KK ∩ P V , l’application qui `a χ ∈ X ( M ) satisfaisant la conditionci-dessus associe la restriction `a K de b ( χ ) A ( P ′ , P, σ χ )( v χ ) est `a valeursdans un espace vectoriel de dimension finie de i KP ∩ K E et se prolonge defa¸con polynomiale en χ ∈ X ( M ) (cf. [W], Th´eor`eme IV.1.1).Si σ est temp´er´ee, on peut prendre R = 0 (cf. [W], Proposition IV. 2.1) . (5.2)Il existe une application rationnelle sur O `a valeurs dans C , j , telle que pour toutsous-groupe parabolique semi-standard de G , P , de sous-groupe de L´evi M , on ait (cf.[W], IV.3 (1)):Pour σ objet de O tel que A ( P, P − , σ ) A ( P − , P, σ ) soit d´efini, cet op´erateurest l’homoth´etie de rapport j ( σ ). (5.3)On a (cf. [W] IV.3 (3)):Si w ∈ W G , j ( wσ ) = j ( σ ). (5.4)D’autre part, on obtient facilement un analogue de [W] IV.1 (11) pour les adjointsdes int´egrales d’entrelacement. Cela conduit `a un analogue de l.c. IV. 3 (2) que l’onexprime sous la forme suivante:Le nombre j ( σ ) est r´eel si σ est unitaire. (5.5)Si α est un ´el´ement de l’ensemble Σ red ( P ) des racines r´eduites de Σ( P ), on note A α lacomposante neutre du noyau de α dans A M et M α le centralisateur de A α . On note j α ( σ ) le terme analogue `a j ( σ ) obtenu en rempla¸cant G par M α .26’apr`es [W] IV.3 (4), si P, P ′ , P ′′ sont des sous-groupes paraboliques semi-standard de G de sous-groupe de L´evi M , on l’´egalit´e de fonctions rationnelles sur O : A ( P ′′ , P ′ , σ ) A ( P ′ , P, σ ) = j ( P ′′ , P ′ , P, σ ) A ( P ′′ , P, σ ) , o`u j ( P ′′ , P ′ , P, σ ) est le produit des j α ( σ ) pour α ∈ Σ red ( P ) ∩ Σ red ( P ′′ ) ∩ Σ red ( P ′− ) . (5.6)On a aussi:Pour α ∈ Σ red ( P ), les points o`u l’application rationnelle sur X ( M ), χ j α ( σ χ ), a un pˆole ou un z´ero sont de la forme χ = χ λ avec λ ´el´ement d’unnombre fini d’hyperplans de ( a ′ M ) C de la forme h λ, ˇ α i = c. Les points o`u l’application rationnelle sur X ( M ), χ A ( P ′ , P, σ χ ) a unpˆole ou bien o`u A ( P ′ , P, σ χ ) n’est pas inversible sont de la forme χ = χ λ avec λ ´el´ement d’un nombre fini d’hyperplans de ( a ′ M ) C de la forme h λ, ˇ α i = c , avec α ∈ Σ( P ′ ) ∩ Σ( P − )(cf. [H], p. 393). (5.7)Par transport de structure, on a, pour x ∈ G , normalisant M : λ ( x ) A ( P ′ , P, σ ) = A ( x.P ′ , x.P, xσ ) λ ( x ) (5.8)et Si α est une racine r´eduite de Σ( P ), w ∈ W G , alors: j α ( σ ) = j wα ( wσ ) . (5.9) B Proposition 3 (i) Soit O l’orbite inertielle d’une repr´esentation lisse irr´eductible de M . Il existe une unique application rationnelle d´efinie sur O , B ( P, P ′ , . ) `a valeurs dans Hom C ( W h ( P ′ , . ) , W h ( P, . )) telle que l’on ait l’´egalit´e de fonctions rationnelles sur O : ξ ( P ′ , σ, η ) ◦ A ( P ′ , P, σ ) = ξ ( P, σ, B ( P, P ′ , σ ) η ) , η ∈ W h ( P ′ , σ ) . (ii) La rationalit´e a ici le sens suivant:Soit σ un objet de O . Pour tout χ ∈ X ( M ) , W h ( P, σ χ ) = W h ( P, σ ) , et, avec lesnotations de (5.1), pour tout η ∈ W h ( P ′ , σ ) , la fonction χ b ( χ ) B ( P, P ′ , σ χ ) η est unefonction polynomiale sur X ( M ) `a valeurs dans W h ( P, σ ) .La relation qui d´efinit B ( P ′ , P, σ ) comme fonction sur O est la suivante:Soit ( σ, E ) , ( σ , E ) deux objets de O ´equivalents et T un entrelacement bijectif entre σ et σ . La transpos´ee de T , T t , d´etermine une bijection entre W h ( P, σ ) et W h ( P, σ ) d’une part, W h ( P ′ , σ ) et W h ( P ′ , σ ) d’autre part et l’on a: B ( P, P ′ , σ ) = ( T t ) − B ( P, P ′ , σ ) T t . (iii) La fonction rationnelle sur X ( M ) , χ B ( P, P ′ , σ χ ) n’a de pˆoles qu’en des pointsou l’application χ A ( P ′ , P, σ χ ) a un pˆole. ´emonstration: Soit ( σ, E ) un objet de O . Soit b comme dans (5.2). D’apr`es le Th´eor`eme 1 (iv), on a:Pour tout η ∈ W h ( P ′ , σ ), il existe un unique η ( χ ) ∈ W h ( P, σ ) tel que: ξ ( P ′ , σ χ , η ) ◦ ( b ( χ ) A ( P ′ , P, σ χ )) = ξ ( P, σ χ , η ( χ )) . (5.10)Montrons que l’application χ → η ( χ ) est polynomiale en χ ∈ X ( M ). Soit w comme en(4.17), de sorte que w.P est anti-standard et W h ( P, σ ) est ´egal `a
W h ( wσ ). Il s’agit demontrer que:Pour tout e ∈ w.E = E , h η ( χ ) , e i d´epend polynomialement de χ ∈ X ( M ) (5.11)Avec les notations de (4.12) et (4.14), o`u on change σ en wσ , on a: h η ( χ ) , e i = vol ( H w.U − ) − h ξ ( w.P, wσ χ , η ( χ )) , v w.P,Hwσ χ ,e i . Mais la D´efinition 1 montre que: ξ ( P, σ χ , η ( χ )) = ξ ( w.P, wσ χ , η ( χ )) ◦ λ ( w ) . Donc h η ( χ ) , e i = vol ( H w.U − ) − h ξ ( P, σ χ , η ( χ )) , λ ( w − ) v w.P,Hwσ χ ,e i . Comme w ∈ K , on d´eduit de (4.13) que la restriction `a K de λ ( w − ) v w.P,Hwσ χ ,e estind´ependante de χ ∈ X ( M ). Alors (5.10) permet d’exprimer h η ( χ ) , e i `a l’aide de ξ ( P ′ , σ χ , η ). L’assertion (5.11 ) r´esulte de (5.2) et des propri´et´es des fonctionnelles deJacquet (cf. Th´eor`eme 1 (v)).On v´erifie, grˆace `a la d´efinition de W h ( P, σ ) et W h ( P, σ ), que T t d´etermine bien unisomorphisme entre ces deux espaces et de mˆeme pour P ′ .On pose B ( P ′ , P, σ χ ) η := b ( χ ) − η ( χ ). On voit grˆace `a l’unicit´e dans (5.10) et `a (5.11)que cela d´efinit bien une fonction rationnelle sur O , en utilisant par exemple (2.20), etqui a toutes les propri´et´es voulues. Ceci prouve (ii).Prouvons (iii). Si A ( P ′ , P, σ χ ) n’a pas de pˆole en χ , pour tout v ∈ i KK ∩ P , l’application h ξ ( P, σ χ , B ( P, P ′ , σ χ ) η, v χ i est ´egalement sans pole en χ . Mais il r´esulte de la D´efinition1 et (4.14), que ceci suffit `a assurer que B ( P, P ′ , σ χ ) η n’a pas de pˆole en χ . B Proposition 4
Soit P = M U , P ′ = M U ′ deux sous-groupes paraboliques semi-standard de G de mˆeme sous-groupe de L´evi, contenus dans un mˆeme sous-groupeparabolique anti-standard de G , P = M U . Soit O l’orbite inertielle d’unerepr´esentation lisse irr´eductible de M et ( σ, E ) un objet de O . Alors:(i) W h ( M ∩ P, σ ) =
W h ( P, σ ) , W h ( M ∩ P ′ , σ ) = W h ( P ′ , σ ) .(ii) On a l’´egalit´e de fonctions rationnelles sur O : B ( P, P ′ , σ ) = B ( P ∩ M , P ′ ∩ M , σ ) . ´emonstration: (i) On utilise les notations de (4.17), qu’on utilise aussi pour M . Comme W M estcontenu dans W G et que P est anti-standard, il r´esulte des d´efinitions que: w P = w P ∩ M , w P ′ = w P ′ ∩ M Joint `a (4.17), ceci prouve la premi`ere ´egalit´e de (i). On prouve la deuxi`eme ´egalit´e demani`ere identique. Ceci prouve (i).Prouvons (ii). Par rationalit´e, il suffit de prouver l’´egalit´e lorsque T = A ( P ′ ∩ M , P ∩ M , σ ) est bijectif. Soit η ′ ∈ W h ( P ′ , σ ) et calculons ξ = ξ ( P, σ, B ( P, P ′ , σ ) η ′ ). On a,par d´efinition des matrices B : ξ = ξ ( P ′ , σ, η ′ ) ◦ A ( P ′ , P, σ ) . On identifie, grˆace `a l’induction par ´etages, i GP σ avec i GP σ − et i GP ′ σ avec i GP σ − , o`u σ − = i M P ∩ M σ et σ − = i M P ′ ∩ M σ . Alors, d’apr`es [W] IV. 1 (14): A ( P ′ , P, σ ) = indT. On utilise la D´efinition 1, puis on applique le Lemme 3 `a w P ′ .P et w P ′ σ , et `a nouveaula D´efinition 1 pour M et le fait que w P ′ ∈ M pour voir que: ξ ( P ′ , σ, η ′ ) = ξ ( P , σ − , ξ ( P ′ ∩ M , σ, η )) . (5.12)Joint `a ce qui pr´ec`ede et `a (4.10), on en d´eduit: ξ = ξ ( P , σ − , T t ξ ( P ′ ∩ M , σ, η ′ )) . Mais par d´efinition de T et des matrices B , on a: T t ξ ( P ′ ∩ M , σ, η ′ ) = ξ ( P ∩ M , B ( P ∩ M , P ′ ∩ M , σ ) η ′ ) . Finalement on a prouv´e: ξ ( P, σ, B ( P, P ′ , σ ) η ′ ) = ξ ( P, σ, B ( P ∩ M , P ′ ∩ M , σ ) η ′ ) . D’o`u l’on d´eduit (ii).
Lemme 4 (i) Avec les notations de la D´efinition 2, soit ( σ, E ) un objet de O . Soit P = M U , P ′ = M U ′ deux sous-groupes paraboliques semi-standard de G de sous-groupede L´evi M . On a l’´egalit´e de fonctions rationnelles sur X ( M ) : E GP ( σ, B ( P, P ′ , σ χ ) η, v χ )( g ) = E GP ′ ( σ, η, A ( P ′ , P, σ χ ) v χ )( g ) , v ∈ i KP ∩ K E, η ∈ W h ( P ′ , σ ) . (ii) Avec les notations de (4.17), on a l’´egalit´e: E GP ( σ, η, v ) = E Gw P .P ( w P σ, η, λ ( w P ) v ) , v ∈ i GP E, η ∈ W h ( P, σ ) . iii) On suppose que P est anti-standard. Si ( σ , E ) est une repr´esentation de M ´equivalente `a ( σ, E ) et, si T est un op´erateur d’entrelacement bijectif entre σ et σ , ona, avec les notations de la Proposition 2: E GP ( σ, T t η , v ) = E GP ( σ , η , ( indT ) v ) , v ∈ i KP ∩ K E, η ∈ W h ( σ ) . D´emonstration: (i) est une cons´equence imm´ediate de la d´efinition des int´egrales de Jacquet (D´efinition2) et de celle des matrices B (Proposition 3).(ii) r´esulte de (4.17) et de la d´efinition des int´egrales de Jacquet.(iii) r´esulte de la Proposition 2. Hypoth`ese suppl´ementaire
On suppose d´esormais que ψ est en outre unitaire. Si E est un espace vectoriel complexe, on note E l’espace vectoriel conjugu´e: c’est lemˆeme groupe additif, mais la multiplication par les scalaires est conjugu´ee. Soit ( π, V )une repr´esentation lisse de G . On rappelle qu’on note (ˇ π, ˇ V ) sa contragr´ediente lisse.On note ( π, V ) la repr´esentation conjugu´ee et ( π ∗ , V ∗ ) la repr´esentation (ˇ π, ˇ V ). Notezque ˇ V s’identifie naturellement `a l’espace des formes antilin´eaires sur V fix´ees par unsous-groupe compact ouvert de G .Dans la suite produit scalaire voudra dire produit scalaire lin´eaire dans la premi`erevariable et antilin´eaire dans la seconde. Si π est unitaire, i.e. muni d’un produitscalaire invariant, V ∗ s’identifie naturellement `a V , par l’application v ( v, . ) et π ∗ `a π . Si χ est un ´el´ement de X ( G ) on note χ − son inverse et χ son complexe conjugu´e.Alors ( π ⊗ χ ) ∗ est naturellement isomorphe `a π ∗ ⊗ χ − . Soit O l’orbite inertielle d’unerepr´esentation unitaire irr´eductible lisse de G . Si ( π, V ) est un objet de O , on d´eduitde ce qui pr´ec`ede que ( π ∗ , V ∗ ) est aussi un objet de O . Montrons que:Dans l’orbite inertielle O d’une repr´esentation cuspidale lisse irr´eductible,il existe une repr´esentation unitaire. (6.1)En tensorisant par un caract`ere non ramifi´e de G , on trouve, dans l’orbite inertielle, unerepr´esentation, ( π, V ), telle que la restriction `a A G de π soit donn´ee par un caract`ereunitaire. On fixe ˇ v ∈ ˇ V non nul et on d´efinit:( v, v ′ ) = Z A G \ G c ˇ v ,v ( g ) c ˇ v ,v ′ ( g ) dg, v, v ′ ∈ V. On voit facilement que c’est un produit scalaire G -invariant, donc que σ est unitaire.30 emme 5 On suppose que ( π, V ) est une repr´esentation lisse, cuspidale, unitaire etirr´eductible de G . Alors:(i) Il existe un unique produit scalaire hermitien sur W h ( π ) tel que: Z A G U \ G c ξ,v ( g ) c ξ ′ ,v ′ ( g ) dg = ( ξ, ξ ′ )( v, v ′ ) , ξ, ξ ′ ∈ W h ( π ) , v, v ′ ∈ V. o`u la fonction sous le signe int´egrale est `a support compact d’apr`es le Lemme 1 (i).(ii) Si χ est un caract`ere unitaire non ramifi´e de G , le produit scalaire sur W h ( π χ ) = W h ( π ) , ne d´epend pas de χ .(iii) Si T est un op´erateur d’entrelacement unitaire avec une autre repr´esentation cus-pidale de G , ( π , V ) , l’op´erateur T t d´etermine un op´erateur unitaire entre W h ( π ) et W h ( π ) .D´emonstration: (i) Il s’agit d’une simple application du Lemme de Schur.(ii) r´esulte imm´ediatement de la caract´erisation du produit scalaire.(iii) est imm´ediat.On appliquera ces notations aux sous-groupes de L´evi de G . Proposition 5 (i) Soit P = M U un sous-groupe parabolique semi-standard de G et O l’orbite inertielle d’une repr´esentation lisse unitaire irr´eductible et cuspidale de M . Soit ( σ, E ) un objet de O u . On munit W h ( P, σ ) du produit scalaire d´efini grˆace au Lemme5 et `a la d´efinition de W h ( P, σ ) . Par tensorisation avec le produit scalaire d’induiteunitaire de i GP ( σ ) , on en d´eduit un produit scalaire sur W h ( P, σ ) ⊗ i GP E .Soit f ∈ C ∞ c ( U \ G, ψ ) . Il existe un unique ´el´ement de W h ( P, σ ) ⊗ i GP E , F ( P, σ ) , telque: ( F ( P, σ ) , η ⊗ v ) = Z U \ G f ( g ) E GP ( σ, η, v )( g ) dg, v ∈ i GP E, η ∈ W h ( P, σ ) . (6.2) (ii) Utilisant l’´egalit´e W h ( P, σ χ ) = W h ( P, σ ) pour tout χ ∈ X ( M ) et la r´ealisationcompacte, on voit que χ F ( P, σ χ ) s’´etend de X ( M ) u `a X ( M ) en une fonction poly-nomiale not´ee de mˆeme.(iii) Si σ est une repr´esentation unitaire ´equivalente `a σ de M et T un op´erateurd’entrelacement unitaire entre σ et σ . On utilise les notations de la Proposition 3 (ii)et l’unitarit´e de l’op´erateur indT . Alors on a: F ( P, σ ) = (( T t ) − ⊗ indT ) F ( P, σ ) . (6.3) Utilisant, les notations de (2.21), pour toute orbite inertielle d’une repr´esentationlisse unitaire irr´eductible et cuspidale de M , O , σ F ( P, σ ) est un ´el´ement de P ol ( O u , W h ( P, . ) ⊗ i GP ) . On fait agir G sur ce dernier espace par une repr´esentationnot´ee ρ • d´efinie par: ( ρ • ( g ) F )( P, σ ) = ( Id ⊗ i GP σ ( g )) F ( P, σ ) . ´emonstration: Notons φ ( v ) le second membre de (6.2). Alors φ est une forme antilin´eaire sur i GP E . Ilest clair que si f est invariante `a droite par un sous-groupe ouvert compact H de G , φ est invariante par H . Par le th´eor`eme de repr´esentation de Riesz, en dimension finie,on en d´eduit (i).Prouvons (ii). Il suffit de voir que pour tout v ∈ i KP ∩ K E, η ∈ W h ( P, σ ), l’application χ ( F ( P, σ χ ) , η ⊗ v χ ) s’´etend de fa¸con polynomiale de X ( M ) u `a X ( M ). Pour cela ilsuffit de montrer que l’application qui `a χ ∈ X ( M ) associe: φ χ ( v ) := Z U \ G f ( g ) E GP (( σ χ ) ∗ , η, v χ )( g ) dg, est polynomiale. Choisissons un sous-groupe compact ouvert, H , de G comme ci-dessuset fixons v . En utilisant le fait que f est `a support compact, on voit qu’il existe desconstantes c , . . . , c n ∈ C et g , . . . , g n ∈ G telles que: φ χ ( v ) = X i =1 ,...,n c i f ( g i ) E GP (( σ χ ) ∗ , η, v χ )( g i ) , χ ∈ X ( M ) . Notre assertion r´esulte alors de (4.22). Cela prouve (ii). La relation (6.3) r´esulte de lad´efinition de F en (i), de la d´efinition des int´egrales de Jacquet (D´efinition 2), et de(4.20). Le reste de (iii) r´esulte alors de (ii).On retient les notations du Lemme 4 (ii). L’unitarit´e de λ ( w P ) montre que la d´efinitionde F implique que, pour σ comme dans (i): F ( P, σ ) = ( Id ⊗ λ ( w P ) − ) F ( w P .P, w P σ ) . (6.4)De mˆeme, d’apr`es le Lemme 4 (i), on l’´egalit´e de fonctions rationnelles sur X ( M ) u :( B ( P, P ′ , σ χ ) ∗ ⊗ Id ) F ( P, σ χ ) = ( Id ⊗ A ( P ′ , P, σ χ ) ∗ ) F ( P ′ , σ χ ) . (6.5)On sait [W], preuve du Lemme V.2.2, que l’on a la formule d’adjonction, pour σ unitaire: A ( P ′ , P, σ ) ∗ = A ( P, P ′ , σ ) . (6.6) On admet provisoirement la relation suivante pour P anti-standard et σ unitaire B ( P, P ′ , σ ) ∗ = B ( P ′ , P, σ ) . (6.7)Nous montrerons cette relation au prix d’un travail non n´egligeable, comme cons´equencede l’´etude des produits scalaires de paquets d’ondes. On d´eduit alors de la relation(6.5)que:Si P = M U est anti-standard, on a l’identit´e de fonctions rationnelles sur O u : ( B ( P ′ , P, σ ) ⊗ Id ) F ( P, σ ) = ( Id ⊗ A ( P, P ′ , σ )) F ( P ′ , σ ) . (6.8) Notation
On notera ˆ f ( P, σ ) au lieu de F ( P, σ ) et on appellera ˆ f la transform´ee deFourier-Whittaker de f , ou plus simplement sa transform´ee de Fourier.32 .3 Enonc´e du th´eor`eme principal Th´eor`eme 2
On suppose donn´e pour tout sous-groupe parabolique semi-standard de G , P = M U , et pour toute repr´esentation lisse unitaire, irr´eductible et cuspidale de M , ( σ, E ) , un ´el´ement F ( P, σ ) de W h ( P, σ ) ⊗ i GP E . Alors il existe f ∈ C ∞ c ( U \ G, ψ ) telque ˆ f = F si et seulement si:(i) Pour toute orbite inertielle de repr´esentation lisse unitaire irr´eductible et cuspidalede M , O , F ∈ P ol ( O u , W h ( P, . ) ⊗ i GP ) . Notamment F v´erifie (6.3).(ii) Faisant agir G sur W h ( P, σ ) ⊗ i GP σ trivialement sur le premier facteur et naturelle-ment sur le deuxi`eme, il existe un sous-groupe compact ouvert fixant F ( P, σ ) pour tout ( P, σ ) comme ci-dessus.(iii) Pour tout sous-groupe parabolique semi-standard P de G , on a, avec les notationsde (4.17): F ( P, σ ) = ( Id ⊗ λ ( w P ) − ) F ( w P .P, w P σ ) . (iv) Si P = M U, P ′ = M U ′ sont deux sous-groupes paraboliques anti-standard de G de mˆeme sous-groupe de L´evi et si P est anti-standard, on a l’identit´e de fonctionsrationnelles sur O u : ( B ( P ′ , P, σ ) ⊗ Id ) F ( P, σ ) = ( Id ⊗ A ( P, P ′ , σ )) F ( P ′ , σ ) . De plus f est unique.En d’autres termes la transformation de Fourier-Whittaker d´etermine un isomorphismeentre C ∞ c ( U \ G, ψ ) et l’espace des fonctions F satisfaisant les conditions (i) `a (iii) ci-dessus. Remarquons que modulo la formule d’adjonction (6.7), on a montr´e la partie seulementsi du Th´eor`eme.
Soit P = M U , Q = LV deux sous-groupes paraboliques standard et soit s ∈ W G tel que s.M ′ = M et tel que s soit de longueur minimum dans sW L = W M s . Soit w = s − .Alors P ′ := w − .Q est un sous-groupe parabolique semi-standard de sous-groupe deLevi M . Notons, pour σ objet d’une orbite inertielle, O , de repr´esentation irr´eductiblelisse cuspidale de M , A ( w, P, σ ) := λ ( w ) ◦ A ( P ′ , P, σ ), qui entrelace, lorsqu’il est d´efini, i GP σ et i GQ wσ . Comme dans la Proposition 3, on voit qu’il existe une unique fonctionrationnelle sur O `a valeurs dans End ( W h ( wσ ) , W h ( σ )), B ( w − , Q, σ ), telle que l’on aitl’identit´e de fonctions rationnelles sur O : ξ ( Q, wσ, η ) ◦ A ( w, P, σ ) = ξ ( P, σ, B ( w − , Q, wσ ) η ) , η ∈ W h ( σ ) (6.9)On remarque qu’avec nos d´efinitions, w = w P ′ . En utilisant (6.9), la D´efinition 1 et laProposition 3, on voit que B ( w − , Q, wσ ) = B ( P, P ′ , σ ) (6.10)Si f ∈ C ∞ c ( U \ G, ψ ) on note ˆ f anti la restriction de ˆ f aux sous-groupes paraboliquesanti-standard. 33 orollaire du Th´eor`eme 2 On suppose donn´e pour tout sous-groupe parabolique anti-standard de G , P = M U ,et pour toute repr´esentation lisse unitaire, irr´eductible et cuspidale de M , ( σ, E ) , un´el´ement F ( P, σ ) de W h ( P, σ ) ⊗ i GP E . Alors il existe f ∈ C ∞ c ( U \ G, ψ ) tel que ˆ f anti = F si et seulement si F v´erifie (i) et (ii) du Th´eor`eme 2 et si F v´erifie la condition suivante:Pour tout P = M U , Q = LV sous-groupes paraboliques anti-standard de G , pour tout s ∈ W G tel que s.M ′ = M et tel que s soit de longueur minimum dans sW L = W M s ,et pour toute orbite inertielle de repr´esentation irr´eductible lisse cuspidale de M , on al’identit´e de fonctions rationnelles sur O : ( B ( w − , Q, wσ ) ⊗ Id ) F ( Q, wσ ) = ( Id ⊗ A ( w, P, σ )) F ( σ ) , avec w = s − (6.11) De plus f est alors unique.D´emonstration: On ´etend F aux sous-groupes paraboliques anti-standard en utilisant la relation (ii) duTh´eor`eme 2 comme d´efinition. La fonction ˜ F ainsi obtenue v´erifie toutes les conditionsdu Th´eor`eme 2: la condition (iv) r´esulte imm´ediatement de la relation ci-dessus satis-faite par F , de (6.10) et (6.11) et de la d´efinition de ˜ F . On en d´eduit l’existence de f . Par ailleurs si f ′ ∈ C ∞ c ( U \ G, ψ ) et si ˆ f ′ anti est nulle, ˆ f ′ est nulle. Donc, d’apr`es leTh´eor`eme 2, f ′ est nulle. On en d´eduit que f est unique. Soit P = M U et P ′ = M ′ U ′ deux sous-groupes paraboliques semi-standard de G . Onnote W ( M ′ | G | M ) = { s ∈ W G | s.M ⊂ M ′ } . On surligne pour indiquer l’image dans le groupe de Weyl. Soit W ( M ′ | G | M ) = W M ′ \W ( M ′ | G | M ) . On remarque que W ( M ′ | G | M ) := W M ′ \W ( M ′ | G | M ) /W M . Ceci permet de choisir un ensemble de repr´esentants W ( M ′ | G | M ) de W ( M ′ | G | M ) dans W G tel que:Pour s ∈ W ( M ′ | G | M ), s est de longueur minimum dans W M ′ s = sW M . (7.1)De plus, en utilisant un sous-groupe parabolique standard conjugu´e `a P , x.P , on voitgrˆace `a [War], Proposition 1.2.1.10, que W ( M ′ | G | M ) est un ensemble de repr´esentants de P ′ \ G/P (7.2)34 ´efinition 3
Soit M le sous-groupe de L´evi d’un sous-groupe parabolique semi-standard de G et ( σ, E ) une repr´esentation lisse, irr´eductible et cuspidale de M . Ondit que σ est G -r´eguli`ere si:1) Pour tout s ∈ W ( M | G | M ) avec s = 1 , les repr´esentations sσ et σ sont non´equivalentes.2) Si P, P ′ sont des sous-groupes paraboliques de G ayant M pour sous groupe de L´evi,les applications rationnelles sur X ( M ) , χ A ( P, P ′ , σ χ ) , χ B ( P, P ′ , σ χ ) n’ont paspas de poles en χ = 1 et leurs valeurs en sont des op´erateurs inversibles. De plus i GP σ est irr´eductible.On remarque que si σ est comme ci-dessus, l’ensemble des χ ∈ X ( M ) tel que σ χ soit G -r´eguli`ere est un ouvert de Zariski non vide de X ( M ) et si σ est unitaire, l’ensembledes χ ∈ X ( M ) u tels que σ χ soit G -r´eguli`ere est Zariski-dense dans X ( M ) . On introduit, pour s ∈ W ( M ′ | G | M ), les sous-groupes paraboliques de G : P s = ( M ′ ∩ s.P ) U ′ , ˜ P s = ( M ′ ∩ s.P ) U ′− . (7.3)Soit σ une repr´esentation cuspidale G -r´eguli`ere de M . Posons ( π, V ) = ( i GP σ, i GP E ). Ond´efinit une application α : α : V → ⊕ s ∈ W ( M ′ | G | M ) i M ′ M ′ ∩ s.P sE, v ( v s ) s ∈ W ( M ′ | G | M ) . par v s ( m ′ ) = δ − / P ′ ( m ′ )( A ( P s , s.P, sσ ) λ ( s ) v )( m ′ ) , m ′ ∈ M ′ . D’apr`es [W], d´ebut de la preuve de la Proposition V.1.1, on a:L’application α se factorise en un isomorphisme de M ′ -modules entre lemodule de acquet normalis´e de V relatif `a P ′ , V P ′ , et l’espace d’arriv´ee,qui est une somme de M ′ -modules irr´eductibles non ´equivalents, r´eduite `az´ero si W ( M ′ | G | M ) est vide. On identifie dans la suite V P ′ `a l’aide de α avec l’image cet isomorphisme. (7.4)Si η ∈ W h ( P, σ ), comme λ ( s ) entrelace i GP σ et i Gs.P sσ , d’apr`es (4.18), ilexiste un unique s η ∈ W h ( s.P, sσ ) tel que: ξ ( s.P, sσ, s η ) = ξ ( P, σ, η ) ◦ λ ( s − ) . (7.5) Th´eor`eme 3
Soit P (resp. P ′ ) un sous-groupe parabolique semi-standard (resp. stan-dard) de G . Soit σ comme ci-dessus.(i) Pour s ∈ W ( M ′ | G | M ) , on a W h ( ˜ P s , sσ ) = W h ( M ′ ∩ s.P, sσ ) .(ii)Soit η ∈ W h ( P, σ ) . On note ξ = ξ ( P, σ, η ) . Alors, dans l’isomorphisme ci-dessus, ξ P ′ qui est un ´el´ement du dual de V P ′ (cf. (3.6)), est nul si W ( M ′ | G | M ) est vide etsinon ´egal `a ( ξ s ) s ∈ W ( M ′ | G | M ) , avec: ξ s = ξ ( M ′ ∩ s.P, sσ, B ( ˜ P s , s.P, sσ ) s η ) , l’expression ´etant bien d´efinie grˆace `a (i).(iii) Si P est anti-standard, s η = η . ´emonstration: (i) On rappelle que, par d´efinition de W M ′ , W M ′ = W G ∩ M ′ . Si w − ∈ W M ′ et w. ( M ′ ∩ s.P ) est anti-standard dans M ′ , w. ˜ P s est anti-standard dans G . Si w − est delongueur minimum dans W s.M w − , on a w = w M ′ ∩ s.P = w ˜ P s . (i) en r´esulte d’apr`es laD´efinition 1.(ii) Si W ( M ′ | G | M ) est vide, V P ′ est r´eduit `a z´ero, donc ξ P ′ est nul. Ceci prouve lapremi`ere assertion de (ii).On suppose maintenant que W ( M ′ | G | M ) est non vide. On ´ecrit: ξ P ′ = ( ξ s ) s ∈ W ( M ′ | G | M ) , o`u ξ s est de la forme: ξ s = ξ ( M ′ ∩ s.P, sσ, η s ), pour un ´el´ement η s de W h ( M ′ ∩ s.P, sσ ). (7.6)ll s’agit donc de montrer: η s = B ( ˜ P s , s.P, sσ ) s η. (7.7)a) Montrons d’abord:Supposons P semi-standard et P − ⊂ P ′ . Alors η G = η. (7.8)Soit ( σ − , E − ) = ( i M ′ P ∩ M ′ σ, i M ′ P ∩ M ′ E ) de sorte que π = i GP σ s’identifie `a i GP ′− σ − . On note η − = ξ ( P ∩ M ′ , σ, η ). Comme dans la preuve de (5.12), on voit que ξ est ´egal `a ξ ( P ′− , σ − , η − ). Soit v ∈ V identifi´e i P ′− GE − , `a support dans P ′− U ′ . Soit a ∈ A M ′ . Oncalcule h ξ, π ( a ) v i en utilisant le Th´eor`eme 1 (ii) pour P ′ . On a: h ξ, π ( a ) v i = Z U ′ h η − , v ( u ′ a ) i ψ ( u ′ ) − du ′ . En utilisant les relations de covariance satisfaites par v , on voit que la fonction `a int´egrerest non nulle pour a − u ′ a ∈ Supp v , i.e. u ′ ∈ a ( Suppv ) a − . Pour ε > a ∈ A M ′ ∩ A − ( P ′ , < ε ), u ′ est tel que ψ ( u ′ ) = 1 et l’on trouve: h ξ, π ( a ) v i = h η − , ( A ( P ′ , P ′− , σ − ) v )( a ) i . (7.9)Ici on a ˜ P G = P . Mais avec les identications de l’induction par ´etages et la d´efinitionde P G , on a (cf.[W], IV.1(14)): A ( P ′ , P ′− , σ − ) v = A ( P G , P, σ ) v. (7.10)Alors, tenant compte de la d´efinition de v G , (7.9) se r´e´ecrit: h ξ, π ( a ) v i = δ / P ′ ( a ) h ξ ( P ∩ M ′ , σ, η ) , σ − ( a ) v G i . (7.11)Montrons: v s = 0 si s = 1 G . (7.12)36n effet, lorsque les int´egrales d’entrelacements sont d´efinies par des int´egrales con-vergentes, v s ( m ′ ) est un multiple de l’int´egrale sur U ′ ∩ s.P − de v ( s − u ′ m ′ ). Mais si u ′ ∈ U ′ est tel que v ( s − u ′ m ′ ) est non nul, on doit avoir s − u ′ m ′ ∈ P U − ⊂ P P ′ . Comme s − u ′ m ′ appartient `a P s − P ′ et que, d’apr`es (7.2), P ′ sP ∩ P ′ P est vide, on conclut que(7.12) est vrai dans ce cas. On conclut par prolongement rationnel.De (7.12), on d´eduit que l’image de v dans V P ′ est ´egale `a v G . Alors, tenant comptede (7.4), (7.11) se r´e´ecrit, pour a comme ci-dessus, i.e. a ∈ A M ′ ∩ A − ( P ′ , < ε ): h ξ, π ( a ) v i = δ / P ′ ( a ) h ξ ( P ∩ M ′ , σ, η ) , π P ′ ( a ) j P ′ ( v ) i . Mais (cf. (3.6)), on a, pour un ε ′ >
0, l’´egalit´e: h ξ, π ( a ) v i = δ / P ′ ( a ) h ξ P ′ , π P ′ ( a ) j P ′ ( v ) i , a ∈ A M ′ ∩ A − ( P ′ , < ε ′ ) . Alors les deux membres de droite des ´egalit´es pr´ec´edentes sont des fonctions A M ′ -finiessur A M ′ , d’apr`es les propri´et´es du module de Jacquet, et ´egales sur A M ′ ∩ A ( P, 38n tenant compte de (7.16), de (7.18) et de l’inversibilit´e des matrices B (cf. D´efinition3), on conclut que: η = η ′ , ce qui ´equivaut `a (7.7).Il ne reste plus qu’`a montrer (7.20) pour achever de prouver (ii). Il s’agit simplementde transport de structure. D’abord, pour η ∈ W h ( P, σ ), on a: ξ ( P , sσ, B ( P , s.P, sσ ) s η ) = ξ ( s.P, sσ, s η ) ◦ A ( s.P, P , sσ ) . En utilisant successivement la d´efinition de s η (cf. (7.5)), (5.8), puis la d´efinition desmatrices B , on obtient: ξ ( P , sσ, B ( P , s.P, sσ ) s η ) = ξ ( P, σ, η ) λ ( s − ) ◦ A ( s.P, P , sσ ) .ξ ( P , sσ, B ( P , s.P, sσ ) s η ) = ξ ( P, σ, η ) ◦ A ( P, t.P , σ ) λ ( s − ) .ξ ( P , sσ, B ( P , s.P, sσ ) s η ) = ξ ( t.P , σ, B ( t.P , P, σ ) η ) λ ( s − ) . Utilisant (7.14) et tenant compte de la relation st = m , on en d´eduit: ξ ( P , sσ, B ( P , s.P, sσ ) s η ) = ξ ( P , t − σ, t B ( t.P , P, σ ) η ) λ ( m − ) . On applique alors (4.11) pour en d´eduire: ξ ( P , sσ, B ( P , s.P, sσ ) s η ) = ξ ( P , mt − σ, t − σ ′ ( m − ) t B ( t.P , P, σ ) η ) . Mais m = st et t − σ ( m − ) = sσ ( m − ). Finalement: ξ ( P , sσ, B ( P , s.P, sσ ) η ) = ξ ( P , sσ, sσ ′ ( m − ) t B ( t.P , P, σ ) η ) . Ceci prouve (7.20) et ach`eve de prouver (ii).(iii) r´esulte imm´ediatement de (4.21) et (7.1).Soit P = M U un sous-groupe parabolique semi-standard de G , ( σ, E ) unerepr´esentation lisse de G . On d´efinit, `a l’aide de la D´efinition 2 et par bilinir´earit´e,une application lin´eaire de W h ( P, σ ) ⊗ i GP E dans C ∞ ( U \ G, ψ ), not´ee encore E GP enposant: E GP ( η ⊗ v ) := E GP ( σ, η, v ) , v ∈ i GP E, η ∈ W h ( P, σ ) . On remarquera que σ a ´et´e omis dans la notation.C’est un entrelacement entre, d’une part, le produit tensoriel de la repr´esentation trivialede G sur W h ( P, σ ) avec i GP σ et, d’autre part, la repr´esentation r´eguli`ere droite, ρ , de G sur C ∞ ( U \ G, ψ ).Soit P ′ = M ′ U ′ un sous-groupe parabolique semi-standard de G , P = M U ⊂ M ′ un sous-groupe parabolique semi-standard de M ′ et soit Q = P U ′ . Soit ( σ, E ) unerepr´esentation lisse irr´eductible de M . De l’application: E M ′ P : W h ( P, σ ) ⊗ i M ′ P E → C ∞ ( U ∩ M ′ \ M ′ , ψ ) , se d´eduit, par fonctorialit´e de l’induction et l’identification de i GP ′ ( i M ′ P E ) avec i GQ E , uneapplication: E P ′ P : W h ( P, σ ) ⊗ i GQ E → i GP ′ C ∞ ( U ∩ M ′ \ M ′ , ψ ) . φ est un ´el´ement de W h ( P, σ ) ⊗ i GQ E , on le regarde comme fonction sur G `a valeursdans W h ( P, σ ) ⊗ E . On a un isomorphisme de G -modules entre i GQ E et i GP ′ ( i M ′ P σ ).Tenant compte de l’identit´e: ( δ Q ) | M = ( δ P ) | M ( δ P ′ ) | M , on voit facilement que cet isomorphisme, v ˜ v , v ∈ i GQ E , est donn´e par:˜ v ( g )( m ′ ) = δ − / P ′ ( m ′ ) v ( m ′ g ) . L’´evaluation en l’´el´ement neutre dans la deuxi`eme r´ealisation de i GQ E , donne lieu `a uneapplication, not´ee r M ′ , de i GQ E dans i M ′ P E . Soit v ∈ i GQ E . On a:( r M ′ ( v ))( m ′ ) = δ − / P ′ ( m ′ ) v ( m ′ ) , m ′ ∈ M ′ de sorte que: ρ ( m ′ ) r M ′ ( v ) = δ − / P ′ ( m ′ ) r M ′ ( ρ ( m ′ ) v ) . (7.21)On note encore r M ′ l’application de W h ( P, σ ) ⊗ i GQ ) dans W h ( P, σ ) ⊗ i M ′ M ′ ∩ P E obtenuepar tensorisation de l’identit´e de W h ( P, σ ) avec r M ′ . On a:[ E P ′ P ( φ )(1)]( m ′ ) = [ E M ′ P ( r M ′ φ )]( m ′ ) , m ′ ∈ M ′ (7.22)De plus, si P = M ′ , i M ′ M ′ E s’identifie naturellement `a E . Avec cette identification on a:( E P ′ M ′ φ )( g ) = E M ′ M ′ ( φ ( g )) (7.23)On d´efinit, pour f ∈ C ∞ ( U \ G, ψ ) et pour P = M U sous-groupe parabolique standardde G : ( f indP ( g ))( m ) = ( ρ ( g ) f ) P ( m ) , m ∈ M (7.24)On v´erifie ais´ement grˆace (3.8) que f indP ∈ i GP C ∞ ( U ∩ M \ M, ψ ) et que l’application f f indP entrelace les repr´esentations r´eguli`eres droites, ρ , de G sur C ∞ ( U \ G, ψ ) et i GP C ∞ ( U ∩ M \ M, ψ ). Proposition 6 Soit P = M U (resp. P ′ = M ′ U ′ ) un sous-groupe parabolique anti-standard (resp. standard) de G , σ une repr´esentation lisse irr´eductible cuspidale G -r´eguli`ere de M .Si s ∈ W ( M ′ | G | M ) , on note C ( s, P ′ , P, σ ) l’application lin´eaire de W h ( P, σ ) ⊗ i GP E dans W h ( ˜ P s , sσ ) ⊗ i GP s sE d´efinie par: C ( s, P ′ , P, σ ) = B ( ˜ P s , s.P, sσ ) ⊗ ( A ( P s , s.P, sσ ) λ ( s )) avec l’identification de i GP s sE avec i GP ′ ( i M ′ M ′ ∩ s.P sE ) et celle de W h ( ˜ P s , sσ ) avec W h ( M ′ ∩ s.P, sσ ) (cf. Th´eor`eme 3, (i)).Alors, pour φ ∈ W h ( P, σ ) ⊗ i GP E , E GP ( φ ) indP ′ = 0 si W ( M ′ | G | M ) est vide et sinon: E GP ( φ ) indP ′ = X s ∈ W ( M ′ | G | M ) E P ′ M ′ ∩ s.P ( C ( s, P ′ , P, σ ) φ ) ,E GP ( φ ) P ′ = X s ∈ W ( M ′ | G | M ) E M ′ M ′ ∩ s.P ( r M ′ ( C ( s, P ′ , P, σ ) φ )) , φ ∈ W h ( P, σ ) ⊗ i GP E. ´emonstration: Les deux membres de la premi`ere ´egalit´e sont des fonctions sur G × M ′ . Par ´equivariance,on se r´eduit `a d´emontrer l’´egalit´e en (1 , m ′ ) pour tout φ et tout m ′ ∈ M ′ . Cette ´egalit´ese r´eduit, grˆace `a (7.22), `a la seconde. Grˆace `a (3.8 ) et (7.21), on se r´eduit `a prouverla seconde ´egalit´e ´evalu´ee en 1. Mais avec les notations du Th´eor`eme pr´ec´edent: E GP ( φ ) P (1) = X s ∈ W ( M ′ | G | M ) h ξ s , v s i . En utilisant la d´efinition de ξ s et v s , ce Th´eor`eme montre la deuxi`eme ´egalit´e ´evalu´eeen 1. D´efinition 4 Soit P un sous-groupe parabolique anti-standard de G et O l’orbite in-ertielle d’une repr´esentation lisse cuspidale irr´eductible de M . On utilise les notationsde la Proposition 6.2 (iii).On dit que φ ∈ P ol ( O u , W h ⊗ i GP ) est r´eguli`ere si pour tout sous-groupe paraboliquestandard P ′ = M ′ U ′ de G et s ∈ W ( M ′ | G | M ) , l’application σ C ( s, P ′ , P, σ ) φ ( σ ) estpolynomiale sur O u . On dit que φ est tr`es r´eguli`ere si de plus lorsque M ′ et M sont con-jugu´es, pour tout g ∈ G , l’application σ [( ˜ C ( P ′ , P, s, sσ ) φ )( sσ )]( g ) est polynomialesur O u , o`u [ ˜ C ( s, P ′ , P, s, sσ ) φ ]( sσ ) := j ( P ′ , P ′− , s.P, sσ )[ B ( P ′ , s.P, sσ ) ⊗ ( A ( P ′ , s.P, sσ ) λ ( s )] φ ( σ ) . (8.1)Si φ est r´eguli`ere (resp. tr`es r´eguli`ere) et g ∈ G , ρ • ( g ) φ est r´eguli`ere (resp.tr`es r´eguli`ere). (8.2)D’apr`es les propri´et´es de rationalit´e des int´egrales d’entrelacement (cf. (5.2)) et desmatrices B (cf. Proposition 3), on voit que:Il existe une fonction polynomiale sur O non identiquement nulle, p O , telleque, pour tout φ ∈ P ol ( O , W h ⊗ i GP ), p O φ soit tr`es r´eguli`ere. (8.3)Par ailleurs:Si φ est r´eguli`ere (resp. tr`es r´eguli`ere) et p ∈ P ol ( O ), pφ est r´eguli`ere(resp. tr`es r´eguli`ere). (8.4)On note N ( D, O ) l’ensemble des g ∈ G qui normalisent M et pr´eservent O . On note W ( G, O ) le quotient de N ( D, O ) par M qui est fini. Si p ∈ P ol ( O ), w ∈ N ( D, O ) et( σ, E ) est un objet de O , p ( w − σ ) ne d´epend que de la classe de w dans W ( G, O ). Ceci41ermet de faire agir W ( G, O ) sur P ol ( O ) en posant p w ( σ ) = p ( w − σ ). On remarqueque si p ∈ P ol ( O ), on a: Y w ∈ W ( G, O ) p w ∈ P ol ( O ) W ( G, O ) (8.5)On d´eduit alors de (8.4) et (8.5) que:On peut choisir et on choisira p O invariante par W ( G, O ) dans (8.3). (8.6)Montrons:Soit ( σ , E ) objet de O u et φ ∈ W h ( σ ) ⊗ i GP E tel que p O ( σ ) soit nonnul. Il existe φ ∈ P ol ( O u , W h ⊗ i GP ) tr`es r´eguli`ere telle que φ ( σ ) = φ et φ ( wσ ) = 0 pour w ∈ W ( G, O ) tel que wσ n’est pas ´equivalente `a σ . (8.7)En effet, il existe φ ∈ P ol ( O , W h ⊗ i GP ) tel que φ ( σ ) = p O ( σ ) − φ ( σ ). En multipliant φ par un ´el´ement de P ol ( O ) valant 1 en σ et 0 en wσ pour w ∈ W ( G, O ) tel que wσ n’est pas ´equivalente `a σ , on peut supposer en outre que φ ( wσ ) = 0 pour w ∈ W ( G, O ) tel que wσ n’est pas ´equivalente `a σ . En utilisant (8.3) et (8.6), onconclut que φ = p O φ a les propri´et´es voulues.D’autre part on sait (cf [DeliB]):Si p ∈ P ol ( O ) W ( G, O ) , il existe z ´el´ement du centre de Bernstein de G , ZB ( G ), tel que pour tout ( σ, E ) objet de O , i GP σ ( z ) est la multiplicationpar le scalaire p ( σ ). (8.8)De (8.3), (8.5) et (8.8), on d´eduit: Lemme 6 Si φ ∈ P ol ( O u , W h ⊗ i GP ) , il existe z ∈ ZB ( G ) tel que ρ • ( z ) φ soit tr`esr´eguli`ere et non nulle si φ est non nulle. Lemme 7 Soit O l’orbite inertielle d’une repr´esentation lisse, cuspidale et irr´eductiblede M . On rappelle qu’on a choisi une mesure de Haar sur X ( M ) u (cf. section 1.2). Onmunit O u d’une mesure X ( M ) u -invariante et telle que pour tout objet de O u , ( σ, E ) ,l’application de X ( M ) u dans O u , qui `a χ associe [ σ χ ] , pr´eserve localement les mesures.Si φ ∈ P ol ( O , W h ⊗ i GP ) , on d´efinit f φ ∈ C ∞ ( U \ G, ψ ) par: f φ ( g ) := Z O u E GP ( φ ( σ ))( g ) dσ, g ∈ G qu’on appellera paquet d’ondes de φ .(i) On a, pour g ∈ G , ρ ( g ) f φ = f ρ • ( g ) φ .(ii) Si φ est r´eguli`ere, f φ est ´el´ement de C ∞ c ( U \ G, ψ ) .D´emonstration: (i) r´esulte imm´ediatement des d´efinitions.Prouvons (ii). Il existe une partie compacte de G , Ω, telle que G = U A Ω, car M est compact modulo A et G = P K . Par ailleurs φ est invariante par un sous-groupe42ompact ouvert H . Alors Ω est contenu dans un nombre fini de classes `a droite modulo H , g i H . Utilisant (i) pour les g i , pour d´emontrer ce que l’on veut il suffit donc demontrer que:Pour tout φ r´eguli`ere, la restriction de f φ `a A est `a support compact. (8.9)Mais cela ´equivaut `a montrer que pour un a ∈ A , ρ a f φ qui est ´egal `a f ρ • ( a ) φ d’apr`es(i), est `a support compact. D’apr`es (3.5), pour a ∈ A bien choisi, ρ a f φ est `a supportdans A − . On est donc ramen´e `a prouver:Pour tout φ r´eguli`ere, la restriction de f φ `a A − est `a support compact. (8.10)Montrons d’abord:Si Ω G est un sous-ensemble compact de G et φ ∈ P ol ( O u , W h ⊗ i GP ), f φ restreinte `a Ω G A G est `a support compact. (8.11)En utilisant l’invariance de φ sous un sous-groupe compact ouvert de G et en proc´edantcomme ci-dessus, on se ram`ene `a prouver l’assertion pour Ω G r´eduit `a { } . Dans cecas, il suffit de prouver que, si p est une fonction polynomiale sur O , l’application de A G dans C , a R O u p ( σ ) σ ( a ) dσ est `a support compact. Mais cela r´esulte du fait quela transform´ee de Fourier d’une fonction polynˆome sur un tore est `a support compact.Ceci prouve (8.11).On suppose `a nouveau φ r´eguli`ere. Soit ε > Q = LV un sous-groupe paraboliquestandard de G . On note Θ Q l’ensemble des α ∈ ∆( P ) qui sont des racines de A dansl’alg`ebre de Lie de L . Soit X Q = { a ∈ A − || α ( a ) | F < ε, α ∈ ∆( P ) \ Θ Q et | α ( a ) | F ≥ ε, α ∈ Θ Q } . Alors, les X Q forment une partition de A − . De plus chaque X Q estcontenu dans un ensemble de la forme A L Ω Q , o`u Ω Q est un sous ensemble compact de A . Maintenant, d’apr`es (3.7), on peut choisir ε > G , Q : f φ ( a ) = δ / Q ( a )( f φ ) Q ( a ) , a ∈ X Q . On note que, d’apr`es la formule du terme constant des paquets d’ondes (cf. [D3],Proposition 3.17) et, grˆace au fait que φ est r´eguli`ere et au Th´eor`eme 3, ( f φ ) Q est unesomme de paquet d’ondes pour L . Par une application de (8.11) `a chacun des termesde cette somme, et ceci pour tout Q on voit que (8.9) est vrai. Le lemme en r´esulte. D´efinition 5 Si f ∈ C ∞ c ( U \ G, ψ ) et P = M U est un sous-groupe parabolique anti-standard de G , on d´efinit: f P ( m ) = δ / P ( m ) Z U f ( mu ) du, m ∈ M. On l’appelle la transform´ee unipotente de f relativement `a P . Le lemme suivant r´esulte des d´efinitions. 43 emme 8 Avec les notations ci-dessus, on a, pour f ∈ C ∞ c ( U \ G, ψ ) , f P ∈ C ∞ ( U ∩ M \ M, ψ ) .On d´efinit alors f P,ind par: f P,ind ( g, m ) = ( ρ ( g ) f ) P ( m ) , g ∈ G, m ∈ M. (8.12) Alors f P,ind ∈ i GP C ∞ ( U ∩ M \ M, ψ ) . Th´eor`eme 4 Soit P = M U , P ′ = M ′ U ′ deux sous-groupes paraboliques anti-standardde G , soit O l’ orbite inertielle d’une repr´esentation, lisse, cuspidale irr´eductible de M ,et φ ∈ P ol ( O u , W h ⊗ i GP ) . Pour φ tr`es r´eguli`ere on a:(i) Si le rang semi-simple de M ′ est inf´erieur ou ´egal `a celui de M et si M ′ n’est pasconjugu´e `a M , f P ′ ,indφ est nul.(ii) Supposons M et M ′ conjugu´es. Pour tout m ′ ∈ M ′ et g ∈ G , on a: ( f P ′ ,indφ ( g ))( m ′ ) = X s ∈ W ( M ′ | G | M ) Z O u E M ′ M ′ [( ˜ C ( s, P ′ , P, sσ ) φ )( sσ )( g )]( m ′ ) dσ. D´emonstration: Il suffit de prouver la formule pour g = 1 et m ′ = 1 et pour tout φ , car: ρ ( g ) f φ = f ρ • ( g ) φ ,f P ′ φ ( m ′ ) = ( ρ ( m ′ ) f P ′ φ )(1) = δ − / P ′ ( m ′ )( ρ ( m ′ ) f φ ) P ′ (1)et pour v ′ ´el´ement de l’espace de i GP ′ sσ :(( i GP ′ sσ )( m ′ )) v ′ )(1) = δ / P ′ ( m ′ )( sσ ( m ′ ))( v ′ (1)) . On suppose maintenant m ′ = g = 1. Il s’agit donc de calculer f P ′ φ (1). On fixe unsous-groupe compact ouvert H comme dans (2.6) tel que φ est invariante par ρ • ( H ).Il existe une constante C H > ϕ ∈ C ∞ ( H ): Z H ϕ ( H ) dh = c H Z H ∩ U ′− × H ∩ M ′ × H ∩ U ′ ϕ ( u ′− m ′ u ′ ) du ′− dm ′ du ′ . (8.13)On fixe a ∈ A M ′ tel que | α ( a ) | F < α ∈ Σ( P ′ ). Pour n ∈ N , posons U ′ n = a − n ( H ∩ U ′ ) a n . Comme f φ est `a support compact modulo U (cf. Lemme 7), ilexiste N ∈ N , tel que pour tout n ≥ N : f P ′ φ (1) = Z U ′ n f φ ( u ′ ) du ′ = δ P ′ ( a ) − n Z H ∩ U ′ f φ ( a − n u ′ a n ) du ′ . On a, pour tout n ∈ N : Z H ∩ U ′ f φ ( a − n u ′ a n ) du ′ = Z H ∩ U ′ Z O u E GP ( φ ( σ ))( a − n u ′ a n ) dσdu ′ . 44n remarque que: E GP ( φ ( σ ))( a − n u ′ a n ) = E GP (( ρ • ( u ′ a n ) φ )( σ ))( a − n ) . On pose alors: φ n = Z H ∩ U ′ ρ • ( u ′ a n ) φdu ′ ∈ P ol ( O u , W h ⊗ i GP ) , l’int´egrale se r´eduisant `a une somme finie, puisque φ est H -invariante et donc ρ • ( a n ) φ est invariante par a n Ha − n . Alors: δ P ′ ( a n ) f P ′ φ (1) = Z H ∩ U ′ f φ ( a − n u ′ a n ) du ′ = Z O u E GP ( φ n ( σ ))( a − n ) dσ. (8.14)Comme a − n ( H ∩ M ′ )( H ∩ U ′− ) a n ⊂ H , on a l’´egalit´e: φ n = c Z H ∩ U ′ × H ∩ M ′ × H ∩ U ′− ρ • ( u ′ m ′ u ′− a n ) φdu ′− dm ′ du ′ (8.15)= cc − H Z H ρ • ( ha n ) φdh. o`u c = vol ( H ∩ M ′ ) − vol ( H ∩ U ′− ) − . Donc φ n ∈ P ol ( O u , W h ⊗ i GP ) H .D’apr`es les propri´et´es du terme constant (cf. (3.7)), on peut choisir N assez grand pourque, pour tout n ≥ N , on ait: E GP ( φ n ( σ ))( a − n ) = δ P ′− ( a ) − n/ E GP ( φ n ( σ )) P ′− ( a − n ) . (8.16)Si M ′ et M sont comme dans (i), W ( M ′ | G | M ) est vide et E GP ( φ n ( σ )) P ′− est nul (cf.Proposition 6 (i)). Cela montre (i).On suppose maintenant M ′ et M conjugu´es. Pour tout n ∈ N , la d´efinition de φ n montreque φ n est une combinaison lin´eaire finie de fonctions du type ρ • ( g ) φ . On d´eduit de lad´efinition de f indP ′− et de φ n que: E GP ( φ n ( σ )) P ′− ( a − n ) = Z H ∩ U ′ [ E GP ( φ ( σ )) indP ′− ( u ′ a n )]( a − n ) du ′ . En utilisant successivement (3.8), l’´egalit´e δ P ′− = δ − P ′ et la d´efinition de U ′ n pour ef-fectuer un changement de variable, on en d´eduit: E GP ( φ n ( σ )) P ′− ( a − n ) = δ / P ′ ( a − n ) Z H ∩ U ′ [ E GP ( φ ( σ )) indP ′− ( a − n u ′ a n )](1) du ′ = δ / P ′ ( a n ) Z U ′ n [ E GP ( φ ( σ )) indP ′− ( u ′ )](1) du ′ . En tenant compte de (8.14) et (8.16), on en d´eduit: f Pφ (1) = Z O u Z U ′ n E GP ( φ ( σ )) indP ′− ( u ′ )](1) du ′ dσ. 45n va utiliser la Proposition 6 pour donner une expression de E GP ( φ ( σ )) indP ′− . Comme M et M ′ sont conjugu´es, pour tout s ∈ W ( M ′ | G | M ), M ′ ∩ s.P = M ′ . Dans notreutilisation du Th´eor`eme 3, P ′ est ici remplac´e par P ′− et P s est ici ´egal `a P ′− , ˜ P s estici ´egal `a P ′ . On a alors, grˆace `a la Proposition 6: f Pφ (1) = X s ∈ W ( M ′ | G | M ) Z O u Z U ′ n [ E P ′ M ′ ( C ( s, P ′− , P, σ ) φ ( σ ))( u ′ )](1) dσdu ′ et on veut passer `a la limite sur n . Mais un d´eplacement de contour d’int´egration estn´ecessaire. Si χ est un caract`ere non ramifi´e de M , on note O u χ l’ensemble des classesd’´equivalence des repr´esentations σ χ lorsque σ d´ecrit les objets de O u . On munit O u χ de la mesure obtenue par transport de structure de la mesure sur O u . Posons: φ s ( σ ) := C ( s, P ′− , P, σ ) φ ( σ ) ∈ W h ( P ′ , sσ ) ⊗ i GP ′− ( sE ) . (8.17)Comme φ est tr`es r´eguli`ere, φ s est polynomiale en σ . Pour tout choix Λ s , s ∈ W ( M ′ | G | M ), de caract`eres non ramifi´es de M , on a, pour des raisons d’holomorphie,en tenant compte de (7.23): f Pφ (1) = X s ∈ W ( M ′ | G | M ) Z O u Λ s Z U ′ n [ E M ′ M ′ ( φ s ( σ )( u ′ ))](1) dσdu ′ . (8.18)On veut passer `a la limite sur n dans cette expression pour un bon choix des Λ s . Il fautmajorer [ E M ′ M ′ ( φ s ( σ ))( u ′ )](1).Soit ( σ, E ) un objet de O u . Soit v s ∈ i GP ′− ( sE ) s Λ s , η s ∈ W h ( P ′ , sσ ). On remarque que W h ( P ′ , sσ ) est ´egal `a W h ( sσ ), puisque P ′ est anti-standard. Alors, il r´esulte de lad´efinition que: [ E M ′ M ′ ( v s ⊗ η s )( g )](1) = h η s , v s ( g ) i . On ´ecrit: u ′ = u ′ − ( u ) m ′ ( u ′ ) k ( u ′ ) , u ′− ( u ′ ) ∈ U ′− , m ′ ( u ′ ) ∈ M ′ , k ( u ′ ) ∈ K. Tenant compte des propri´et´es de covariance de v s , on voit que: h η s , v s ( u ′ ) i = ( s Λ s )( m ′ ( u ′ )) δ − / P ′ ( m ′ ( u ′ )) h η s , sσ ( m ′ ( u ′ )) v s ( k ( u ′ )) i . On choisit Λ s = s − δ − / P ′ . Alors on a: h η s , v s ( u ) i = δ − P ′ ( m ′ ( u ′ )) h η s , sσ ( m ′ ( u ′ )) v s ( k ( u ′ )) i , Tenant compte du fait que la restriction de v s `a K ne prend qu’un nombre fini devaleurs, on d´eduit du Lemme 1 (ii): |h η s , v s ( u ) i| ≤ Cδ − P ′ ( m ′ ( u ))ou C est une constante qui ne d´epend que de la restriction de v s `a K et de η s mais pasde σ ∈ O u .On en d´eduit qu’il existe C ′ > s ∈ W ( M ′ | G | M ) et σ ∈ O u Λ s : | E M ′ M ′ ( φ s ( σ ))( u ′ )](1) | ≤ Cδ − P ′ ( m ′ ( u ′ )) , u ′ ∈ U ′ O u Λ s × U ′ ,on peut appliquer le Th´eor`eme de convergence domin´ee et d´eduire de (8.18): f Pφ (1) = X s ∈ W ( M ′ | G | M ) Z O u Λ s Z U ′ [ E M ′ M ′ ( φ s ( σ )( u ′ ))](1) dσdu ′ , la fonction sous le signe int´egrale ´etant int´egrable pour la mesure produit. On peutappliquer le th´eor`eme de Fubini et commencer par calculer l’int´egrale sur U ′ . Elle faitapparaitre l’op´erateur A ( P ′ , P ′− , sσ ). On trouve, pour σ ∈ O u Λ s , en tenant comptede (8.17) et de la d´efininition des fonctions C (cf. Proposition 6) et grˆace `a (7.22) et(7.23): Z U ′ [ E M ′ M ′ ( φ s ( σ ))( u ′ )](1) du ′ = E M ′ M ′ [(( Id W h ( P ′ ,sσ ) ⊗ A ( P ′ , P ′− , sσ )) C ( s, P ′− , P, σ ) φ ( σ ))(1)](1)Tenant compte de la d´efinition des fonctions C et de (5.6), on voit que f Pφ (1) est ´egal`a la somme sur s ∈ W ( M ′ | G | M ) de: Z O u Λ s j ( P ′ , P ′− , s.P, sσ ) E M ′ M ′ [(( B ( P ′ , s.P, sσ, sχ ) ⊗ ( A ( P ′ , s.P, sσ ) λ ( s )) φ ( σ ))(1)](1) dσ En utilisant la d´efinition des fonction ˜ C et le fait que φ est tr`es r´eguli`ere, on peutremplacer l’int´egrale sur O u Λ s par l’int´egrale sur O u , pour des raisons d’holomorphie.Le Th´eor`eme en r´esulte. Soit P = M U un sous groupe parabolique anti-standard de G et O l’orbite inertielled’une repr´esentation lisse, unitaire, irr´eductible et cuspidale de M . Proposition 7 Soit ( σ, E ) objet de O u . Soit f ∈ C ∞ c ( U \ G, ψ ) , g ∈ G .(i) On a: ( ρ • ( g ) ˆ f )( P, σ ) = ( ρ ( g ) f )ˆ( P, σ ) .(ii) On rappelle que W h ( σ ) ⊗ i GP σ est muni du produit scalaire obtenu par produittensoriel du produit scalaire sur W h ( σ ) et sur i GP σ . Pour f ∈ C ∞ c ( U \ G, ψ ) et f ′ ∈ C ∞ ( U \ G, ψ ) , on note ( f, f ′ ) G = R U \ G f ( g ) f ′ ( g ) dg . Alors: ( f, E GP ( φ )) G = ( ˆ f ( P, σ ) , φ ) , φ ∈ W h ( σ ) ⊗ i GP E. D´emonstration: Les deux affirmations r´esultent imm´ediatement de la d´efinition de ˆ f . Proposition 8 Soit f ∈ C ∞ c ( U \ G, ψ ) . On suppose en outre que pour tout g ∈ G , f P,ind ( g ) est ´el´ement de C ∞ c ( U ∩ M \ M, ψ ) . Alors: ˆ f ( P, σ )( g ) = ( f P,ind ( g )ˆ)( M, σ ) , g ∈ G, ´egalit´e qu’on r´e´ecrit: ˆ f ( P, σ ) = ( f P,ind ˆ)( M, σ ) . ´emonstration: D´efinissons: Soit v ∈ i GP E . I := ( ˆ f ( P, σ ) , η ⊗ v ) . Utilisant la d´efinition de la transform´ee de Fourier puis celle des int´egrales de Jacquet,on voit que: I = ( f, E GP ( η ⊗ v )) G , c’est `a dire: I = Z U \ G f ( g ) h ξ ( P, σ, η ) , i GP σ ( g ) v i dg. Avant de poursuivre la preuve de la Proposition, montrons:Soit Ω un sous-ensemble compact modulo l’action `a gauche de U . Il existeune fonction continue `a support compact sur G telle pour tout g ∈ Ω, R U τ ( ug ) dg = 1. (8.19)Soit s une section continue de la projection, p , de G sur U \ G (cf. e.g. [M]). Onconsid´ere une fonction τ continue a support compact sur U \ G et ´egale `a 1 sur unvoisinage de Ω, regard´e ici comme un sous-ensemble de U \ G . On note τ une fonctioncontinue sur U , `a support compact et d’int´egrale 1. On pose τ ( g ) = τ ( u ( g )) τ ( p ( g )) , avec u ( g ) = g ( s ( p ( g ))) − On v´erifie qu’elle satisfait toutes les propri´et´es voulues. Ceci prouve (8.19).Appliquant ceci au support de f et reprenant le calcul de I , on trouve: I = Z G f ( g ) τ ( g ) h ξ ( P, σ, η ) , i GP σ ( g ) v i dg. On choisit maintenant un objet de O , ( σ, E ), tel que ξ ( P, σ, η ) soit repr´esent´e par unefonction continue (cf. Proposition 1 (ii)). On en d´eduit: < ξ ( P, σ, η ) , i GP σ ( g ) v > = Z U − ψ ( u − ) − < η, v ( u − g ) > du − , (8.20)o`u l’int´egrale est absolument convergente. Donc: I = Z G τ ( g ) f ( g ) Z U − ψ ( u − ) − < η, v ( u − g ) >du − dg. L’application τ f est une application continue sur G , `a support compact. Ce supportest donc contenu dans un nombre fini de H -classes a droite, o`u H est un sous-groupecompact ouvert de G fixant v . Comme pour tout g ∈ G , l’int´egrale du membre de droitede (8.20) est absolument convergente, le Th´eor`eme de Fubini s’applique. En utilisantl’´egalit´e f ( u − g ) = ψ ( u − ) f ( g ) et le fait que ψ est unitaire, on a: I = Z U − Z G τ ( g ) f ( u − g ) < η, v ( u − g ) >dgdu − . 48n change g en u − g dans l’int´egrale int´erieure: I = Z U − Z G τ (( u − ) − g ) f ( g ) < η, v ( g ) >dgdu − . Tenant compte de l’invariance `a droite par U ∩ M de f ( g ) < η, v ( g ) > , on obtient: I = Z U − Z U ∩ M Z U ∩ M \ G τ (( u − ) − u g ) f ( g ) < η, v ( g ) >dgdu dh. Transformant la succession des int´egrales sur U − et U ∩ M en une int´egrale sur U eten utilisant les propri´et´es de τ (cf. (8.19)), on en d´eduit: I = Z U ∩ M \ G f ( g ) < η, v ( g ) >dg Utilisant la formule int´egrale (2.8) et tenant compte du fait que v est invariante `a gauchepar U , il s’ensuit: I = Z U × ( U ∩ M \ M ) × U − f ( umu − ) < η, v ( mu − ) >δ − P ( m ) dudmdu − . Mais on a: < η, v ( mu − ) > = δ / P ( m ) E MM ( η ⊗ v ( u − ))( m )et Z U f ( umu − ) du = δ / P ( m )[ f P,ind ( u − )]( m ) . Donc les fonctions modules disparaissent et l’on a: I = Z ( U ∩ M \ M )[ × U − f P,ind ( u − )]( m ) E MM ( v ( u − ) ⊗ η )( m ) dmdu − Mais ( f P,ind ˆ)( M, σ ) est un ´el´ement de W h ( P, σ ) ⊗ i GP E et I = (( f P,ind ˆ)( M, σ ) , η ⊗ v ) . Comme cela est vrai pour tout v ∈ i GP E , η ∈ W h ( P, σ ), cela prouve l’´egalit´e voulue, pour σ comme-ci dessus. Cette ´egalit´e s’´etend `a tout ( σ, E ) objet de O par polynomialit´edes deux membres. Th´eor`eme 5 Soient P = M U, P ′ = M ′ U ′ des sous-groupes paraboliques anti-standardde G tels que M et M ′ soient conjugu´es, O l’orbite inertielle d’une repr´esentation lissecuspidale irr´eductible de M . Soit φ ∈ P ol ( O u , W h ⊗ i GP ) tr`es r´eguli`ere. Soit ( σ , E ) une repr´esentation lisse, cuspidale, unitaire et irr´eductible de M ′ . Alors ˆ f φ ( g )( P ′ , σ ) = X s ∈ W ( M ′ | G | M ) ,s − σ ∈O u [ ˜ C ( P ′ , P, s, σ ) φ ]( σ ) . ´emonstration: Traitons d’abord le cas M = G . Soit ( σ , E ) une repr´esentation lisse, cuspidale, unitaireet irr´eductible de G , φ ∈ W h ( σ ) ⊗ E .Pour toute repr´esentation π de G admettant un caract`ere central, notons χ π sa restric-tion `a A G . On a:( f φ , E GG ( φ )) G = Z U \ G f φ ( g ) E GG ( φ )( g ) dg = Z A G U \ G ϕ ( g )( E GG ( φ ))( g ) dg o`u ϕ ( g ) = Z A G f φ ( ag ) χ σ ( a − ) da. Comme pour ( σ, E ) objet de O , E GG ( φ ( σ ))( ag ) = χ σ ( a ) E GG ( φ ( σ ))( g ), on a l’´egalit´e: ϕ ( g ) = Z A G χ σ ( a − ) Z O u χ σ ( a )( E GG ( φ ( σ ))( g ) dσda. La restriction de χ σ `a A G ∩ K ne d´epend pas de ( σ, E ) objet de O . Si les restrictions de χ σ et χ σ `a A G ∩ K sont distinctes, alors ϕ ( g ) = 0. Supposons ces restrictions ´egales.On peut appliquer la formule d’inversion de Fourier sur A G /A G ∩ K . La d´efinition del’int´egrale sur O u et la normalisation des mesures sur A G /A G ∩ K , X ( G ) u (cf. section2.2) et O u (cf. Lemme 7) conduit `a l’´egalit´e: ϕ = X σ ∈O u ,χ σ | AM = χ σ | AM E GG ( φ ( σ ))D’o`u l’on d´eduit:( f φ , E GG ( φ )) G = X σ ∈O u ,χ σ | AM = χ σ | AM Z A G U \ G ( E GG ( φ ( σ ))( g )( E GG ( φ ))( g ) dg Le Lemme de Schur montre que le terme correspondant `a σ dans cette derni`ere expres-sion est nul si σ n’est pas ´equivalente `a σ . De plus si σ = σ , d’apr`es le Lemme 5, ceterme est ´egal `a ( φ ( σ ) , φ ) G . On obtient finalement:( f φ , E GG ( φ )) = 0 si ( σ , E ) n’est pas objet de O .( f φ , E GG ( φ )) = ( φ ( σ ) , φ ) si ( σ , E ) est un objet de O . (8.21)En utilisant le Lemme 7, on en d´eduit le Th´eor`eme dans le cas M = G .Retournons au cas g´en´eral. On a, d’apr`es le Th´eor`eme 4: f P ′ ,indφ ( g ) = X s ∈ W ( M ′ | G | M ) f M ′ φ s o`u φ s est la fonction sur s O u `a valeurs dans W h ⊗ i M ′ M ′ d´efinie par: φ s ( σ ) =[ ˜ C ( s, P ′ , P, σ ) φ ( g )]( σ ). C’est un ´el´ement de P ol ( s O u , W h ⊗ i M ′ M ′ ), d’apr`es le fait que φ est tr`es r´eguli`ere. On utilise le Lemme 7 pour M ′ au lieu de G et P , pour voir que l’onpeut appliquer la Proposition 8 `a f φ pour exprimer ˆ f φ ( P ′ , σ ) `a l’aide de f P ′ ,ind . Joint`a ce que q’on vient de d´emontrer pour le groupe M ′ , cela implique le Th´eor`eme.50 .4 Produit scalaire de paquets d’ondes Proposition 9 Soit P = M U, P ′ = M U ′ deux sous-groupes paraboliques anti-standardde G . Soit O (resp. O ) l’orbite inertielle d’une repr´esentation lisse, irr´eductible etcuspidale de M (resp. M ′ ), φ ∈ P ol ( O u , W h ( P, σ ) ⊗ i GP E ) , φ ∈ P ol ( O u , W h ⊗ i GP ) tr`es r´eguli`eres.(i) Si M et M ′ ne sont pas conjugu´es dans G , ( f φ , f φ ) G est nul.(ii) Si M et M ′ sont conjugu´es dans G , ( f φ , f φ ) G est ´egal `a: Z O u X s ∈ W ( M ′ | G | M ) ,s O = O ([ ˜ C ( s, P ′ , P, σ ) φ ]( σ ) , φ ( σ )) dσ . D´emonstration: La d´emonstration est semblable `a celle de [W], Proposition VI.2.2. Nous la donnonspour la commodit´e du lecteur.On a l’´egalit´e ( f φ , f φ ) G = Z U \ G f φ ( g ) Z O u ( E GP ′ ( φ ( σ ))( g ) dσ dg. Comme O u est compact et comme f φ est `a support compact d’apr`es le Lemme 7,l’int´egrale double est absolument convergente et l’on obtient:( f φ , f φ ) G = Z O u ( f φ , E GP ′ ( φ ( σ ))) G dσ et d’apr`es la d´efinition de ˆ f :( f φ , f φ ) G = Z O u ( ˆ f φ ( P ′ , σ ) , φ ( σ )) dσ . Supposons le rang semi-simple de M ′ inf´erieur ou ´egal `a celui de M . En utilisant laProposition 8 et le Th´eor`eme 4 (i), on voit que ( f φ , f φ ) G = 0 si M n’est pas conjugu´e`a M ′ . Si le rang semi-simple de M ′ est strictement plus grand que celui de M , il suffitd’appliquer la relation ( f φ , f φ ) G = ( f φ , f φ ) G , pour achever la preuve de (i).Supposons maintenant M et M ′ conjugu´es dans G . Le Th´eor`eme 5 calcule ˆ f φ ( P ′ , σ ),ce qui conduit `a (ii). B Th´eor`eme 6 Soit P , Q des sous-groupes paraboliques semi-standard de G poss´edantle mˆeme sous-groupe de L´evi semi-standard, M . On suppose P anti-standard. Soit O l’orbite inertielle d’une repr´esentation lisse, irr´eductible et cuspidale de M . On al’´egalit´e de fonctions rationnelles sur O u : B ( P, Q, σ ) ∗ = B ( Q, P, σ )51 ´emonstration: Soit P ′ le sous-groupe parabolique anti-standard de G auquel Q est conjugu´e et O une orbite inertielle de M ′ conjugu´ee de O par un ´el´ement de W ( M ′ | G | M ). Soit φ ∈ P ol ( O u , i GP ⊗ W h ), φ ∈ P ol ( O u , i GP ′ ⊗ W h ) tr`es r´eguli`eres. Alors, d’apr`es laProposition pr´ec´edente:( f φ , f φ ′ ) G = Z O u X s ∈ W ( M ′ | G | M ) ,s O = O ([ ˜ C ( s, P ′ , P, σ ) φ ]( σ ) , φ ( σ )) dσ . (8.22)Puis en utilisant ( f φ , f φ ′ ) G = ( f ′ φ , f φ ) G , on a:( f φ , f φ ′ ) G = Z O u X t ∈ W ( M | G | M ′ ) ,t − O = O ( φ ( σ ) , [ ˜ C ( t, P, P ′ , σ ) φ ]( σ )) dσ ;On pose σ = t − σ . D’o`u:( f φ , f φ ′ ) G = Z O u X t ∈ W ( M | G | M ′ ) ,t − O = O ( φ ( tσ ) , [ ˜ C ( t, P, P ′ , tσ ) φ ]( tσ )) dσ (8.23)A s ∈ W ( M ′ | G | M ) correspond un unique ´el´ement t de W ( M | G | M ′ ) tel que st = m ′ ∈ M ∩ K .Montrons l’´egalit´e de fonctions rationnelles sur O u : j ( P ′ , P ′− , s.P, σ ) = j ( P, P − , t.P ′ , sσ )D’abord, d’apr`es (5.5) et (5.6) les deux membres de l’´egalit´e `a prouver sont r´eels, doncon peut ignorer la conjugaison complexe. Alors l’´egalit´e r´esulte imm´ediatement de (5.6)et (5.9).Si φ est tr`es r´eguli`ere, il en va de mˆeme de p φ pour tout p ∈ P ol ( O ). Par ailleurssi F ∈ P ol ( O u ) est tel que: Z O u p ( σ ) F ( σ ) dσ = 0 , p ∈ P ol ( O ) , on en d´eduit que F = 0.Donc, pour tout σ objet de O u , les expressions sous le signe int´egrale dans les membresde droite des ´egalit´es (8.22) et (8.23) sont ´egales.Soit O ′ u l’ensemble des σ ∈ O tel que, avec les notations de (8.3), (8.6), p O ( σ ) soitnon nul et tels que si w ∈ W ( M ′ , O ), wσ ne soit ´equivalente `a σ que si w = 1. Onremarque que O ′ u est dense dans O u .Soit σ ∈ O ′ u , s ∈ W ( M ′ | G | M ) et t comme ci-dessus. D’apr`es (8.7) on peut choisir φ tel que φ ( tσ ) soit non nul et arbitraire dans i GP ( tE ) et tel que φ ( t ′ σ ) = 0 si t ′ ∈ W ( M | G | M ′ ) est distinct de t . De mˆeme φ ( σ ) peut ˆetre choisi arbitrairement. Alors,tous les termes sous le signe int´egral de (8.22) (resp.(8.23)) sont nuls except´e celuicorrepondant `a s (resp. t ), d’apr`es la d´efinition des fonctions ˜ C (cf. D´efinition 4). Onen d´eduit: ([ ˜ C ( s, P ′ , P, σ ) φ ]( σ ) , φ ( σ )) = ( φ ( tσ ) , [ ˜ C ( t, P, P ′ , tσ ) φ ]( tσ ))52uis, utilisant la d´efinition des fonctions ˜ C (cf. (8.1)), on voit que:( B ( P ′ , s.P, σ ) ⊗ A ( P, s.P, σ ) λ ( s )) φ ( s − σ ) , φ ( σ ))est ´egal `a ( φ ( tσ ) , ( B ( P, t.P ′ , tσ ) ⊗ A ( P, t.P ′ , tσ ) λ ( t )) φ ( σ ))Comme φ ( σ ) est arbitraire, on obtient par adjonction:( B ( P ′ , s.P, σ ) ⊗ A ( P ′ , s.P, σ ) λ ( s )) φ ( s − σ ) = [ B ( P, t.P ′ , tσ ) ⊗ ( A ( P, t.P ′ , tσ ) λ ( t )] ∗ φ ( tσ )(8.24)Maintenant, des ´egalit´es provenant du transport de structure et la formule d’adjonctionpour les int´egrales d’entrelacement vont permettre d’achever la preuve du Th´eor`eme.Soit m = ts ∈ M ∩ K , de sorte que t = ms − . On a, d’apr`es la Proposition 3 (ii), enprenant σ ´egal `a s − σ : B ( t.P ′ , P, tσ ) = ( s − σ ) ′ ( m − ) B ( t.P ′ , P, s − σ )( s − σ ′ )( m )Comme ( s − σ )( m ) = σ ( m ′ ), o`u m ′ = st , on a: B ( t.P ′ , P, tσ ) = σ ′ ( m ′− ) B ( t.P ′ , P, s − σ ) σ ′ ( m ′ ) . (8.25)Par ailleurs, d’apr`es (7.20), dans lequel on remplace m par m ′ , P par P ′ , sσ par σ eto`u s et t sont triviaux car P et P ′ sont anti-standard, on a: B ( P ′ , s.P, σ ) = σ ′ ( m ′− ) B ( t.P ′ , P, s − σ ) . (8.26)Comme φ ∈ P ol ( O , W h ⊗ i GP ), s − = m − t et tσ = ms − σ , on a, d’apr`es la d´efinitionde P ol ( O u , W h ⊗ i GP ) (cf. section 1.4): φ ( s − σ ) = ( tσ ′ ( m ) ⊗ λ ( m − )) φ ( tσ ) . Donc le membre de gauche, I , de (8.24) est ´egal `a:[ σ ( m ′− ) B ( t.P ′ , P, s − σ ) ⊗ A ( P ′ , s.P, σ ) λ ( s )][( tσ ′ ( m ) ⊗ λ ( m − )) φ ( tσ )] . Mais: λ ( s ) λ ( m − ) = λ ( t − ) , tσ ( m ) = σ ( m ′ ) . Donc I = [ σ ′ ( m ′− ) B ( t.P ′ , P, s − σ ′ ) σ ′ ( m ′ ) ⊗ A ( P ′ , s.P, σ ) λ ( t − )] φ ( tσ ) . Donc, d’ apr`es (8.25): I = [ B ( t.P ′ , P, tσ ) ⊗ A ( P ′ , s.P, σ ) λ ( t − )] φ ( tσ ) . Etudions maintenant le membre de droite, II , de (8.24). L’adjoint de A ( P, t.P ′ , tσ ) est´egal `a A ( t.P ′ , P, tσ ), celui de λ ( t ) est ´egal `a λ ( t − ). Enfin (cf.(5.8)) λ ( t − ) A ( t.P ′ , P, tσ )est ´egal `a A ( P ′ , s.P, σ ) λ ( t − ). Donc on a: II = ( B ( P, t.P ′ , tσ ) ∗ ⊗ A ( P ′ , s.P, σ ) λ ( t − )) φ ( tσ ) . Comme φ ( tσ ) peut ˆetre choisi arbitrairement, l’´egalit´e de I et II conduit `a: B ( t.P ′ , P, tσ ) = ( B ( P, t.P ′ , tσ )) ∗ , pour notre choix de σ . Par densit´e, cette ´egalit´e est vraie pour σ ∈ O u . Soit s ∈ W ( M ′ | G | M ) tel que P ′ = s.Q , qui existe d’apr`es notre choix de P ′ . Alors t.P ′ = Q .En posant σ = t − σ , on obtient l’´egalit´e voulue.53 Preuve du Th´eor`eme de Paley-Wiener Proposition 10 Soit P = M U un sous-groupe parabolique anti-standard de G et soit O l’orbite inertielle d’une repr´esentation lisse, irr´eductible et cuspidale de G . Si φ ∈ P ol ( O , W h ⊗ i GP ) , on note: Φ( σ ) := ( Id ⊗ A ( P − , P, σ ) − ) φ ( σ ) et f sh Φ := Z O u χ µ ,Reµ<< P E GP (Φ( σ )) dσ. o`u Reµ << P veut dire que −h Reµ, ˇ α i est suffisament grand, pour tout α ∈ Σ( P ) .Alors f sh Φ ne d´epend pas de µ et est `a support compact modulo U . On se r´eduit, comme dans la preuve du Lemme 7, `a d´emontrer que pour tout φ , la re-striction de f sh Φ `a A − est `a support compact. Puis on proc`ede comme dans [H], l’analysedes pˆoles des fonctions rencontr´ees ´etant d´etaill´ee ci-dessous. Les pˆoles potentiels iciet dans [H] v´erifient des conditions similaires, ce qui autorise les mˆemes d´eplacementsde contour d’int´egration. On note que l’on travaille ici sur A − et que les sous-groupesparaboliques utilis´es pour le terme constant sont ici standard tandis que P est anti-standard. Modulo l’´etude des pˆoles ci-dessous, la preuve vaut mutatis mutandi, entenant compte de notre d´efinition diff´erente de H G (cf. (2.3)).Etudions les pˆoles de de C ( s, P ′ , P, σ )( Id ⊗ A ( P, P − , σ ) − ) qui est ´egal `a( B ( ˜ P s , s.P, sσ ) ⊗ ( A ( P s , s.P, sσ ) λ ( s ))( Id ⊗ A ( P, P − , σ ) − ) . On a: A ( P s , s.P, sσ ) λ ( s ) A ( P − , P σ ) − = λ ( s ) A ( s − .P s , P, σ ) A ( P, P − , σ ) − A ( s − .P s , P − , σ ) A ( P − , P, σ ) = ( Y α ∈ Σ red ( P ) ∩ Σ red ( s − .P s ) j α ( σ )) A ( s − .P s , P, σ ) . Donc A ( P s , s.P, sσ ) A ( P − , P, σ ) − = ( Y α ∈ Σ red ( P ) ∩ Σ red ( s − .P s ) j − α ( σ )) λ ( s ) A ( s − .P s , P − , σ ) . Rempla¸cant σ par σ χ , la fonction de χ ∈ X ( M ) ainsi obtenue a des pˆoles pour χ = χ λ ,avec λ ´el´ement d’un nombre fini d’hyperplans de ( a M ) ′ C de la forme h λ, ˇ α i = c , α ∈ Σ := Σ red ( P ) ∩ Σ red ( s − .P s ) (cf. (5.7)).La fonction sur X ( M ), χ B ( ˜ P s , s.P, sσ χ ) poss`ede des pˆoles pour χ = χ λ , avec λ ´el´ement d’un nombre fini d’hyperplans de la forme h λ, ˇ α i = c , α ∈ Σ := Σ red ( s − ˜ P s ) ∩ Σ red ( P − ) ⊂ − Σ ((cf. Proposition 3 et (5.7)). Avec les notations de Heiermann [H],qui d´efinit P ′ s := s − P s , on a Σ = Σ red ( P ) ∩ Σ red ( P ′ s ).54 .2 Un r´esultat d’Heiermann Soit H un sous-groupe compact ouvert contenu dans K . On note e H l’´el´ement del’alg`ebre de Hecke de G d´etermin´e par la mesure de Haar normalis´ee de H . On appliquela Proposition 0.2 de [H] `a la famille de fonctions ϕ P, O , o`u P = M U est un sous-groupeparabolique semi-standard de G , donn´ee par ϕ ( σ, E ) = i GP σ ( e H ). Si ( π, E ) est unerepr´esentation lisse de G , on note (ˇ π, ˇ V ) sa contragr´ediente lisse et on identifie V ⊗ ˇ V `a un sous-espace de EndV .Soit P = M U un sous-groupe parabolique anti-standard de G , O l’orbite inertielled’une repr´esentation lisse, cuspidale et irr´eductible de M . En transformant la somme deHeiermann [H] Proposition (0.2) qui porte sur l’ensemble des w ∈ W G tels que w O = O en une somme sur w tel que w − ∈ W ( M | G | M ) et w O = O , par regroupement destermes, et en posant t = w − , on en d´eduit qu’il existe une fonction polynomiale sur O , ζ ( P, . ) `a valeurs dans Hom ( i GP , i GP − ) telle que:( i GP σ )( e H ) = X t ∈ W ( M | G | M ) ,t O = O A ( P, t − .P − , σ ) λ ( t − ) ζ ( P, tσ ) λ ( t ) A ( t − .P, P, σ ) . Mais, par transport de structure (cf. (5.8)): λ ( t ) A ( t − .P, P, σ ) = A ( P, t.P, tσ ) λ ( t ) . Donc, on a:( i GP σ )( e H ) = X t ∈ W ( M | G | M ) ,t O = O A ( P, t − .P − , σ ) λ ( t − ) ζ ( P, tσ ) A ( P, t.P, tσ ) λ ( t ) . (9.1) On part maintenant de F qui satisfait les conditions (i) `a (iii) du Th´eor`eme 2. Soit H un sous-groupe compact ouvert de G tel que F soit H -invariante. Soit P = M U unsous-groupe parabolique anti-standard de G et O l’orbite inertielle d’une repr´esentationlisse, cuspidale et irr´eductible de M . Donc F ( P, σ ) = [ Id ⊗ ( i GP σ )( e H )] F ( P, σ )On applique (9.1) et on trouve que F ( P, σ ) est ´egal `a: X t ∈ W ( M | G | M ) ,t O = O ([ Id ⊗ A ( P, t − .P − , σ ) λ ( t − ) ζ ( P, tσ )][ Id ⊗ A ( P, t.P, tσ ) λ ( t )] F ( P, σ )Mais t ∈ W ( M | G | M ) implique que w t.P = t − . Alors, d’apr`es (6.4), on a:( Id ⊗ λ ( t )) F ( P, σ ) = F ( t.P, tσ )et d’apr`es (6.8), on voit que:( Id ⊗ A ( P, t.P, tσ )) F ( t.P, tσ ) = ( B ( t.P, P, tσ ) ⊗ Id ) F ( P, tσ ) . F ( P, σ ) = X t ∈ W ( M | G | M ) ,t O = O [ Bt.P, P, tσ ) ⊗ A ( P, t − .P − , σ ) λ ( t − )] ζ ( P, tσ ) F ( P, tσ ) . (9.2)Soit s l’unique ´el´ement de W G tel m := st ∈ M ∩ K . On utilise (7.20), avec P = P et σ remplac´e par s − σ . Comme P est anti-standard, s et t se r´eduisent `a l’identit´e etl’on a: B ( P, s.P, σ ) = σ ′ ( m − ) B ( t.P, P, s − σ ) . (9.3)On pose ts = m ′ ∈ M ∩ K . Donc s − = m ′− t . D’apr`es la Proposition 3 (ii), on a: B ( t.P, P, s − σ ) = ( tσ ′ )( m ′ ) B ( t.P, P, tσ )( tσ ′ )( m ′− ) . Comme( tσ )( m ′ ) = σ ( m ), on en d´eduit: B ( t.P, P, s − σ ) = σ ′ ( m ) B ( t.P, P, tσ ) σ ′ ( m − ) . (9.4)Grˆace `a (9.3) et (9.4), on d´eduit de (9.2): F ( P, σ ) est ´egal `a: X t ∈ W ( M | G | M ) ,t O = O [( B ( P, s.P, σ ) σ ′ ( m )) ⊗ ( A ( P, s.P − , σ ) λ ( t − ))] ζ ( P, tσ ) F ( P, tσ ) . (9.5) Lemme 9 Pour ( σ, E ) objet de O , on note: Φ O ( σ ) = ( Id ⊗ A ( P − , P, σ ) − ) ζ ( P, σ ) F ( P, σ ) . (9.6) (i) Pour ( σ, E ) objet de O , on a: ˆ f sh Φ O ( P, σ ) = F ( P, σ ) . (9.7) (ii) Si ( σ , E ) est une repr´esentation lisse, cuspidale et irr´eductible du sous-groupede L´evi, M ′ , d’un sous-groupe parabolique standard de G , P ′ = M ′ U ′ , dont l’orbiteinertielle, O ′ , est telle que ( M, O ) n’est pas conjugu´ee `a ( M ′ , O ′ ) , on a: ˆ f sh Φ O ( P ′ , σ ) = 0 . (iii) Si au contraire ( M ′ , O ′ ) est conjugu´ee `a ( M, O ) on a, pour ( σ , E ) objet de O ′ . ˆ f sh Φ O ( P ′ , σ ) = F ( P ′ , σ ) . D´emonstration: Pour z ∈ ZB ( G ), on note F i ′ = ρ • ( z ) F , et Φ ′O la fonction rationnelle d´eduite de F ′ ,comme Φ O l’est de F . Alors Φ ′O = ρ • ( z )Φ O et:ˆ f sh Φ ′O ( P , σ ) = ( i GP ′ σ )( z ) ˆ f sh Φ ′O ( P , σ ) . 56e (8.8) Lemme 6 et de ce qui pr´ec`ede, on d´eduit qu’il suffit de prouver le Lemmelorsque Φ est polynomiale et tr`es r´eguli`ere, ce que l’on suppose d´esormais. Alors, onpeut d´eplacer le contour d’int´egration dans la d´efinition du paquet d’ondes d´ecal´e etl’on a ˆ f sh Φ = f φ . On applique le Th´eor`eme 5. On en d´eduit (ii). Montrons (i). Soit σ est un objet de O . Toujours d’apr`es le Th´eor`eme 5, on a:ˆ f sh Φ ( P, σ ) = X s ∈ W ( M | G | M ) ,s − σ ∈ O I s (9.8)o`u I s est ´egal au produit de j ( P, P − , s.P, σ ) par:[ B ( P, s.P, σ ) ⊗ A ( P, s.P, σ ) λ ( s )]( A ( P − , P, s − σ ) − ⊗ Id ) ζ ( s − σ ) F ( P, s − σ ) . (9.9)Soit t ∈ W G tel que ts = m ′ et st = m soient ´el´ements de M ∩ K . Donc s − = m ′− t et tσ ( m ′ ) = σ ( m ). On d´eduit du Lemme 5, avec m chang´e en m ′− et σ en tσ , que: F ( P, s − σ ) = ( λ ( m ′− ) ⊗ σ ′ ( m )) F ( P, tσ ) . (9.10)Les relations de type (2.19) pour les int´egrales d’entrelacement et la fonction ζ montrentque: A ( P − , P, s − σ ) = λ ( m ′ ) − A ( P − , P, tσ ) λ ( m ′ ) . (9.11) ζ ( s − σ ) = λ ( m ′− ) ζ ( tσ ) λ ( m ′ ) . (9.12)Tenant compte de (9.10), (9.11), (9.12), on d´eduit de la formule (9.9) pour I s , apr`esdes simplifications ´evidentes que: I s est ´egal au produit de j ( P, P − , s.P, σ ) par:[ B ( P, s.P, σ ) σ ′ ( m ) ⊗ ( A ( P, s.P, σ ) λ ( s ) λ ( m ′− ) A ( P − , P, tσ ) − ] ζ ( P, tσ ) F ( P, tσ ) . (9.13)En tenant compte de (9.5), (9.8) et de la relation pr´ec´edente, il suffit, pour prouver(9.7), de v´erifier: j ( P, P − , s.P, σ ) A ( P, s.P, σ ) λ ( s ) λ ( m ′− ) A ( P − , P, tσ ) − = A ( P, s.P − , σ ) λ ( t − ) . (9.14)On a sm ′− = t − , t − .P = s.P, t − .P − = s.P − . Grˆace `a (5.8) on a: λ ( t − ) A ( P − , P, tσ ) λ ( t ) = A ( sP − , s.P, σ ) . Donc notant A le premier membre de (9.14), on a: A = j ( P, P − , s.P, σ ) A ( P, s.P, σ ) A ( s.P − , s.P, σ ) − λ ( t − ) . D’apr`es (5.6) on a: A ( s.P − , s.P, σ ) A ( s.P, s.P − , σ ) = j ( s.P − , s.P, s.P − , σ ) Id. Donc: A = j ( P, P − , s.P, σ ) j ( s.P − , s.P, s.P − , σ ) − A ( P, s.P, σ ) A ( s.P, s.P − , σ ) λ ( t − ) . j (cf. (5.6)), on trouve: A = j ( P, P − , s.P, σ ) j ( P, s.P, s.P − ) j ( s.P − , s.P, s.P − ) − A ( P, s.P − , σ ) λ ( t − )et on voit que: j ( P, P − , s.P, σ ) j ( P, s.P, s.P − , σ ) j ( s.P − , s.P, s.P − , σ ) − = 1donc A = A ( P, s.P − , σ ) λ ( t − ) comme d´esir´e, ce qui ach`eve de prouver (9.14). Ceciach`eve de prouver (i). (iii) r´esulte des relations (6.4) et (6.8) satisfaites par F et lestransform´ees de Fourier. Fin de la preuve du Th´eor`eme 2 Soit E un ensemble de repr´esentants des classes de conjugaisons de couples ( M, O ), o`u P = M U est un sous-groupe parabolique anti-standard de G , et O est l’orbite inertielled’une repr´esentation, lisse, irr´eductible et cuspidale de M . Soit f = X ( M, O ) ∈E f sh Φ O , la somme ne comportant qu’un nombre fini de termes non nuls car il n’y a qu’un nombrefini de ( M, O ) tel que Φ O soit non nulle, d’apr`es la condition (ii) du Th´eor`eme 2. Alors,d’apr`es la Propostion 10 , f ∈ C ∞ c ( U \ G, ψ ) et d’apr`es le Lemme pr´ec´edent f admet F comme transform´ee de Fourier-Whittaker. Pour achever la preuve du Th´eor`eme 2, ilne reste plus qu’`a prouver la Proposition suivante. Proposition 11 La transform´ee de Fourier-Whittaker, d´efinie sur C ∞ c ( U \ G, ψ ) , estinjective.D´emonstration: Rappelons le contenu du Corollaire 1 de la Proposition 15 de la section 11 , dont onretient les notations notamment la d´efinition (11.19):Soit f ∈ C ∞ c ( U \ G, ψ ). Si pour toute repr´esentation lisse unitaire irr´eductible, π , ettout ξ ∈ W h ( π ), π ′ ( f ∗ ) est nulle, alors f est nulle.Soit P = M U un sous-groupe parabolique anti-standard de G et ( σ, E ) unerepr´esentation lisse, unitaire, cuspidale et irr´eductible de M . On remarque que, d’apr`esla d´efinition de la transform´ee de Fourier–Whittaker:( ˆ f ( P, σ ) , η ⊗ v ) = h π ′ ( f ∗ ) ξ ( P, σ, η ) , v i , η ∈ W h ( σ ) , v ∈ i GP E Si la transform´ee de Fourier-Whittaker de f ∈ C ∞ c ( U \ G, ψ ) est nulle, on en d´eduit que i GP σ ( f ∗ ) ξ = 0 pour tout ´el´ement de W h ( i GP σ ). Par polynomialit´e, cette identit´e s’´etend`a σ repr´esentation lisse cuspidale et irr´eductible.Mais toute repr´esentation lisse irr´eductible de G , ( π, V ), apparait comme une sous-repr´esentation d’une repr´esentation i GP σ avec σ lisse, cuspidale irr´eductible. Par ailleurs,l’exactitude du foncteur qui `a π associe W h ( π ) montre que tout ´el´ement de W h ( π ) estla restriction `a V d’un ´el´ement de W h ( i GP σ ). On d´eduit de ce qui pr´ec`ede que f estnulle, comme d´esir´e. Ceci ach`eve la preuve de la Proposition et ´egalement du Th´eor`eme2. 58 roposition 12 Soit E un ensemble de repr´esentants des classes de conjugaisons decouples ( M, O ) , o`u P = M U est un sous-groupe parabolique anti-standard de G , et O est l’orbite inertielle d’une repr´esentation, lisse, irr´eductible et cuspidale de M . Alorspour f ∈ C ∞ c ( U \ G, ψ ) , notant F sa transform´ee de Fourier-Whittaker et adoptant lesnotations du Lemme 9, on a: f = X ( M, O ) ∈E f sh Φ O , la somme ne comportant qu’un nombre fini de termes non nuls.D´emonstration: D’apr`es la fin de la preuve du Th´eor`eme 2, les deux membres sont des ´el´ements de C ∞ c ( U \ G, ψ ) qui ont la mˆeme transform´ee de Fourier-Whittaker. Donc ils sont ´egauxd’apr`es la Proposition pr´ec´edente. 10 Sur une conjecture de Lapid et Mao Une fonctions mesurable, f , sur G telles que f ( ug ) = χ ( u ) f ( g ) pour u ∈ U and g ∈ G ,et telle que : k f k L ( U \ G,ψ ) := ( Z U \ G | f ( g ) | dg ) / . sera dite fonction de Whittaker de carr´e int´egrable. L’espace des classes modulol’´equivalence presque partout de fonctions de Whittaker de carr´e int´egrable d´efinitun espace de Hilbert, L ( U \ G, ψ ), sur lequel G agit continument et unitairement parrepr´esentation r´eguli`ere droite ρ . On introduit de mˆeme ( ρ, L ( A G U \ G, ψ ). Soit ( π, V )une repr´esentation lisse irr´eductible de G admettant un caract`ere central unitaire. Ondit que π est de carr´e int´egrable (resp. est une s´erie discr`ete) si ses coefficients lissessont de carr´e int´egrable sur A G \ G (resp. sur G ). On dit que ξ ∈ W h ( π ) est de carr´eint´egrable (resp. discr`ete) si pour tout v ∈ V , c ξ,v est ´el´ement de L ( A G U \ G, ψ ) (resp. L ( U \ G, ψ )). MontronsUne repr´esentation lisse irr´eductible ( π, V ) de G poss´ede une formelin´eaire non nulle ξ ∈ W h ( π ) discr`ete (resp. de carr´e int´egrable) siet seulement ( π, V ) apparait comme sous-repr´esentation irr´eductible de( ρ, L ( U \ G, ψ )) (resp.( ρ, L ( A G U \ G, ψ )) (10.15)Traitons le cas des formes discr`etes, celui des formes de carr´e int´egrable ´etant semblable.Si ξ est discr`ete et non nulle, on d´efinit un produit scalaire invariant sur V par:( v, v ′ ) := Z U \ G c ξ,v ( g ) c ξ,v ′ ( g ) dg, v, v ′ ∈ V. (10.16)59onc la repr´esentation est unitaire et l’application v c ξ,v est un entrelace-ment isom´etrique de V dans L ( U \ G, ψ ). R´eciproquement, si ( π, V ) est une sous-repr´esentation de ( ρ, L ( U \ G, ψ )), la mesure de Dirac en 1 G est un ´el´ement non nul de W h ( π ).Soit ( π, V ) une repr´esentation admissible de G . Pour χ ∈ Hom ( A G , C ∗ ) on pose V χ = { v ∈ V | Il existe d ∈ N tel que ( π ( a ) − χ ( a )) d v = 0 , a ∈ A G } . Si ξ ∈ W h ( π ), on note ξ χ la restriction de ξ `a V χ . On appelle exposant de π (resp. ξ ) un caract`ere χ tel que V χ (resp. ξ χ ) soit non nul. On note E xp ( π ) (resp. E xp ( ξ ))l’ensemble des exposants de π (resp. ξ ). On a E xp ( ξ ) ⊂ E xp ( π ). Proposition 13 Soit ( π, V ) une repr´esentation admissible de G et ξ ∈ W h ( π ) . Lesconditions suivantes sont ´equivalentes:(i) ξ est de carr´e int´egrable.(ii) pour tout sous-groupe parabolique standard P = M U de G et tout χ ∈ E xp ( ξ P ) , ona Reχ ∈ − a G ∗ P , o`u − a G ∗ P est l’ensemble des χ ∈ a G ∗ P qui sont combinaisons lin´eaires `acoefficients strictement n´egatifs des racines simples de A dans P .(iii) pour tout sous-groupe parabolique standard maximal P = M U de G et tout χ ∈E xp ( π P ) , on a χ ∈ − a G ∗ P .D´emonstration: Soit Λ un r´eseau contenu dans A et tel que A = ( A ∩ K )Λ. Le noyau de l’application H M (cf. (2.3)) est ´egal `a M ∩ K et l’image de Λ par H M est d’indice fini dans l’imagede H M . Soit I un ensemble d’ant´ec´edents dans M de repr´esentants du quotient del’image de H M par l’image de Λ. De l’´egalit´e G = U M K on d´eduit : G = U Λ IK. (10.17)Soit H un sous-groupe compact ouvert distingu´e de K . On voit facilement, en utilisant(2.8), qu’il existe des constantes C ′ , C ′′ > C ′ δ P ( λ − ) ≤ vol ( U \ U λixH ) ≤ C ′′ δ P ( λ − ) , λ ∈ Λ , i ∈ I, x ∈ K. On en d´eduit que ξ est de carr´e int´egrale si seulement si, pour tout v ∈ V , la restriction c v de c ξ,v `a Λ est de carr´e int´egrable modulo Λ ∩ A G , pour la mesure qui charge chaquepoint λ ∈ Λ ∩ A G de la masse δ P ( λ ) − . Par translation, c v poss`ede cette propri´et´esi et seulement si c’est vrai pour c π ( a ) v pour un ´el´ement a de Λ. D’apr`es (3.5) , onpeut donc se limiter aux c v qui sont `a support dans A − ∩ Λ. Alors on proc`ede commedans la preuve du crit`ere analogue pour les groupes [C], Th´eor`eme 4.4.6 en utilisant lespropri´et´es du terme constant (cf. section 3). Proposition 14 Soit ( π, V ) une repr´esentation admissible de carr´e int´egrable de G et ξ ∈ W h ( π ) , alors ξ est de carr´e int´egrable.D´emonstration: En effet pour tout sous-groupe parabolique standard P , les exposants de ξ P sont desexposants de π P (voir ci-dessus). Alors le corollaire r´esulte de la Proposition pr´ec´edentejointe au Th´eor`eme 4.4.6 de [C] (resp. `a la Proposition III.3.2 de [W]).60 p -adique d’un r´esultat de Wallach La preuve du Th´eor`eme suivant est analogue `a celle de son analogue r´eel donn´ee parWallach (cf. [Wal], Th´eor`eme 14.12.1). Th´eor`eme 7 Soit ( π, H ) une repr´esentation unitaire irr´eductible de G appartenant ausupport de la d´ecomposition en repr´esentations irr´eductibles de G dans L ( U \ G, ψ ) .Alors la repr´esentation lisse de G dans l’espace V des vecteurs de H fix´es par un sous-groupe compact ouvert est temp´er´ee. Raisonnant comme dans le d´ebut de la preuve de [Wall], Th´eor`eme 14.11. 4, on voitqu’il suffit de prouver le Lemme suivant. Lemme 10 Soit f ∈ L ( U \ G, ψ ) invariante `a droite par un sous-groupe compact ou-vert H de K . On note vol ( H ) la mesure de H pour la mesure de Haar sur K de massetotale 1. Alors on a: | ( ρ ( g ) f, f ) | ≤ vol ( H ) − k f k L ( U \ G,ψ ) Ξ( g ) , g ∈ G. D´emonstration: On voit facilement, grˆace `a l’invariance de f sous H que: | f ( g ) | ≤ vol ( H ) − Z K | f ( gk ) | dk. On pose f ( g ) = sup k ∈ K | f ( gk ) | . On a donc: | f ( g ) | ≤ vol ( H ) − Z K | f ( gk ) | dk. Par int´egration sur U \ G , on en d´eduit: k f k L ( U \ G,ψ ) ≤ vol ( H ) − k f k L ( U \ G,ψ ) . On voit aussi facilement que: | ( ρ ( g ) f, f ) | ≤ | ( ρ ( g ) f , f ) | . On peut donc se r´eduire `a prouver l’in´egalit´e du Lemme en supposant H = K . Dansce cas on proc`ede comme dans la fin de la preuve du Lemme 15.1.1 de [Wall]. On doitcependant changer les int´egrales sur A en des int´egrales sur M , changer a en m ∈ M et a − ρ en δ − / P ( m ). Au vu de (10.15), le Th´eor`eme suivant r´esout positivement une conjecture de Lapid etMao (cf. [LM], conjecture 3.5). Nadir Matringe (cf. [Ma], Corollaire 3.1), a obtenuind´ependamment ce r´esultat pour certains groupes.61 h´eor`eme 8 Soit ( π, V ) une repr´esentation lisse irr´eductible de G S’il existe ξ ∈ W h ( π ) de carr´e int´egrable (resp. discr`ete) non nulle, alors π est de carr´e int´egrable(resp. une s´erie discr`ete) de G .D´emonstration: Supposons ξ de carr´e int´egrable et non nulle. Alors ( π, V ) est unitaire d’apr`es (10.15).On note ( π, H ) la repr´esentation de G obtenue par compl´etion de V . Montrons qu’elleest contenue dans le support de ( ρ, L ( U \ G, ψ )) (c’est trivial si ξ est discr`ete).Notons G le noyau de H G . le groupe G A G est d’indice fini dans G . Alors pourtout v ∈ V , c ξ,v ∈ L ( U \ G ). Donc le support de ( π , H ) contient un ´el´ement dusupport de L ( U \ G ). Par induction, le support l’induite de ( π , H ) de G `a G contientun ´el´ement du support de ( ρ, L ( U \ G, ψ )). Mais cette induite se d´ecompose en uneint´egrale hilbertienne des repr´esentations ( π ⊗ χ, H ), o`u χ d´ecrit l’ensemble, X ( G ) u ,des caract`eres non ramifi´es unitaires de G . Donc il existe χ ∈ X ( G ) u tel que ( π ⊗ χ, H )soit ´el´ement support de ( ρ, L ( U \ G, ψ )). Mais ( ρ ⊗ χ − , L ( U \ G, ψ )) est ´equivalente( ρ, L ( U \ G, ψ )), l’op´erateur de multiplication par χ ´etant un entrelacement unitaire.Donc ( π, V ) est ´el´ement du support de ( ρ, L ( U \ G, ψ )).D’apr`es le Th´eor`eme 7, ( π, V ) est temp´er´ee. C’est donc un facteur direct d’une induite `apartir d’un sous-groupe parabolique anti-standard P = M U de G d’une repr´esentationde carr´e int´egrable, ( σ, E ), de M . Comme V est un facteur direct, il suffit montrer que W h ( i GP σ ) n’a pas d’´el´ement non nul de carr´e int´egrable sauf si P = G . Supposons qu’ilen existe un et notons le encore ξ . On note encore π la repr´esentation i GP σ et V sonespace. On suppose que P est diff´erent de G .D’abord, d’apr`es le Th´eor`eme 1, ξ est ´egal `a ξ ( P, σ, η ) pour un ´el´ement non nul, η , de W h ( σ ). Soit e ∈ E et soit H un sous-groupe compact ouvert de G contenu dans K poss´edant une factorisation d’Iwahori par rapport `a ( P, P − ) (cf. (2.6)) et tel que e soitinvariant par H M . On suppose en outre que H est assez petit, de sorte que H U − soitcontenu dans Kerψ . On consid`ere application de G dans E , v P,He,σ d´efinie par (4.12).Comme e est H M -invariant, v P,He,σ est invariante `a droite par H . C’est un ´el´ement de i GP E `a support dans U − P . Notons vol ( H U − ) = R H U − du − , o`u du − est la mesure de Haarsur U − choisie en (2.7). Alors (cf 4.14)), on voit que: h ξ, v P,He,σ i = vol ( H U − ) h η, e i . (10.18)On note χ le caract`ere central de σ , qui est unitaire puisque σ est de carr´e int´egrable.on voit facilement que pour a ∈ A M , π ( a ) v P,He,σ = δ / P χ ( a ) v P,aHa − e,σ . Pour a ∈ A − , aH U − a − est contenu dans H U − puisque P est anti-standard. Par application de laformule pr´ec´edente et en tenant compte de l’´egalit´e vol ( aU − a ) = δ − P ( a ) vol ( U − ), ontrouve: h ξ, π ( a ) v P,He,σ i = χ ( a ) δ / P ( a ) vol ( H U − ) h η, e i , a ∈ A − ∩ A M . Notons v = v P,He,σ . Utilisant les d´efinitions on voit d’apr`es (3.7) et (3.9), que, pour ε > c ξ P ,v P ( a ) = χ ( a ) vol ( H U − ) h η, e i , a ∈ A − ( P, < ε ) ∩ A M . Comme c ξ P ,v P est une fonction A M -finie sur M , on d´eduit de l’´egalit´e pr´ec´edente: c ξ P ,v P ( a ) = χ ( a ) vol ( H U − ) h η, e i , a ∈ A M . e tel que h η, e i soit bon nul, on voit que la restriction de ξ P `a V P,χ est nonnulle. Donc χ ∈ E xp ( ξ P ). De plus, χ ´etant unitaire, Reχ est nul. Joint `a la Proposition13, cela contredit le fait ξ est de carr´e int´egrable. Cette contradiction ach`eve de prouverque P = G et que π est de carr´e int´egrable.Si ξ est discr`ete, A G est trivial. Donc ( π, V ) est une s´erie discr`ete de G . 11 Appendice: Adaptation d’un r´esultat de JosephBernstein `a notre contexte Soit ( π, V ) une repr´esentation lisse de G , ξ ∈ W h ( π ) et f ∈ C ∞ c ( U \ G, ψ ). On note f ∗ la fonction sur G d´efinie par f ∗ ( g ) = f ( g − ) pour g ∈ G . On d´efinit π ′ ( f ∗ ) ξ ∈ ˇ V , par: h π ′ ( f ∗ ) ξ, v i = Z G/U f ∗ ( g ) h π ′ ( g ) ξ, v i dg. (11.19)La repr´esentation r´eguli`ere droite de G dans L ( U \ G, ψ ) se d´ecompose en une int´egralehilbertienne de repr´esentations unitaires irr´eductibles de G , ( R ⊕ Z π z dµ ( z ) , R ⊕ Z H z dµ ( z )).On note, pour z ∈ Z ,( π ∞ z , H ∞ z ) la repr´esentation lisse de G , π ∞ z , dans l’espace H ∞ z , desvecteurs lisses de H z , i.e. fix´es par un sous-groupe compact ouvert de G . Proposition 15 Pour µ -presque tout z ∈ Z , il existe un morphisme de G -modules, β z ,entre C ∞ c ( U \ G, ψ ) et H ∞ z et il existe ξ z ∈ W h ( π ∞ z ) tels que:(i) Pour tout f ∈ C ∞ c ( U \ G, ψ ) , f = R ⊕ Z β z ( f ) dµ ( z ) . (ii) Pour µ -presque tout z ∈ Z , on a ( β z ( f ) , v ) = h π ′ z ( f ∗ ) ξ z , v i , f ∈ C ∞ c ( U \ G, ψ ) , v ∈ H ∞ z . D´emonstration: Pour tout sous-groupe compact ouvert H de G et tout sous-ensemble de G , Ω, com-pact modulo l’action `a gauche de U , on note C ∞ c ( U \ G, ψ ) H Ω l’espace des ´el´ements de C ∞ c ( U \ G, ψ ) invariants `a droite par H et `a support dans Ω, que l’on munit de la topolo-gie de la convergence uniforme. On note L ( U \ G, ψ ) H Ω l’adh´erence dans L ( U \ G, ψ )de C ∞ c ( U \ G, ψ ) H Ω . Comme H est ouvert, Ω est contenu dans la r´eunion d’un nombrefini d’orbites de H dans U \ G . Donc cet espace est de dimension finie. On munit C ∞ c ( U \ G, ψ ) de la topologie limite inductive des C ∞ c ( U \ G, ψ ) H Ω . Montrons que:L’injection de C ∞ c ( U \ G, ψ ) dans L ( U \ G, ψ ) est ”fine” dans le sens de[B1] section 1.4. (11.20)Pour cela, d’apr`es [B1], section 1.6, Lemme 2 et Th´eor`eme 1.5, il suffit de prouver quepour tout H et Ω comme ci-dessus l’injection, i , de L ( U \ G, ψ ) H Ω dans L ( U \ G, ψ )est de Hilbert-Schmidt, ce qui est clair puisque cet espace est de dimension finie. Ceciach`eve de prouver de prouver (11.20).Alors (i) r´esulte des propri´et´es des applications ”fines” (cf. [B1], section 1.4).63n note α z la restriction `a H ∞ z de l’adjoint de β z , lorsque β z est d´efini. Son imageest contenue dans l’espace des vecteurs lisses du dual hermitien de C ∞ c ( U \ G, ψ ). Cetespace s’identifie `a C ∞ ( U \ G, ψ ) par l’application qui `a φ ∈ C ∞ ( U \ G, ψ ) associe laforme antilin´eaire sur C ∞ c ( U \ G, ψ ) d´efinie par f R U \ G φ ( g ) f ( g ) dg . On d´efinit alors ξ z ( v ) := ( α z ( v ))(1 G ). On a ξ z ∈ W h ( π ∞ z ) . De la d´efinition de α z et ξ z , on d´eduit que:( β z ( f ) , v ) = ( f, α z ( v )) = Z U \ G f ( g ) ξ z ( π z ( g ) v ) dg. Alors (ii) r´esulte de la d´efinition (11.19). Corollaire 1 Soit f ∈ C ∞ c ( U \ G, ψ ) , si pour toute repr´esentation unitaire irr´eductibllelisse de G et ξ ∈ W h ( π ) , π ( f ∗ ) ξ = 0 , alors f est nulle. Remarque 1 Les seules choses utilis´ees ici sont que G est un groupe localement com-pact totalement discontinu, que U est un sous-groupe ferm´e de G tel que U \ G admetteune mesure invariante et que ψ est un caract`ere lisse de U . 12 R´ef´erences [A] Arthur J., A local trace formula. Publ. Math. Inst. Hautes ´Etudes Sci. No. 73(1991), 5–96.[B1] Bernstein J., On the support of the Plancherel measure, J. Geom. Phys. 5 (1988),663–710 (1989).[B2] Bernstein J., Representations of p-adic groups. Lectures given at Harvard Univer-sity, Fall 1992, Notes by K. E. Rummelhart.[B3] Bernstein J., Second adjointness theorem for representations of reductive p-adicgroups, unpublished manuscript.[BZ] Bernstein J., Zelevinsky V., Induced representations of reductive p -adic groups I,Annales de l’Ecole Normale Sup´erieure 10 (1977) 441-472.[BlD] Blanc P., Delorme P., Vecteurs distributions H -invariants de repr´esentations in-duites pour un espace sym´etrique r´eductif p -adique G/H , Ann. Inst. Fourier, 58 (2008)213–261.[BoT] Borel A., Tits J., Groupes r´eductifs, Publ. Math. Inst. Hautes ´Etudes Sci. 27(1965) 55–150.[BrD] Brylinski J-L., Delorme P., Vecteurs distributions H -invariants pour les s´eriesprincipales g´en´eralis´ees d’espaces sym´etriques r´eductifs et prolongement m´eromorphe,d’int´egrales d’Eisenstein. Invent. Math. 109 (1992) 619–664.[Bu] Bushnell, C., Representations of reductive p -adic groups: localization of Heckealgebras and applications. J. London Math. Soc. 63 (2001), no. 2, 364–386.[BuHen] Bushnell C., Henniart G., Generalized Whittaker models and the Bernsteincenter. Amer. J. Math. 125 (2003), 513–547.[C] Casselman W., Introduction to the theory of admissible representations of p p -adic groups. II.The Whittaker function. Compositio Math. 41 (1980), 207–231.[DeliB] Deligne P., Le “centre” de Bernstein r´edig´e par Pierre Deligne. Travaux enCours, Representations of reductive groups over a local field, 1–32, Hermann, Paris,1984.[D1] Delorme P., Espace des coefficients de repr´esentations admissibles d’un grouper´eductif p -adique, 131–176, Progr. Math., 220, Birkhauser Boston, Boston, MA, 2004.[D2] Delorme P., The Plancherel formula on reductive symmetric spaces from the pointof view of the Schwartz space. Lie theory, 135–175, Progr. Math., 230, BirkhauserBoston, Boston, MA, 2005.[D3] Delorme P., Constant term of smooth H ψ -invariant functions. Trans. Amer. Math.Soc. 362 (2010), 933–955.[H] Heiermann V., Une formule de Plancherel pour l’alg`ebre de Hecke d’un grouper´eductif p -adique. Comment. Math. Helv. 76 (2001), 388–415.[Hu] Humphreys J. E, Linear algebraic groups, Graduate Text In Math. 21, Springer,1981.[K] Knapp A., Representation theory of semisimple groups. An overview based on ex-amples. Reprint of the 1986 original. Princeton Landmarks in Mathematics. PrincetonUniversity Press, Princeton, NJ, 2001[LM] Lapid E., Mao Z., On the asymptotics of Whittaker functions. Represent. Theory13 (2009), 63–81.[Ma] Matringe N., Derivatives and asymptotics of Whittaker functions. Preprint.[M] Michael E., Selected selections theorems, Amer. Math. Monthly 63 (1956) 223-283.[R] Rodier F., Mod`eles de Whittaker des repr´esentations admisssibles des groupesr´eductifs p-adiques quasi-d´eploy´es, manuscript non publi´e.[Sh] Shahidi F., On certain L -functions. Amer. J. Math. 103 (1981) 297–355.[T] Tits J., Repr´esentations lin´eaires irr´eductibles d’un groupe r´eductif sur un corpsquelconque, J. Reine Angew. 247 (1971), 196–220.[W] Waldspurger J.-L., La formule de Plancherel pour les groupes pp