Nicolas Tosel Professeur en classe de MP au lyce du Parc, Lyon.
1 Introduction 2 Notations et rappels 3 Compacit dans 4 Familles normales et critre de Marty Bibliographie
1 Introduction Inaugure par Paul Montel durant la premire dcennie du vingtime sicle, la thorie des familles normales s'est rapidement dveloppe comme l'atteste la monographie [6] dont la premire dition remonte 1927. Un de ses attraits est de fournir des approches lgantes de plusieurs noncs classiques d'analyse complexe ; l'exemple le plus frappant cet gard est sans doute la mthode labore par L. Fjer et F. Riesz dans les annes vingt pour dmontrer le thorme de reprsentation conforme de Riemann, dont on trouvera une splendide discussion dans [10]. L'essor rcent de la dynamique holomorphe a suscit un regain d'intrt pour les familles normales. De plus, Lawrence Zalcman a dcouvert en 1975 ([16]) une traduction trs efficace de la non normalit d'une famille de fonctions au voisinage d'un point. L'exploitation systmatique de ce rsultat conduit des preuves remarquablement simples de nombreux thormes importants dont les plus connus sont ceux de Picard. Le but essentiel de ce texte est d'exposer les rudiments de la thorie des familles normales, ainsi que des applications varies de celle-ci, en utilisant autant que possible le principe de renormalisation de Zalcman . Les rfrences utilises sont principalement : - pour l'aspect classique, outre l'ouvrage historique mais toujours riche et instructif de Montel ([6]), les trs beaux livres de Remmert ([10]) et Zygmund-Saks ([12]) ; - pour les consquences du principe de Zalcman, le copieux survey ([17]) et les premiers chapitres de la rcente monographie de Schiff ([13]). On s'est efforc de limiter les prrequis aux notions les plus lmentaires sur les fonctions holomorphes, de sorte que le critre de compacit de Montel est lui-mme succinctement dmontr. Ce parti pris pdagogique est cause de lourdeurs et de maladresses ; la plus criante de ces dernires est la limitation artificielle aux fonctions holomorphes au sens classique l o il serait plus gnral et plus naturel de considrer d'emble des fonctions holomorphes valeurs dans la sphre de Riemann , i.e. des fonctions mromorphes. L'expos est accompagn d'un choix d'exercices ; certains d'entre eux, en petit nombre, demandent des connaissances trs lgrement plus sophistiques en analyse complexe. Page 1sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=...
2 Notations et rappels Si est une partie non vide de , soit l'espace des fonctions continues de dans ; cet espace est muni de la topologie de la convergence locale. Si est dans et borne sur , on pose :
Dans tout ce texte, est un ouvert connexe non vide de . L'espace des fonctions holomorphes sur est not . Le thorme de Weierstrass dit que est ferm dans pourvu de la topologie prcdente, et que la drivation est un endomorphisme continu de . On utilisera deux noncs voisins, consquences simples du thorme de Rouch et qui seront appels tous deux thorme d'Hurwitz . Dans chacun d'entre eux, est une suite d'lments de convergeant vers dans . Si est dans et si n'est pas la fonction nulle, est dans pour assez grand. Si les sont toutes injectives, alors est constante ou injective. Sporadiquement, nous rencontrerons l'ensemble des de telles que , ainsi que le groupe conforme de not . Pour dans , soient galement
Pour dans et dans , on crira l'itre -ime de . Il est d'usage d'appeler famille une partie d'un espace fonctionnel ; nous suivrons cette tradition en nommant famille de toute partie non vide de cet espace. Enfin, si et , on notera la boule ouverte de de centre et de rayon ; on abrgera en . Si est une boule ouverte de , on dsignera par l'adhrence de dans , et par le cercle frontire de . Le groupe multiplicatif des complexes de module 1 sera not , le demi-plan de Poincar, ensemble des nombres complexes dont la partie imaginaire est dans sera not .
Page 2sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... 3 Compacit dans Le point de dpart de la thorie des familles normales est la description des compacts de donne par Montel dans sa thse en 1907.
Thorme 1 Soit une famille de . Les assertions suivantes sont quivalentes : est relativement compacte dans , pour tout compact de il existe une constante telle que
pour toute boule ferme contenue dans , il existe une constante telle que
Preuve Les implications et sont banales. Supposons dornavant que vrifie . Puisque est ferm dans , il suffit pour tablir de montrer que est relativement compacte dans . Le thorme d'Ascoli, la sparabilit de et un procd diagonal entranent qu'il suffit de vrifier, pour toute boule ferme contenue dans , que est quicontinue, ou encore que est borne. cet effet, si et , on exprime l'aide des valeurs de sur une boule un peu plus grosse que et contenue dans . Soient prcisment le centre de , son rayon, la distance de ( ) et le cercle de centre et de rayon dcrit une fois dans le sens positif. Pour dans et dans , on crit :
D'o :
L'hypothse montre que est borne, d'o le rsultat. Page 3sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... On remarquera, par ailleurs, que si est relativement compacte, la continuit de la drivation dans entrane qu'il en est de mme de .
Exercice 1. Montrer que les conditions du thorme 1 quivalent encore : pour tout tel que , il existe une constante telle que :
Exercice 2. Donner une version fonctions harmoniques du thorme 1.
L'utilisation de la compacit donne un accs direct des estimations non effectives. En revanche, pour obtenir des ingalits prcises, il faut revenir aux outils d'analyse classique. Les deux exercices suivants illustrent ce phnomne et montrent simultanment, sur un exemple il est vrai facile, les possibilits et les limites du thorme 1. Exercice 3. Soient et . Montrer que est une famille compacte de . Si , en dduire l'existence d'une constante telle que :
Exercice 4. Reprenons les notations de l'exercice prcdent. Soient dans et l'lment de dfini par :
(dont la vertu est d'envoyer sur ). En appliquant le lemme de Schwarz , montrer :
En dduire, si et :
Page 4sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... Quoique simple, le thorme 1 admet beaucoup d'applications. Nous en donnons quelques unes, toutes susceptibles de gnralisation l'aide d'un peu de thorie des familles normales. Voici pour commencer un thorme de propagation de convergence obtenu presque simultanment par Vitali (1903) et Porter (1904).
Thorme 2 Soit une suite d'lments de vrifiant les deux conditions suivantes. Pour tout compact de il existe une constante telle que :
Il existe une partie de possdant un point d'accumulation dans telle que, pour tout dans , la suite converge. Alors converge dans .
Preuve L'hypothse et le thorme 1 montrent que est relativement compacte. Pour terminer, il suffit donc de vrifier que a au plus une valeur d'adhrence dans . Mais deux valeurs d'adhrence de concident sur et sont donc gales grce au thorme des zros isols. L'argument prcdent est assez gnral : un thorme d'unicit on peut souvent associer un thorme de convergence. Ainsi :
Exercice 5. Thorme de convergence de Blaschke Soient une suite d'lments de telle que :
une suite uniformment borne d'lments de telle que, pour tout , converge. Montrer que converge dans . Indication. Utiliser le thorme de Blaschke limitant les zros des fonctions holomorphes bornes sur . Page 5sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... Exercice 6. En utilisant une homographie appliquant conformment sur le demi-plan de Poincar , donner un nonc analogue celui de l'exercice 5 pour les suites uniformment bornes de .
Le thorme 2 fournit des preuves immdiates de certains thormes de convergence sectorielle. Voici un exemple d Montel.
Thorme 3 Soient et deux rels tels que , la demi-bande :
une fonction holomorphe et borne sur et dans . On suppose que : . Alors, pour tout de , , et cette convergence est uniforme lorsque varie dans un segment.
Preuve Pour et , soit . Si est sur la demi-droite , . Le thorme 2 entrane que converge dans vers une fonction laquelle, tant nulle sur , ne peut tre que la fonction nulle. Le rsultat suit. Voici une variante.
Exercice 7. Thorme de convergence sectorielle de Lindelf Soit dans borne sur telle que quand avec . Si , prouver que quand avec et . Indication. Utiliser une homographie envoyant conformment sur le demi-plan et expdiant 1 l'infini.
Nous allons appliquer le thorme 1 l'itration holomorphe. L'expos ci-aprs suit [10] ; les thormes 4 et 5 sont dus Henri Cartan (1932) et se gnralisent aisment aux fonctions de plusieurs variables complexes ([8]).
Thorme 4 Supposons born et . Si la suite a une valeur d'adhrence non constante dans , alors . Page 6sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=...
Preuve Le thorme 4 est consquence des deux lemmes ci-aprs.
Lemme 1 Soit dans . On suppose qu'il existe dans adhrente . Alors est dans .
Preuve Par hypothse, il existe une suite d'lments de telle que converge vers dans . D'abord, si , on a puis ; l'injectivit de force celle de . Puisque n'est pas constante, le thorme d'Hurwitz implique alors , i.e. .
Lemme 2 Soient dans , une suite strictement croissante d'lments de telle que converge dans vers une fonction non constante. Alors est la seule ventuelle valeur d'adhrence de
Preuve On crit . La fonction est valeurs dans grce au thorme d'Hurwitz, et l'galit prcdente montre, si est une valeur d'adhrence de dans , que . Ainsi concide avec l'identit sur l'image de . Puisque n'est pas constante, cette image est ouverte, et la conclusion dcoule du thorme des zros isols. On peut alors prouver le thorme 4. Si est comme dans l'nonc, il existe une suite vrifiant les hypothses du lemme 2. De plus, tant born, le thorme 1 implique l'existence d'une valeur d'adhrence de . Ainsi est adhrente , et le lemme 1 complte la dmonstration. Exercice 8. On suppose que est born, que est dans , et que admet au moins deux points Page 7sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... fixes. Montrer que est dans . Exercice 9. Thorme de Ritt, 1920 Soit dans tel que soit un compact contenu dans . Montrer que converge dans vers une constante. Indication. Montrer que est un compact non vide de , que toute valeur d'adhrence de vrifie , et conclure. Exercice 10. On suppose born et dans . Montrer que toutes les valeurs d'adhrence de dans sont constantes. Qu'en dduit-on si ?
Du thorme 4, on va dduire une caractrisation de dans . Avant de l'noncer, remarquons le :
Lemme 3 On suppose born, et . Alors .
Preuve Si ,
Puisque est born, est relativement compacte et est une partie borne de , ce qui implique .
Thorme 5 Supposons born et . Alors :
Page 8sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... Preuve D'abord, si on peut appliquer le lemme 3 et , ce qui donne . Rciproquement, supposons . Puisque est born, est relativement compacte, et a une valeur d'adhrence dans . Vu que , et n'est pas constante. On termine avec le thorme 4. Une consquence du thorme 5 est d'assurer, si est born et , la compacit de muni de sa topologie naturelle. D'autre part, l'application qui associe est trivialement un morphisme de groupes topologiques de dans . Le thorme suivant, obtenu par L. Bieberbach en 1913, montre en particulier que ce morphisme est injectif et donc que le groupe topologique est isomorphe un sous-groupe ferm de , c'est--dire ou un groupe cyclique ; ce dernier fait sera gnralis dans le thorme 20 (paragraphe 9).
Thorme 6 Supposons born, , et . Si , est l'identit de .
Preuve Si le rsultat est faux, le dveloppement de Taylor de en est de la forme :
o et . Un calcul facile tablit, si , le dveloppement :
En particulier :
Mais vu que est born, est relativement compacte, et : Page 9sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=...
est born. Contradiction
Pour terminer ce paragraphe, nous allons prsenter un curieux rsultat d R. J entzsch (1918) concernant les zros des sommes partielles d'une srie entire.
Thorme 7 Soient une srie entire de rayon de convergence 1 et, pour et :
Pour tout de , il existe une suite strictement croissante d'lments de et une suite complexe de sorte que : est un zro de , .
Preuve On utilisera deux lemmes.
Lemme 4 La suite est uniformment borne sur tout compact de .
Preuve Soit . Il existe tel que :
Si et , on a :
Supposons et ; alors l'ingalit ci-dessus implique : Page 10sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=...
puis :
Le rsultat suit.
Lemme 5 Si vrifie alors . Si vrifie alors .
Preuve Le premier point est vident vu que converge vers une limite appartenant . Pour le second point, on fixe . L'hypothse fournit tel que :
D'o, si :
De , on tire , puis . Supposons maintenant le rsultat du thorme 7 faux. Il existe alors dans , dans , tels que ne s'annule pas sur pour . Par suite, si , on peut trouver dans telle que . Soit dans tel que . Les lemmes 4 et 5 fournissent une suite strictement croissante d'entiers tels que converge vers une limite , et garantissant d'autre part que est uniformment borne sur . Le thorme 1 assure que a une valeur d'adhrence dans laquelle vrifie . Mais si est dans , le thorme d'Hurwitz implique tandis que le lemme 5 force . Il en rsulte que est de module constant gal 1 sur un ouvert non vide de , donc constante sur grce au Page 11sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... thorme de l'image ouverte. Ceci contredit . Cette dmonstration suit celle de J entzsch. Une preuve trs diffrente est propose dans [14].
4 Familles normales et critre de Marty Pour un certain nombre de questions (et, en premier lieu, pour l'tude des fonctions mromorphes) il est naturel d'tendre comme suit la notion de famille relativement compacte de .
Dfinition Soit une famille de . On dit que est normale si et seulement si pour toute suite d'lments de il existe une extraction vrifiant l'une ou l'autre des deux conditions suivantes : converge dans , converge uniformment vers sur tout compact de . Cette dfinition a t introduite par Paul Montel ; bien videmment, la disjonction des cas est artificielle une fois introduite la notion de fonction holomorphe de dans .
Exercice 11. Soient , , un compact non vide de et une famille normale de telle que : , . Montrer qu'il existe dans tel que de s'annule au plus fois sur .
Nous allons donner des exemples simples montrant que des familles de omettant de prendre certaines valeurs sont normales.
Exemples * Une famille relativement compacte de est normale. Inversement, si est une famille normale de et s'il existe tel que soit born, alors est relativement compacte. * Soient et . On dfinit : Page 12sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=...
Alors est une famille normale. Pour le vrifier, on observe que :
est relativement compacte dans . * Soit
Alors est une famille normale. En effet, si est le logarithme principal sur , et si , est valeurs dans la bande : . L'exemple prcdent montre que est normale, il en va de mme de . * Soient un segment non rduit un point de , et la famille :
Alors est normale. Pour le voir, on envoie sur par une homographie adquate, et on applique le rsultat fourni par l'exemple prcdent. Exercice 12. Dtailler les preuves des exemples ci-dessus. Exercice 13. Soit . Vrifier que est une partie compacte de . Si , calculer :
Indication pour la deuxime question. Utiliser une homographie appliquant sur et sur , et le lemme de Schwarz.
Les exemples prcdents sont nafs puisqu'ils se ramnent tous au thorme 1 par de simples transformations conformes. Mais ils montrent dj que les familles normales gnralisent significativement les prcompacts de . Dans la direction qu'ils suggrent, le thorme dfinitif est celui de Montel : Page 13sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=...
Thorme Si et sont deux points distincts de , la famille :
est normale. Cet nonc sera tabli dans le paragraphe 7 (thorme 11). On l'utilise d'ores et dj dans les exercices ci-aprs, qui amliorent certains rsultats du paragraphe 3.
Exercice 14. Dans le thorme 2, vrifier que l'hypothse peut tre remplace par est normale. Exercice 15. Dans le thorme 3, vrifier que l'on peut remplacer la condition est borne sur par contient au moins deux points . Donner un exemple montrant qu'en revanche l'hypothse est insuffisante. Exercice 16. Montrer que dans les thormes 4, 5, 6 ainsi que dans le lemme 3, on peut substituer est born la condition contient au moins deux points . Exercice 17. Les thormes 5 et 6 subsistent-ils si ou avec ?
On va maintenant formuler localement la notion de normalit.
Dfinition Si , si est une famille de , on dit que est normale en si et seulement si il existe tel que et soit une famille normale de . Exercice 18. On suppose et . Montrer que :
est normale en si et seulement si l'une des deux conditions suivantes est ralise : , Page 14sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... et pour tout .
L'intrt de la dfinition prcdente tient en grande partie au lemme suivant.
Lemme 6 Soit une famille de . Les deux assertions suivantes sont quivalentes : est normale, pour tout de , est normale en .
Preuve L'implication est banale, et on suppose dsormais . Soit une suite d'lments de . On distingue deux cas. a) Pour tout de , . Il est alors immdiat que pour toute boule ouverte contenue dans telle que soit normale dans , converge uniformment vers sur tout compact de . Un petit raisonnement fond sur l'hypothse et le thorme de Borel-Lebesgue assure que converge uniformment sur tout compact de vers . b) Il existe tel que ne converge pas vers . Quitte extraire, on peut supposer que est borne. Sous cette dernire hypothse, on va montrer que est uniformment borne sur tout compact de , ce qui permettra de conclure via le thorme 1. Soit donc l'ensemble des de tels que soit uniformment borne sur un voisinage de . Grce au thorme de Borel-Lebesgue, il suffit d'tablir . La dfinition mme de montre que cet ensemble est ouvert dans . Puisque est borne, l'hypothse implique que est dans . Enfin, est ferm dans : si est une suite d'lments de convergeant vers , l'hypothse et le fait que tout voisinage de coupe font que est dans . On termine par connexit. Le thorme 1 caractrise simplement les parties relativement compactes de . Il est naturel de formuler un critre analogue dcrivant les familles normales. Tel est le cas de l'nonc suivant, obtenu en 1931 par Frdric Marty, et qui joue un rle crucial dans la preuve du principe de Zalcman. Page 15sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=...
Thorme 8 Soit une famille de . Les conditions suivantes sont quivalentes : est normale dans , pour tout compact de , il existe une constante telle que :
La condition de Marty s'explique trs naturellement lorque l'on munit la sphre de Riemann de la mtrique sphrique. Pour dcrire cette mtrique, on dsigne par la projection strographique de sur , tant identifie selon l'usage la sphre unit de l'espace euclidien . On dfinit la distance de deux complexes comme la distance godsique sur de . Sur chaque compact de , induit la topologie usuelle, et quelques calculs montrent que n'est qu'une traduction de l'quicontinuit de sur tout compact de lorque est muni de . La bonne dmonstration du thorme 8 est la mise en forme de l'argument prcdent, que l'on trouvera dans [5] ou dans [13]. Afin d'viter une trop longue digression sur la mtrique sphrique, on donne ci-dessous une preuve calculatoire directe. D'abord quelques remarques. Pour dans , le critre de Marty suggre de dfinir sur la fonction
L'application jouit des proprits faciles suivantes. 1. Si est dans , est constante si et seulement si . 2. Soient dans , dans et dans . Dfinissons sur l'ouvert vident par : . Alors :
3. Si est dans et ne s'annule pas sur : Page 16sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=...
4. Si est une suite d'lments de convergeant vers dans , tend vers dans . 5. Si est une suite d'lments de convergeant vers uniformment sur tout compact de , converge vers 0 dans . Le point 5. dcoule de 3. et 4. ; le reste est immdiat.
Preuve du thorme 8 L'implication facile provient aisment des points 4. et 5. En ce qui concerne la rciproque, on utilise le :
Lemme 7 Soient dans , et dans et dans . On suppose que . Alors :
Preuve On peut supposer que n'est pas la fonction nulle, de sorte que les zros de sont isols. Par densit, on peut alors se contenter d'tablir le lemme dans le cas o ne contient aucun zro de . Posons, pour : . La fonction est drivable sur et :
L'hypothse entrane donc :
Page 17sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... Il reste intgrer cette ingalit sur pour terminer. Soient maintenant une famille vrifiant la condition du thorme 8 et dans . D'aprs le lemme 6, il suffit de montrer que est normale en pour conclure. On choisit et tels que et que :
Soit enfin une suite d'lments de . On distingue deux cas. a) La suite admet une suite extraite borne ; on peut supposer elle-mme borne, et on choisit tel que : . On fixe galement dans tel que : . Pour dans et , le lemme 7 donne :
Le thorme 1 implique alors que est relativement compacte dans , ce qui achve la dmonstration dans ce cas. b) La suite tend vers . Il existe alors tel que :
Soit tel que . Pour et dans , le lemme 7 assure : . Si , on peut donc dfinir sur par . Puisque : et , l'tude mene en a) montre que est une famille relativement compacte de . Et puisque les ne s'annulent pas sur alors que , le thorme d'Hurwitz entrane la convergence uniforme de vers 0 sur tout compact de i.e., la convergence uniforme de vers sur tout compact de . Page 18sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... On peut gnraliser le critre de Marty. Voici un nonc d H.L. Royden (1985).
Exercice 19. Soit une famille de . On suppose que pour tout compact de il existe une fonction croissante de dans telle que :
Montrer que est normale.
Dans [17], on trouvera des critres plus subtils du mme genre et quelques applications. Suite et fin de l'article dans le prochain volume.
Bibliographie 1 F. Berteloot et V. Mayer, Rudiments de dynamique holomorphe, SMF. 2 K. Chandrasekharan, Elliptic Functions, Springer Verlag. 3 L. Garding, Some Points of Analysis and their History, AMS. 4 M. Herv, Les fonctions analytiques, PUF. 5 S. Krantz, Complex Analysis : the Geometric Viewpoint, The Carus Mathematical Monographs. 6 P. Montel, Familles normales, Chelsea. 7 R. Narasimhan, Complex Analysis in one Variable, Birkhaser. 8 R. Narasimhan, Several Complex Variables, The University of Chicago Press. 9 G. Polya et G. Szeg, Problems and Theorems in Analysis II. 10 R. Remmert, Classical Topics in Complex Function Theory, Springer Verlag. 11 W. Rudin, Analyse relle et complexe, Masson. 12 S. Saks et A. Zygmund, Fonctions analytiques, Masson. 13 J .L. Schiff, Normal Families, Springer Verlag. 14 E.C. Titchmarsh, The Theory of Functions, Oxford University Press. 15 G. Valiron, Thorie des fonctions, Masson. Page 19sur 20 Imprimer 31/10/2004 http://www.rms-math.com/print.php?id_article=289&Type=enonce&Num=0&Mode=... 16 L. Zalcman, A Heuristic Principle in Complex Function Theory, A.M.M., 1975, p. 813- 817. 17 L. Zalcman, Normal Families : New Perspectives, B.A.M.S., vol.35, 1998, p. 215-230.
Relativité restreinte, mécanique quantique et relativité générale: Base physique et mathématique de la relativité restreinte et générale et de la mécanique quantique