Ce mémoire présente les travaux que j'ai effectués, tout d'abord, àl'Institut de Mathématiques de l'Université de Dijon, pendant ma thèse de1998 à 2000, puis dans l'équipe d'Analyse Numérique et Equations auxDérivées Partielles du Département de Mathématiques de l'Universitéd'Orsay, depuis 2001.Ces travaux sont regroupés en deux parties, la première traitant deproblèmes de contrôle en dimension finie, et la seconde, en dimensioninfinie. Ces deux parties sont elles-mêmes séparées en deuxsous-parties~: les résultats théoriques, et les résultatsnumériques. A la fin de chaque partie, des projets de recherche sontprésentés.Dans la première partie, on s'intéresse à la régularité de la fonction valeur associée à un problème de contrôleoptimal non linéaire en dimension finie. Il s'avèreque cette régularité est liée à l'existence de \textit{trajectoiressingulières minimisantes}.Rappelons qu'une trajectoire \textit{singulière} est une singularitéde l'ensemble des solutions du système de contrôle.Selon le principe du maximum de Pontryagin, les trajectoiressingulières sont projections d'\textit{extrémales anormales}, paropposition aux \textit{extrémales normales} qui constituent le cadreclassique du calcul des variations.Pour des systèmes affines à coût quadratique,on montre que, s'il n'existe aucune trajectoire singulièreminimisante, alors la fonction valeur associée est\textit{sous-analytique} (cela s'étend à des situationsplus générales). Ces résultats ont des conséquences dans les théories d'Hamilton-Jacobiet de stabilisation. Tout d'abord, on montre quela \textit{solution de viscosité} de certainesclasses d'\textit{équations d'Hamilton-Jacobi}est sous-analytique, ce qui implique en particulierque l'ensemble de ses singularités est une sous-variété stratifiée decodimension au moins un. Ensuite, on montre un résultat de\textit{stabilisation hybride semi-globale} pour dessystèmes de contrôle affines sans dérive.S'il existe des trajectoires singulières minimisantes, la fonctionvaleur n'est pas sous-analytique en général. Une étudeasymptotique est faite sur le cas modèle sous-Riemannien de Martinet.Dans le cas intégrable, on montre que la fonction valeur appartient àla classe \textit{log-exp}, qui est une extension de la classesous-analytique avec des fonctions logarithme et exponentielle.Ces résultats motivent donc l'étude des propriétés destrajectoires singulières.Tout d'abord, concernant leur optimalité, ces trajectoires ont,sous des conditions génériques, la propriété de\textit{rigidité}, c'est-à-dire qu'elles sont localement isoléesparmi toutes les solutions du système ayant les mêmes extrémités, etdonc, elles sont localement optimales, jusqu'à un premier temps dit\textit{conjugué} que l'on peut caractériser.On s'intéresse alors à l'occurence des trajectoires singulièresminimisantes.Des résultats de type \textit{Morse-Sard} sont présentés dans le cadrede la géométrie sous-Riemannienne, qui montrent qu'elles neremplissent que peu d'espace.En particulier, on montre que l'image de l'application exponentielle(qui paramétrise les extrémales normales) est partout dense, et mêmede mesure de Lebesgue pleine dans le cas de corang un.On prend ensuite le point de vue inverse, en s'intéressant auxpropriétés de généricité des trajectoires singulières, pour dessystèmes de contrôle affines. On montre que, génériquement au sens deWhitney, elles sont \textit{d'ordre minimal} et \textit{de corang un},ce qui a des corollaires en contrôle optimal.Par exemple, pour des systèmes de contrôle affines génériques ayantplus de trois champs de vecteurs, avec coût quadratique, il n'existeaucune trajectoire singulière minimisante~;en particulier, la fonction valeur associée est donc sous-analytique.Dans le deuxième chapitre de la première partie, on s'intéresse auxméthodes numériques encontrôle optimal. Il existe deux types principaux de méthodes~: les\textit{méthodes directes} d'une part, qui reposent sur une discrétisationtotale du problème de contrôle optimal, et conduisent à des problèmesde programmation non linéaire~; les \textit{méthodes indirectes}d'autre part,basées sur le principe du maximum, qui réduisent le problème à unproblème aux valeurs limites se résolvant numériquement par une\textit{méthode de tir}. Ces dernières sontparticulièrement adaptées aux applications en aéronautique présentéesici. Le principe du maximum étant une condition nécessaired'optimalité, il convient de s'assurer a posteriori que lesextrémales calculées par la méthode de tir sont bien optimales.Pour cela, on rappelle le concept de \textit{tempsconjugué}, c'est-à-dire le temps au-delà duquel une extrémale n'estplus localement optimale, et on décrit des algorithmes de calcul,basés sur des développements théoriques récents en théorie ducontrôle optimal géométrique, qui couvrent le cas normal et le casanormal. Ces algorithmes, ainsi que la méthode de tir, sontimplémentés dans le logiciel \textit{COTCOT}(Conditions of Order Two and COnjugate times), disponible sur le web.Des applications en aéronautique sont ensuite présentées~: le problèmede rentrée atmosphérique d'une navette spatiale tout d'abord, où lebut est de déterminer une trajectoire optimale jusqu'à une cibledonnée, le contrôle étant l'angle de g\^\i te, et le coût étantle flux thermique total (facteur d'usure). La navette est de plussoumise à des contraintes sur l'état~: flux thermique,accélération normale, et pression dynamique. Ces contraintesrendent le problème de contrôle optimal difficile, et nécessitentune étude préliminaire théorique et géométrique sur les synthèsesoptimales locales avec contraintes.Ensuite, on présente le problème de transfert orbital d'un satellite àpoussée faible, où le but est de transférer l'engin d'une orbite basseà une orbite géostationnaire, en temps minimal, sachant que la force depropulsion est très faible. Le problème de temps optimal est importantlorsque la poussée est faible (par exemple, une propulsionionique), car le transfert orbital peut prendre plusieurs mois.Pour ces deux problèmes, des simulations numériques,utilisant les méthodes précédentes, sont présentées.Dans la deuxième partie, on s'intéresse à des problèmes de contrôle deséquations aux dérivées partielles.On présente tout d'abord une méthode de contrôlabilité et destabilisation, qui consiste à stabiliser un système de contrôle lelong d'un chemin d'états stationnaires. Pour mettre en évidence l'idéeprincipale, cette méthode est présentée en dimension finie. Ellepermet de construire un contrôle feedback sous forme explicite, ainsiqu'une fonction de Lyapunov, et par ailleurs, elle est facilementimplémentable. Cette méthode de déformation quasi-statique permetd'établir des résultats de contrôlabilité exacte et de stabilisationpour des équations de la chaleur et des ondes semi-linéaires endimension un, où la non-linéarité est quelconque. Notons quel'existence de fonctions barrières et/ou dephénomènes d'explosion limitent les résultats de contrôlabilité.Pour ces deux équations, on montre que l'on peut passer, avec uncontrôle frontière, en temps éventuellement grand, d'un étatstationnaire à tout autre, pourvu qu'ils appartiennent à une mêmecomposante connexe de l'ensemble des états stationnaires (cettecondition étant vérifiée dans un grand nombre de cas). La procédureconsiste en fait à stabiliser un système de contrôle linéaireinstationnaire de dimension finie, et on peut construire un contrôlesous forme de boucle fermée, en calculant un nombre fini de composantesde la solution, dans une décomposition sur une base Hilbertienne (pourl'équation de la chaleur) ou sur une base de Riesz (pour l'équationdes ondes). Des simulations numériques sont effectuées.On présente ensuite un résultat de contrôlabilité exactesur les flots de Couette, qui sont des solutions stationnairesparticulières des équations de Navier-Stokes d'un fluideincompressible entre deux cylindresconcentriques infinis en rotation. On montre qu'il est possible de passer d'unflot de Couette à tout autre, en agissant juste sur la rotation ducylindre extérieur.Dans le dernier chapitre,on s'intéresse à la semi-discrétisation (en espace) deséquations aux dérivées partielles linéaires contrôlées.La discrétisation d'une EDP contrôlable, en utilisant par exemple uneméthode de Galerkin, conduit à unefamille de systèmes de contrôle linéaires, et on se pose la questionde savoir si on peut déterminer des contrôles pour ces systèmessemi-discrétisés, convergeant, lorsque le pas de discrétisation tendvers zéro, vers un contrôle pour le modèle continu, permettantd'atteindre un certain point. Pour des EDPlinéaires contrôlables, il existe de nombreusesméthodes pour réaliser la contrôlabilité~; parmi elles, la méthode HUM(\textit{Hilbert Uniqueness Method})consiste à minimiser la norme $L^2$ ducontrôle pour atteindre une cible fixée. Pour des systèmesparaboliques exactement contrôlables à zéro, sous des conditionsstandards sur le procédé de semi-discrétisation (vérifiées pour laplupart des méthodes habituelles), lorsque l'opérateur de contrôlen'est que faiblement non borné, on montre un résultat de\textit{contrôlabilité uniforme} des systèmes de contrôlesdiscrétisés. De plus, on donne un procédé de minimisation pourcalculer des contrôles sur les modèles approchés, qui convergentvers le contrôle HUM du modèle continu permettant d'atteindre unecertaine cible.La condition sur l'opérateur de contrôle est vérifiée, par exemple,pour l'équation de la chaleur avec contrôle frontière de type Neumann,et des simulations numériques sont présentées dans ce cadre.