Fonction indicatrice (analyse convexe)

La fonction indicatrice (ou simplement l'indicatrice) d'une partie ${\displaystyle P}$ d'un ensemble ${\displaystyle \mathbb {E} }$ est la fonction notée ${\displaystyle {\mathcal {I}}_{P}}$ et définie par

Cette fonction diffère de l'indicatrice ou fonction caractéristique d'un ensemble commune aux autres domaines des mathématiques, comme l'analyse (en particulier la théorie de la mesure), et son introduction en analyse convexe et en optimisation est motivée par les considérations suivantes.

• En analyse convexe, il est utile que cette fonction soit convexe lorsque l'ensemble l'est. Si c'est le cas de la fonction indicatrice définie ici, ce n'est pas le cas de la fonction caractéristique usuelle, laquelle obéit à d'autres motivations.
• En optimisation, cette fonction indicatrice permet également de représenter un problème de minimisation d'une fonction ${\displaystyle f}$ sur un ensemble ${\displaystyle P}$, par le problème de minimisation équivalent de ${\displaystyle f+{\mathcal {I}}_{P}}$ sans contrainte.

Si ${\displaystyle P}$ est une partie non vide d'un espace vectoriel ${\displaystyle \mathbb {E} }$, alors

• ${\displaystyle {\mathcal {I}}_{P}}$ est propre si et seulement si ${\displaystyle P\neq \varnothing }$ ;
• ${\displaystyle {\mathcal {I}}_{P}}$ est propre et convexe si et seulement si ${\displaystyle P}$ est non vide et convexe ;
• ${\displaystyle {\mathcal {I}}_{P}}$ est propre et fermée si et seulement si ${\displaystyle P}$ est non vide et fermé.