Hypothèse de la variété
From Wikipedia, the free encyclopedia
| Type | |
|---|---|
| Aspect de |
Jeu de données, variété, nonlinear dimensionality reduction (en) |
L’hypothèse de la variété est l'idée considérant que de nombreux ensembles de données de grande dimension, issus d’observations du monde réel, sont en réalité contenus dans des variétés latentes de faible dimension[1],[2],[3]. Autrement dit, malgré leur apparente complexité nécessitant de nombreuses variables pour être décrites, ces ensembles de données peuvent souvent être représentés par un nombre réduit de variables correspondant aux coordonnées locales de la variété sous-jacente. Ce principe est considéré comme l’une des raisons pour lesquelles les algorithmes d’apprentissage automatique parviennent à décrire efficacement des ensembles de données complexes en se basant sur quelques caractéristiques communes.
L’hypothèse de la variété est liée à l’efficacité des techniques de réduction de dimensionnalité non linéaire dans l’apprentissage automatique. De nombreuses techniques de réduction dimensionnelle partent du principe que les données se trouvent le long d'une sous-variété de faible dimension, comme la sculpture de variétés, l'alignement de variétés et la régularisation de variétés.
Les principales implications de cette hypothèse sont que :
- Les modèles d’apprentissage automatique doivent uniquement s’adapter à des sous-espaces relativement simples, de faible dimension et hautement structurés dans leur espace d’entrée potentiel (variétés latentes).
- Au sein d'une de ces variétés, il est toujours possible d'interpoler entre deux entrées, c'est-à-dire de transformer l'une en l'autre via un chemin continu le long duquel tous les points tombent sur la variété.
La capacité d’interpolation entre les échantillons est la clé de la généralisation dans l’apprentissage profond[4].
