Les germes de la nouvelle phase peuvent se former au sein même de la phase devenue instable (« nucléation homogène ») ou bien sur les parois du récipient ou à la surface d'autres phases (bulles, gouttelettes ou cristaux) déjà présentes sous forme dispersée dans cette phase (« nucléation hétérogène »).
En pratique la nucléation est très généralement hétérogène dans l'air et dans les solutions aqueuses en raison de l'abondance des particules solides ou fluides d'autres phases (poussières, gouttelettes, bulles), sauf quand ils sont particulièrement purs[b]. Elle est en revanche souvent homogène dans les sels fondus[c].
Le taux de nucléation dépend de la température et de la pression (essentiellement de la différence entre la température actuelle et celle de l'équilibre à la même pression), mais aussi d'autres facteurs, il est par exemple augmenté par un cisaillement[3],[4].
Quand la nouvelle phase est cristalline, son apparition peut passer par la formation de germes non cristallins ou d'une phase cristalline différente de la phase finale. Deux schémas peuvent ainsi expliquer la formation de cristaux à partir d'une solution sursaturée :
- le premier schéma, dit classique, s'applique au cas où la taille des amas cristallins fluctue par ajout ou retrait d'espèces monoatomiques ("monomères")[5]. La croissance est favorisée par l'énergie de formation du cristal, tandis que la dissolution est favorisée par la tension superficielle de l'interface créée entre l'amas cristallin et son environnement liquide. Les deux effets se contrebalancent pour une taille d'amas particulière, dite « taille critique ». Par conséquent, les amas cristallins plus petits que la taille critique tendent à se redissoudre sous l'effet des fluctuations thermiques; inversement, les amas cristallins plus grands que la taille critique tendent à croître en moyenne, jusqu'à former des cristaux macroscopiques ;
- le second schéma, dit à deux étapes, a été initialement proposé pour décrire la cristallisation des protéines et s'appuie sur la formation d'un amas cristallin (cluster) renfermant une solution des espèces à cristalliser, suivie de la réorganisation de façon ordonnée de ces espèces pour donner un germe qui à l'instar du modèle classique grossit pour donner un cristal volumineux.
La formation d'un germe de rayon r à partir de la phase préexistante requiert l'enthalpie libre :

où
est la différence entre l'enthalpie libre volumique de la nouvelle phase (no 2) et celle de la phase préexistante (no 1), et
l'énergie surfacique de l'interface 1-2 (égale à la tension superficielle quand les deux phases sont fluides).
W vaut zéro pour
. Comme
est négatif (puisque la phase initiale est devenue instable au profit de la seconde), W est une fonction croissante puis décroissante de r, passant par un maximum
pour
, avec :

Les germes décroissent spontanément (se dissolvent) si
(parce que l'enthalpie libre diminue si r diminue) et croissent spontanément si
(parce que l'enthalpie libre diminue si r augmente).