Linux ne contient pas un système d'isolation unique, mais plusieurs mécanismes qui ont évolué au fil des années sont utilisés ensemble pour générer cet effet. Les mécanismes principaux du noyau Linux, sont les espaces de noms (permettant de contrôler la visibilité des ressources) et les groupes de contrôle (cgroups), permettant de limiter la quantité des ressources utilisées.
Le « conteneur » peut ainsi définir un système de fichiers qui sera différent, un nom d'hôte différent, limiter l'accès du processus à la mémoire, lui désigner une partie d'un nombre restreint des processeurs présents sur la machine.
À la différence de la virtualisation classique, une seule copie du système d'exploitation tourne sur la machine, les conteneurs peuvent ainsi réclamer moins de ressources en termes de mémoire.