DL Boost
From Wikipedia, the free encyclopedia
Deep Learning Boost (DL Boost, accélérateur d'apprentissage profond en français) est le nom marketing d'Intel pour les fonctionnalités d’architecture de jeu d'instructions (ISA) sur le x86-64, conçues pour améliorer les performances lors de tâches d’apprentissage profond telles que l'entraînement et l’inférence[1].
Caractéristiques
DL Boost se compose de deux ensembles de fonctionnalités :
- AVX-512 VNNI, 4VNNIW ou AVX-VNNI : multiplication-accumulation rapide principalement pour les réseaux de neurones convolutifs.
- AVX-512 BF16 : nombres à virgule flottante de faible précision bfloat16 pour des calculs généralement plus rapides. Les opérations fournies comprennent la conversion depuis/vers le format float32 et le produit scalaire.
Les fonctionnalités DL Boost ont été introduites en 2019 dans l'architecture Cascade Lake.
Un benchmark basé sur TensorFlow, exécuté sur le Compute Engine (en) de la Google Cloud Platform, montre des performances améliorées et un coût réduit par rapport aux processeurs et GPU précédents, notamment pour les petites tailles de lots[2].
