Como el producto de matrices sólo tiene sentido si sus dimensiones son compatibles, existen infinitas matrices identidad dependiendo de las dimensiones.
, la matriz identidad de tamaño
, se define como la matriz diagonal que tiene valor 1 en cada una de las entradas de la diagonal principal y 0 en el resto. Así,

Empleando la notación que a veces se usa para describir concisamente las matrices diagonales, resulta:

Si el tamaño es inmaterial, o se puede deducir de forma trivial por el contexto, entonces se escribe simplemente como
.
También se puede escribir usando la notación delta de Kronecker:

o, de forma aún más sencilla,

La matriz identidad de orden n puede ser también considerada como la matriz permutación que es elemento neutro del grupo de matrices de permutación de orden n!.