Antes de explicar el criptosistema de Rabin sería conveniente aclarar el concepto de raíces en operaciones modulares. Se dice que la raíz de un número es aquel que multiplicado por sí mismo, da ese número. Pues bien, en Aritmética modular, esto sigue siendo así. Pero claro, un número al cuadrado en módulo n puede ser que sea mayor que ese n, por lo que al hacer módulo, se reduce su valor. Por lo tanto, un mismo número puede tener varias raíces. En el álgebra habitual, un número tiene 2 raíces reales (la positiva y la negativa), pero cuando n es el producto de 2 primos, existen valores que tienen 4 raíces distintas. De hecho, lo normal es que tengan 4 raíces. Y tendrán 4 raíces todos los número que no tengan como divisor a uno de los dos primos con los que se generó n, en cuyo caso tendrán sólo 2.
Si se realizan cálculos se observará que existen del orden de
valores con 2 raíces y del orden de
valores con 4 raíces distintas.
Dicho esto, centrémonos ahora en el criptosistema de Rabin: el criptosistema de Rabin es una buena alternativa al criptosistema RSA, aunque al igual que RSA, basa su seguridad en la dificultad de factorizar. El criptosistema de Rabin funciona de la siguiente manera:
- Cada usuario elige una pareja de primos
y
cada uno igual a 3 módulo 4 y forma el producto
.
- La clave pública será
y la clave privada
y 
- Función de cifrado:

- Función de descifrado: Dado un texto cifrado c, se calculan las 4 raíces cuadradas de c mod n. Una de ellas será el propio m, otra es n-m y las otras son sus negativas. Para hallar m deberá hacerse a partir de las otras 3 raíces.
- Si, como se dijo antes, los primos p y q son iguales a 3 módulo 4 existen fórmulas sencillas para hallar las raíces, calculando previamente mediante el TCR los valores para
y
que satisfacen la ecuación: 

- Las 4 raíces serán m1=x, m2=-x, m3=y y m4=-y
Para distinguir el m que codifica el mensaje de las otras raíces (los otros m), será necesario incluir información redundante.