Son père Peter, origine de Geetbets (aujourd'hui province du Brabant flamand en Belgique) épouse Cornelia van Heeswijk puis après la mort de sa femme, il se remarie en 1794 avec Wilhelmina van Herpen. Joannes est le fils aîné de ce second mariage.
Après son école primaire à Berlicum et sa première communion, Joannes va quelques années à l'école française de Reek puis, en 1808, suit les cours de l'école latine de Uden en préparation de ses études sacerdotales. En 1810, il se rend à l'école latine d'Helmond et en 1813, il part compléter sa formation au sacerdoce dans le grand séminaire de Nieuw-Herlaar(nl) à Saint-Michel-Gestel. Après son ordination en 1817 à Malines, il est successivement chapelain à Tilbourg (1818) à Schijndel (1818-1828) et curé à Best (1828-1832).
Pendant la guerre scolaire, il participe en 1865 au conseil provincial des évêques hollandais de Bois-le-Duc pour la rédaction du mandement pour l'éducation catholique de 1868(nl). Zwijsen démissionne en 1868 de l'archidiocèse d'Utrecht bien qu'il continue d'exercer une grande influence sur la gouvernance de l'église aux Pays-Bas. Il reste évêque de Bois-le-Duc jusqu'à sa mort en 1877.
