彼はスイスのラウゼン (英語版 ) で、裁判長のヨハン・ヤコブ・バルマーとエリザベス・ロール・バルマーの長子として生まれた。学生時代は数学に優れ、大学でも数学を専攻した。
彼はドイツ のカールスルーエ工科大学 とベルリン大学 で学び、サイクロイド の研究で1849年にバーゼル大学 より博士号を取得した。ヨハンはその後の人生のほとんどを、バーゼル で女子校の教師として過ごした。またバーゼル大学で授業を行うこともあった。1868年、彼は43歳の時にクリスティーン・ポーリン・リンクと結婚した。夫婦は6人の子供に恵まれた。
数学者としては大きな業績は残せなかったが、彼は1885年に発表した水素原子 の線スペクトル を記述する実験式 によって知られるようになった。アンデルス・オングストローム の測定法を用いて水素原子の線スペクトルを分析した結果、彼は線の波長は次の公式に従うことを発見した。
λ
=
h
m
2
m
2
−
n
2
{\displaystyle \lambda ={\frac {hm^{2}}{m^{2}-n^{2}}}}
ここで、n = 2, h = 3.6456×10− 7 m, m = 3, 4, 5, 6, ... である。1885年の発表時、彼は h を "fundamental number of hydrogen" と呼んだ。バルマーは次にこの公式を用いて m = 7 の場合を予測し、397 nm の波長の線は既にアンデルス・オングストロームが観察していたことを指摘された。バルマーの2人の同僚であるH. W. VogelとHugginsによって、バルマー系列 の他の線の存在も確認された。
バルマーの公式は、後にヨハネス・リュードベリ が発見したリュードベリの公式 の特別な場合であることが明らかとなった。
1
λ
=
R
H
(
1
n
1
2
−
1
n
2
2
)
{\displaystyle {\frac {1}{\lambda }}=R_{H}\left({\frac {1}{n_{1}^{2}}}-{\frac {1}{n_{2}^{2}}}\right)}
ここで RH はリュードベリ定数 であり、nの値は必ず
n
2
>
n
1
{\displaystyle n_{2}>n_{1}}
という関係を満たすが、このうち
n
1
=
2
{\displaystyle n_{1}=2}
の場合がバルマーの公式である。
しかし、これらの式がなぜ成り立つのかは、ニールス・ボーア が1913年にボーアの原子模型 を考え出すまで明らかにならなかった。
バルマーはそれを待つことはなく、バーゼルで死去した。