ハレ・アン・デア・ザーレに生まれた。父親はウルリッヒ教会コンチェルターレのオルガン奏者のヨハン・ヘルマンで母親は神父の娘であった。パドゥアの医学校を卒業した後、オランダ東インド会社に雇われ、セイロンに派遣され、東インド会社所属の船医を務めた。1672年から1677年までその職を務め、その間セイロンの植物、生物を集めた。その後ライデンで働き、1679年にライデン大学の植物学の教授となった。ライデン大学に当時、ヨーロッパで最良の植物園を設立した。
著書にライデン大学植物園の植物について記述した"Paradisus batavus"があり、それはヘルマンの死の3年後にウィリアム・シェラードによって編集され、出版された。シェラードはさらにヘルマンのセイロンの植物に関する原稿をあつめ"Musaeum Zeylanicum"として1717年に出版した。ヘルマンのセイロンの植物の標本は、リンネが"Flora Zeylanica"(1747年)と"Species plantarum"(1753年)を著す時に参考にされ、リンネの著書では"Hermann herb."と表記された。ヘルマンの標本はその後、多くの人々の所有を経て、後にジョセフ・バンクスが購入し、現在はロンドン自然史博物館で保存されている。リンネはヘルマンの植物画家としての技術を賞賛した。