オストホフはヴェストファーレンのウナに生まれた。ボン大学、テュービンゲン大学、ベルリン大学で古典文献学、ドイツ語学、サンスクリット、比較言語学を学び、1869年にボン大学の博士の学位を得た。1871年からカッセルのギムナジウムで教えた。1874年からライプツィヒ大学でふたたび比較言語学を学び、アウグスト・レスキーンの影響を受けた。1875年に教授資格を得た[1]。
1877年、ハイデルベルク大学の比較言語学とサンスクリットの教授に就任した。
1880年代末にオストホフはドイツ自由思想家党に参加した[1]。
1909年にハイデルベルクで没した。