カザン県の村Kudriakowoで地主の息子に生まれた。弟のパヴェル・ヤコビ(Pavel Jacobi: 1842-1913)は革命家になったことで知られている[2][3]。カザン大学に入学したが、1853年からクリミア戦争が始まり、カザンの政府が組織した義勇兵組織に登録した,[4]。分遣隊とともにクリミアに向かうが、到着前に戦争が終結したという連絡を受け取り、戦闘に参加することはなかった。その後、1856年にすでに25歳になっていたが画家になる決意をして、サンクトペテルブルクの帝国美術アカデミーに入学し[1]、アレクセイ・タラソヴィチ・マルコフに学んだ。1858年からアカデミーで作品が賞を受けるようになった。
1859年に国外留学の権利取得し、アカデミーの費用で、ドイツ、フランス、イタリア、スイスなどで、8年間修業した。スイスではチューリッヒでヨハン・ケラー(Johann Köler: 1826-1899)に学んだ。留学中に制作された作品は1864年にアカデミーの展覧会に出展され、アカデミーの会員に選ばれ、翌年教授の称号を得た。
ロシアに戻った後、巡回美術展協会(移動派)の創設に積極的に参加し[1]、短期間会員となったが、ヤコビの作品の題材やスタイルは移動派の画家たちと異なることもあり、1872年に移動派の展覧会に出展しなかったために除名された。
1878年のパリ万国博覧会でロシアの美術部門の代表を務め、展覧会の国際審査員の一人となった。1883年から、アカデミーの評議員になり、アカデミーで絵画を教えたが1889年にアカデミーの改革が行われたときに両方の役職から解任された。
彼は人生の最後の数年間をアルジェラと南フランスで過ごし、南フランスのニースで亡くなった。