高陽王司馬睦の長男として生まれた。司馬睦は司馬懿の弟の司馬進の子であるので、司馬彪は西晋の武帝司馬炎の従兄弟にあたる。
司馬彪は若い頃から学問を好んだが、好色で品行が悪かったため、司馬睦の後継者になれず、司馬懿の弟の司馬敏の後を継ぐという名目で廃嫡されて外に出された。一説には玄学を通じて反司馬氏色の強い清談派との関係を持っていたことが原因とする見方もある[2]。
司馬彪はそれ以来人と交わらずに学問に専念した。
最初に騎都尉を拝命し、泰始年間には秘書丞となった。司馬炎が南郊を祀る際に司馬彪が上奏して内容を定めた。その後、散騎侍郎を拝命した。恵帝の末年に60歳余りで死亡した。