呉の薛瑩の子として生まれた。呉が滅びると、薛兼は西晋により散騎常侍の位を受けた。若くして紀瞻・閔鴻・顧栄・賀循らと名声をひとしくし、「五俊」と号された。初めて洛陽に入ると、司空の張華と面会して、「みな南の金なり」と評された。河南郡の孝廉に察挙され、公府に召された。比陽国の相に任じられ、有能なことで知られた。太子洗馬・散騎常侍・懐県県令を歴任した。東海王司馬越に召されて司空参軍となり、祭酒に転じ、安陽亭侯の爵位を受けた。琅邪王司馬睿が安東将軍となると、薛兼はその下で軍諮祭酒となり、しばらくして丞相長史に転じた。爵位を安陽郷侯に進め、丹陽郡太守に任じられた。東晋が建てられると、薛兼は丹陽尹に転じ、秩中二千石を加えられた。尚書に転じ、太子少傅を兼ねた。祖父の薛綜から薛兼にいたるまで、三代にわたって皇太子の傅役をつとめたため、当時の評価は高かった。
永昌元年（322年）、王敦に推挙されて太常となった。明帝が即位すると、散騎常侍の位を加えられた。薛兼は明帝の皇太子時代の師傅だったことから、格別の畏敬を受けた。この年のうちに死去した。左光禄大夫・開府儀同三司の位を追贈された。王敦の乱のため、朝廷は混乱しており、諡の議論はおこなわれなかった。
子に薛顒がいたが、薛兼に先だって死去しており、後嗣はなかった。娘は孫倹（孫秀の子）に嫁いで、孫晷を産んだ。