兄の諸葛珪が急死したため、まだ幼かった兄の子の諸葛亮・諸葛均を引き取り育てるが、この頃、朝廷を無視し自ら天子を名乗る袁術によって、豫章太守に任命された。実直な彼はその命令に応じ赴いた。だが朝廷は改めて、豫章太守に朱皓（字は文明、朱儁の子）を任じて諸葛玄と代わらせようとした。困った諸葛玄は、以前から荊州牧の劉表と旧知の仲だったので、諸葛亮らを引き連れて劉表を頼ったが、後に亡くなった[1]。
一方、別の説では、豫章太守であった周術（述）が病没したため、諸葛玄は劉表によって豫章太守に任ぜられて昇進し、豫章郡南昌県に駐屯した。朝廷は周術の死を聞いて、朱皓を豫章太守として派遣し、劉繇に朱皓の支援を命じた。案の定、諸葛玄は板挟みに遭い、遂には兵を用いた争いにまで発展してしまった。その結果、諸葛玄が敗走して西城まで逃亡し、代わって朱皓が南昌に赴任することになった。197年正月、笮融に煽動された西城の住民が反乱を起こすと、諸葛玄は巻き込まれて戦死し、その首を劉繇に届けられた。そのため拠り所を失った諸葛亮兄弟は、荊州に流れることになったという[2]。