羅貫中の小説『三国志演義』でも、馬遵配下の功曹として登場。姜維の計略に従って天水城を守り、初めは趙雲、次いで諸葛亮の本隊の撃退にも一度は成功する。
しかし諸葛亮の離間計により、夏侯楙と馬遵から裏切り者扱いを受けた姜維は、やむなく蜀漢に降伏。姜維から天水城に射込まれた密書を目にした夏侯楙と馬遵は、またその計略にかかり、梁緒と尹賞の粛清を図る。しかし梁緒らの方でもそれを察知し、先手を打って蜀漢に城を明け渡し、夏侯楙・馬遵を敗走させた。また弟の梁虔[2]は上邽を守備していたが、梁緒は彼も説得し、降伏させた。その功績で諸葛亮から恩賞を受け、天水太守に任じられた[3]。