高崇の子として生まれた。継母の李氏により同腹・異腹の兄弟分け隔てなく養育され、謙之も彼女に孝事して知られた。成長すると人付き合いを断って、経書や史書をはじめ、天文算暦や図緯の書などを広く読んだ。父の爵位を嗣ぎ、奉朝請を初任とし、宣威将軍の号を加えられた。奉車都尉・廷尉丞に転じた。
523年（正光4年）、尚書左丞の元孚が柔然への使者に立ち、抑留された。柔然の阿那瓌は北魏の北辺を侵して引き揚げ、元孚は取り残されたため洛陽に帰ることができた。謙之は元孚が王朝を辱めたとして、流罪に処すよう主張し、その意見は聞き入れられた。
525年（孝昌元年）、謙之は河陰県令を代行した。まもなく寧遠将軍の号を受け、正式に河陰県令となった。2年の在任で有能で知られた。公平な賞罰を求める上疏をおこなって、その文章が霊太后の目に留まり、国子博士に任じられた。北涼の沮渠氏の歴史をたずねて、『涼書』を編纂した。
527年（孝昌3年）、朝廷が鋳銭を計画すると、謙之は鋳銭都将長史となり、三銖銭を鋳造するよう上表した。この上表は聞き入れられたが、謙之の生きているうちに実施されることはなかった。
かつて謙之の弟の高恭之が正光年間に御史となり、相州刺史の李世哲を糾弾したことがあった。このことを李世哲の弟の李神軌は恨みに思っており、謙之の家僮の訴えを取りあげて、霊太后に働きかけ、謙之を廷尉に捕らえさせた。赦令が下る予定であったが、李神軌が重ねて霊太后に訴えたため、謙之は獄中で死を賜った。享年は42。永安年間、征虜将軍・営州刺史の位を追贈された。諡は康といった。生前に著した文章100篇あまりが集められ、文集が編纂された。