加藤氏は代々図書助と名乗っている。加藤氏は熱田の豪族であったが、父の代に東西に分裂した[1]。
順盛は東加藤の出で永正11年(1514年)生まれ[1]。熱田羽城(現在の名古屋市熱田区)を拠城としていた順盛は、徳川家康(竹千代)が今川氏へ送られる途中に捕らえられ、織田氏へ送られた際、熱田羽城に幽閉された[2]。桶狭間の戦いにおいて東西加藤家は熱田神宮で信長を迎え入れ、戦勝祈願に立ち会ったが、そのとき信長は「今日の戦にかたふ(加藤と勝とうをかけた)」と言ったという伝承がある[1]。息子の加藤弥三郎は桶狭間の戦いにも従軍している[3]。
家康の人質時代には順盛の屋敷が幽閉場所となっていたが、手厚く待遇したため、後に家康に陣中見舞を送った際には家康の返事を受けている[1]。
なお、図書助の名から順盛の屋敷があった場所は旧地名では「図書(ずしょ)」となっていた[1]。