伊勢北畠氏に仕えていた奥山氏の一族。『勢州軍記』では天文年間に北畠氏と長野氏が争った際、奥山氏の人物が北畠側で参加したことが記されている[1]。また、『勢州記事』では小森上野城主として奥山具直が登場している[2]。
永禄11年（1568年）、織田信長による北伊勢侵攻後、安濃津城に配置された津田一安が知忠の居城・今徳城を攻撃しが、撃退した。その後も、安濃津城と今徳城の間で断続的に何度も戦闘が勃発した[3]。
永禄12年（1569年）8月、織田信長が7万（5万とも）を引き連れ、南伊勢に侵攻した。この時、知忠は今徳城に籠り一戦交えようとするも、津田一安らの兵が抑えとして城の前に配置されただけで、織田軍のほとんどは北畠氏の本拠・大河内城へ向かった。その後、大河内城の戦いで北畠家が織田家と織田信雄を北畠具教の養子に迎えるなどの条件で和睦した。奥山知忠のこの時の同行は不明だが織田氏に降り、織田信雄に仕えたと見られている[4]。
天正4年（1576年）、織田信長・信雄親子が北畠一族の抹殺を計画した。この時、北畠一族の実行犯として信雄は北畠氏旧臣であった知忠、藤方朝成、長野左京亮、滝川雄利を呼び出し、領地の朱印を与えて誓紙を書かせ、具教殺害を指示した。この時、知忠に与えられた朱印は3000石を与えるという内容であった。しかし、知忠は旧主の北畠氏を討つことをためらい、朱印を信雄に返却し、仮病を偽って出家した。その後、三瀬の変で北畠氏が滅亡した後、信雄が知忠を召すと髪を剃り染め衣で田丸城にやってきた。信雄はその義の心を感じ、三百石の朱印を再び与えたが、知忠はそれを受け取らなかった。その後、知忠は真盛上人開山の西来寺を頼り、そのあたりに庵を構え北畠一族の成仏を祈った[5]。
現在、今徳城跡に隣接する南光寺に奥山知忠の墓が立っている。