Suite à la bataille de Sekigahara et à l'établissement du shogunat Tokugawa, la province de Hida fut attribué par Tokugawa Ieyasu à Kanamori Nagachika, qui devint daimyō du domaine de Hida-Takayama (38 000 koku) et fit construire le château de Takayama. Le clan Kanamori fut dépalcé au domaine de Kaminoyama, dans la province de Dewa, en 1692. La province de Hida étant riche en ressources minières et forestières (or, argent, cuivre et bois de grande qualité),fut entièrement conservée comme territoire tenryō, directement sous l'autorité du shogun. Le château de Takayama fut détruit; cependant, le shimoyashiki, situé à sa base, fut transformé en daikanshō, résidence et bureau de l'administrateur provincial nommé par le shogun. En 1777, après le mandat du 11e Hida daikan, le poste fut élevé au rang de gundai et était chargé également de gérer directement pour le shogunat les provinces de Mino, d'Echizen et d'Etchū. Au total, 25 hommes occupèrent ce poste durant ses 177 années d'existence[2].
Porte du temple Takayama Jin'ya (côté gauche)
Le bâtiment principal du jin'ya a été reconstruit en 1725 et 1816 puis renové en 1871. La partie nord du bâtiment a été déplacée en 1876 pour être utilisée comme succursale du bureau préfectoral de Gifu à Hida, mais le reste du bâtiment est resté essentiellement tel qu'il a été reconstruit en 1816[2].
Les entrepôts en terre, initialement construits au château de Takayama, furent transférés à leur emplacement actuel en 1695. Leurs toits présentent différents styles ( noshi-buki, kokera-buki et ishiokinagakure-buki, par exemple), mais tous utilisent des bardeaux de bois. Ce choix s'explique, sans aucun doute, par les importantes chutes de neige qui caractérisent la région de Hida, autrefois centre de production de bois, l'artisanat des tuiles existant toujours dans la région. Contrairement aux tuiles d'argile, facilement endommagées par le gel et la neige, le bois était plus abondant. En 1883, l'un de ces entrepôts fut détruit pour laisser place au parquet de Takayama.
Le tribunal de Takayama pour le district de Gifu a continué d'utiliser le jin'ya jusqu'en 1969. En 1996, le bâtiment a été entièrement restauré d'après un plan datant de 1830, pour un coût de deux milliards de yens. Seul édifice de ce type encore existant, le Takayama Jin'ya est une attraction touristique et abrite un musée retraçant son histoire[2]. Un marché de producteurs se tient chaque matin devant le Takayama Jin'ya.