Kim est le fils de Kim Ung-gyun, membre du clan des Kim d'Andong et ministre Yejo[1]. Sa mère est une concubine kisaeng[2]. Il commence sa carrière comme Chamseogwan de la Bibliothèque royale. En 1886, il réussit l'examen littéraire du Gwageo[1]. Le (calendrier lunaire), il est nommé ministre envoyé à Tokyo[3], puis revient en Corée le (calendrier lunaire)[4].
Kim est un grand partisan de la réforme et tente d'évincer le clan Yeoheung Min(en) du pouvoir et de porter Daewongun à la tête[5]. Daewongun veut également employer Kim dans le nouveau gouvernement en tant que membre de la fraction progressiste[6]. Il est nommé ministre de l'Agriculture, de l'Industrie et du Commerce le (calendrier lunaire)[7], poste dont il démissionne le (calendrier lunaire)[8],[9]. En , il est nommé membre de 1ère classe de Junchuwon[10]. Le , il est nommé envoyé coréen au Japon[11], poste dont il démissionne le [12]. Il redevient membre de 1ère classe du Junchuwon[13]. En , il rejoint le nouveau Club de l'indépendance[1].
Kim occupe divers postes dans l'empire coréen tels que celui de président du Jungchuwon et de fonctionnaire spécial du Gungnaebu. Il montre sa désapprobation à la signature du traité d'Eulsa en 1905 qui fait de la Corée un protectorat japonais[1]. Le , il est rétrogradé au rang d'observateur de la province du Chungcheong du Sud[14]. Pour repousser la colonisation japonaise, il devient président des organisations Daehan[1]. En 1907, il est nommé Gyujanggak Jaehak[1] et se retire de la fonction publique la même année[15].
Après l'annexion de la Corée en 1910, Kim est anobli au titre de baron[16]. Lors du mouvement du 1er mars 1919, il participe en tant que représentant de la Corée[17]. Après cet épisode, il devient président du Daedongdan[18]. Le , il s'enfuit à Shanghai en train avec Yi Jong-uk, un agent du gouvernement provisoire de la république de Corée à Séoul[19]. Il est déguisé en homme de la campagne durant le trajet[20]. Son exil aide le Daedongdan à agir depuis Shanghai[21]. Après la dissolution de l'organisation, il rejoint le gouvernement provisoire de la République de Corée[1]. Il meurt à Shanghai le [22].