Il fait ses débuts dans Hum Hindustanien 1960. Le premier film dans lequel Sanjeev est le héros est Nishana en 1965. En 1968, il donne la réplique au célèbre acteur Dilip Kumar dans Sanghash. En 1970, Khilona lui apporte la célébrité. Il poursuit son ascension avec les succès populaires Seeta Aur Geeta en 1972 et Manchali en 1973.
Au début des années 1970 débute sa collaboration avec Gulzar, le fameux metteur en scène. Il jouera dans neuf films pour Gulzar, dont Aandhi et Mausam en 1975, Angoor en 1981 et Namkeen en 1982. De nombreux fans affirment que ce sont ses meilleurs films.
Il est toujours prêt à endosser des rôles sortant de l'ordinaire, comme des défis à sa capacité de jouer. En 1977, il a ainsi joué Mirza, un habitant de Lucknow obsédé par le jeu d'échecs, dans Shatranj Ke Khiladi (Les joueurs d'échecs), du réalisateur indépendant Satyajit Ray. Peut-être que ses rôles les plus mémorables sont ceux joués dans Sholay en 1975 et Trishul en 1978.
Au début des années 1980, Sanjeev Kimar s'est contenté de rôles d'appoint. Éconduit par Hema Malini, à laquelle il avait fait une proposition de mariage, il est resté célibataire. Ironiquement, pour un acteur qui a interprété nombre de personnages âgés à l'écran, il n'a jamais atteint l'âge de 50 ans : en 1985, âgé seulement de 47 ans, il est mort d'une maladie cardiaque.
Après sa mort sont encore sortis 10 films où il apparaît, le dernier étant Professor Ki Padosan, en 1993. Au moment de son décès le film n'avait été tourné qu'aux trois quarts aussi le réalisateur a décidé de modifier le scénario pour expliquer l'absence du personnage joué par Sanjeev Kumar. Une autre sortie remarquée après son décès a été celle du film de K. Asif, Love and God, dont le montage s'est étalé sur 20 ans... Après le décès du réalisateur K. Asif en 1971, la production s'était interrompue et le film n'est sorti qu'en 1986, sous une forme inachevée, un an après le décès de Sanjeev Kumar.
