Jake Picking est né à Erlangen, en Allemagne, où son père, soldat de l'armée américaine et diplômé de West Point, était en poste[1]. Il grandit à Boston dans le Massachusetts Il apprend le métier d'acteur avec comme professeure Carolyn Pickman, qui a eu pour élève Matt Damon et Ben Affleck[1],[2]. À l'université de New York, Picking est ailier dans l'équipe de hockey sur glace de New York et apparaît comme hockeyeur dans une publicité pour la Ligue nationale de hockey[3]. Davantage intéressé par le théâtre et les projets de courts métrages étudiants, il abandonne ses études de commerce après un an[4].
Les premières auditions de Picking se déroulent à Boston[1], et en 2013, il fait ses débuts au cinéma dans le film pour jeunes Cet été-là avec Steve Carell[5]. Il fait ensuite des apparitions dans les séries Ironside (2013) et Chasing Life (2014). Pour lancer sa carrière d'acteur professionnel, il s'installé à Los Angeles, où, pour tromper la solitude, il étudie les films classiques hollywoodiens avec des stars comme James Dean, Paul Newman, Marlon Brando ou Montgomery Clift dans son studio. Il a préféré s'installer sur la côte ouest plutôt que de suivre une formation d'acteur à la Tisch School of the Arts de l'Université de New York, bien qu'il n'ait aucun contact à Los Angeles[1],[4],.
Picking participe régulièrement à des productions cinématographiques, mais se contente principalement de seconds rôles. En 2016, il fit partie de la distribution du drame Goat avec Nick Jonas, qui traite des violences physiques et psychologiques au sein des fraternités universitaires américaines[6]. Dans le rôle du sadique maître de cérémonie Dixon, Picking tourmente Brett, interprété par Nick Jonas. La même année, il apparaît dans le thriller Traque à Boston[5], dont le sujet est l'attentat du marathon de Boston. Il y incarne le policier Sean Collier, abattu par les terroristes Djokhar et Tamerlan Tsarnaïev (interprétés par Alex Wolff et Themo Melikidze). Il enchaîne avec deux rôles mineurs dans les films Line of Fire et Sicario : La Guerre des cartels[2].
En 2020, il joue Rock Hudson, un des principaux rôles de la mini-série Hollywood[2]. En 2022, Picking apparaît dans la suite de Top Gun, Top Gun: Maverick, dans le rôle du lieutenant Brigham « Harvard » Lennox[4],[7]. En 2025, il est ajouté dans le casting de la deuxième saison de La Meneuse[8].
