広島県福山市出身。広島大学附属福山高等学校、岡山大学医学部医学科卒業後、同大学病院等で内科医として勤務[1][2][3]。
2011年の岡山県議会議員選挙で岡山市南区選挙区から自由民主党推薦で立候補し、初当選[4]。以後3期務める[3]。
2021年10月の第49回衆議院議員総選挙に自民党の比例中国ブロックから立候補したが、落選[3]。
2024年8月、自民党岡山県連が翌年夏の第27回参議院議員通常選挙岡山県選挙区に向けて実施した公募に応募する意向を示した[5]。同年11月24日、県連は小林を擁立する方針を決めた[3]。
2025年7月20日に参院選の投開票が行われ、小林が立憲民主党の新人らを破り初当選した[6]。