旧二本松藩主・丹羽長祥の馬場としても知られる[5]。
1824年(文政7年)、郡山村(当時)が宿場町として昇格した記念に造られた公園が母体となっている。それを元に明治の初め、町内の有志たちの手によって現在の公園の形に造成された。当時は共楽園と呼ばれた。
1882年(明治15年)、安積疏水の完成を記念して「麓山の滝」が建設され、通水式が行われる[6]。
1949年(昭和24年)に都市公園に指定される[7]。
1965年(昭和40年)4月1日正式に開園[8]。
1989年(平成元年)には「ふるさといきものの里100選」に、また2007年(平成19年)には「日本の歴史公園100選」に選定された。