1938年(民国27年)1月10日、晋察冀辺区第1回軍政民代表大会が阜平県で開催され、14日に『晋察冀辺区軍政民代表大会宣言』を採択、翌15日に晋察冀辺区行政委員会を選出、31日には晋察冀辺区政府が正式に成立、下部に晋東北行政区、冀西行政区、冀中行政区が設置された。しかし9月20日、日本軍の五台攻略により五台、完県、唐県、曲陽県、霊丘、淶源の各県が日本軍により占領、翌年10月には掃討作戦の結果、阜平県以外は全て日本軍の勢力下に置かれた。
1940年(民国29年)8月、晋察冀辺区行政委員会は戦局の転換を目指し辺区管轄地域の改編を決定、『晋察冀辺区行政督察専員公署組織大綱』を発表、専署を再編し日本軍への攻撃拠点としたが、その後の戦闘によりこれらの行政区は事実上崩壊、遊撃区と占領区が入り乱れる状況が生まれ、遊撃区が辺区全体の80%を占める状況が創出された。
戦況の変化により数度にわたり行政区改編が実施された晋察冀辺区であるが、1945年(民国34年)の日本の敗戦に伴い、8月23日には共産党軍が察哈爾省省会の張家口市を解放、同日晋察冀辺区政府は張家口市人民政府を設立、辺区直轄市と定めている。この時点で晋察冀辺区政府は察哈爾省、熱河省、河北省の大部分及び山西省北部、綏遠省東部、遼寧省西部に跨る4行署、1辺区直轄市、19専区、140県を統括する行政区となった。