日中戦争勃発後の1937年冬、膠東特委書記理琪は、萊山地区で起義を起こし、山東人民抗日救国軍第3軍を編成した。1938年9月、第3軍は掖県抗日遊撃第3支隊と合流し、山東人民抗日遊撃第5支隊に改編され、6個団、計7千人を管轄した。1939年秋、第3軍は第5旅に改編され、旅長は呉克華、政治委員は高錦純が担当した。対日戦勝後、第5旅派、山東人民解放軍第5師、第6師及び独立団に拡張された。
1945年10月、呉克華は、第5師及び第6師の計1万人を率いて、海路、東北部に進軍した。1946年2月、部隊は東北民主連軍第4縦隊に改編され、呉克華が司令、莫文驊が政治委員に任命された。
