儘管從指導思想到具體實踐均與中共不同,但是抗戰時期國民黨同樣開展了敵後遊擊戰,山東國民黨敵後遊擊戰可以視為縮影。

1937年10月,山東六區專員范築先在中共幫助下率先舉起抗日大旗,將所屬各縣保安隊和遊雜武裝整編為35個支隊,號稱10萬餘人,在魯西北對日軍遊擊作戰。11月,國民黨山東省政府委員秦啟榮在魯北惠民縣組織「魯北邊區遊擊司令部」,所部活動於惠民、沂水、萊蕪一帶。1938年1月青島淪陷後,市長沈鴻烈率領海軍陸戰隊及地方團隊轉移諸城、沂水一帶。5月,徐州會戰後,沈鴻烈被任命為山東省政府主席兼保安司令,領導山東遊擊區抗戰。

1938年11月南嶽軍事會議後,國民黨開始真正重視遊擊戰,設立魯蘇敵後遊擊戰區,轄山東及蘇北,司令為於學忠。1939年3月,於學忠率5l軍從安徽阜陽出發,4月初進入山東境內,駐江蘇北部的57軍也於4月中旬到達魯南地區。

魯蘇戰區下轄51軍(軍長牟中珩,負責魯南北部作戰)、57軍(軍長繆徵流,負責魯南南部作戰)、89軍(軍長李守維,負責蘇北作戰)、新編第4師(師長吳化文,機動作戰)以及海軍陸戰隊,共7個師約10萬人。戰區另下轄蘇魯皖遊擊軍(共7個縱隊)、山東保安部隊(1個保安師和35個保安旅)、江蘇保安部隊(9個保安旅和1個稅警總隊)共約15萬人的地方武裝配合正規軍作戰。此外,同時期設立的冀察敵後遊擊戰區所轄69軍(軍長石友三)、97軍(軍長朱懷冰)、新編第5軍(軍長孫殿英)、河北民軍及其他遊擊部隊活動範圍涉及魯西北地區。

於學忠部雖屢遭日偽進攻,但經過反「掃蕩」,總算立下足來。1940—1942年,在地方遊擊部隊的配合下,於學忠部多次與日軍展開戰鬥,例如1940年4月,57軍111師333旅萬毅部在莒縣南黃山前村,激戰一天,擊潰日軍,殲敵200餘人。又如1942年8月魯蘇戰區總部和113師等部被包圍於安丘唐王山、虎眉山和擂鼓山地區,激戰數小時,傷亡官兵300餘人,斃傷日偽軍400餘人,成功突圍。

儘管魯蘇戰區官兵在與日偽作戰中取得了一定的成績,但是經過數次大規模連續進攻,損失慘重,疲憊不堪,處境日益艱難,逐漸陷入被動,地方武裝甚至是正規部隊也紛紛垮台或投敵。1943年1月,新編第4師吳化文部和山東省保安第1師於懷安部共2萬餘人投降日軍後,形勢更加嚴峻,已經無力與日偽軍進行大規模作戰,於是蔣介石電令於學忠率部撤離山東。6月下旬,魯蘇戰區部隊分批出發,七八月間陸續到達阜陽。

至此,除零星部隊外,魯蘇兩省國民黨軍主力全部退出山東,國民黨軍委會於1944年5月下令撤銷魯蘇戰區。