在解放戰爭時期的各大野戰軍編制序列裡，開始均沒有第五縱隊的番號。人們不禁要問：各野戰軍的縱隊級編製裡緣何沒有第五縱隊呢?這還得從1936年的西班牙內戰時說起。

　　1936年，代表著廣大勞動人民意志的「西班牙人民陣線」在議會選舉中獲勝，取得了政權並組成了自己的聯合政府。那些被逐出聯合政府的大地主和大軍閥們在長槍黨首領(原西班牙陸軍參謀長佛郎哥上將)的率領下，向西班牙首都馬德里發動了瘋狂的軍事進攻。面對強敵，勇敢的西班牙人民在由國際共產主義戰士組成的國際縱隊的支援下，與法西斯軍隊展開了浴血拚殺，打響了舉世聞名的馬德里保衛戰。

　　戰鬥中，為了動搖馬德里守軍的信心，率軍進攻的叛軍將領摩拉在一次公開廣播中揚言：「我正率領4個縱隊的兵力進攻馬德里，而我的第五縱隊，則正活躍在馬德里市的大街小巷。」他所講的第五縱隊，指的是隱藏在西班牙共和國內部的那些叛徒、間諜等破壞分子。在優勢敵人的內外夾擊之下，英雄的馬德里失陷了。從此以後，第五縱隊就成了帝國主義在對他國進行顛覆破壞時，收買的那些叛徒、流氓和破壞分子的總稱。

鑒於第五縱隊這種臭名昭著的歷史，我人民解放軍各野戰軍序列裡很長一段時間沒有組編第五縱隊。直到1948年3月，東北野戰軍發展到了13個主力縱隊，才增編了第五縱隊。當時的第五縱隊司令是大名鼎鼎的被日本人稱為「不怕一萬，就怕萬一(毅)」的萬毅中將，東野5縱也就是解放後的第四十二軍。