譚震林於1925年參加革命，1926年加入中國共產黨，1927年冬在茶陵縣任井岡山革命根據地第一個縣級工農兵政府主席和中共縣委書記，此後歷任中共湘贛邊界特委書記、紅四軍第二、第四縱隊政委、紅一軍團第十二軍政委，1932年任福建軍區司令員，中央紅軍長征後留在閩西任軍政委員會軍事部部長、副主席，與張鼎丞、鄧子恢一起,在極端困難的條件下，堅持了3年艱苦卓絕的敵後戰爭，保持了擁有十萬人口的革命根據地。

　　閩西：「三年的苦鬥有很大的功績」

　　1932年6月，福建軍區成立，譚震林任司令員兼政委。他領導了閩西紅軍和地方武裝英勇抗擊敵人的第四次「圍剿」，創建了主力紅軍與各級地方武裝密切配合的人民武裝體系，反覆動員人民，積極訓練新兵，開展比武活動，優撫紅軍家屬，僅軍區建立之初的四個月內就「擴紅」11000餘人，不僅壯大了閩西地方紅軍，還為中央主力紅軍輸送了大批有生力量。

　　1934年10月，主力紅軍長征後，譚震林留在福建擔任閩西南軍政委員會副主席、軍事部長。當時，國民黨在閩西南投下幾十倍於紅軍遊擊隊的兵力，對蘇區進行反覆的「清剿」；又下令砍伐紅軍遊擊隊經常出沒的山林，採取「移民並村」、「保甲連坐」、「自首自新」、「五光十殺」等高壓手段，妄圖切斷群眾與紅軍遊擊隊的聯繫；推行「計口購糧」、「計口售鹽」的封鎖政策，妄圖困死餓死紅軍遊擊隊。

　　在如此極端險惡的環境裡，譚震林和張鼎丞、鄧子恢等領導同志一起，創造性地運用和發展了遊擊戰爭的戰略戰術，指揮閩西南各地遊擊隊，「隱蔽窺伺敵人，分散迷惑敵人，埋伏消滅敵人，突擊戰勝敵人」，化整為零，出奇制勝，使窮凶極惡的來犯之敵陷於「死傷、消耗、疲憊」的困境而一籌莫展。歷時三年的艱苦卓絕的遊擊戰爭，鞏固了10萬人口的革命根據地，保衛了土地革命的成果，使武夷山紅旗不倒。因此，張鼎丞、鄧子恢、譚震林被人們譽為「南方三傑」。

　　1937年春夏，毛澤東在延安接見閩西南軍政委員會政治部主任方方時說：「你們堅持三年遊擊戰爭，保留了這麼多幹部，保留和發展了部隊，保留了20萬畝土地，保衛了蘇區廣大群眾的利益，這是偉大的勝利！」「你回去問候張、鄧、譚各同志好！你告訴他們：你們三年的苦鬥有很大的功績。」

　　蘇南：「站穩兩腳，伸開兩手」

　　1938年春天，南方八省紅軍遊擊隊改編為新四軍開赴抗日戰場，譚震林受命擔任新四軍第三支隊副司令員、政委。

　　新四軍建立不久，陳毅、粟裕即率領部隊挺進蘇南，創建了以茅山為中心的蘇南抗日根據地，並派出葉飛率部東進，開闢了無錫至江陰公路以東抗日遊擊地區（簡稱蘇南東路地區），發展了抗日力量。

　　1939年秋，葉飛率主力北渡長江後，蘇南東路地區僅留下了幾十個新四軍的傷病員和少量遊擊隊堅持原地鬥爭，在敵、偽、頑三面夾擊下，形勢十分險惡。1940年5月，譚震林受命於危難之際，奉調進入蘇南東路地區主持黨政軍工作，任江南人民抗日救國軍東路指揮部司令員兼政委。

　　譚震林化名林俊，頭戴禮帽，身穿長衫，打扮得像個經商的「老闆」一樣，帶領一批幹部化裝從皖南出發，進入蘇南東路地區後，迅速同地下黨及遊擊隊取得聯繫。當他瞭解到群眾抗日情緒極高，「灰色」武裝不能振奮人心，便果斷地摒棄了那套地下鬥爭的「秘密方法」，公開打出共產黨的旗號，領導制訂了《東路抗戰十大工作綱領》，發表了《關於東路抗戰形勢與任務的宣言》，更放手發動群眾，創建各級抗日政權，開展抗日統一戰線工作，巧妙地把井岡山、閩西南的經驗運用於水網平原的遊擊戰爭。

　　僅半年時間，譚震林就把部隊從400多人發展到4000多人，並普遍建立起自衛會、辦事處等代政權性質的機構，同時發展和加強了黨的地方組織，形成一派蓬勃發展的新局面，在敵人的鼻子尖下燃起了熊熊的抗日烈火，使蘇南東路地區抗日根據地像一把鋼刀插入日寇心臟。

　　「皖南事變」爆發後，譚震林再次受命於危難之際，奉命出任新四軍第六師師長、政委，兼任江南區黨委書記，成為蘇南抗日的領袖人物。這時，日寇在無錫至江陰公路以西地區（簡稱蘇南西路地區）的太滆、茅山一帶進行大「掃蕩」，大片根據地被敵人蠶食。

　　在這一關鍵時刻，譚震林由蘇南東路地區到了蘇南西路地區。他一到蘇南西路地區，就立即整編隊伍，進行戰鬥動員，指揮部隊開展對敵鬥爭，尤其是他在溧陽縣黃金山附近坐鎮指揮的三次自衛反擊戰，以少勝多，三戰三捷，極大地鼓舞了士氣，振奮了民心，使蘇南西路地區的抗日革命根據地得到鞏固和發展。當時，他形象地把東路地區和西路地區比喻為「站穩兩腳，伸開兩手」：「站穩兩腳」，華中抗日根據地就鞏固了；「伸開兩手」，浙江、皖南等地的抗日局面就打開了。由於譚震林率部勝利地保衛了整個蘇南抗日根據地，從而有力地支援了蘇中、蘇北抗日根據地的建立和鞏固。譚震林在這一時期創立的許多英雄業績，直至如今還一直在蘇南廣大群眾中傳頌。

　　1941年11月，蘇南西路地區主力十六旅在溧陽城以北的塘馬遭到日寇偷襲，旅長、政委壯烈犧牲。這時，譚震林已到蘇中江都、高郵、寶應地區領導開闢新區的工作。當他一聽到這一不幸消息後，主動向新四軍軍部請求回蘇南兼任十六旅旅長。他一到那裡，就發動幹部、戰士總結塘馬戰鬥失利的經驗教訓，鼓舞士氣，重新向敵人展開英勇頑強的鬥爭，以果斷的行動保衛了以茅山為中心的抗日革命根據地。有一段時間，譚震林還被任命為新四軍第一師（師長粟裕）政委和新四軍（軍長陳毅）政治部主任，成為粟裕、陳毅的好幫手。