唐玄宗一路西逃，但忠於朝廷的官員們卻紛紛帶領軍民，奮起抵抗叛軍。其中，最早起來打擊叛軍的，是平原（今山東平原）太守顏真卿和他的堂兄常山（今河北正定）太守顏杲卿。

　　顏真卿是北齊文學家顏之推、唐代初期的學者顏師古的後代。早在安祿山謀反朝廷的跡象越來越明顯時，顏真卿就開始備戰了。他借口預防大雨，派軍民修繕城牆，召集壯丁，加強城防，還儲藏了很多糧食。安祿山叛亂後，河朔（黃河以北地區）一帶全都陷入叛軍之手，只有平原城的防守是完好的。唐玄宗剛聽到河朔淪陷的消息時，悲歎道：「河北二十四郡，難道就沒有一個忠臣？」當他聽說平原城仍在堅持抵抗時，轉悲為喜，說：「不知顏真卿是什麼模樣，竟能做得這樣好。」

　　顏杲（ｇǎｏ）卿本來是安祿山的部下，安祿山的叛軍到達稿（ｇǎｏ）城（在今河北省）時，他就招募了一千多名士兵，準備抵抗。安祿山攻下洛陽後，顏真卿在十天內招募了一萬人，並與顏杲卿聯合討伐安祿山。顏杲卿與長史袁履謙，用計佔領了井陘關（在今河北井陘），截斷了安祿山的退路，河北軍民士氣大振，二十四郡中有十七郡又歸順了朝廷。大家推舉顏真卿為主帥，聚集了二十多萬人馬，共同抗擊叛軍。

　　安祿山見後方不穩，急忙派大將史思明、蔡希德分兩路攻打常山。常山的城防工事沒修好，兵力又少，顏杲卿帶領軍民拚死抵抗了四天，最終糧缺彈盡，常山城被攻破。顏杲卿和袁履謙被叛軍抓到洛陽，他們受盡酷刑，但仍對著安祿山怒罵不止，最後雙雙犧牲。

　　顏杲卿被害後，顏真卿仍在堅持抵抗，直到唐肅宗即位後，他才率領眾人輾轉來到鳳翔（治所在今陝西鳳翔），朝見肅宗。

　　另一位英勇抗擊叛軍，多次立下戰功的名將，是張巡。

　　公元756年正月，安祿山叛軍攻陷宋、曹等州，譙郡（今安徽亳州）太守楊萬石投降了叛賊，還逼迫當時任真源縣令的張巡，向西去迎接叛軍。張巡卻率領軍民討伐叛賊，在雍丘（今河南杞縣）一舉擊敗叛軍大將、原雍丘縣令令狐潮。

　　數月後，令狐潮重整旗鼓，率領四萬大軍撲向雍丘，想報仇奪城。當時張巡只有四千人，士兵們都很緊張，張巡卻胸有成竹，對將士們說：「令狐潮氣勢雖凶，又瞭解城中情況，必然有輕視我們的想法。現在我們出其不意出擊，敵人一定驚怕而退，我們乘勢追擊，必可打勝仗。」

　　於是，他派一千人登城防守，自己親自率領一千人，分成數個小隊，開城門突然衝出。張巡身先士卒，直衝賊陣，打得賊兵人仰馬翻，紛紛敗退。

　　第二天，叛軍又來攻城。他們用百門大炮轟城，打得城樓都倒塌了。張巡在城上修建木柵來防守。叛軍像螞蟻一樣蜂擁而上。張巡命士兵把乾草浸透油脂，燒著後投向賊兵，叛軍不得不退卻。

　　張巡知道自己的兵少，所以每次都以堅守為主，用智謀打退敵軍，或者乘天黑偷襲敵營。這樣堅持了六十餘日，大大小小打了三百餘仗，叛軍無計可施，只得將雍丘城團團圍住。

　　不久，雍丘城中箭已用完。張巡傚法諸葛亮草船借箭的妙計，命令士兵做了一千餘個草人，披上黑衣，趁夜晚用繩索吊到城下。叛軍以為城中守軍要突圍偷襲，紛紛用箭射擊。過了很久，他們才發現城上吊下來的是草人。但這時，草人渾身都射滿了箭，有數十萬支。

　　後來，張巡又趁黑夜將派五百名敢死隊墜下城去，賊兵以為又是草人，所以也不防備。五百名敢死隊便衝入賊營，令狐潮的軍隊猝不及防，頓時大亂，把自己的營帳燒掉逃走了。這樣，張巡不僅確保了城池不失，而且在戰鬥中反敗為勝，給叛軍以沉重打擊。

　　不久，令狐潮又捲土重來，增調兵馬包圍了雍丘城。張巡派部將雷萬春在城頭上同令狐潮對話。叛軍紛紛射箭，雷萬春的臉上一連被射中六支箭，仍然一動不動，鎮定自若。令狐潮懷疑是木頭人，派人來問才知是雷萬春，不由得大吃一驚，遠遠地對張巡說：「剛才看見雷將軍這個模樣，才知你的軍令的確很嚴。但是人算不如天算，雍丘城終將被攻破。」張巡迴答說：「閣下連人倫都不知道，怎麼能通曉天道呢？」

　　令狐潮理屈詞窮，叛軍們鬥志衰落，張巡抓住戰機率兵出擊，又一次大獲全勝，擒獲叛軍將領十四人，嚇得令狐潮連夜逃到陳留，龜縮在城裡，再也不敢出來。

　　從公元756年年初，雍丘保衛戰開戰，叛軍一直不斷地增兵，但張巡率將士誓死守城，直到這年年底奉命主動撤離。在這期間，雍丘城始終巋然不動，成為大唐抗擊叛軍的堅強堡壘。為表彰張巡的忠誠與戰功，後來的唐肅宗李亨專門下詔任命張巡為河南節度副使。