1925年12月4日，時任黃埔軍校校長的蔣介石寫信給正在上海的陳果夫：「楊參議嘯天，特托其來滬辦理招兵事宜，各方可由其接洽指揮。君在內主持，則事必易舉。一切進行手續請詳細商酌。船隻事，傅筱庵必能照我們便利計畫辦理，並可電囑其招應也。補充兵數約須萬人。仍以江、浙、皖三省人民為多招，而上海就地切勿可招募也。諸事務請小心是荷。」陳果夫為什麼會在上海為廣州國民政府如此大規模招兵呢？這還要從蔣介石奉命組建黃埔軍校說起。

1924年，孫中山任命蔣介石籌備組建黃埔軍校。當時，陳果夫正在上海從事證券交易活動，頗有理財之道。此外，陳果夫還和戴季陶、陳佈雷等人交往密切，其觀點讓蔣介石頗為滿意。在黃埔軍校籌備期間，蔣介石就曾電邀陳果夫到廣州協助工作，但此時陳果夫因病未癒，想到廣州醫療條件不如上海，便沒有應召前往。建校之初，蔣介石痛感手下人才缺乏，於是立刻想到了陳果夫。

採購軍需品

蔣介石在籌建軍校過程中，發現當時廣州物價昂貴，黃埔軍校初創之時經費又十分有限，而在上海採辦物品運到廣州，連運費在內比在廣州採辦還便宜。於是蔣介石於1924年8月便給陳果夫寫信，要陳果夫在上海幫助採購，陳果夫欣然同意，便在上海開始了採購工作。

黃埔第一期招生約500人，所以，蔣介石讓陳果夫採購的第一批軍需品是500套呢子制服、呢子大衣、皮鞋、帽子、皮件、襯衣。陳果夫選了一家質量不錯、價格公道的成衣店定做。老闆為了討好顧客，畫蛇添足，在每件制服的裡面多縫了一片白布。哪知這批制服在海關接受檢查時，由於那塊白布非常顯眼，被認定是軍裝，由於當時上海軍閥下令不許軍服出境，於是制服全部被扣留。

陳果夫得到消息後焦急萬分，立即四處疏通關節，並托虞洽卿等人從中幫助，和一個主管海關的姓許的監督經十餘天的交涉，總算將被扣留的軍服等收回，但用於束腰的皮帶、槍帶、刀鞘三樣東西，被海關認定是軍用品，予以沒收。損失雖然不大，不過再要想通過海關運出確是不可能了。陳果夫又幾次懇請海關監督公署，但海關就是不通融。

在陳果夫的極力疏通下，海關的人告訴他一條「捷徑」：上海有一家公司，專門偷稅包運貨物，並且運費較正式報關起運便宜數百元。陳果夫找到這家公司後，又怕這家公司靠不住，於是先派人發送少量服裝試一試。幾天後，廣州黃埔軍校方面來電，貨物如期到達。陳果夫這才放心，於是將所有服裝完全交由該公司代運，不久全部安全抵達廣州。

後來黃埔軍校在上海所採購的軍裝、皮件，以及軍校教導團第一、二團全部的棉衣、軍毯等等，陳果夫都交給這家公司裝運，「幾件大衣或幾套棉衣，包成一包，每包至少比較正式報關起碼要便宜一元七角，而且穩妥簡捷」。

為黃埔招募學生、士兵

軍需採購任務的圓滿完成，讓蔣介石更加信任陳果夫。到了1924年年底，黃埔軍校方面更任命陳果夫為招兵委員，指定由陳果夫負責主持在上海為黃埔軍校一、二兩個教導團招募士兵。

招兵工作開始時，陳果夫租了一處房子，掛上一個「揭普道路募工駐滬辦事處」的招牌，對外稱招募工人，同時還常常到法院與縣公署各方面去疏通，所以工作還進行得比較順利。招到的新兵在去廣州前，陳果夫派人每人發給一張船票和幾角錢的零用錢，還分發蓆子、罐頭、醬菜等用品。

後來奉系軍閥佔領上海，搗毀了此地。陳果夫經常轉移，曾將招兵機關搬進租界，又轉移到上海證券物品交易所（董事長為虞洽卿，蔣介石、陳果夫、戴季陶等在上海證券物品交易所中當過經紀人）內，表面做生意，暗中招兵；不久更轉移到戴季陶的辦事處。

當時正值江浙戰爭爆發，後來又爆發了直奉戰爭、浙奉戰爭，各地軍閥也紛紛在上海招兵。陳果夫辛辛苦苦招來的新兵，很多還不及到達集中地上海，沿途就被軍閥扣留。即便新兵在上海，也被上海碼頭上的幫會勢力乘機敲詐，被迫繳納1角至3角的「人頭費」，後來幫會勢力又把「人頭費」漲到5角至1元。陳果夫只好通過朋友結交了一個叫王憲章的密探，先讓他出面疏通碼頭上的幫會勢力，隨後再利用青幫關係請人保護，但效果不佳。

黃埔軍校第一期學生在上海招生時，陳果夫主要負責轉匯經費以及收發電文的事宜。到第三期招生開始，陳果夫又當上了招生委員。當時報名處設在環龍路四十四號國民黨上海執行部所在地，主要面向江蘇、浙江、安徽和本地區的學生先報名，據說第三期招生時正值廣東國民政府東征陳炯明，前線急需軍事人才，因此對新生的要求不如以前嚴格，只需繳驗證明文件，文化程度大體被認可，就算合格了，隨後每人發12元旅費，自行前往廣州報到。

到了第四期招生，條件又趨於嚴格，報名者除了要滿足上述條件，還要接受文化考試，考試地點在上海大學。當時的報名處設在上海大學裡，開始一切還順利，臨近終點時，被警察發現，硬將學生們驅散。幸而考試已告結束，沒有對招生工作造成大的影響。

尋找教官和其他人才

除了招兵、招生外，陳果夫還奉蔣介石命為軍校招募軍教官以及各種技術人才。陳果夫共介紹20多個軍官去了黃埔軍校。他還發現了幾個無線電方面的人才，其中有個姓朱的，他跑去找了六次，但對方認為廣州太遠，加以拒絕。陳果夫又找到其他幾位，但對方要價頗高，結果沒有一個去廣州。期間，陳果夫還找到一個製造飛機的人才，但被別處出價高的人挖走。最後，陳果夫只找到一個自言出身於瀋陽兵工廠、會造迫擊炮的人，得到蔣介石同意後，立刻送他去了黃埔軍校。此人到廣州後，「在三個月內造出了一百尊迫擊炮」。之後，蔣介石又請陳果夫為黃埔軍校物色軍醫。陳果夫多方聯絡，最後找到四個介紹去了廣州。

為酬勞陳果夫的貢獻，1926年1月，中國國民黨在廣州召開第二次全國代表大會時，陳果夫被選為第二屆中央監察委員。當時為了掩護他在上海的招兵工作，名單沒有以原名「陳祖燾」，而是以「陳果夫」予以公佈。

此後，隨著軍校事務日益增加，蔣介石忙不過來，就又致電陳果夫，要他來廣州協助工作。陳果夫遂於1926年4月底離開上海，前往廣州，結束了其為黃埔招兵的生涯。

終究沒有完成任務

蔣介石寫上述信件時，正值第二次東征陳炯明結束，東征軍付出了很大傷亡，而平定南路鄧本殷的作戰還在繼續，蔣介石深感士兵缺乏，因此要求陳果夫幫助「補充兵數約須萬人」

不過，蔣介石提出「萬人」之數，陳果夫卻沒有完成這個任務。因為據陳果夫回憶，自1925年春到1926年4月底，他總計招的新兵為「約四千數百人」。但這4000多人的大部分確實成為黃埔軍校的重要組成部分，經過嚴格訓練和戰火洗禮的他們為後來的北伐打下了堅實的軍事基礎，其中一些人成為了蔣介石的親信。

至於信中蔣介石為什麼說「仍以江、浙、皖三省人民為多招」，這似乎也可以從陳果夫的回憶中找到答案：「當時招兵委員們認為徐州來的新兵最好，因為有不少還拖著辮子，是地道的鄉下人，和上海附近所招的不同。」「（浙江）處州、金華招來的兵，也還不錯。」「（浙江）台州及嵊縣兵、處州兵為優，數目雖少，但大半勇敢穩健。」「蘇北、皖北的兵，亦多可取。」