3月初，由於日軍偷襲瀏河登陸，中國軍隊被迫退守第二道防線。3月3日，日軍司令官根據其參謀總長的電示，發表停戰聲明。同日，國聯決議中日雙方下令停戰。24日，在英領署舉行正式停戰會議。 中國代表為外交部次長郭泰祺、軍事代表戴戟、黃強等七人，日本代表為駐中國公使重光葵、軍事代表植田、田代等九人.英、美、法等公使和武官也列席了會議。談判中雙方爭論之點頗多，而在日軍撤退時間、地點問題上尤為激烈。27日，蘭普森對各款提出折衷方案五條。28日至30日雙方連續討論無結果，會議陷於停頓。中國遂將上述問題提交國聯特別委員會解決。4月19日，國聯特委會通過決議草案十四條，但日方對於其中第十一條聯合委員會職權之規定，陸軍認為干犯了統帥權，表示堅決反對。經蘭普森的調解，提出折衷方案，日本代表才以在投票時棄權，表示默認。於是30日在國聯大會上，將蘭普森修改的決議草案通過。 由此，中日停戰協定得以在5月5日予上海簽訂。 淞滬停戰協定的主要內容是： 第一條，中國及日本當局，既經下令停戰，茲雙方協定，自中華民國二十一年五月五日起，確定停戰．雙方軍隊盡其力之所及，在上海周圍，停止一切及各種敵對行為。關於停戰情形，遇有疑問發生時，由與會友邦代表查明之。 第二條，中國軍隊，在本協定所涉及區域內之常態恢復，未經決定辦法以前，留駐昆山、蘇州一線。 第三條，日本軍隊撤退至公共租界暨虹口方面之越界築路區，一如中華民國二十一年一月二十八日事變之前。但鑒於須待容納之日本軍隊人數，有若幹部隊，可暫時駐紮於上述區域之毗連地方。 第四條，為證明雙方之撤退起見，設立共同委員會，列入與會友邦代代為委員。該委員會並協助佈置撤退之日本軍隊與接管之中國警察間移交事宜，以便日本軍隊撤退時，中國警察立即接管。 第五條，本協定自簽字之日起，發生效力。

「協定」之二、三、四條均有「附件」。「附件一」規定中國軍隊駐紮之具體地點；「附件二」規定日本軍隊駐紮和可以使用之地區；附件三」規定共同委員會之組成。 中國代表在宣讀《協定》條文時，發出兩次聲明，但並未作為附件而附屬於《協定》文件之內。中國的聲明，一是關於《協定》第二條的聲明，說中國方面在停戰會議討論此條時，曾聲明：「雙方瞭解，本協定內，對於中國軍隊在其領土內之調動，並不含有任何永久之限制」。並說：「當時雙方同意，此項聲明於該項會議時業經接受。」而是關於《協定》第三條的聲明，說：「雙方瞭解，按照第三條，日軍暫駐區域內之市行政權，包括警察權在內，仍由中國當局行使之。日軍之暫用該項地點，於上海市政府之工作，不得有任何妨害。」此外，中國政府同日在南京發表了一個有關《協定》的書面聲明，宣佈將設置特別警察隊，以維持臨近上海租界的撤兵區域內的治安與秩序。 日軍的撤退分為四批實施。第一批自5月6日起，日軍主力部隊向連接獅子林—楊行—大場—真如之線以東地區撤退。第二批至5月9日中午止，撤出嘉定、南翔、瀏河等地。第三批，至5月10日中午，撤出羅店。第四批，從獅子林—楊行—大場—真如之線全部撤退。5月12日中國首都保安隊接管閘北，19日接管江灣，23日接管真如，24日京滬鐵路恢復全線通車，同日接管吳淞炮台。5月31日，日軍除海軍陸戰隊及憲兵共2500人以外，全部撤離上海。中國調北平保安隊1000人由瑞士教練統帶赴上海維持治安，另派國軍第二軍精銳步兵2營駐淞滬警備司令部所在地龍華。至6月17日，淞滬鐵路以東、沙涇港以西、公共租界以北，虹口方面越界築路周圍地域的日軍海軍陸戰隊，全部撤入越界築路地域以內。至此，除《停戰協定》所允許日軍暫駐的丁區（閘北日本墳山）內的警察權尚未恢復外，所有日軍退出地區，完全恢復上海市政府的行政區與警察權。至7月17日，日軍最後撤離丁區，由中國方面派保安隊予以接收。至此，日軍全部撤出公共租界和虹口越界築路以外之地區，全面恢復「一二八事變」前之原狀。