1905年日俄戰爭後，日本強佔了中國的遼東半島和南滿鐵路。不久，日本將遼東半島改名為關東州，在旅順設立關東都督府，下設民政部和陸軍部。1919年在關東都督府陸軍部的基礎上，在旅順口設關東軍司令部。俄國在日俄戰爭中戰敗後，根據《樸次茅斯和約》將關東州(中國遼南旅大地區)的租借權和南滿鐵路轉讓給日本。日本為維護其殖民利益，派遣2個師4萬人的兵團進駐關東州及南滿鐵路附屬地，並設立關東總督府。次年，總督府改為都督府，下設陸軍部，轄1個陸軍師、6個獨立守備營、旅順重炮營和憲兵隊等。

　　20世紀上半葉，長期侵駐中國東北地區的日本陸軍重兵集團。1919年，都督府撤銷，改設關東廳，成立關東軍，首任司令立花小一郎，司令部設在旅順，直接隸屬於天皇。1926年進入昭和時代後，日本加緊推行侵略中國和準備對蘇作戰的大陸政策。1928年，關東軍製造皇姑屯事件，炸死中國奉系軍閥首領張作霖。1931年策劃「九一八」事變，侵佔中國東北全境。次年炮製偽滿洲國，司令部遷至長春，司令兼任日本駐「滿」大使和關東廳長官，掌握偽滿軍政大權。從此，關東軍對中國東北實行殖民統治，殘酷鎮壓中國抗日軍民，瘋狂掠奪糧食和礦產資源，把中國東北建成日本進一步侵略擴張的重要戰略基地。

　　1928年6月，關東軍製造「皇姑屯事件」。1931年9月18日，關東軍製造「柳條湖事件」，並以此為借口炮擊東北軍大營，發動了九一八事變，拉開了長達十四年的侵華戰爭的序幕。1932年3月，建立滿洲國。1939年5月，滿洲軍隊跟蒙古軍隊在諾門罕發生小規模邊境衝突，後演化成為關東軍對蘇聯紅軍的正面對決。朱可夫指揮六個旅七萬名蘇聯遠東軍，以機械化部隊擊敗兩個師團約四萬名關東軍。一萬八千名日軍戰死或受傷。日本全國震動，平沼內閣請辭。關東軍司令官植田謙吉及參謀長磯谷廉介被撤職。

　　1942年，太平洋戰爭開始後，關東軍主力逐漸被抽調至太平洋戰線。在1943年戰況逆轉後，不少關東軍在太平洋的島嶼上被殲滅。1945年8月，蘇聯紅軍出兵東北，關東軍被擊斃八萬三千人，被俘五十九萬四千人。戰後，餘下的關東軍官兵作為俘虜被送到西伯利亞從事強制勞動。