由於德國在山東的侵略行徑，使得山東人民對外國侵略者極為反感。早在1897年就發生了巨野教案，山東巡撫李秉衡因此被貶職。在此之後，山東的民教矛盾有增無減。1897年，山東冠縣飛地梨園屯(今邢台市威縣)村民與教堂因歷史上的土地糾紛引起衝突。威縣梅花拳師趙三多應村民閻書勤等的邀請，前往援助。後趙三多將梅花拳改名為義和拳。1898年6月，山東巡撫張汝梅上奏朝廷，認為義和拳本屬鄉團，建議「改拳勇為民團」。並明確說義和拳就是「義和團」，在清朝官員中首次提出了「義和團」的概念。同年10月趙三多等人在冠縣飛地蔣家莊(今邢台市威縣)豎起「扶清滅洋」的旗幟「起義」，遭清軍鎮壓而失敗。

　　次年(1899年)，山東平原縣知縣蔣楷鎮壓義和團，當地義和拳首領李長水請求荏平、高唐等地的義和拳首領朱紅燈支援，朱紅燈在槓子李莊整齊隊伍正式豎起了「天下義和拳興清滅洋」旗幟。10月11日，蔣楷率領勇役數十人前來鎮壓，被義和拳打敗。這次事件後來被稱為「平原起義」。

　　後來清廷加派袁世敦等人前來鎮壓，在森羅殿戰鬥中擊敗義和拳。其後清軍遊擊馬金敘活捉義和拳首領朱紅燈、心誠和尚等人。當時的山東巡撫是毓賢，他仇視外國侵略者，對民眾反基督教情緒比較同情。他罷免了蔣楷、袁世敦等，對義和拳採取剿撫兼施，以撫為主的措施，有說法指出正是毓賢改拳為團，還向朝廷上奏將民教矛盾的責任歸結於教會一方。其態度遭到外國敵視，在列強交涉下毓賢被革去職務。但毓賢對義和拳也進行了鎮壓，在其離職前下令將朱紅燈、心誠和尚、於清水等義和團首領殺害。1899年12月，袁世凱代替毓賢署理山東巡撫。

　　1899年，袁世凱在濟南就任山東巡撫後，對義和團始終持敵對態度，在其任山東巡撫後嚴格限制義和團的活動，並從1900年6月開始血腥鎮壓復起的義和團。在山東遭遇不利情況後，義和團開始向直隸等地轉移。清政府嚴禁義和團，先後派出多批軍隊參與鎮壓。1900年5月12日，淶水縣高洛村發生教案，練軍分統楊福同前往彈壓。5月22日，數千義和團在石亭設伏擊斃楊福同，被稱為「淶水大捷」。這次戕官事件使清廷大為震驚。隨後的1900年5月27日，直隸中部蘆保鐵路沿線約3萬義和團佔據了涿州城，知州龔蔭培無計可施，便絕食坐以待斃，這是義和團佔據和控制的第一個州城。在此之後，清政府又派出聶士成等參與鎮壓，與義和團多次交戰。但此時直隸地區的義和團運動已呈現出「誅不勝誅」的局面。