吳佩孚一生娶了四位夫人。在他15歲那年，娶了18歲的第一位夫人王氏，夫妻感情尚好，可惜3年後，王氏因病去世，沒有生育子女。吳佩孚直到31歲時，才續娶了第二個夫人李氏。據說李氏出身於蓬萊有名的富豪之家，相貌出眾，知書識禮。吳佩孚在長春做北洋第三鎮管帶時，全鎮女眷數百人，大家一致公認吳管帶夫人是最為出眾的。李夫人雖然出身富豪之家，但很賢淑，上奉吳母，代照顧吳佩孚的兄弟文孚。不過日子長了，婆媳間因為家務事產生了一些矛盾。特別是和吳佩孚結婚幾年，她沒有生育，更是讓吳母不滿。吳母就盤算著給吳佩孚納一房妾。

　　這時張佩蘭出現了，她一見到文武雙全、風度瀟灑的吳佩孚，悄悄地愛上了他。張佩蘭為人乖巧，先認吳母當乾娘，認吳佩孚為兄長，並且把吳母哄得很開心。吳母就做主讓吳佩孚再娶了張佩蘭。成婚的那一天，可憐夫人李氏眼淚婆娑地對張佩蘭道:「好妹子，你怎麼做起新娘子來了?」然後又轉向吳佩孚:「你是發過誓的，這輩子不納妾的，大丈夫一言九鼎，怎麼言而無信了。」一席話，說得兩位新人滿臉通紅。 吳佩孚從此再也沒什麼「緋聞」。

　　開府洛陽時，有一位德國小姐叫做露西的愛上了吳佩孚，西洋女子就是開放，大膽示愛，居然把個久經沙場的吳大帥嚇得退避三舍，在露西小姐的情書上批了四個大字:「老妻尚在。」但吳佩孚內心卻是得意的，對夫人道:「切莫以為我是糟老頭子了，還緊俏得很呢。」由此可見，不是他不諳風情，而是他對自己道德方面的要求和束縛。李夫人和張佩蘭始終也沒有為吳佩孚生下一子半女。1929年，吳佩孚56歲時，張佩蘭也已44歲，她眼看自己不能為吳家生育，就挑選了一名丫環，讓吳佩孚收房做小妾，但直到吳佩孚去世，這個小妾也沒有生育。吳佩孚一生終無子嗣。