黃仁宇在《萬曆十五年》中寫到海瑞，用了這樣一個標題—「古怪的模範官僚」，這話粗看起來似乎有點道理，細細琢磨，並不盡然。何謂「古怪」？這裡面有一個視角問題，有一個立場問題。他為官清正廉潔，剛直不阿，鋒芒畢露，在吏治敗壞、貪贓枉法盛行的官場，顯得特立獨行，在那些貪官、庸官眼裡，如芒刺在背，格格不入，委實有些「古怪」。

　　他在擔任南平縣教諭(縣學教官)時，主管監察事宜的御史前來考察，到了學宮，命令教官們下跪迎接，海瑞卻立而不跪，義正詞嚴地說：如果到御史衙門參見，理當行下屬禮，然而此地乃是師長教士之地，教官不應當屈膝。另外兩名教官挾住海瑞下跪，他依舊立而不跪，形成奇特景象：兩個下跪的人中間夾一個站立的人，像一個山字形的筆架，當時人稱之為「筆架博士」。他在縣學裡，用儒家的聖賢之道來教育諸生，不收「束修」(學費)，拒絕諸生送來的饋贈。他的上司起先感到古怪，後來明白了他的用意，禮遇有加。

　　升任淳安知縣後，他知道這是一個貧困縣，格外關注民生，裁革「無名常例」(各種名目的稅費)，自己除了微薄的薪水外，不再收取一絲一粟的外快，他和僕人過著清苦的生活。為了緊縮開支，縣衙門僱傭的吏胥(辦事人員)，公事完畢以後，各自回家務農，不捨棄本業。總督胡宗憲之子從杭州返回徽州，路過淳安，強令驛站提供交通工具，驛站主管因為他不是官員，予以拒絕。此人依仗父親的權勢，把驛站主管倒懸在涼亭裡。海瑞聞訊趕來，不溫不火地說道：胡大人清廉無二，早就關照過，兒子路過淳安時，地方官不要鋪張浪費招待。如今此人所帶行李既多又重，必定不是胡大人之子。隨即沒收了行李中幾千兩銀子等貴重物品，派人快馬加鞭前往杭州，把情況一五一十報告胡宗憲。胡宗憲啞巴吃黃連，有苦說不出，卻也抓不住把柄，只好不了了之。

　　巴結嚴嵩之子嚴世蕃而官運亨通的鄢懋卿，謀得了都御史、總理鹽法的差事，貪贓枉法，成為暴發戶。他帶著小妾巡遊，小妾乘坐「五彩輿」(彩色花轎)，由十二個女子抬著，招搖過市。每到一地，令地方長官款待，所用廁所豪華無比，不僅用綾羅綢緞裝潢，而且馬桶是白銀打造的。路過淳安，海瑞我行我素，只用粗茶淡飯招待，一再聲明，淳安是貧困縣，無力接待貴客，請飯後立即啟程。鄢懋卿惱怒得很，正要發作，隨從提醒胡宗憲之子在這裡的遭遇，只得灰溜溜地離開此地。 

　　對於如何當好縣官，海瑞有自己的獨到見解，他說：「知縣者，知一縣之事，一民不安，一事不理，皆知縣責也。」上面的朝廷是我的父母，中間的巡撫、巡按是我的昆弟，下面的裡老、百姓是我的子姓。處理這些關係，各有正道。他反對因循苟且的為官之道：「若謂止可潔己，不可潔人，潔人生謗；若謂不可認真，認真取禍；不顧朝廷之背否，以鄉願自待，以鄉願待人，棄吾子姓，棄吾昆弟，莫甚焉。」在他看來，為了招待過往的官員，向百姓攤派稅費，還自詡為通融，這個口子絕不能開：「其言不過一開口而已，不知此口一開，惠私一人，害千萬人，不可開也。曰：不過費紙一張而已，不知此紙一發，惠私一人，害千萬人，不可發也。」