在清朝，貪污成風，「三年清知府，十萬雪花銀」。但晚清，卻有一個衙門以廉潔著稱，它就是中國海關，被認為是「世界行政管理史上的奇跡之一」。 第二次鴉片戰爭後，清廷同意由英國人代管中國海關，並寫入與英美等國簽訂的 《通商章程善後條約：海關稅則》。海關最高長官稱「總稅務司」，實際上全權負責管理海關事務。 1863年，英國人赫德接任總稅務司，開始長達近半個世紀對中國海關的管理。面對海關的腐敗問題，赫德不想用反貪風暴來改變海關。他要做的是從制度上徹底更新，對腐敗來個釜底抽薪。 1865年，他力主淘汰中國傳統的舊式清冊，建立一套 「嚴格的、詳細的和絕對可靠的」會計制度。新制度對海關稅收的上繳和留用有便於查詢的記錄。 與會計制度相配合，赫德還建立起新的審計制度。他專門設立稽查賬目稅務司，作為一個獨立機構，對各關財務會計進行監督，每年至少去每個港口檢查賬簿和賬目一次，並且是抽查。因為海關不知道稽查稅務司檢查什麼地方，不檢查什麼地方，因此他的巡查使一切更加仔細。稽查稅務司的權力很大，一旦發現有不正當行為，有權停止任何稅務司或關員的職務。 赫德做的第三件事是把海關重要崗位基本上都換為外國人。在選擇海關僱員時，赫德要求進行全球招考、公開選拔，先後在上海、九龍、廣州、青島和倫敦等地設置考點。任何人和機構，包括赫德自己都不能塞人進海關。

1864年7月29日，赫德與中國官員董恂和文祥有過一次有趣的對話，內容是漫談中國傳統文化中的「道德」。赫德回憶：「中國人說人性善，我們說人性惡。中國人寄希望於用教育養成規矩，我們則通過懲罰樹立法律和規章。 」 配合上述制度改革，赫德還進行工資制度改革。他認為，為使海關改革卓有成效，必須高薪養廉。但前提是公開透明，把海關關員的收入曬在陽光下。以華人為主的職務，工資雖然低於洋員，但相比當時中國的工資標準，幾乎是其他國家行政機關的兩倍。 除基本年薪外，關員還享有年度獎金和福利津貼。在海關幹得越久，待遇就越高，這無形中提高了他們參與腐敗的成本。 赫德不僅在海關實行高薪養廉，還把這一做法作為一項重要建議，推薦給清朝政府。當然，後者並沒有採納。 高薪養廉的結果之一，便是海關經費的大幅增長。在赫德以前，廣東海關每年不過花掉一萬多兩銀子，但在他接任後，經費每年達3168000兩。赫德的理由是：「如果不給足夠的資金，就無法期望他們保持廉潔。 」 但清政府卻很痛快地批准了這個經費標準——中國官員們認為這些經費花得值：在赫德管理下，關稅收入迅速提高。 1861年，海關稅收是490餘萬兩。僅僅十年後，就達到1100餘萬兩。到1904年赫德離職時，已經達到30206504兩，是原先的6倍多。 同時，1861年海關稅收約占清政府財政收入的9％，到1887年，海關稅收已佔到清政府財政的24．35％。清政府在瀕死的邊緣，從赫德主管的海關輸入大量新鮮血液，由此苟延數十年。英國人魏爾特在《赫德與中國海關》一書中記載：「赫德任期，中國海關人員的違法行為沒有超過五起。」 1908年，清政府賞赫德尚書銜，並在他死後追封太子太保。這是外國人在清朝獲得的最高榮譽。