“克己奉公”這則成語的克己是克制、約束自已；奉公是以公事為重。約束自己的私欲，以公事為重。比喻一個(gè)人對己要求嚴(yán)格，一心為公。
這個(gè)成語來源于《后漢書.祭遵傳》，遵為人廉約小心，克己奉公。賞賜輒盡與士卒，家無私財(cái)。
祭遵，字弟孫，東漢初年潁陽人。祭遵從小喜歡讀書，知書達(dá)理，雖然出身豪門，但生活非常儉樸。
公元24年，劉秀攻打潁陽一帶，祭遵去投奔他，被劉秀收為門下吏。后隨軍轉(zhuǎn)戰(zhàn)河北，當(dāng)了軍中的執(zhí)法官，負(fù)責(zé)軍營的法令。任職中，他執(zhí)法嚴(yán)明，不循私情，為大家所稱道。
有一次，劉秀身邊的一個(gè)小侍從犯了罪，祭遵查明真情后，依法把這小侍從處以死刑。劉秀知道后，十分生氣，想祭遵竟敢處罰他身邊的人，欲降罪于祭遵。但馬上有人來勸諫劉秀說：“嚴(yán)明軍令，本來就是大王的要求。如今祭遵堅(jiān)守法令，上下一致做得很對。只有像他這樣言行一致，號令三軍才有威信啊。”
劉秀聽了覺得有理。后來，非但沒有治罪于祭遵，還封他為征虜將軍，潁陽侯。
祭遵為人廉潔，為官清正，處事謹(jǐn)慎，克己奉公，常受到劉秀的賞賜，但他將這些賞賜都拿出來分給手下的人。他生活十分儉樸，家中也沒有多少私人財(cái)產(chǎn)，即使在安排后事時(shí)，他仍囑咐手下的人，不許鋪張浪費(fèi)，只要用牛車裝載自己的尸體和棺木，拉到洛陽草草下葬就可以了。
祭遵死后多年，漢光武帝劉秀仍對他的克己奉公精神十分懷念。