相傳宋太祖立國不久，便在石碑上刻下了一份秘密誓約，其身後歷任皇帝登基，都要進入密室，默誦碑上的 3 條誓文。碑文內容主要包括厚待周世宗後人、不殺士大夫及言官等。此碑史稱“宋太祖誓碑”。關於此事最為詳細、完整的記載，是一部舊題為南宋陸游所撰的筆記《避暑漫抄》。該書不但詳細描繪了宋太祖密鐫碑誓和北宋歷代皇帝秘密拜讀碑誓的過程，還記載了“靖康之難”中隨同宋徽宗一起被俘的大臣曹勳逃歸南宋前，宋徽宗託他向宋高宗稟告碑誓的相關情節。
需要說明的是，“不殺士大夫”只是一種政治原則或傳統，而不是“一律不殺”。其層次性表現為：不嗜殺人——不妄殺人——不輕殺大臣——不妄殺士人——不以言殺人。而且，這種“不殺”更多的是表現為“政治”方面、“言論”方面，至於貪贓、枉法、投敵、造反等，就不全在“不殺”之列。
如宋太祖時對於刑事犯罪尤其是貪贓罪處置得相對嚴厲。儘管如此，“不殺士大夫”的政治原則也還是有所體現的，一般說來，中低階官吏犯貪贓罪，基本都被處以死刑；而高階官吏，屬“大臣”級別的則往往是罷官或流放，幾乎沒有判處死刑的。所以，整個兩宋時期，很少有處死“大臣”和“士大夫”的記載。這，應該與“太祖碑誓”所形成的政治原則和政治理念有關。
當然，“太祖碑誓”的存在方式顯得略為神秘了一些，刻碑、密室、焚香等等，頗具宗教儀式感的做法……探究其理，大致可以理解為：“碑誓”這種皇室內部的約定，本來就是“天子家事”，不但“不必”為外人道，也“不能”為外人道。“碑誓”面世原因及其核心理念至於“碑誓”為什麼會在南宋初年突然公之於世，這也有其合理的歷史背景。
其一，是對北宋滅亡前後若干做法的反思。宋徽宗讓曹勳向宋高宗轉達“碑誓”時就說：“每念靖康年中誅罰為甚，今日之禍，雖不止此，然要當知而戒焉。”宋徽宗此言，可作兩層意思解讀：一是他對自己在之前有違背祖誓的做法表示悔意，以鑑示後人；二是擔心已然繼位的高宗步自己的後塵，在遵守碑誓這件事上行差踏錯。事實上，宋徽宗的憂慮是有道理的，後世史家認為，宋高宗在建炎元年（1127）八月誅殺太學生陳東等人，就是典型“以文字罪人”的“違約”行為。宋徽宗在這時候特地囑託曹勳向宋高宗傳達“不殺士大夫”“不以文字罪人”的“祖訓”，當是他在國破被擄後於一路顛簸時的某種反省，也應是當時趙宋君臣集體意識的某種覺醒。
其二，北宋滅亡，南宋初立，急需用祖宗傳承下來的仁澤寬厚的理念來凝聚士大夫群體。宋高宗在即位詔書中說：“金人內侵，二帝北狩，天支戚屬混於穹居，宗社罔所依憑，中外罔知攸主。臣構以道君皇帝之子，奉宸旨以總六師，握兵馬（大）元帥之權，倡義旅以先諸將。冀清京邑，復兩宮，而百辟卿士，萬邦黎獻，謂：人思宋德，天眷趙宗，宜以神器屬於臣構……”“宗社罔所依憑，中外罔知攸主”既是當時的實際情況，也是亟待解決的政治需求。“人思宋德，天眷趙宗”，借重“祖宗德澤在人”的影響，將“碑誓”公之於眾，是高宗君臣最好的策略。
其三，公佈“碑誓”，也能起到穩定士大夫人心的作用。南北宋之際政局的大變動，造成了部分士大夫立場的錯亂。如宣和七年（1125）金兵入侵時，朝廷上下的意見是以議和為主，等到金兵步步緊逼時，就不同了，“今京師聞金大入，人情震動，有欲出奔者，有欲守者，有欲因而反者”；金軍圍太原之後，更是朝議紛紛，不知所從，“大臣憤眊，益猶豫，戰避之議皆未決”。如何對待說錯話、站錯立場，甚至“投金”而又“歸正”計程車大夫，也需要一種原則性的把握。“不殺士大夫”的“太祖碑誓”此時公開，無疑有其明顯的現實意義。可以佐證這一點的是，宋高宗即位後，凡上書涉及士大夫過失短長者，“悉命焚之，以安反側”。
