當石守信等表示誓死效忠時，太祖說： “假如你們的部下為求富貴而起事怎麼辦呢 ？ 一旦強迫你黃刨 加身，儘管你不願意這樣做，難道還能由你自己作主嗎 ？ ” 太祖又說： “人生在世所重者不過多積金錢，多置田宅，為子孫後代建立永久之基業，然後多置歌妓美女，飲酒作樂以終天年，我這個聖上與你們結為親家，君臣之間，兩無猜疑，上下相安，難道不是更好嗎 ？”眾將聽罷，方知太祖的用心。第二天，石守信等人， 便都上表請求辭職，交出兵權，到外地當節度使去了。就這樣，宋太祖趙匡胤根據趙普的計劃，順利地收回了兵權，了卻了心中的一件大事。因趙普獻策有功，晉趙普為樞密使、 檢校太保。
當石守信等表示誓死效忠時，太祖說： “假如你們的部下為求富貴而起事怎麼辦呢 ？ 一旦強迫你黃刨 加身，儘管你不願意這樣做，難道還能由你自己作主嗎 ？ ” 太祖又說： “人生在世所重者不過多積金錢，多置田宅，為子孫後代建立永久之基業，然後多置歌妓美女，飲酒作樂以終天年，我這個聖上與你們結為親家，君臣之間，兩無猜疑，上下相安，難道不是更好嗎 ？”眾將聽罷，方知太祖的用心。第二天，石守信等人， 便都上表請求辭職，交出兵權，到外地當節度使去了。
就這樣，宋太祖趙匡胤根據趙普的計劃，順利地收回了兵權，了卻了心中的一件大事。因趙普獻策有功，晉趙普為樞密使、 檢校太保。為了協助宋太祖徹底解決武臣專權弊端，改變從中秧到地方因權力過於集中而各自為政的局面，趙普又提出尚文黜武、 分權互制的主張。宋太祖在趙普的建議下，採取了以下措施：（ 1）在中秧最高權力機關設副相、 樞密使和副使與三司計相，以分宰相之權。這樣，就形成了三權分相、 互相牽制、 一切軍政大事均在君權的控制下才能成命的正治體制。
（ 2）為使上下體制一致，便於中秧集拳，控制地方州縣，於公元 963 年罷勉了王彥超等地方節度使，又漸次削去了數十個異姓王的權力。並從這一年開始，任文官為地方最高行政長官，又設副職通判一或二人，通判是中秧安插在地方政府的耳目，有監察御使之權，可直接問軍政大事。州府有重要文書，必須會同簽署方能生效。如有重要軍情變故，可直接通報中秧。（ 3）宋太祖還根據趙普的建議，採取了 “制其錢糧” 的措施。 “制其錢糧” 是指限制節度使的財政糧餉許可權的一種辦法。規定地方錢糧大部輸送中秧，設轉運使負責此事。但這套方針只是以防兵之變，防方鎮之跋扈，防官員之損害君權為出發點，而主要不是去提高國力、 軍力，故使宋徒有軍隊一百二十萬，官員二萬餘名，庫存之錢財成堆， 但一直對外屈服於遼、 夏、 金民族政權
對內不能消除官亂與民變，而處於深重的統治危機之中。宋太祖在趙普的協助下，基本完成正治體制之後，於乾德二年（公元 964 年）罷勉了後周的一些舊臣。因趙普正治謀略超人，再加上獻策有功，被遷升為門下侍郎、 宰相、 集賢殿大學士。從此，趙普獨居相位，掌管北宋朝政。趙普居相位之後，更加盡心盡力。宋太祖視之如左右手，事無大小，都要徵求趙普的意見，然後再決斷。有一天，太祖問趙普，用何計謀才能攻下太原，消滅北漢，
趙普回答說： “太原抵擋著西、 北兩方面的敵人，如果先攻下太原，就得由我們獨擋西、 北二面之敵，不如暫且留下太原不打，等到消滅了其他各國以後再說，到那時，太原如同彈丸黑子之地，還能逃脫滅亡的命運嗎 ？” 這就是趙普的 “先南後北” 的襄贊決策。宋太祖聽後，笑著說： “我的意思正是如此，剛才不過是試你而已。 ”趙普初登宰相之位後，雖為朝廷竭心盡力，深受太祖恩寵，但因有斂財受賄，私運木材擴充套件府第，又有官員冒充趙普名義經商等問題，趙普子承宗竟然違反宰輔大臣間不得通婚的禁令，娶樞密使李崇矩之女為妻，這有架空皇權的危險。
太祖聽說後，對趙普極為不滿，其後，翰林院學士盧多遜又乘機揭發趙普的短處，太祖大怒，於公元973 年罷去趙普宰相之職，貶為河陽三城節度使。公元976 年十月，趙光義即位，趙普自河陽調回京師，任太子太保，曾多次遭到宰相盧多遜的讒言詆譭，不被朝廷重用，然而趙普很會利用皇室內部權力之爭的矛盾，來為自己進身創造有利條件，以求東山再起。早在太祖趙匡胤和太宗趙光義的母親昭憲杜太后臨終前，召趙普入內承受遺命。太后對以後幾代君主是這樣安排的：太祖百年之後，當傳位於弟光義，光義再傳位於弟廷美，廷美傳位於侄德昭。趙普認為太后的這個安排，很有道理。
但是，杜太后的這個遺旨，直接關係到皇室諸人的權力和命運。而自己又是太后遺命的唯一直接見證人，因此，他對太后的遺旨，採取根據形勢、 靈活處理的態度。趙普知道太宗此時心中所想，認為自己再度登上相位之機已到，便向太宗進言，說當年太后遺旨，為他親手所寫，並備述太后遺旨原文。當太宗問及廷美事時，趙普當即表示： “臣願備位樞機，以察奸變。 ” 又藉機述說自己多年受宰相盧多遜壓制之苦，太宗見趙普情詞懇切，又系前朝老臣，與己交厚，可以協助自己皇位傳子的目的，便於公元981 年 ，復授趙普司徒兼侍中，封為梁國公，重登首輔之位。
