唐朝的中央核心制度是“三省六部”，“三省”就是中書省（起草政令）、門下省（稽核政令）、尚書省（推行政令）。尚書省的地位在三省中是最高的。比如尚書省的最高長官尚書令的品級是正二品、尚書省左右僕射是從二品，而中書令和門下侍中是正三品，與六部尚書相等。
除了品級高之外，尚書省的權力也很大，六部九寺五監都直屬於尚書省。尚書省的長官在唐朝初年是名副其實的首席宰相，比如房玄齡就當了二十多年的尚書省左僕射。可是到了唐高宗時期，尚書令、尚書左右僕射卻演變成了只有品級沒有實權的虛職。這又是怎麼回事呢？
正因為尚書省的最高長官尚書令位高權重，所以尚書令成為對皇權威脅最大的宰相。從隋朝開始，尚書令就基本空置了。隋朝歷史上只有楊素活著的時候當過尚書令，而且就任後不久就去世了。唐太宗登基後以“自己擔任過尚書令”為理由，將實際不設尚書令的慣例制度化。
雖然尚書令幾乎空置，但尚書省的權力在隋朝和唐初還是很大的。尚書省左僕射就是首席宰相。但三省制效率低的缺陷在唐朝初年開始顯現。要知道中書省、門下省、尚書省位於三個不同的地方，一道政令完成整個流程需要很多時間，這不符合大一統中央集權的效率需求。
從隋朝開始，三省長官為了提高效率而常在政事堂開會，唐太宗登基後又命令特別加銜的官員（如參預朝政、同中書門下平章事、同中書門下三品等等）也要參加政事堂會議。朝廷的主要決策基本都在政事堂會議上討論透過的，政事堂就逐漸發展成為三省之上的權力機構。
貞觀末年，唐太宗命長孫無忌“權知三省”並檢校中書令，長孫無忌以此主持政事堂會議。再加上政事堂位於中書省和門下省（唐中宗時定在中書省），中書令和門下侍中逐漸成為政事堂會議的固定參會者和主持者。尚書省的左右僕射反而失去了參加政事堂會議的固定資格。
到了唐高宗中期，朝廷大事和日常政務幾乎都在政事堂會議上討論處理。政事堂從會議室演變為凌駕於三省之上的宰相委員會，主持政事堂會議的中書令和門下侍中變成了首席宰相和次席宰相。而沒有資格參加政事堂會議的尚書省左右僕射也就變成了沒有實權的虛職。
