隋朝統(tǒng)一中國后，隋文帝制三省六部，原本的三公也被取締。三公九卿制基本宣告廢除。

秦始皇設立三公九卿制度，為封建專制主義中央集權國家制度的建立創(chuàng)造了雛形，對以后的歷代封建王朝的建立，有著重要的影響。三公九卿制度的基本結構從秦朝一直沿用到兩晉，直至隋文帝創(chuàng)三省六部制。從三省六部制的結構上來看，也無處不有著三公九卿制結構的影子。此后，一直到明代，明太祖朱元璋廢掉中書省、尚書省及門下省，六部直接對皇帝負責，中國古代歷史中的中央官制三級制度才算壽終正寢。三公九卿這一制度沿用約達800年，并從結構上影響三省六部制，并左右中國古代中央官制約達700年。可以說，三公九卿制，上承夏商周，下接隋唐宋元，在中國歷史上留下了濃重的一筆。

三公九卿制度雖在結構上沿用了近700年，但在其間，官職的名稱及權利和三公九卿制的部分結構卻一直在變動之中。并且，制度之外其他中央機構的出現也沖擊了三公九卿制。