在中国的封建社会，有一套组织十分严密的中央官僚体制，称为三省六部制。三省六部制开创于隋朝，完善于唐朝，发展于宋朝，之后一直到清末，这个官僚体制基本沿袭未改。三省六部制中的三省，包括尚书省、中书省和门下省。
尚书、中书、门下三省并存，自三国时期的魏国始，当时，尚书已成朝官，为政务机构；中书也逐渐分局问政，却未转为朝官；门下开始涉及政事，不过仍以宫职居多。
南北朝后期，三省分职逐渐明朗。至隋朝，中书、门下由宫职转为朝官，尚书执行、中书出令、门下封驳，以三省为中心的政府运转体系逐渐形成。唐初，形成三省鼎足之势，三省长官尚书令（后为仆射）、中书令、侍中入政事堂公议国政，执行宰相职能；唐高宗至唐玄宗前后，三省长官的宰相地位渐为同平章事取代，三省并重遭到破坏，时而中书为重，时而门下为重；三省分权也发生变化，中书出令为翰林学士院分割，门下封驳分散到尚书、中书，尚书执行权转移，专司一职，分管部务。
到了五代时期，枢密使发展为武宰相，进一步分割同平章事的相权。北宋初，政归中书、门下、枢密院及三司，宰相不专任三省长官，三省类以他官主判。三省长官以下各官用于寓寄禄秩。宋神宗元丰改制，废中书、门下及三司，重建三省，与枢密院共掌军、政大权，以尚书省长官左、右仆射为宰相，左仆射兼门下侍郎，行侍中职，右仆射兼中书侍郎，行中书令职；门下省审命令、驳正违失，中书省掌进拟庶务、宣奉命令，尚书省掌施行制命。宋哲宗元祐间，令三省同取旨。南宋高宗建炎三年，并中书、门下二省为一，仍与尚书省统称三省。
元朝以中书省总领百官，与枢密院、御史台分掌政务、军事、监察三大权力，尚书省时置时废，而门下省不复置，故中书省较前代更加重要。明朝初年，朝廷不设中书令，但仍然以中书省统领六部，长官称左、右丞相。
明太祖洪武十三年（1380），朱元璋废除中书省，以及中书省长官丞相一职，改六部向丞相负责为直接向皇帝负责，以加强皇权，废除相权。那么，朱元璋为何要废除中书省和丞相呢？这与胡惟庸有关。
胡惟庸，濠州定远（今属安徽）人，明朝开国功臣，最后一任中书省丞相。朱元璋当上皇帝后，任胡惟庸为丞相，统领六部。然而，作为丞相的胡惟庸，偶有乖张，便屡屡遭到朱元璋的怀疑与责骂，胡惟庸最后被逼至无退路，便与御史大夫陈宁、御史中丞涂节等人密谋举事。后来，涂节与商皓分别向朱无璋告发胡惟庸，胡惟庸被诛。
据统计，胡惟庸一案牵连的开国功臣包括李善长、赵庸、郑遇春、朱亮祖等一公二十一侯，因株连而被*者达三万多人。诛*胡惟庸后，朱元璋便罢丞相，革中书省，并严格规定后代不得再立丞相。中书省废除后，其事由六部分理，六部直接向皇帝负责，达到了皇帝高度集权的目的。从此，三省六部制度中的三省彻底废止。
