李善长
由于开国之初，全国还未统一，距离天下安定尚需时日。朱元璋就不得不依靠这些文臣武将。朱元璋还通过联姻的方式来巩固淮西集团的关系。洪武六年（1373年），李善长推荐其同乡兼姻亲胡惟庸担任右丞相。洪武十年（1377年），胡惟庸又升任左丞相。胡惟庸在位期间又遍植朋党，打击异己，使得淮西集团的势力进一步膨胀。因此，胡惟庸已经成为了朱元璋的心腹大患。
胡惟庸
洪武十三年（1380年），朱元璋以“枉法诬贤，操不轨之心，肆奸欺之蔽”，“蠹害政洽，谋危社稷。”将胡惟庸等处死。之后的十年，加在胡惟庸身上的罪名越来越多，如“勾结蒙古，私通倭寇……”，而牵连的范围也不断扩大。李善长等大批元勋宿将皆受株连，牵连致死者达三万余人，就连一直谨慎的宋濂也被牵连其中。而开国第一功臣徐达也可能是被朱元璋设计*死，根据王文龙《龙兴慈记》载，徐达因病无法吃鹅，然而朱元璋却非得赐徐达蒸鹅，使得徐达吃后就去世了。经过了10年的胡狱，淮西集团的重要人物几乎被铲除。1393年，朱元璋又发动了“蓝玉案”，诛*蓝玉、傅友德、冯胜、王弼等功臣名将，牵连着达到了1万5000人，进一步消除了淮西集团势力名，“于是元勋宿将,相继尽矣”。
明朝建立后，朱元璋沿袭元朝的制度，依然设立中书省为最高的机构，丞相为百官之长。朱元璋开国之初设置丞相只不过也是权宜之计，并非长久考虑。在建国后，朱元璋就对处处防范丞相。1378年，朱元璋下令“命奏事毋关白中书省”，也就是大臣的奏章可以绕过中书省到达皇帝这里，试图削弱丞相的权力。
胡惟庸被*之后，朝中无人敢反对朱元璋，于是朱元璋便趁机废除了一直沿袭的宰相制度。当年，朱元璋告谕文武百官，说“中书省以总天下之文治，都督府一统天下之兵政，御史台以振朝廷之纪纲”，然而“奸臣窃持国柄，枉法诬贤”，“盆害政治，谋危社极”。于是废除中书省，提高六部的地位；拆分都督府为五军都督府，分领军卫。于是，中国几千前沿袭的宰相制度就被废除了。
废除宰相后的权力状况
洪武二十八年（1395年），朱元璋又敕谕文武群臣：“我朝罢相，设五府、六部、都察院、通政司、大理寺等衙门，分理天下事务，彼此颉颃，不敢相压，事皆朝廷总之，所以稳当。以后嗣君并不许立丞相，臣下敢有奏请设立者，文武群臣即时劾奏，将犯人凌迟，全家处死。”也就是从制度上断绝了宰相制度的产生，禁止后世重设宰相。宰相制度的彻底废除标志着皇权正式攀登上了历史的顶峰，这也宣告中国古代的制度正在走向衰落。
