在武力统一全国后,朱元璋立即建立起庞大的官僚机构对全国实行统治。明初的官僚机构仍沿袭元朝的制度,但朱元璋注意吸取历史经验,特别是元朝灭亡的教训,为了朱明王朝的长治久安,他着手对政治制度进行改革,采取加强封建专制主义统治的措施,加强了皇帝的权力。
改革首先从削弱地方权力开始。洪武九年(1376),对全国的行政区域重新划分,废除了元朝的行中书省,将全国分为十二个布政使司和南京直隶区。十二个布政使司是:浙江、江西、福建、北平、广西、四川、山东、广东、河南、陕西、湖广、山西。其中,“北平布政使司”在明成祖永乐元年改称“北京”,即改成直隶区;洪武十五年(1382),增设云南布政使司;永乐十一年(1414),增设贵州布政使司。于是,明朝的地方行政划分定了型:两个直辖区,即南北直隶和十三个布政使司。由于行中书省的名称已经成为习惯,所以一般还是称为行省,俗称省。一省设三官:承宣布政使,管理地方的民政和财政;提刑按察使,掌管刑法;都指挥使,管理军政。三者之间互不统属,各自直属中央,这样就将原来无所不辖的行省长官大权分成了军、政、司法三权分立,三者互相牵制,既避免了地方长官的专权,又利于中央的集权统治。布政使司以下的行政机构简化为两级:第一级是府(或直隶州),设官为知府(或知州);第二级是县(或属州),其长官为知县。一些偏远和少数民族地区,单设都指挥使司,实行军政和民政的统一统治。这一改革减少了元朝的路、府、州、县四级管理,使命令的传达和奉行更为便捷,而且各级官吏皆由中央直接任免委派,形成了从中央到地方的严密统治网络。
废除行中书省后,地方军、民、财政和司法权力都集中在了中书省,这就使得丞相的权力越来越大,君权与相权之间的矛盾越来越尖锐。朱元璋是不甘于做傀儡皇帝的,他要按自己的意志来统治天下,因此,削夺相权,加强皇权的斗争势必爆发。洪武十三年(1380),朱元璋以“谋逆”的罪名处死了丞相胡惟庸,借机废除了中书省和丞相制,将原来中书省和丞相的权力分归六部,六部尚书直接听命于皇帝。由此,自秦朝以来的丞相制度和自隋唐以来的三省制度均被废除,中央集权得到强化。
朱元璋还改革了监察机构。元朝中央的监察机构叫御史台,洪武十五年(1382),朱元璋将其改为都察院,其职能是做天子的耳目,纠劾百官的错误。都察院的长官叫都御史,下面设置了十三道监察御史,以一个布政司为一道,负责监察检举各级官吏的不法行为。监察御史只是七品官,却赋予了他很大的权力,朱元璋就是用这种以小制大、以内制外的方法来钳制他的巨僚。在中央还设立了大理寺,其长官是大理寺卿。这个机构负责对刑部、都察院、五军断事官审理的案件进行复审,大理寺与刑部、都察院合称“三法司”,遇大案须三法司会审。形式上看似乎对刑狱的处理更为审慎,其实这是将司法权力也一分为三,使其互相牵制,暴露了朱元璋对任何事都不允许“专于一司”,处处提防大权旁落的心理。
朱元璋还特别重视军队的管理和建设,创设了卫所制度。每卫大约五千六百人,长官称指挥使,管辖五个千户所。每个千户所一千一百二十人,长官为千户。千户所下又分为十个百户所,一个百户所一百一十二人,长官为百户。百户所下设两个总旗,每个总旗下又分设五个小旗,每个小旗十个人。每个军士另立户籍,称军户,身份世袭。军户由国家分给土地,实行屯田自养。明初,全国的卫所、都指挥使司都由大都督府管,朱元璋任命他的侄儿朱文正为都督。洪武十三年(1380),废除丞相制的同时也废除了大都督府,改设中、左、右、前、后五军都督府,将兵权一分为五。但朱元璋仍不放心,又规定五军都督只有统兵权而无调兵权;兵部有任免、训练权,但又不得统兵。五军都督和兵部互相牵制,遇到战争,由皇帝作出决定,兵部颁发调兵命令,都督府的长官才能奉命作为将军率兵出征。而战事一结束,就要归还将印,士兵也要各回卫所。这项制度,使军队始终掌握在皇帝手中,从军事上加强了皇权。
明初,朱元璋还实行了分封制,将二十四个儿子和1个从孙分封到全国各地,以巩固朱明王朝的统治。由于北元回归大漠后保有相当强的军事力量,对明朝北部形成极大威胁,所以朱元璋分布在北方边防线上的塞王兵力尤为雄厚。到洪武后期,这些塞王已完全掌握边防军事指挥权,实力雄厚,他的第四个儿子燕王朱棣后来就是因此才夺了建文帝的皇位。
朱元璋一系列政策和制度的改革影响深远,具有一定的进步作用。它使行政、监察、军事三方面的统治机构相互独立,互不统属,每个机构下的权力又一分再分,这就使得各项权力机构之间产生很大的相互牵制力,而真正的大权则被独揽在皇帝一人手中,使中央集权君主专制发展到空前程度。