朱元璋进行上述变革和调整的根本目的是进一步强化君权，主要手法是分化、弱化大臣之权，他对地方行省、中书省和大都督所作的一系列变革莫不如是。朱元璋罢丞相，是对一千多年中央政治制度的一次重大变革。不设丞相，六部直接将全国政务奏请皇帝裁决，实际上是皇帝兼行相权。皇帝不得不处理更多的政务，据说朱元璋每天要看200多份奏章，处理400多件政事，相当辛苦。由此，专制主义皇权到了朱元璋手中得到了空前的加强，他也成为历史上最有权势的皇帝之一。不过，如此高度集中的皇权也会产生负面影响，因为没有相应的约束机制，明代中后期皇帝为所欲为，极度腐朽，甚至数十年不上朝。
设立特务组织。朱元璋生性雄猜，加强了对大臣的监视。开始时，他派遣一些检校、佥事明骑马武士俑等人暗中侦查大臣的举动，也没有逮捕和审讯的权力。当时最著名的特务是高见贤、夏煜、杨宪和凌说，专门刺探别人的阴事，"四人以伺察搏击为事"，"专主察听在京大小衙门官吏，不公不法及风闻之事，无不奏闻"。"惟此数人，譬如恶犬，则人怕"。朱元璋的目的很明确，就是要让大臣对自己和大明江山忠心无二，要他们知道恐惧，防止他们营私舞弊、结党乱政。事无巨细，家长里短，都被朱元璋探知。有一个非常有名的例子，可以看出当时的恐怖情景。钱宰被征编《孟子节文》，罢朝回家做了一首诗："四鼓冬冬起着衣，午门朝见尚嫌迟。何时得遂田园乐，睡到人间饭熟时。"第二天上朝时，朱元璋告诉他昨天诗作得不错，只是并没有"嫌"他迟，不如改成"忧"字更好些。钱宰听后大惊失色，吓得直磕头谢罪。类似的事例还有很多，所以大臣们都提心吊胆，就连李善长、徐达这样的功臣也人人自危。 ，成为"诏狱"，直属于皇帝，权力很大。锦衣卫职掌"侍卫、缉捕、刑狱之事"。太祖时，"天下重罪逮至京者，收系狱中，数更大狱，多所断治，所诛杀为多"。 朱元璋所进行的这些制度更张，尽管后世或臧或否，评价不一，但基本实现了他的初衷，也算称心如意。只是有一件事，却困扰了他近30年，迟迟无法解决。
陷入定都困扰。朱元璋登基称帝前后，对于国都的确定几经周折。最初朱元璋参加农民起义军后，一直活跃在江淮之间。然而这里土地贫瘠，民生艰苦，而且接近元朝的军事力量，不利于自己的发展壮大。为了谋求更大的发展空间，成就不世之伟业，必须另择一个既有经济保障又地形险要的根据地，这样金陵就进入了朱元璋的视野。金陵，北有长江天堑，为形胜之地，三国吴，东晋，南朝宋、齐、梁、陈，五代十国的南唐都曾以此为都城。冯国用首先向明南京城墙朱元璋建议攻取金陵，"金陵龙蟠虎踞，帝王之都，先拔之以为根本，然后四出征伐，倡仁义，收人心，勿贪子女玉帛，天下不足定也"。陶安也建议先取金陵，据形势以临四方。叶兑也上书请求定都金陵，然后就可以拓地江广，进军两淮，北征蒙古，退军又可以据长江以自守。元至正十六年（1356），朱元璋听取谋士的意见，攻取金陵，改称应天府，修建宫殿，以此为争夺霸业的基础。此后十余年间，朱元璋南征北战、四出征讨，将江南群雄依次消灭。洪武元年（1368）正月，朱元璋在应天称帝，在即位诏书中称应天为京师。
然而朱元璋只是暂时肯定了应天作为京师的地位，并没有正式确立国都。作为自己成就霸业的地方，朱元璋为何不肯确立应天为国都呢？首先，朱元璋觉得以应天为国都的历朝都是气数不久，似乎不太吉利。其次，有些大臣认为"有天下者，非都中原，不能控制奸顽"，明南京聚宝门藏兵洞
而且应天偏处江左，在位置上作为国都不是十分理想。三月，朱元璋派兵攻取汴梁。许多人建言定都汴梁。朱元璋很重视，于四月亲自前去实地考察。他认为汴梁虽然位置适中，但是无险可守，四面受敌，论形势不如应天。八月，朱元璋正式下诏，以应天为南京，汴梁为北京。朱元璋既然对汴梁不甚满意，为何又要定为北京呢？原来他考虑到汴梁是宋朝的旧都，北上征讨元朝时可以唤起北方民众的民族情感，有很大的号召力；而且当时西北未定，需要将汴梁作为运送粮草和补充兵力的基地。