一个王朝的建立有三个要件，那就是国号、年号和定都。大明朝国号和年号都有了，可关于把首都定在哪里的问题，却颇让朱元璋感到为难，当年选择应天为根据地，是以其作为发展王业的基地使用的，当时是适用的。南京有长江天险，向北有两淮可发展，向南可以控制江南，经济上靠近富庶的苏杭之地。可是之前定都在南京的王朝，都是偏安江南的小王朝，存续的时间都不长，这在朱元璋心里是有阴影的。再者，在明军占领大都，宣告元朝统治退出中原后，如何对于广大的北方地区进行管控也是个问题。
　　 早在进军元大都之前，朱元璋就专程去了一趟汴梁，除了召开前线军事会议外，再有一个重要事项，那就是对北宋故都汴梁进行实地考察，看看能不能捡个现成。
　　 考察的结果大失所望，除了无险可守以外，经过多年战火的摧残，原先富裕繁荣之地，已经沦为贫困地区，经济基础极其薄弱，原有的皇宫大院完全损毁。
　　 朱元璋遂放弃了建都汴梁的念头，但为了迷惑众人，就把汴梁定名为北京，当然少不得让人大兴土木，搞点基础性建设什么的，称应天为南京，这时就有了南北二京“其以金陵为南京，大梁为北京，朕于春秋往来巡守”（《洪武元年八月己巳朔》）。
　　 后来，朱元璋突发奇想，何不把首都建在自己的老家临濠？把老家建成全国的政治、经济、文化中心，家乡人民不就过好日子了吗？
　　 洪武二年（公元1369年）九月，朱元璋下诏在临濠营建中都，建都事宜由左丞相李善长具体负责。可是等工程真正大规模摊开以后，问题却接踵而至，临濠这地方太穷了，当庞大的施工队伍开进这个“前江后淮，以险可恃，以水可漕”的小城时，连吃饭都成了问题。据说，整个工程大约动用了工匠九万人、军士十四万人、民工五十万，加上南方各省、州、府、县和外地卫、所负责烧制城砖的工匠，各地采运木料、石材、供应粮草的役夫等总数达一百多万人。
　　 为了扭转人烟稀少、田土荒蕪的局面，朱元璋还下令迁了十四万江南富户至此。此举除了弥补临濠地区人口短缺外，更重要的原因是，东南地区之前为张士诚所占据，这里的许多人都曾为张士诚出过力，朱元璋实际上是要打击东南地区的文人和地主阶级，并规定迁徙过来后就不准随便离开临濠。
　　 建立首都这样的重大工程必然涉及大量的土地占用问题，政府在征用土地的过程中，不可避免存在强征强拆，再加上那些王公贵族从中倒买倒卖，当地物价飞涨是肯定的，失去土地的农民无以为生，来参加工程会战的人也苦不堪言。
　　 朱元璋的初衷是要让家乡的人过上小康生活，人有肉吃、有酒喝，吃饱喝足了才有精神头给他这皇帝老乡歌功颂德，没想到适得其反，家乡人民比他当皇帝前还要苦。之前刘基就极力反对在临濠建都，看来这次没听他的是真错了，都怪自己一时冲动，考虑不周，落下那么个烂尾工程。朱元璋痛定思痛，毅然喊停已进行了六年的中都项目，时间是洪武八年（公元1375年）四月。
　　 对于朱元璋突然下令中止耗费了难以计算的钱财、眼看就要大功告成的中都建设问题，历史学家众说纷纭，莫衷一是。有一种说法广为流传，说朱元璋决定立项建设中都后，曾两次亲临视察。第一次是洪武四年（公元1371）二月，主要是视察中都的兴建情况，也就是这一次视察后，朱元璋做出了移民中都、充实中部人口的决定。
　　 朱元璋第二次来临濠是四年后，史书对朱元璋此次行踪有翔实的记录，他先到了滁州，畅游了琅琊山，乘兴写下了《感旧记有序》，文曰：“予因督功中都，道经滁阳，乘春之景，踏青西郊。细目河山，城雉如旧……”颇有功成名就、故地重游的意思。这次临濠之行，朱元璋主要做了两件事：一是详细检查了中都的施工情况;二是祭祀了皇陵。《凤阳新书》卷五记载，朱元璋在临濠期间，就住在“皇城内兴福宫”。由此推断，当时一座崭新的都城已初具规模，眼看就要大功告成。
　　 可谁也没有想到，朱元璋返回南京后却突然下旨停建中都。原来，他在视察宫殿时，得到了一条重要信息：工匠们由于工作繁重、又吃不饱肚子，为了发泄内心的不满，就在施工时做了手脚，手段极其恶劣，竟然在宫殿殿脊上制作、画刻一些咒符，这种东西信则有，不信则无，这不是公然谋害皇室成员吗？朱元璋勃然大怒，下令追查，虽然后来将一批参与作案的工匠就地正法，但朱元璋在感到憋屈的同时，心灵也受到了强烈的震撼，意识到元朝的统治刚刚被推翻，人民还没有从战争中解脱，统一战争还在进行之中，此时大规模营建中都确实是个重大的失误。再联系到以李善长、胡惟庸为首的淮西勋贵的所作所为，朱元璋不得不重新审视自己所倚的淮西勋贵和定都临濠的决策，促使他抛弃乡土观念，以壮士断腕的气魄让中都工程及时下马。中都之事就此作罢，他也从此再没有回过已经更名为凤阳的老家。
　　 朱元璋解释停建中都的理由是劳民伤财。但这其中显然还有更深层的原因，他身边的勋贵功臣大多是凤阳同乡，这些人居功自傲，常有违法乱纪之事（定远侯郭英就私自役使营建中都的工匠为自己建造宅第），且在朝中结党谋私、排除异己，建都凤阳后，岂不更加助长这部分人的势力？
　　 朱元璋既已意识了问题所在，就必然要改变自己的用人之策，由倚重淮西乡党逐步转向任用来自各地的人才。洪武十一年（公元1378年），朱元璋正式下诏，以南京为京师，多年悬而未决的定都问题才算正式告一段落。
　　 朱元璋在称帝之初，就已经大兴土木建造南京城墙和皇宫。据说南京城建好后，朱元璋兴致勃勃地率领文臣武将登上紫金山，俯瞰南京城的气派，不无得意地问群臣：“我的都城建得怎么样啊？”群臣自然都顺着他的意思，极尽溢美之词。唯独十四岁的四皇子朱棣说：“紫金山上架大炮，炮炮击中紫金城。”朱元璋定睛一看，不禁冒出一身冷汗，这给朱元璋的心里又添了一块心病。
　　 洪武二十四年（公元1391年），朱元璋派太子朱标巡视关中，颇有迁都关中之意。当时，明朝的主要威胁是来自漠北北元残余势力。迁都西北，是为了加强对北方地区的控制。北平之所以未予考虑，是朱元璋偏心眼，要留给最喜爱的四子朱棣作封地。朱元璋的次子秦王对此极为不满，关中是他的封地，把都城迁过去，他的封地就没了。要不是朱标替他求情，差一点就被朱元璋废掉了他的秦王。
　　 朱标对西安和洛阳都进行了详细考察，比较两地的地形，回来后向朱元璋献上陕西地图。朱标个人比较倾向于选择西安为国都，因为西安曾经为西汉和唐朝国都，王气十足。
　　 然而天有不测风云，朱标第二年就病死了。白发人送黑发人，年近古稀的朱元璋受到了沉重的打击，再也没有精力和心情考虑迁都的事情。朱元璋在当年底亲自撰写的一篇《祀灶文》中，表达了万般无奈的心情：“朕经营天下数十年，事按古就绪。维宫城前昂后洼，形势不称。本欲迁都，今朕年老，精力已倦，又天下初定，不欲劳民。且兴废有数，只得听天。惟愿鉴朕此心，福其子孙。”一副听天由命的样子，听起来真是异常凄凉。
　　 一生都是赢家的朱元璋最大的憾事，莫过于太子早逝和没有解决好国都问题，并且很快就带来恶果。他死后四年，四子朱棣就轻而易举地将他的继承人惠帝朱允文赶下了台，朱允文本人更是下落不明。