徐达在洪武八年(1375年)三月奉诏回京后,北元右丞相、河南王扩廓帖木儿等所部北元之兵依旧不时入犯。这年八月,扩廓帖木儿在漠北死去,明朝廷少了一个劲敌。但是,北元政权依然存在,明朝北部边患并未就此彻底消除。所以,在此后九年多时间里,徐达又多次奉诏挂印镇守明朝北部边塞,期间还曾一度奉命统兵出征漠北,讨伐北元。
洪武九年(1376年)上半年,徐达奉明太祖之命,挂“征虏大将军”印镇守北平,到洪武十三年(1380年)十一月奉诏从北平回到京城,徐达此次出镇长达四年半左右,这是徐达一生中坐镇北塞时间最长的一次。
洪武九年(1376年)六月初六,由于北边兵患不止,明太祖以敕训斥镇守北边的大将军徐达等将领,说:“六月四日早,金星犯毕右股北第一星,主夷狄兵起,以分野推之,应在赵地。今北元四大王(指其时手握兵权的北元四位王爷)不满二百人,官军屡捕不获,前者皆云其众无马,今乃言有十五骑相从出没,不知劫夺于何人者?盖由尔诸将不趁机剿捕,致令若此。”责令徐达等在接到敕书后,迅速派智勇将士四面围捕北元四王,防其势力再度扩大,以致祸患蔓延,并且指示他们让大同等处守御官军严加防守。九月初二,明太祖又遣指挥佥事吴英往北平,令其将“七月火星犯上将,八月金星又犯之,占云当有奸人刺客阴谋事”发生之事通知大将军徐达,告诫他“凡阅兵马、习骑射,进退之间,皆当谨备”,并要求他“遍谕诸将”知晓,让他们严密防范,说:“虽左右将校,勿令相近,其北元阉官尤宜防之,唯南去者可以使令。盖将者,众之死生、国之安危系焉。能戒慎之,庶可免忧。”
洪武十二年(1379年)六月十二日,明太祖又敕令在山东临清练兵以备防守北塞之用的信国公汤和,注意保持与征虏大将军徐达之间的联系,共同筹划有关边防事宜。在敕令中,明太祖说:“今年春命尔率诸将练兵于临清,以备北边,今遣使齐符诣军,召吉安侯陆仲亨、江夏侯周德兴、宜春侯黄彬还京,其所部骑兵令南安、巩昌、河南、永嘉四侯分领之,以伺北虏消息。常宜遣人往来山东、北平大将军(指徐达)所,计议边务,慎之勿忽。”七月二十五日,北元右丞周亨等八人率兵民287人,自沙漠地区前来归降。徐达得到消息后,特派指挥武兴率兵到北平山后迎接他们。武兴等在路上又与北元平章乞奴等6人意外相遇,将其一举生擒,缴得其枢密分院银印。
洪武十三年(1380年)十月十二日,明太祖诏令徐达还京。十一月初九,徐达从北平回到京城,正式结束了这次长达四年有余的北平之行。
在此期间,徐达除了处理军务外,还曾奉明太祖之命,祭祀鬼神。如洪武十年(1377年)六月,明太祖委派18名朝廷大臣作为自己的代表,分别祭祀岳镇、海渎诸神,徐达奉命就近祭祀北岳。洪武十二年(1379年)正月十一日,明太祖下令合祀天、地于京城南郊的大祀殿,公侯徐达等又奉命分别献祭日月、星辰、岳镇、海渎、山川诸神。
洪武十四年(1381年)正月初二,由于北元平章乃儿不花等寇边,明太祖诏命魏国公徐达为征虏大将军,率左副将军信国公汤和、右副将军颍川侯傅友德等前往讨伐。
徐达奉命来到北平后,一面加紧开展战前准备工作,一面积极修缮沿边关隘,以完善北部防御体系,增强其战守能力,有效抵御北元骑兵的入侵。如洪武十四年(1381年)正月二十五日,徐达曾下令调发燕山等卫屯兵15100人,修筑永平府界岭等32处关隘。三月十七日,明太祖遣使携敕前往北平,命令征虏大将军魏国公徐达、左副将军信国公汤和、右副将军颍川侯傅友德:“今夏及秋,胡人必伏精兵于近塞,以待我师。卿等欲轻骑进击,不可不深为谋,必先知彼虚实,乃可行兵。若知彼之计,宜遣四百人先入其境,而以精骑继之,其先行者必有擒获,执而询之,可得情实。有伏则引还,诱其追我,度其行远势困,则返击之,必得其利,无伏即以精兵捣之可也。若大军未可出塞,且留营北平。”四月初一,明太祖又命令都督府挑选骑兵赶赴北平,随同大将军徐达出征。
四月十五日,大将军徐达正式统领官兵出塞,讨伐北元之兵。右副将军傅友德为前锋,率军进抵黄河北,北元骑兵惊恐万分,仓皇逃走。傅友德选派轻骑乘夜袭击灰山,将其一举攻克,擒其平章别里不花、太史文通等,并俘获大批人口、牲畜。同时,徐达部将西平侯沐英率兵出古北口,独当一面,攻略公主山长寨,歼其守军。接着,他率部连克全宁等蒙古四部,经过驴驹河时,又生擒北元枢密知院李宣,俘虏敌众一千余人。同年八月二十九日,徐达等奉诏班师回到京城,为他生平的最后一次出征行动画上了一个圆满的句号。
自洪武十四年(1381年)九月至洪武十七年(1384年)闰十月,徐达在三年多的时间里,又先后三次奉诏挂“征虏大将军”印,离京出镇北平,为维护明朝北部边塞的安宁、确保沿边地区广大人民群众生命和财产的安全等,贡献出了自己的最后一点光和热。
洪武十四年(1381年)九月初一,从塞外班师回到京城、仅歇息了一个晚上的徐达,又被明太祖派出镇守北平,而且被赋予调遣、管束当地所有军民的特权。洪武十五年(1382年)十月二十九日,徐达奉诏返回京师。这次出镇,前后历时十五个月。
洪武十六年(1383年)正月十四日,徐达又奉诏往镇北平,全面负责巡抚北边、训练士卒等项事宜。同年十月初八,明太祖派使者至北平,将徐达召回了京师。本次出镇,为时将近九个月。
徐达生平最后一次奉诏镇守北平是在洪武十七年(1384年)正月二十日至闰十月初一为时九个多月。期间,徐达曾于十月初八上奏朝廷,向明太祖报告北平诸卫将校士卒之数,称北平其有17卫,合计将士l55471人。据说,后来由于“太阴”屡犯“上将”,天象异常,明太祖担心徐达发生意外,遂下诏将他召回了京城。
自元至正十三年投奔朱元璋所部红巾军以后,徐达或拼杀沙场,身冒矢石,或出镇北塞,历经雨雪风霜,数十年如一日,为开辟大明江山、稳固新生的明朝政权呕心沥血,就在奉诏回京的洪武十七年(1384年)冬天,徐达终于积劳成疾,竟致卧病不起。
据史籍记载,当徐达疮疾缠身、久治不愈时,明太祖心急如焚,唯恐失去他这位开国元勋、不可多得的大将。为了能使徐达早日康复,明太祖不但遣使“四召名医治之”,而且特地在洪武十七年(1384年)十二月举行祭礼,祷告山川、城隍之神,乞求神灵保佑徐达痊愈。洪武十八年(1385年)正月十六日,明太祖得知徐达“病疮而愈”,很是高兴,还特意派遣徐达的长子徐辉祖持其玺书前去慰问徐达。
不料,徐达已见好转的病情后来又突然恶化。洪武十八年(1385年)二月二十七日,徐达因病去世,终年54岁。明太祖闻讯后,“袒跣奔(徐)达寝,抚尸而恸”,旋即为之“辍朝”,以表示对徐达的哀悼。同时,明太祖又厚加“恤赙”,下诏追封徐达为“中山王”,予谥“武宁”,赐葬于钟山之阴,并命诸王遣官祭拜,令有司塑其像于功臣庙,每年依时按节祭祀徐达。