洪武二十七年，徐辉祖奉命前往浙江训练沿海士卒，以防备倭寇的连年入侵，并于次年率兵征讨西番。
当时朱元璋已经在大肆诛*功臣，傅友德、冯胜、王弼等老将逐渐从朝堂上消失，此时的徐辉祖，已经成为了大明朝举足轻重的军方人物。
洪武三十一年，朱元璋驾崩，皇太孙朱允炆即位，改元建文，是为建文帝。建文帝登基后，对徐辉祖颇为尊重，不仅加封徐辉祖为太子太傅，很多军事上的意见他也会主动咨询徐辉祖。
洪武三十一年八月，朱允炆在朱元璋去世尚不足三个月时，就听信齐泰、黄子澄之言开始削藩，一年之内，五位藩王被削，接下来，朱允炆开始对付他的四叔朱棣。而当时，朱棣也被朱允炆的削藩政策所逼，悄悄囤积粮草，准备起兵。
建文元年四月，正值朱元璋一周年忌日，朱棣表面上还没有和朱允炆撕破脸，他只是装病无法赶来，但为了麻痹朱允炆，朱棣还是派自己的三个儿子前往南京代祭。《明史纪事本末》记载：
夏四月，太祖小祥，燕王遣世子及其弟高煦、高燧入临……初，世子入京，燕王大忧悔。
意思是，朱棣派朱高炽、朱高煦、朱高燧前往南京，可是，当朱高炽三兄弟到南京后，朱棣便后悔了，因为他怕自己仅有的三个儿子被朱允炆扣下当作人质，如果这样，朱棣投鼠忌器，大事难成。
巧合的是，当时的南京城，齐泰也在劝朱允炆扣留朱高炽三兄弟。朱允炆犹豫不决，这时，徐辉祖给出了建议。《明史纪事本末》记载：
世子兄弟，皆魏国公徐辉祖甥。辉祖察高煦有异志，密奏曰：“三甥中，独高煦勇悍无赖，非但不忠，且叛父，他日必为大患。”帝以问辉祖弟增寿及驸马王宁，皆庇之，乃悉遣归国。
意思是，朱高炽三兄弟都是徐辉祖的外甥，朱允炆问徐辉祖的意见，徐辉祖说：“三个外甥中，朱高煦悍勇无赖，不仅不忠于陛下，还背叛他的父亲。此人若不除，将来必为大患！”
有人认为，徐辉祖从一开始就知道朱棣有谋反的心思，笔者认为这是诛心之言。从徐辉祖的这段话可以看出，他虽然知道朝廷在对付朱棣，但他仍是站在朱允炆的立场上的。
换句话说，徐辉祖首先是大明朝第二代魏国公，其次才是朱棣的小舅子。
可是，朱允炆却没有听信徐辉祖的建议，他又问徐辉祖的弟弟徐增寿，徐增寿向来和朱棣关系密切，他当然替三位外甥说话。就这样，朱允炆错过了牵制朱棣的最好时机。
一年后，当朱高煦带领燕军大*四方时，朱允炆感叹说：“吾悔不用辉祖之言！”
事实证明，朱允炆不仅后悔没*朱高煦，他后悔的事情还有很多……
三、郎舅战场见兵刀，魏公血战难回天建文元年七月，朱棣*掉北平布政使张昺、北平都指挥使谢贵，三天之内，控制了整个北平城。朱允炆得知朱棣已反，率领文武百官亲赴太庙，宣布将朱棣废为庶人，而后派老将耿炳文为帅，率军25万北上平叛。
可惜，耿炳文擅守不擅攻，在真定一战，耿炳文损失3万人马，虽然勉强稳住了局面，但已失去了先机。
