完成了这个艰难的任务之后，李密也彻底得到了翟让的信任。等到李密归来之后，李密再次对翟让建议，要趁着大家现在士气正旺，赶紧去攻打荥阳。打下了荥阳，不但可以解决起义军的粮草问题，还能拥有一座城防坚固的城池，建立属于自己的根据地。
此时的翟让，对李密已是言听计从，当即听从了李密的安排。随着翟让一声令下，瓦岗军和其他前来依附的农民军，很快席卷荥阳周围的广大地区，几乎将荥阳围成了一座孤城。
瓦岗军一路势如破竹，虽然让瓦岗军迅速壮大起来，但同时也引来了隋朝主力军队的注意。瓦岗军之前也成立了好几年的时间，但在李密到来之前，瓦岗军达到万余人的规模后，却不敢再继续壮大，就是因为怕隋朝的主力前来围剿他们。瓦岗军的力量虽然不弱，但如果对上隋朝精锐的话，还是不够看的。而这次瓦岗军大举进攻荥阳，如此大的行动，自然也引来了隋军主力的进攻。
当时负责进攻瓦岗军的，是号称隋末第一猛将的张须陀。
这个张须陀，在隋朝历史上是一个特别能打的将领。演义小说里面那位‘靠山王杨林’，就是以他为原型塑造的。对于张须陀，瓦岗军可以说是非常惧怕。因为双方之前曾交锋过数次，每次瓦岗军都被张须陀打得溃不成军，好不容易才没有被彻底打散。
然而对于这位隋末第一猛将，李密却一点都不怕。在李密的布置下，瓦岗军围攻荥阳，守城的张须陀，率军出城迎击。一番交战之后，瓦岗军大败，作为瓦岗军首领的翟让，开始亲自做诱饵，引诱张须陀追击。张须陀不知是计，见到翟让之后，亲自率领手下亲卫，前去追击翟让。结果追到城外的树林当中，就落入了李密早已组织好的包围圈里。等到张须陀到来之后，李密指挥大家，一拥而上，直接干掉了这位隋末第一猛将。
荥阳一战，不管是对瓦岗军还是对李密个人而言，都具有着极为深远的意义。对于瓦岗军来说，干掉了张须陀，以后大半个河南地区，都再没有能够阻挡他们的力量了。而对于李密来说，这一战也让他的个人声望，达到了一个顶点。在起义军内部，这一战之后，李密的声望已经丝毫不逊色于翟让了。
在这一战之后，李密一边带着瓦岗军，继续扩张势力范围。同时，李密也开始培植自己的势力，打算夺取翟让的位置。在这个过程当中，李密招揽到了不少厉害的人物。比如大名鼎鼎的秦琼，原本是隋军官员，后来因为上司投靠了李密，自己也跟着加入了瓦岗军，后来成了李密麾下的得力战将。再比如另一位大名鼎鼎的程咬金，原本是他家乡组织的自卫队的队长，在李密的招揽下，也加入到了瓦岗军，成了李密手下的一员悍将。
此后，李密又向翟让提议，去攻占洛口仓。洛口仓是隋朝最大的粮仓之一，藏了海量的粮食。在乱世当中，拥有粮食就能拥有一切。在李密的指挥下，瓦岗军很快拿下了洛口仓，而后直接开仓放粮，让老百姓随意来取粮食。在这个过程当中，瓦岗军以洛口仓的粮食为资本，大幅招募灾民，扩充军队。这一役之后，瓦岗军由原本的几万人，瞬间膨胀到拥兵十余万，占据大半个河南的地步。
此时的瓦岗军，已经一跃成为隋朝最强的农民军势力，甚至可以说，是当时中原大地上最强的割据势力之一。
在瓦岗军迅速膨胀的时候，李密的个人势力，也开始迅速膨胀，甚至已经远远超过了翟让。面对自己下属的膨胀，翟让虽然心有不甘，但却十分识趣。翟让知道，自己的能力，远不如李密，如今麾下的力量也远不如李密。所以，翟让干脆直接让出了瓦岗军首领的位置，让李密做了瓦岗军的领袖。
