李密筑洛口城，周围四十里，作为魏国的都城。隋大将裴仁基率兵降李密，密使仁基与孟让率兵三万余人袭破回洛仓（河南洛阳隋故城北七里），入东都，烧天津桥，为东都兵所败。李密乃亲自率兵三万，再次攻下回洛仓，大修营堑以逼东都。李密又用徐世勣建议，派世勣率兵五千自原武渡河，会郝孝德、李文相等军袭破黎阳仓（今河南浚县西南），“开仓恣民就食，浃旬间，得胜兵二十余万”。这时窦建德、朱粲等也遣使附密，“密为海内豪杰共推盟主”。
在这一形势下，李密移檄四方，声讨隋炀帝十大罪状，如云：“广立池台，多营宫观，穷生人之筋力，罄天下之资财；”“科税繁猥，不知纪极，头会箕敛，逆折十年之租，杼轴其空，日损千金之费；”“年年历览，处处登临，家苦纳秸之勤，人阻来苏之望；”“恃众怙力，强兵黩武，义夫切齿，壮扼腕；”“愎谏违卜，蠹贤嫉能，直士正人，皆由屠害，遂令君子结舌，贤人缄口。”总之是“罄南山之竹，书罪无穷；决东海之波，流恶难尽。”号召各地起义军同心戮力，推翻隋朝的统治。
正当李密兵锋甚锐，威逼东都的时候，隋炀帝命监门将军庞玉、虎贲郎将霍世军将关内兵，江都通守王世充将江淮劲卒，增援东都。东都驻军十余万人都由王世充指挥，进击李密于洛口，与密军夹洛水互击，各有胜败。由于李密的势力日益强大，他和翟让之间的矛盾也逐渐激化起来。李密虽为翟让所推，但也心存戒备，平日“恭俭自励，布衣蔬食，所居之室，积书而已。子女珍玩，一无所取。密又仪形吵小，让弗之忌”。及密建蒲山公营，“麾下士卒多为让士卒所陵辱，以威约有素，不敢报也”。
李密既为魏公，威权日高。翟让的司马王儒信劝他自己作冢宰，执掌大权，翟让不从。兄翟弘又说：“天子汝当自为，奈何与人！汝不为者，我当为之。”翟让大笑，不以为意。李密得知后却很不高兴。翟让又对左长史房彦藻说：“君前破汝南，大得宝货，独与魏公，全不与我。魏公我之所立，事未可知！”这就不免引起李密左右的疑惧，他们劝李密说：“让贪愎不仁，有无君之心，宜早图之！”李密虽然表示：“今安危未定，遽相诛*，何以示远！”但经不起他们的一再怂恿，终于同意采取行动。
大业十三年十一月，在石子河击败王世充之后，李密置酒宴请翟让。席间房彦藻将翟让随从引开，密出良弓，请翟让试射。翟让刚刚拉开弓弦，李密部将蔡建德突然举刀从后面砍*翟让。翟让大吼一声，倒了下去。让兄弘、侄摩侯、亲信王儒信等同时被*。徐世勣仓皇走出，被守门的兵士砍伤了脖子。单雄信叩头求活。其余随从人员一时惊扰，不知所措。李密大声说：“与君等同起义兵，本除暴乱。司徒专行暴虐，陵辱群僚，无复上下，今所诛止其一家，诸君无预也。”翟让部众都想散去，李密使单雄信前往宣慰，又单骑入营中加以安抚。令徐世勣、单雄信、王伯当分领其众。这样，混乱的形势虽得稳定，“然密之将佐始有自疑之心矣”。
翟让被害之后，王世充募兵飨士，欲乘月晦偷袭仓城。李密事先从王世充降卒口中，探知敌情，有所准备，命郝孝德、王伯当等分兵屯于仓城之侧以待之。那天夜里王世充兵果然来了，诸军齐发，王世充大败，斩其骁将费青奴，士卒战溺死者千余人。世充移营洛北，越王侗加拨七万兵给他。王世充又命诸军各造浮桥，渡洛水进攻李密。密初战不利，世充进迫城下。李密选锐卒数百人，分三队出击。王世充又被打败，争桥溺死者万余人，诸将杨威、王辩、霍世举、刘长恭等皆死于阵。
世充逃往河阳。李密乘胜取偃师（今河南偃师县东），修金镛城（今洛阳东北）以居之。窦建德、朱粲、孟海公、徐圆朗等都奉表劝进，部属裴仁基等也劝李密称皇帝。李密说：“东都未平，不可议此。”
大业十四年（618）三月，隋右屯卫将军宇文化及在江都发动兵变，*死隋炀帝，引兵十余万西进，因李密占据巩、洛，便取东郡（大业初改兖州为东郡），攻黎阳。李密率步骑二万壁于清淇（今河南浚县西），命徐世勣退保仓城，宇文化及攻之不能下。密知化及少食，利在速战，既不与交锋，又断其归路。假意言和，还送给他粮食，化及大喜，恣其兵食。后知中计，化及与李密大战于卫州童山（即同山，在今河南浚县西南）下，打了一整天，密中流矢，堕马闷绝，左右奔散，赖秦叔宝捍卫，得免于难。叔宝复收兵与化及力战，把他打退了。化及力竭粮尽，部将陈智略、张章仁等“率所部兵归于密者前后相继”。化及北走魏县（今河北大名西南）。
当宇文化及由江都北上的时候，东都君巨大为震惧，越王侗遣使“说李密与之合势拒化及”，封李密为太尉、尚书令、东南道大行台行军元帅、魏国公，令先平化及，然后入朝辅政。李密为解除后顾之忧，接受了东都的封号，因得奋力击败化及。李密将要入朝，行至温县，得知东都已发生兵变，王世充夺取大权，原来主张联合李密的大臣元文都、卢楚等被*，因此返回金镛。
李密见东都兵屡被击败，将相间又自相残*，以为东都旦夕可平。不料王世充掌权之后，厚赏将士，缮治器械，积极准备进攻李密。这时李密虽破宇文化及，而“劲卒良马多死，士卒疲病”。武德元年九月，王世充简练精锐两万余人，马二千匹，出击李密。李密留王伯当守金镛，亲率精兵出偃师迎敌。当时密车内部对于作战方案意见不一，裴仁基主张扼守要路，阻止世充东进，同时分兵三万，乘虚以逼东都，迫使敌军回救。彼救则我守，彼攻则我逼，如此反复，使之疲于奔命，一定可操胜算。李密也认为东都兵锐不可当，“我但乘城固守，蓄力以待之；彼欲斗不得，求走无路，不过十日，世充之头可致麾下”。但是单雄信、陈智略等却轻视王世充兵力，力主迎战。李密“惑于众议”，于是双方展开决战。第一天接战时，就遭到失利，裴行俨、程咬金等骁将十余人都受重伤。李密又恃傲轻敌，不设壁垒，敌军乘夜潜伏溪谷中。第二天正当激战时，王世充把事先准备好一个形貌类似李密的人，牵过阵前，大呼“已获李密矣”！敌军士气倍增，伏兵又乘高而下，奔向密营，纵火焚其庐舍。
密军大溃，部将张童仁、陈智略皆降；密与万余人弛向洛口。守卫洛口仓的邴元真暗引王世充军入城，单雄信坐视不救，投降王世充。李密直奔虎牢，将往黎阳依徐世勣。有人说：“*翟让之际，徐世勣几至于死，今疮犹未复，其心安可保乎！”时王伯当弃金镛，保河阳（今河南孟县南），李密便往河阳会王伯当。他对王伯当说：“兵败矣，久苦诸君，我今身刎，请以谢众。”伯当抱密，号叫恸绝，部众都流泪不止。于是李密提议“共归关中”，投奔唐朝。随从李密入关的还有两万人。
