唐太宗连连点头说：“你说得多好啊！”又有一天，唐太宗读完隋炀帝的文集，跟左右大臣说：“我看隋炀帝这个人，学问渊博，也懂得尧、舜好，桀、纣不好，为什么干出事来这么荒唐？”
魏征接口说：“一个皇帝光靠聪明渊博不行，还应该虚心倾听臣子的意见。隋炀帝自以为才高，骄傲自信，说的是尧舜的话，*是桀纣的事，到后来糊里糊涂，就自取灭亡了。”
敢于犯颜直谏的大臣皇甫德参给唐太宗写了一份意见书，上面批评了三件事：“修洛阳宫是劳民伤财；收地租是加重百姓负担；民间女子梳高髻的时髦习俗，是受了皇宫嫔妃的习染。希望陛下能够采取措施，制止和改变这种现象。”
唐太宗接到上书后很不悦：“皇甫德参的用意是不让国家使用一个劳役，不让收一粒粮食的租税，不让宫中的人留头发！”并打算对皇甫德参严加处罚。
魏征看穿太宗的心思，上前劝道：“自古以来，凡是上书的人，大多数都言词激烈，切中要害，不这样就不能打动皇帝的心。言词激烈，看起来好像是诽谤，其实用心是善良的。即使是狂夫之言，有德行的皇帝也不能置之不理，应当听一听，取它正确的一面，抛弃不正确的一面。”
魏征的话使太宗心服口服，他检讨了自己的错误看法，不但没有处分皇甫德参，反而还重重赏赐了他。
一天，唐太宗得到一只雄健俊逸的鹞子，他让鹞子在自己的手臂上跳来跳去，赏玩得高兴时，魏征进来了。
太宗怕魏征提意见，回避不及，赶紧把鹞子藏到怀里。这一切早被魏征看到，他禀报公事时故意喋喋不休，拖延时间。太宗不敢拿出鹞子，结果鹞子被憋死在怀里。
有一次，魏征在上朝的时候，跟唐太宗争得面红耳赤。唐太宗实在听不下去，想要发作，又怕在大臣面前丢了自己接受意见的好名声，只好勉强忍住。
退朝以后，他憋了一肚子气回到内宫，见了他的妻子长孙皇后，气冲冲地说：“总有一天，我要*死这个乡巴佬！”长孙皇后很少见太宗发那么大的火，问他说：“不知道陛下想*哪一个？”
唐太宗说：“还不是那个魏征，他总是当着大家的面侮辱我，叫我实在忍受不了！”长孙皇后听了，一声不吭，回到自己的内室，换了一套朝见的礼服，向太宗下拜。唐太宗惊奇地问道：“你这是干什么？”
长孙皇后说：“我听说英明的天子才有正直的大臣，现在魏征这样正直，正说明陛下的英明，我怎么能不向陛下祝贺呢！”这一番话就像一盆清凉的水，把太宗满腔怒火浇熄了。
为了维护和巩固李唐王朝的封建统治，魏征曾先后陈谏200多事，劝戒太宗以历史的教训为鉴，励精图治，任贤纳谏，本着清静无为、推行“王道”政治、“仁义”行事，无不受到采纳。
贞观十三年(639年)所上《十渐不克终疏》，在当时和后世都有重要影响。
魏征著有《隋书》序论，《梁书》、《陈书》、《齐书》的总论等。其言论多见《贞观政要》。其中最著名，并流传下来的谏文表有《谏太宗十思疏》。
他的重要言论大都收录《魏郑公谏录》和《贞观政要》两本书里。
魏征去世后，李世民命阎立本画二十四功臣像置入凌烟阁，魏徵位列第四。
不久之后，侯君集以谋反罪被处死，杜正伦被罢免，魏征曾经向李世民推荐这两人，说他们有宰相之才，李世民开始怀疑魏征是不是侯君集一党的。于是手诏取消衡山公主（后来被封为新城公主）与魏征长子魏叔玉的婚约，并推倒了魏征的墓碑。
贞观十九年（645年），李世民亲征高句丽，因为损失惨重，没灭了高句丽而后悔，不禁慨然叹息说：“魏徵若在，不使我有是行也。“于是立命驰驿以少牢之礼祭祀魏征，又重立墓碑。
