淳化元年,赵普上疏辞官,太宗不许。经赵普再三恳请,太宗才让他到西京任职,仍任太保兼中书令。原来,太宗起用赵普是为了吕蒙正,赵普也渐渐觉察出上面的意思,就不想久任。又因为太宗听信赵普的建议,派李继捧去夏州招抚弟弟李继迁,他反而与弟弟李继迁同谋,成为边患,当时有很多人指责赵普放虎归山。赵普心里非常内疚,就称病辞官。太宗让他留守西京,赵普又再三推辞。太宗就赐下手谕说:“开国元勋只剩下你一个人了,其他人不能担此重任,你就不要再三推托了。况且起程的日子也到了,朕自当为卿送行。”赵普手捧圣谕痛哭流涕,立即入朝辞行。赵普起程的时候,太宗亲自到他府上,与他握手道别。淳化二年春,赵普又以年老多病为由,奉表上京,希望能告老还乡,以享天年。太宗派人前去抚慰,任赵普为太师,封为魏国公,还说等他病体康复之后,再来相见。赵普感激涕零,便准备励精图治,报效皇恩。无奈身体还可以支撑,冤孽偏偏前来纠缠。赵普每晚都会做噩梦,常常喊叫太后娘娘或是秦王殿下,有时愤愤不平,有时哀哀乞怜。左右将他叫醒,他就讳莫如深,不肯说个明白。等到朦胧睡去,又是呓语不断。赵普的精神一天天地恍惚起来,吃的也少了,以致最后卧病不起。每天只要一闭上眼睛,就看见秦王赵廷美在身旁坐着,向他索命。他无计可施,只得天天祈祷,可惜祷告无效,病情越来越重,只好解下平日里佩戴的双鱼犀带,派亲信去帮他占卜。
道士焚香烧纸,为他请来笔仙,只见那毡笔写道:“赵普是开国元勋,无奈冤孽太深,不能躲避。”道士又问:“冤孽是谁?”毡笔又画了一个大牌子,牌子上零乱地写着一些字,大多不能识别,只是牌末有一个“火”字。道士不能解释,就转告来人,让他回去告诉赵普。赵普听了,叹息说:“肯定是秦王赵廷美。但他与卢多逊勾结,事情败露才招此横祸,要怪也怪他咎由自取,关我什么事呢?”说完,声泪俱下,当晚便与世长辞了,享年七十一岁。讣告送到朝廷,太宗很是悲痛,对身边的大臣们说:“赵普一心辅佐先帝,与朕也是故交,自从朕继位以后,他一直为朕效忠,也算得上是一个社稷功臣。现在忽然听说他辞世,朕真是痛心!”于是,太宗罢朝五日,以表哀痛,追封赵普为真定王,赐谥号忠献。太宗还亲自撰写了墓志铭。