陈桥兵变，黄袍加身赵普等兵将拥立宋太祖赵匡胤开国立业建立了大宋，而后又跟从太祖出兵平叛，平定割据势力。宋太祖论功行赏，把赵普封为了宋朝的开国宰相，一次宋太祖想改变原有的年号就让宰相赵普换一个历史上从来没有人用过年号，赵普就提议用乾德这两个字来作为大宋的年号，乾德元年太祖灭掉了后蜀，后蜀有宫女被选送进了宫中，一次太祖在一宫女的镜匣中发现一个旧的铜镜，铜镜背面刻有“乾德四年铸”的字样。他大为惊奇，就拿到朝堂之上给宰相和百官确认是何朝之物，宰相赵普等人都答不上，于是，又召见的学士陶谷，和窦仪询问此事，窦仪说：“此镜一定是后蜀的之物，过去后蜀主王衍曾用过乾德这个年号，铜镜应是就那时候铸造的。”宋太祖听了若有所悟，并由此感慨道：“宰相必须用读书人来当。
赵普早年曾被刘词辟为从事，后来担任赵匡胤的掌*。显德七年(960年)，与赵匡胤发动陈桥兵变，推翻后周，建立宋朝。赵谱一直在军中当幕僚，跟随自己东征西讨，没有安心好好的读过书，因此太祖经常劝他认真多读一些书。 赵普听从了宋太祖的劝告，每日回家，就紧闭书房的门打开书箱，取出书来进行认真的阅读，据说第二天上朝之后，他处于国家之事，井井有条，又快又好。 宋太祖死后，他的弟弟赵匡义继位，史称宋太宗。赵普仍然担任宰相。有一次宋太宗和赵普闲聊，宋太宗随便问道：“有人说你只读一部《论语》，这是真的吗？”赵普老老实实地回答说：“臣所知道的，确实不超出《论语》这部书。过去臣以半部《论语》辅助太祖平定天下，现在臣用半部《论语》辅助陛下，便天下太平。
后来赵普因为年老体衰病逝，赵普去世之后，家中打开了他生前的书箱，在里面发现了只有一部《论语》这件事很快就在人群中传了开来，有人就夸赞地说：“赵普是依靠这半部《论语》治理天下的。
