自从跟随李世民后，秦琼充分发挥了自己的军事特长与忠勇之气，每战必先，常于万军之中取敌将首级，深受李世民的倚重。武德九年（626年），秦琼参与玄武门之变，事后被封为左武卫大将军。但是，秦琼晚年因历次作战负伤太多而疾病缠身，一直处于半退状态。贞观十二年（638年），在任徐州都督时去世，谥号：壮，陪葬昭陵。贞观十三年（639年），秦琼被追封为胡国公。
但是，由于秦琼出身低微，其先祖史无记载，身世一直成谜。传奇小说《隋史遗文》中杜撰其父亲为秦彝，为北齐老太宰秦旭之子，手中一条虎头錾金枪，秦家瓦面金装锏天下闻名。后靠山王杨林兵发北齐，死守马鸣关，最终因为奸臣卖国，开门投降，引兵入城，秦彝死命抵抗，部队十不存一，战死疆场。其祖父为秦旭北齐太宰，后自*而死。
而《隋唐演义》称秦琼“乃祖是北齐领军大将秦旭，父是北齐武卫大将军秦彝”。另外，历城县志等地方志误载秦家世代冶铁，出身寒微，俗谓“冶铁秦家”。这些相互矛盾的戏说，实不足信。
其实，这种演义是史无可考的，直到1995年，山东济南一个村民在施工时，发掘了一处隋唐墓葬，墓室中一块墓志铭的发现，秦琼的身世之谜才得以解开。墓主人名叫秦爱，秦爱的墓志铭记载了许多重大的历史信息。
