中国人吃粽子最早纪念的名人也不是屈原，据称早在屈原出生之前，中国先民们就已经开始在为了纪念春秋时代名士介子推而形成民间节俗的“寒食节”(清明前一天)那一天吃粽子了（至今许多地方仍通行清明前一天与清明食粽的民间风俗）。
至于后世所说的端午食粽是祭屈原，不过是后人附会而形成的，仅反映民众的心愿而已。
最初“粽”属于“籺”的一种，而籺则是人们在逢年过节时用来拜神祭祖的贡品。籺有很多品种，不同的节日会做不同的籺，“粽籺”不过是其中的一种。
早在先秦时期诞生的《礼记》中，便提到了一种名叫“苞苴”的物品。所谓“苞苴”，便是用植物将食品包裹起来，并将其作为礼物馈赠给朋友，可以看做是最早的“粽类食品”。
春秋时期，中国大地上出现了粽子的直接前身，当时的人们用菰叶（茭白叶）把黍米（糜子米）包裹成牛角状，然后蒸熟或煮熟后祭祀祖先和神灵，因其外形像牛角，因此称为“角黍”。
除了用菰叶（茭白叶）包裹黍米外，人们还会将米放入竹筒内密封烤熟，称其为“筒粽”。
竹筒里面的粽子
汉代时，人们以草木灰水（水中含“碱”）浸泡黍米，然后用菰叶包黍米成四角形，煮熟后食用，这已经与后世的粽子外形差别不大了（它的嫡系后代，就是如今的碱水粽子）。在汉代许慎的《说文解字》中，也已经将“糉”（粽）解释为“芦叶裹米也”。
而到了晋代，粽子更是变成了端午节的节庆食物，西晋新平太守周处所写的《风士记》中就有记载：“仲夏端五，方伯协极。享用角黍（粽子），龟鳞顺德。”
此时的粽子已经发展十分成熟了，出现了一些裹馅粽子，其做粽子的原料除糯米外，还会添入中药益智仁，人们将这种馅的粽子称“益智粽”。此外，人们还会在糯米中掺入珍禽肉、肉（比如猪肉粽）、板栗等，粽子的品种大增，而因其味道好，模样好看，粽子还成了当时朋友间相赠的礼品。
唐代时，人们形容粽子的用米“白莹如玉”，粽子的形状也出现了锥形、菱形等不同的形状，派遣唐使来唐的日本人在自己的文献中也记录了粽子，称其为“大唐粽子”。
