歇后语最早出现“歇后”这一名称是在唐代。《旧唐书.郑綮列传》中就已提到过所谓“郑五歇后体”（一种“歇后”体诗）。但它作为一种语言形式和语言现象，却远在先秦时期就已经出现了。如《战国策.楚策四》：“亡羊补牢，未为迟也。”意思就是说,丢失了羊再去修补羊圈，还不算太晚，这就是我们今天所看到的歇后语。
歇后语这种语言形式的运用开始于先秦时期，然后经由长时间发展之后于唐朝时期出现“歇后”一词。
所谓“歇后语”，它作为一种特殊语言形式，可以说是与人的日常生活息息相关。它通常都分为前后两部分，其中前半句相当于“引子”，后半句则为“后衬”。
一般情况下，在仅仅只是说出歇后语前半部分而未说出后半部分时他人便可意会到它的本意，所以称之为“歇后语”。
