《绿岛小夜曲》歌曲诞生于1954年仲夏夜，作词者潘英杰和作曲者周蓝萍两人一起到台湾，进入“中广”电台工作，当年创作《绿岛小夜曲》的缘由很简单。1954年盛夏某夜，他们在单身宿舍聊天，谈到外国有许多脍炙人口的小夜曲，但华人尚缺。喜爱文学的潘英杰建议以“抒情优美取胜”的小夜曲来创作一首流行歌，得到周蓝萍的和声。
潘英杰趁着灵感，以一个晚上的时间，综合了他对台湾的印象以及对爱情的感受，写出歌词。潘英杰说，他当年一到台北，看到高大的椰子树，觉得很新鲜。此外，他觉得台湾是个绿油油的岛屿，因此歌词中的“绿岛”指的就是台湾，并不是指“火烧岛”。
第二天潘英杰就把交给周蓝萍，正处热恋的周蓝萍看了相当满意，有深获我意之感，在爱情甜如蜜的企盼下，立刻谱成《绿岛小夜曲》。这是一首以“绿意盎然”的台湾景观为背景，描写恋爱中男女的患得患失、起伏不定的心情，并交由紫薇（本名胡以衡）在中广录音室灌录。歌曲首先在“中广”白茜如主持的综合节目中由紫薇主唱，一唱而红，至今流行不衰。
《绿岛小夜曲》原本要用在一部电影中，但是没有成功，想不到菲律宾的万国唱片看上这首歌，把它灌成唱片后引介到菲律宾，立刻在当地十分风行起来，甚至还流传到马来亚（当时马来西亚还没有成立）、印尼一带。马来亚的报纸还绘影绘形地描述，说这首歌原来是一名争风吃醋的*人犯在狱中写给女友的一封情书，情意感人。在那个资讯不发达的年代，这首充满“凄美”故事的流行歌曲，博得了许多人的同情，而且广为流传，大家都以为这个故事是真的。
1958年，台湾的凤鸣唱片发现这首悦耳动听的歌曲，居然是台湾创作的，于是取得紫薇当年在“中广”的录音在台湾发行，歌迷才初次接触到这首歌曲。1961年，四海唱片重新灌录此曲，仍由紫薇演唱，配合广播的播送，很快就在大街小巷流行起来。大人小孩都会唱，各学校社团也纷纷采用此曲当做演唱的曲目。
