由“衙门“派生出许多词。如“衙役“，指衙门里的差役；“衙内“，指衙门里的警卫官，因多为官吏之子弟充任，所以称官吏之子弟为“衙内“，如《水浒传》里陷害林冲的高衙内。
当然，有这么多一说，就是“衙门”来源于“牙门”一说，具体是这样的：
古代当官的为了突出自己的地位，也是起到震慑老百姓的作用，就把有爪牙的猛兽雕塑摆在办公地点的门口两侧，同时重兵把守，以此来显示自己至高无上的权利。久而久之大家把这样的官府称作“牙门”，因此“牙门”也就成了当地府衙的代名词。
其实，“牙门”系古代军事用语，是军旅营门的别称。当时战事频繁，王者打天下，守江山，完全凭借武力，因此特别器重军事将领。军事长官们以此为荣，往往将猛兽的爪、牙置于办公处。后来嫌麻烦，就在军营门外以木头刻画成大型兽牙作饰，营中还出现了旗杆端饰有兽牙、边缘剪裁成齿形的牙旗。于是，营门也被形象地称作“牙门”。
这一名称后来逐渐移用于官府。
最后，让我们看看衙字的甲骨文本意吧。
衙字的本意应该是进行中的部队行列。
最后多说几句关于县衙的编制问题。
在古代，一个县一般配置县令（知县）一名，相当于现在的县委*兼县长，是主管一县事务的一把手。县丞一名，相当于现在的副*兼副县长，一县的二把手，县尉一名相当于现在的县政法委*兼公安局长，是主管一县捕盗、治安等刑事、司法事务的官员，品级一般略小于县丞，一县的第三把手。以上三位称官，再往下就所谓不入流，只能称吏了。正常来讲一个县只有一个官衙，一名县令两名副手，加上几十名吏员、衙役就要管理一县几十万人口的。
