语言是由符号和声音组成的系统，语言的最大单位是句子，语素是语言最小的单位，处于中间的单位还有词汇、词组、分句和句子。语法是词汇的法则(包含词素、词汇和词组的法则）和句子的法则(包含分句和整句的法则)的总称，对语法的研究就是研究各个语法单位的特点以及各个单位之间的关系。
语素是语言最小的单位，它是最小的能表达含义的语言单位，包含自由词素和黏着词素。自由词素是指本身具有完整意义并能作为简单词使用的词素，例如Boy，girl，desk，free，kind，take，give等。自由词素也可以作为词根加上黏着词素，如词缀，构成复合词，例如freedom，kindness，kindly等。黏着词素包含词缀和组合形式两种，词缀又包含派生词缀和曲折词缀，派生词缀即前缀、后缀。曲折词缀如动词的ing，ed，名词的’s，es，s，比较级最高级的er和est。组合形式看起来也像词缀，但是它既可以做词缀使用，如ceive，duct，dict，lingua，也可以与单词结合构成合成词，如arch，mini，mal，multi等，还有一些互相之间可以结合形成一些新古典复合词，如bio logy=biology，micro phone=microphone，tele scope=telescope，它们大多来源于希腊文、拉丁文等外来词。
词汇是一个语素或者多个语素组成的能够表达特定含义和概念的符号。根据不同的维度可以将词汇划分成为不同的类型，如根据构词法，可以将其划分为简单词、派生词和复合词。根据语法功能又可将其划分为封闭词类和开放词类，封闭词类主要指各种虚词，如介词、代词、限定词、连词和助动词，它们没有完整的词汇意义，但是有语法含义，数目有限，比较稳定，很少发生变化，不能增生。开放词类主要是指各种实义词，如名词、副词、形容词和主动词，这类词中新词不断出现，旧词不断消亡或者获得新的含义。
词组是由一个或者一个以上的词构成的语法单位，词组是按照一定语法规则围绕一定中心词(Head或者Headword)结合起来的一组词。中心词所属词类决定着词组内部的结合方式，也决定着词组的类别，如名词词组(Noun Phrase)，动词词组(Verb Phrase)，形容词词组(Adjective Phrase)，副词词组(Adverb Phrase)，介词词组(Preposition Phrase)。
分句是指从属于其它结构的句子（实际上语法书上划分的很复杂），不能够单独存在或者能够单独存在但表意不清的句子，主要划分为限定分句，即拥有完整主谓结构的分句，从功能角度也可以将限定分句划分为状语从句、定语从句、同位语从句、主语从句、宾语从句和表语从句。从性质的角度也可以将限制性从句划分为名词从句、副词从句和形容词性从句。非限定分句，即非谓语动词分句（不定式、现在分词、过去分词）和无动词分句，它们在句中多作为状语，对主句意义进行补充和限定。
句子是最高一级的语言单位，也是人们表达思想进行交际的基本单位，它具有两个特征，一是能够单独使用，二是能够表意完整，（在我们严格区分分句和句子时，句子还必须是结构完整的，但这一点在实际运用当中，结构不完整但是表意清晰的分句、词组、词汇也被视为句子）。比较常见的句子种类划分即简单句、并列句和复合句，在做语法分析时，它们必须具有完整的主谓结构。
