最小的语法单位是语素。
语素是最小的语音、语义结体，是最小的有意义的语言单位。语素不是独立运用的语言单位，它的主要功能是作为构成词语的材料。说它是语音、语义结合体，有意义的语言单位，目的是把它跟音节区分开来，有些音节光有音没有意义，不能看作语素，如“雳”、“馄”。说它是最小的有意义的语言单位，不属于独立运用的语言单位，目的是把它跟词区分开来。
语素分成三种构词方式：
单音节语素：构词由一个字才有意思的词组成。
双音节语素：构词由两个字才有意思的词组成。
多音节语素：构词由两个字以上才有意思的词组成。
现代汉语语素分法：
1、成词语素与不成词语素。
成词语素：既能独立成词也能与其他语素结合成词的语素。
不成词语素：只能和其他语素结合成词，不能独立成词。
2、实语素与虚语素。
虚语素：没有实在意义，只有抽象语法意义的语素。
3、定位语素与不定位语素。
定位语素：在构词时，位置固定，只能固定出现在一个词前边或后边的位置的语素。
不定位语素：构词时，位置自由，既能置前也能。
4、自由语素与粘着语素（与1功能类似）。
5、能够独立成词，也能够同别的语素组合成词语的语素叫自由语素。
6、不能单独为词的词素叫规范词素。