山麦冬的根状茎短，木质，具地下走茎。
山麦冬的总状花序长6-15(-20)厘米，具多数花，通常2-5朵簇生于苞片腋内。
山麦冬的花被片矩圆形、矩圆状披针形，长4-5毫米，先端钝圆，淡紫色或淡蓝色。
山麦冬的叶子长25-60厘米，宽4-6(-8)毫米。