山西玄参，高达60厘米以上的草本，根向下斜伸，直径达6毫米。
茎四棱形，有白色髓心或有时中空，棱上微突，有密短腺毛。
叶片卵形、卵状矩圆形至矩圆状披针形，大者长达9厘米，宽达5厘米，基部圆形、多少截形至近心形，少有宽楔形，两侧常不对称，边缘有多变的齿，齿圆钝，两面有短毛。
花序顶生或还有侧枝之聚伞圆锥花序，长达30厘米，聚伞花序稍疏稀，有花(3-)6-9朵，总梗长达15毫米，花梗长仅4毫米或更短，稀长达1厘米，均有腺毛。
花萼长4毫米，几无毛，裂片卵形，顶端钝，几无或略有膜质边缘；
花冠绿色至黄绿色，长约8毫米，花冠筒多长球形，长约4毫米，上唇约比下唇长1毫米，裂片卵形，相邻边缘相互重叠，下唇的中裂片稍短于圆形的侧裂片；
雄蕊稍短于下唇，退化雄蕊近扇形至横矩圆形，宽甚过于长；
子房长约2.5毫米，花柱长3-4毫米。
蒴果卵形，连同短喙长6-9毫米。
花期5-7月，果期7-9月。
