山麦冬的根状茎短，木质，具地下走茎。
山麦冬的根稍粗，直径1-2毫米，有时分枝多，近末端处常膨大成矩圆形、椭圆形或纺缍形的肉质小块根。
山麦冬生于海拔50-1400米的山坡、山谷林下、路旁或湿地。
山麦冬的总状花序长6-15(-20)厘米，具多数花，通常2-5朵簇生于苞片腋内。