山黧豆的叶子为偶数羽状复叶，小叶质坚硬，椭圆状披针形或线状披针形，长35-80毫米，宽5-8毫米，先端渐尖，具细尖，基部楔形，两面被短柔毛，具5条平行脉。
山黧豆的总状花序腋生，具5-8朵花，花紫蓝色或紫色，长(12)15-20毫米，旗瓣近圆形，翼瓣狭倒卵形，龙骨瓣卵形。
山黧豆的花期在5-7月，果期在8-9月。
山黧豆为多年生草本植物，根状茎不增粗，横走，茎通常直立，单一，高20-50厘米，具棱及翅，有毛，后渐脱落。偶数羽状复叶，叶轴末端具不分枝的卷须。