日本山黧豆，多年生草本，根状茎极长，横走。
茎长15-50厘米，常匍匐，上升，无毛。
托叶箭形，长10-29毫米，宽6-17毫米，网脉明显凸出，无毛；
叶轴末端具卷须，单一或分枝；
小叶3-5对，长椭圆形或长倒卵形，长25-33毫米，宽11-18毫米，先端圆或急尖，基部宽楔形，两面无毛，具羽状豚，网脉两面显著隆起。
总状花序比叶短，有花2-5朵，花梗长3-5毫米；
萼钟状，长9-10 (-12) 毫米，最下面萼齿长5-6 (-8) 毫米，最上面二齿长约3毫米，无毛；
花紫色，长21毫米，旗瓣长18-20毫米，瓣片近圆形，直径13毫米，翼瓣长17-20毫米，瓣片狭倒卵形，宽5毫米，具耳，线形瓣柄长8-9毫米，龙骨瓣长17毫米，狭卵形，具耳，线形瓣柄长7毫米，子房线形，无毛或极偶见数毛。
荚果长约5厘米，宽7-11毫米，棕褐色或紫褐色，压扁，无毛或被稀疏柔毛。
种子近球状，直径约4.5毫米，种脐约为周圆的2/5。
花期5-7月，果期7-8月。
