灰岩黄芩的模式标本采自云南丽江。
灰岩黄芩的根茎匍匐，增粗，径达1.5厘米。
灰岩黄芩的花序顶生，长4.5-8厘米，总状花序，花对生，花梗长约3毫米，与序轴密被平展具节疏柔毛。
灰岩黄芩的雄蕊有4个，二强；花丝扁平，下部被小纤毛。