日本大山雀大山雀雄鸟前额、眼先、头顶、枕和后颈上部辉蓝黑色，眼以下整个脸颊、耳羽和颈侧白色，呈一近似三角形的白斑。后颈上部黑色沿白斑向左右颈侧延伸，形成一条黑带，与颏、喉和前胸之黑色相连。

上背和两肩黄绿色，在上背黄绿色和后颈的黑色之间有一细窄的白色横带；下背至尾上覆羽蓝灰色，中央一对尾羽亦为蓝灰色，羽干黑色，其余尾羽内翈黑褐色，外翈蓝灰色，最外侧一对尾羽白色，仅内翈具宽阔的黑褐色羽缘，次一对外侧尾羽末端具白色楔形斑。

翅上覆羽黑褐色，外翈具蓝灰色羽缘，大覆羽具宽阔的灰白色羽端，形成一显著的灰白色翅带。飞羽黑褐色，羽缘蓝灰色，初级飞羽除最外侧两枚外，其余外翈部具灰白色羽缘；次级飞羽外翈羽缘亦为蓝灰色，但羽端仅微缀以灰白色；三级飞羽外翈具较宽的灰白色羽缘。

颏、喉和前胸辉蓝黑色，其余下体白色，中部有一宽阔的黑色纵带，前端与前胸黑色相连，往后延伸至尾下覆羽，有时在尾覆羽下还扩大成三角形；腋羽白色。

幼鸟羽色和成鸟相似，但黑色部分较浅淡而且沾褐色，缺少光泽，喉部黑斑较小，腹无黑色纵纹或黑色纵纹不明显，灰色和白色部分沾黄绿色。