However, though L_(in,sup) in also contains the same normalization factor, it is located inside of the log. It thus contributes only an additive constant to the overall loss, which does not affect the gradient. (와 단지 loss 에서 1/P 가 로그 안에있냐 밖에있냐에 따라서 top1 acc 가 10% 넘게 차이나고, 그 이유로 추측하는 것이 log 안에있었기때문에 그냥 덧셈연산과 다를것이 없어서 그래디언트에 반영이 제대로 안됐을거다 라고 추론이 된다니... 그게 그런 영향을 준다는 것도 대단하고, 그렇게 생각해냈다는 것도 대단하다.) ‣