Search
moon
sun
🧠

positive sample 끼리는 가깝게, negative sample 끼리는 멀게 representation을 정의하기 위해서 보통 InfoNCE NCE(noise contrastive estimation) Loss를 사용합니다. InfoNCE Loss는 위 그림에 L_n 과 같습니다. 초록색은 positive sample과의 관계, 빨간색은 negative sample과의 관계를 의미합니다. InfoNCE Loss를 minimize하면 분자(초록색)는 minimize되고, 분모(빨간색)는 maximize되기 때문에 우리가 원하는 결과를 얻을 수 있습니다.

출처
수집시간
2021/10/03 04:37
연결완료
1 more property
그냥 이런 format 자체를 infoNCE 라고 부르는듯함.