1. Introduction CV에서는 Unsupervsied Representation Learning에 대한 연구가 부족하였다. Unsupervised Representation Learning이 상당히 발달된 NLP의 경우, 토큰화된 사전을 구축할 때 별개의 단어, 문자와 같은 신호 공간을 사용하기 때문에 사용하기에 용이하지만, CV의 경우 data가 연속적이면서 high-dimensional 공간에 있기 때문에 Unsupervised Representation Learning을 사용하기가 어려웠다. Unsupervised Visual Representation Learning을 위해 몇몇 논문들에서는 contrastive lsos를 사용하였다. 이를 사용한 목적들은 다 제각각이지만, 공통적으로 d..
