딥러닝/자연어 처리

transfer Learning

thebirghtwide 2022. 8. 20. 20:05

데이터들은 주요 특징을 공유할 가능성이 있다. 

이미지 : edge, border, 곡면, 직선

텍스트 : word sense, syntax 

 

이런 데이터들을 매번 따로 학습시키는 것보다 전체적인 데이터셋을 이미 학습시킨 모델에 나의 문제를 재학습 시키는 것이 더 나을 것이다. 

  • ResNet, Bert 등이 back-bone 네트워크라 불리며 사용되는 이유이다.