전이학습(transfer learning)은 「한 분야에서 학습된 모델의 지식을 다른 분야의 문제 해결에 옮겨 쓰는」 기법입니다.
처음부터 학습하는 대신 「이미 똑똑한 모델을 가져와 우리 일에 맞게 조금만 다시 가르치는」 방식입니다.
예를 들어 「강아지 품종 분류기」를 만들고 싶지만 학습 데이터가 1,000장밖에 없다고 합시다.
처음부터 신경망을 학습시키면 데이터 부족으로 실패하기 쉽습니다.
그러나 ImageNet으로 사전학습된 ResNet을 가져와 마지막 분류층만 강아지 품종에 맞게 다시 학습시키면, 1,000장만으로도 매우 좋은 결과를 얻을 수 있습니다.
비유하자면 전이학습은 「영어를 잘하는 사람이 스페인어를 배울 때 한국어를 모르는 사람보다 훨씬 빨리 배우는 것」과 같습니다.
두 언어가 공유하는 문법 구조·발음 체계 덕분에 처음부터 배우지 않아도 됩니다.
신경망도 마찬가지로 「에지·모서리·질감 같은 시각적 기본기」를 한 번 익히면 다른 시각 작업에도 그대로 가져갈 수 있습니다.
전이학습의 두 가지 흔한 방식은 첫째, 「특징 추출(feature extraction)」 — 사전학습 모델의 마지막 분류층만 새로 학습하고 나머지는 그대로 사용.
둘째, 「미세조정(fine-tuning)」 — 모델 전체를 작은 학습률로 다시 학습.
전이학습 덕분에 작은 회사·연구실·개인 개발자도 거대한 사전학습 모델의 힘을 빌릴 수 있게 됐습니다.
Hugging Face의 모델 허브에 수만 개의 사전학습 모델이 공개되어 있어, 거의 모든 분야의 출발점이 됩니다.
한 줄 요약
전이학습은 한 분야에서 학습된 모델의 지식을 다른 분야로 옮겨 적은 데이터로 좋은 결과를 얻는 기법으로, 작은 팀·개인이 거대 사전학습 모델의 힘을 빌릴 수 있게 한 결정적 기술입니다.
더 알아볼 것
- Domain Adaptation — 도메인 차이를 좁히는 기법
- Few-shot learning — 정말 적은 데이터로 학습
- LoRA — 적은 비용으로 LLM 미세조정
