EfficientNet(2019, 구글)은 「같은 정확도를 더 적은 파라미터·더 적은 계산으로 달성하자」는 효율 최적화의 정석을 제시한 모델입니다.
지금도 「가성비」를 중시하는 산업 현장에서 가장 자주 쓰이는 백본 중 하나입니다.
핵심 통찰은 「모델 크기를 키울 때 깊이·너비·해상도 세 차원을 균형 있게 키워야 한다」는 점입니다.
깊이만 키우거나, 너비만 키우거나, 입력 해상도만 키우면 그 한쪽이 병목이 되어 비효율적입니다.
EfficientNet은 「복합 스케일링(compound scaling)」이라는 공식으로 세 가지를 동시에 키웁니다.
기본 모델은 「EfficientNet-B0」이고, 이를 키워 가며 B1, B2, ..., B7까지 일곱 가지 크기가 있습니다.
작은 B0는 530만 파라미터로 ResNet-50과 비슷한 정확도를 내고, 큰 B7은 6,600만 파라미터로 당시 ImageNet 최고 정확도를 기록했습니다.
비유하자면 EfficientNet은 「자동차의 엔진 출력을 키울 때 배기량만 키우는 게 아니라 변속기·서스펜션도 함께 강화해 균형을 맞추는 일」과 같습니다.
한 부분만 키우면 다른 부분이 따라오지 못해 효율이 떨어집니다.
EfficientNet 이후 「가성비」 중심의 비전 모델 연구가 활발해졌고, 모바일·임베디드 환경에서 표준이 됐습니다.
EfficientNetV2는 그 후속편으로, 학습 속도까지 함께 최적화한 더 발전된 모델입니다.
한 줄 요약
EfficientNet은 깊이·너비·해상도를 균형 있게 키우는 「복합 스케일링」으로 같은 정확도를 적은 자원으로 달성한 모델로, 모바일·임베디드 환경의 표준이 되었습니다.
더 알아볼 것
- 복합 스케일링 공식 — depth·width·resolution
- MBConv — EfficientNet의 기본 블록
- EfficientNetV2 — 학습 속도까지 최적화
