2012년은 AI의 역사에서 가장 자주 인용되는 분기점입니다.
그해 9월 ImageNet이라는 이미지 인식 대회에서 토론토 대학교의 알렉스 크리제프스키(Alex Krizhevsky), 일리야 수츠케버(Ilya Sutskever), 제프리 힌튼(Geoffrey Hinton)이 발표한 「AlexNet」이라는 신경망 모델이 압도적인 성적으로 우승했습니다.
ImageNet은 1,000종의 사물(개·고양이·자동차·꽃 등)을 담은 약 120만 장의 사진 가운데 모델이 제시한 이미지가 무엇인지 맞히는 대회였습니다.
그 전까지 우승 모델들의 오류율은 25% 안팎이었는데, 알렉스넷은 단숨에 16% 수준으로 끌어내렸습니다.
9%포인트의 격차는 당시 누구도 예상하지 못한 수준이었습니다.
알렉스넷의 비결은 세 가지의 결합에 있었습니다.
첫째, 8개 층의 합성곱 신경망(CNN)이라는 깊은 구조.
둘째, GPU 두 대를 병렬로 사용하는 학습 방식.
셋째, ReLU 활성화 함수와 드롭아웃 등 새로운 기법들.
사실 깊은 신경망 자체는 1980~90년대부터 있었지만, GPU·대규모 데이터·새로운 기법이 처음으로 한 자리에 모인 사건이었습니다.
이 결과가 의미하는 바는 단순히 「대회에서 한 번 이겼다」가 아닙니다.
「충분한 데이터와 충분한 GPU만 있으면 신경망은 사람의 시각 능력에 거의 다가갈 수 있다」는 사실이 처음 입증된 사건이었습니다.
이후 컴퓨터 비전·음성·자연어 처리 등 거의 모든 AI 분야에서 「깊은 신경망(딥러닝)」이 주류로 올라섰고, 학계의 패러다임이 통째로 바뀌었습니다.
오늘날 우리가 보는 ChatGPT·Stable Diffusion·자율주행은 모두 2012년의 이 전환에서 시작된 흐름의 후속편입니다.
그래서 알렉스넷의 등장을 흔히 「딥러닝 르네상스의 출발점」이라 부릅니다.
한 줄 요약
2012년 알렉스넷이 ImageNet에서 압도적 성적을 거두며 「깊은 신경망 + GPU + 대규모 데이터」 조합의 위력을 처음 입증했고, 이로써 현재의 딥러닝 시대가 시작되었습니다.
더 알아볼 것
- ImageNet — 페이페이 리가 만든 거대 이미지 데이터셋
- GPU가 어떻게 신경망 학습을 바꾸었나
- ReLU·드롭아웃 — 알렉스넷의 작은 비결들
