현대 AI의 발전은 세 다리 의자 위에 서 있다고 자주 비유됩니다.
그 세 다리는 「데이터(data), 알고리즘(algorithm), 컴퓨팅(compute)」입니다.
어느 한 다리만 빠져도 의자는 무너지며, 세 가지가 함께 자라야 비로소 AI가 한 단계 도약합니다.
데이터는 AI가 학습하는 「교과서」에 해당합니다.
1980~90년대에는 디지털 데이터가 거의 없어 모델이 배울 거리가 없었습니다.
2000년대 들어 인터넷·스마트폰·소셜미디어가 폭발적으로 자라면서 사진·문장·음성·동영상이 매일 막대한 양으로 쌓이기 시작했고, 이것이 딥러닝 시대의 발판이 됐습니다.
알고리즘은 「공부하는 방법」에 해당합니다.
같은 교과서로도 어떻게 공부하느냐에 따라 학습 효율이 다른 것처럼, 같은 데이터를 두고도 어떤 알고리즘으로 학습하느냐에 따라 결과가 천차만별입니다.
합성곱 신경망(CNN), 어텐션, Transformer 같은 아이디어가 결정적인 도약을 만들어 냈습니다.
컴퓨팅은 「공부할 시간과 책상」에 해당합니다.
깊은 신경망을 학습시키려면 단순한 곱셈과 덧셈 연산을 수십억 번 반복해야 합니다.
2007년 NVIDIA의 CUDA, 그리고 그 뒤를 잇는 GPU·TPU의 발전이 이 연산을 감당할 수 있게 해 주면서 비로소 「큰 모델」이 현실이 됐습니다.
GPT-4·Claude 같은 최신 LLM은 이 세 가지가 모두 극단까지 확장된 결과입니다.
인터넷 규모의 텍스트 데이터, 수년간 다듬어진 Transformer 알고리즘, 그리고 수만 대의 GPU로 이루어진 거대 클러스터가 한 자리에 모일 때만 비로소 가능한 산물입니다.
한 줄 요약
현대 AI의 발전은 「데이터·알고리즘·컴퓨팅」이라는 세 다리 의자 위에 서 있으며, 세 가지가 동시에 자라야 비로소 한 세대의 큰 도약이 일어납니다.
더 알아볼 것
- ImageNet — 데이터의 힘을 보여 준 첫 사례
- Transformer — 알고리즘 도약의 결정적 사건
- GPU·TPU·NPU — AI 전용 칩의 역사
