「AI 거버넌스(governance)」는 「누가, 어떻게 AI의 개발·배포·사용을 감독·조정할 것인가」를 다루는 영역입니다.
정부·국제기구·기업 자체·시민사회 등 다양한 주체가 참여하며, 다층적 거버넌스 체계가 만들어지고 있습니다.
정부 차원의 거버넌스로 EU AI Act, 미국의 행정명령(폐지·복귀 반복), 한국의 AI 기본법, 영국의 AI Safety Institute 설립 등이 있습니다.
국제 차원에서는 G7의 「Hiroshima AI Process」(2023), UN의 AI 자문기구 설립 등 국가 간 협력 시도가 진행 중입니다.
기업 자체 거버넌스로 가장 주목받는 것이 「Frontier Model Forum」입니다.
2023년 OpenAI·Anthropic·Google·Microsoft가 공동 설립한 이 기구는 「가장 큰 AI 모델(frontier models)의 안전성 연구와 책임 있는 개발」을 목표로 합니다.
기업들이 자율적으로 모범 사례를 공유하고, 정부·연구기관과 협업합니다.
또 「AI Safety Institute」 — 2024년 영국·미국·일본·EU에서 비슷한 이름의 기관 설립 — 가 등장하며, 정부 산하의 AI 안전 평가 기관이 자리잡고 있습니다.
큰 모델 출시 전에 안전 평가를 거치는 시스템이 점차 표준이 되어 가는 추세입니다.
다만 거버넌스의 도전은 큽니다.
첫째, 「국제 조율의 어려움」 — 미·중 같은 강대국이 협력하기 어려움.
둘째, 「기업과 정부의 정보 비대칭」 — 정부가 모델의 실제 위험을 평가할 능력 부족.
셋째, 「속도」 — 기술 발전 속도가 입법·평가 속도를 한참 앞섬.
이 세 가지가 향후 10년의 가장 큰 거버넌스 과제로 꼽힙니다.
한 줄 요약
AI 거버넌스는 정부(EU AI Act 등) + 국제기구(G7·UN) + 기업 자체(Frontier Model Forum) + 정부 안전기관(AI Safety Institute)의 다층 체계로 자리잡고 있습니다.
국제 조율·정보 비대칭·속도가 큰 도전입니다.
더 알아볼 것
- Frontier Model Forum 활동
- UK·US AI Safety Institute
- Hiroshima AI Process — G7 협력
