「이 영상은 AI가 만들었습니다」 같은 표시 의무가 전 세계적으로 입법화되고 있습니다.
진짜와 가짜의 구분이 어려워지는 시대에 「소비자가 AI 생성물임을 알 권리」를 법으로 보장하려는 흐름입니다.
EU AI Act는 가장 포괄적인 규정을 두었습니다.
「딥페이크는 명확한 표시 의무」, 「챗봇과 대화 중일 때는 그것이 AI임을 알려야 함」, 「AI 생성 텍스트·이미지에는 식별 가능한 마크가 들어가야 함」 등을 의무화했습니다.
위반 시 회사 매출의 최대 7%까지 과징금이 부과됩니다.
미국은 주별로 다릅니다.
캘리포니아·텍사스 같은 주가 정치 광고의 AI 표시 의무를 입법했고, 연방 차원에서는 FCC가 AI 음성 통화 자동 응답기를 「합법적 텔레마케팅의 영역에서 제외」했습니다.
한국은 2024년 12월 통과된 「인공지능 기본법」에서 「고위험 AI와 생성형 AI는 사용자에게 그 사실을 알려야 한다」는 표시 의무를 규정했습니다.
2026년 시행 예정으로, 구체적 시행 규칙은 마련 중입니다.
기술적 대응으로 「워터마킹(watermarking)」이 활발히 연구됩니다.
사람 눈에는 보이지 않는 패턴을 AI 생성 이미지·텍스트에 심어 「이것이 AI 작품임」을 검증할 수 있게 하는 기술입니다.
구글의 SynthID, Adobe의 Content Credentials, OpenAI의 텍스트 워터마킹 등이 시도되고 있지만, 완벽한 해법은 아직 없습니다.
한 줄 요약
AI 생성 콘텐츠의 표시 의무가 EU AI Act·한국 AI 기본법·미국 주법 등에서 입법화되고 있습니다.
워터마킹 같은 기술적 대응도 활발하지만 완벽한 해법은 아직 없습니다.
더 알아볼 것
- SynthID — 구글의 AI 워터마킹
- Content Credentials — Adobe·NYT 등의 표준
- 한국 AI 기본법 주요 내용
