SECURITY (보안·안전)
구글·OpenAI, 같은 날 'AI 생성물 출처 확인' 도구 확대
구글 I/O 날 구글과 OpenAI가 나란히 'AI 생성물 출처 확인' 도구를 넓힌다고 발표했습니다. 구글은 이미지·영상·음성이 구글 AI로 만들어졌는지 확인하는 SynthID 검증을 Gemini 앱에서 검색과 크롬으로 넓히고, 카메라 원본인지 편집본인지 보여 주는 C2PA 확인 기능을 더했습니다. 구글은 OpenAI, 카카오, ElevenLabs가 자사 AI 생성물에 SynthID를 쓰기로 했다고 밝혔습니다.
핵심 사실 · 한눈에 보기
- 5월 19일 구글이 검색·Gemini·크롬·픽셀·클라우드의 콘텐츠 투명성·검증 도구 확대를 발표했고, 같은 날 OpenAI도 콘텐츠 출처 확인 작업을 발표했습니다.
- 구글은 지금까지 SynthID로 이미지·영상 1,000억 개 이상과 6만 년 분량의 음성에 워터마크를 넣었다고 밝혔습니다.
- Gemini 앱의 SynthID 검증은 전 세계에서 5,000만 번 쓰였고, 발표 당일 검색으로, 몇 주 안에 크롬으로 확대됩니다.
- 구글은 OpenAI, 카카오, ElevenLabs가 자사 AI 생성 콘텐츠에 SynthID 기술을 적용한다고 밝혔습니다.
- 구글 클라우드에 구글과 다른 주요 모델이 만든 AI 콘텐츠를 탐지하는 'AI Content Detection API'가 일부 파트너 대상으로 나왔습니다.
두 가지 확인 방식
출처 확인 기술은 크게 두 가지입니다. SynthID는 AI가 만든 콘텐츠에 사람 눈에 보이지 않는 신호를 심는 워터마크이고, C2PA 콘텐츠 자격 증명은 사진·영상이 어떤 장치와 도구로 만들어지고 고쳐졌는지 기록하는 업계 표준입니다. 구글은 'AI로 만들었는가'만큼 '편집하지 않은 원본인가'를 아는 것도 중요하다고 강조했습니다.
- SynthID 검증: Gemini 앱 → 검색(렌즈, AI 모드, 서클 투 서치) → 크롬. '이거 AI로 만든 거야?'라고 물으면 됨
- C2PA 확인: Gemini 앱부터, 검색·크롬은 몇 달 안
- 픽셀: 픽셀 10 카메라 앱이 사진에 C2PA를 붙였고, 몇 주 안에 픽셀 8·9·10 영상으로 확대
- 인스타그램: 메타가 카메라로 찍은 원본 콘텐츠에 C2PA 표시를 시작해, 픽셀로 찍은 원본이 인스타그램에서 원본으로 표시될 예정
AI마중 POINT · 해석
봐야 할 지점
구글이 만든 SynthID를 OpenAI가 쓴다는 점이 가장 눈에 띕니다. 워터마크는 한 회사만 넣으면 효과가 작습니다. 탐지기가 그 회사 콘텐츠만 알아보기 때문입니다. 경쟁사들이 같은 워터마크를 쓰면 하나의 검증 도구로 여러 회사의 AI 생성물을 확인할 수 있게 됩니다. 한국 카카오가 이름을 올린 점도 국내 사용자에게 의미가 있습니다.
한계도 분명합니다. 워터마크를 넣지 않는 생성 도구나, 신호를 지운 콘텐츠는 검증 도구로 잡히지 않습니다. 그래서 'AI 표시가 없다'는 것이 '사람이 만들었다'는 뜻은 아닙니다. 구글이 원본 촬영물에 C2PA를 붙이는 쪽을 함께 강조하는 이유도, 가짜를 모두 잡기보다 진짜를 증명하는 편이 더 확실할 수 있기 때문입니다.
그래서 나한테는?
사용자가 할 수 있는 것
- 의심되는 이미지·영상: Gemini 앱이나 구글 검색(렌즈 등)에 올려 '이거 AI로 만든 거야?'라고 물어볼 수 있습니다. 확인되는 것은 SynthID가 들어간 콘텐츠입니다.
- 픽셀 사용자: 카메라로 찍은 사진(곧 영상)에 원본 증명이 붙습니다.
- 기업: 구글 클라우드의 AI 콘텐츠 탐지 API는 신뢰 파트너 대상으로 먼저 열렸습니다.
미확인 · 공식 발표만으로 알 수 없는 것
확인하지 못한 것
- OpenAI 발표 원문(openai.com)은 이 사이트의 자동 확인 도구 접근이 차단돼(403), OpenAI의 구체적인 적용 범위와 일정은 확인하지 못했습니다. OpenAI·카카오의 SynthID 도입은 구글 발표 내용입니다.
- SynthID 탐지의 오탐·미탐 비율은 공개되지 않았습니다.
SOURCE공식 원문 + 추가 출처
- PRIMARY · 공식Making it easier to understand how content was created and editedGoogle (The Keyword · AI) · blog.google · 발표 2026.05.19 · 확인 2026.10.05
- SECONDARY · 공식Advancing content provenance for a safer, more transparent AI ecosystemOpenAI · openai.com · 발표 2026.05.19 · 확인 2026.10.05
수집 2026.10.01 · 정리 2026.10.01 · 수정 2026.10.05 · 원문 본문은 옮기지 않았습니다. 회사가 밝힌 수치·성능은 본문에서 출처를 붙여 구분했습니다.