AI가 만든 걸 AI가 표시하기 시작했다

8월 2일부터 클로드가 만든 텍스트에 눈에 보이지 않는 워터마크가 들어간다는 안내를 봤다.

그래서 조금 더 상황이 어떻게 진행되는지 찾아봤다.

아래는 2026년 9월 기준이다. 제도도 사양도 아직 움직이는 중이라 날짜와 숫자는 원문을 다시 보는 편이 낫다.

EU 인공지능법 (AI Act)

「EU AI Act」(Regulation (EU) 2024/1689) 제50조가 2026년 8월 2일부터 적용에 들어갔다. 합성 콘텐츠를 기계가 판독할 수 있는 형식으로 표시하라는 조항이다.

작년 11월에 나온 디지털 옴니버스가 고위험 AI 조항들을 2027년, 2028년으로 미루면서 이쪽도 밀리나 싶었는데 50조는 그대로 갔다. 다만 8월 2일 전에 이미 시장에 나와 있던 생성형 AI만 기계 판독 표시를 12월 2일까지 유예받았다.

6월에 확정된 「AI 생성 콘텐츠 투명성 행동강령」은 한 겹으로는 부족하다고 못을 박았다. 메타데이터와 비가시 워터마크와 핑거프린팅을 겹쳐 쓰라는 것이다.

한국은 사람 눈으로 갈음할 수 있다

한국은 반년 빨랐다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(법률 제20676호)이 2026년 1월 22일 시행됐고, 제31조가 표시 의무를 담고 있다.

그런데 요구 수준이 다르다. 시행령 제23조는 사람이 인식할 수 있는 방법과 기계가 판독할 수 있는 방법 중 하나를 고르게 했다. 기계 판독만 쓸 거면 이용자에게 1회 이상 따로 안내하라는 조건이 붙는다.

다시 말해 국내 사업자는 화면에 “AI 생성물” 한 줄만 띄워도 법적으로는 끝난다. EU가 기계 판독을 못 박은 것과 여기서 갈린다.

의무를 지는 것도 이용자에게 AI 제품·서비스를 직접 제공하는 사업자다. 과기정통부 「인공지능 투명성 확보 안내 지침」이 그렇게 좁혔다. 게다가 최소 1년의 계도기간 동안 사실조사와 과태료가 유예된다.

여기까지 보면 국내 사업자가 서두를 이유가 별로 없다. 실제로 국내 구현이 가시 표시 위주로 굴러가는 이유도 아마 여기 있는 것 같다.

기술은 두 갈래로 갈라져 있다

하나는 파일에 서명을 붙이는 쪽이다. C2PA, 제품 이름으로는 Content Credentials다. 누가 언제 무슨 도구로 만들고 고쳤는지를 매니페스트에 적고 서명해서 파일에 얹는다. 사양은 2026년 4월에 2.4가 나왔고 ISO 22144로 국제 표준화도 진행됐다.

다른 하나는 콘텐츠 자체에 신호를 심는 쪽이다. 이미지라면 픽셀에, 텍스트라면 모델이 단어를 고르는 확률 분포에 사람이 눈치 못 챌 편향을 넣는다. 구글 SynthID가 대표적이다.

둘 중 하나를 고를 문제는 아닌 것 같다. 서명은 위변조 여부까지 알려주지만 스크린샷 한 방에 날아가고 심은 신호는 편집을 좀 견디지만 누가 만들었는지까지는 말해주지 못한다. EU 행동강령이 겹쳐 쓰라고 한 게 그 뜻이다.

앤트로픽이 8월에 붙인 것

앤트로픽은 2026년 8월 2일 이후 출시되는 모델부터 마킹을 지원한다고 공지했다.

텍스트에는 비가시 워터마크가 들어간다. 읽을 때는 보이지 않고 의미나 품질도 건드리지 않으며 복사해 붙여넣어도 따라가고 어느 정도의 편집은 견딘다고 한다. 이미지 파일에는 C2PA 규격의 서명된 출처 메타데이터가 붙는다. png, jpg, svg가 대상이다.

적용 범위가 넓다. API와 클로드 앱은 물론 클로드 코드까지 포함하고 AWS·구글 클라우드·마이크로소프트 파운드리로 나가는 것도 들어간다. EU 때문에 시작했지만 지역을 가리지 않고 전 세계에 적용한다.

확인은 Claude Content Checker로 무료로 할 수 있다. 검출 API는 규제기관·수사기관·언론·팩트체커·연구자·교육기관 정도에만 비공개 프리뷰로 열려 있다.

한계도 같이 적어뒀는데 이쪽이 더 흥미로웠다. 워터마크가 나왔다고 클로드가 원저자인 건 아니다. 사람이 자기 글을 클로드로 다듬기만 해도 마크는 남기 때문이다. 반대로 마킹 이전 모델의 출력물, 심하게 고쳐 쓰거나 번역한 글, 아주 짧은 텍스트, 스크린샷으로 뜬 이미지에서는 못 찾는다.

구글은 규모로 밀고 있다

SynthID는 시작한 지 3년쯤 됐고 구글 발표로는 지금까지 이미지·영상 1,000억 건 이상과 오디오 6만 년치 분량에 워터마크를 넣었다.

재미있는 건 올해 5월 19일 구글 I/O에서 나온 발표다. OpenAI가 챗GPT 이미지 생성에, 일레븐랩스가 오디오·음성에, 엔비디아가 Cosmos 영상 출력에 SynthID를 넣기로 했다. 서로 시장에서 싸우는 회사들이 표시 기술에서는 한 규격으로 모이는 그림이다.

검출은 SynthID Detector 포털에서 한다. 이미지·오디오·영상·텍스트를 올려 워터마크를 훑는데, 처음에는 기자와 연구자 위주로 열었다가 지금은 접근이 넓어졌다.

국내는 어디까지 왔나

카카오가 가장 앞서 있다. 5월 20일 구글 딥마인드와 협력을 발표하면서 아시아 기업 최초로 SynthID를 도입했고 이미지 모델 카나나 콜라주와 영상 모델 카나나 키네마에 올해 하반기부터 단계적으로 적용한다. 카카오톡의 카나나 템플릿이 먼저 붙는다.

플랫폼 쪽은 법 시행에 맞춰 움직였다. 당근이 1월 22일부터 AI로 만든 광고 소재에 워터마크나 자막 표기를 요구하고 안 붙이면 심사에서 거절하거나 집행 중인 광고를 중단시킨다. 네이버는 2월 7일부터 쇼핑라이브 판매자가 AI로 만들거나 고친 콘텐츠를 쓰면 시청 화면에 “AI 생성 콘텐츠”를 계속 띄우게 했다. 중고나라는 AI 생성 거래글에 배경색을 다르게 주는 방식을 검토 중이다.

기기 쪽은 삼성이다. 갤럭시 S25가 업계 최초로 C2PA Content Credentials를 지원했고 갤럭시 AI로 편집한 이미지에는 좌하단에 “AI-generated content” 문구와 C2PA 메타데이터가 함께 붙는다. 갤러리 앱에서 cr 버튼을 누르면 볼 수 있다. 다만 카메라로 그냥 찍은 원본 사진에는 아무것도 안 붙는다.

표준은 TTA가 만들고 있다. 인공지능 기반기술 프로젝트그룹(PG1005)에 한국조폐공사, ETRI, 성균관대, 한림대, 한국마이크로소프트 등 16개 산학연이 들어가 있고 메타데이터·워터마크 방식과 생성부터 활용까지 단계별 요구사항을 정의해 연내 제정을 목표로 한다.

여기까지 보면 눈에 보이는 표시는 붙었고 기계 판독은 이제 시작하는 단계다. 카카오가 하반기에 SynthID를 실제로 얹으면 국내에서 비가시 워터마크가 상용 서비스에 들어간 첫 사례가 된다.

기준이 없는 자리가 남아 있다

플랫폼들이 공통으로 지적하는 게 하나 있다. 생성형 AI만으로 뽑은 결과물과 AI가 초안을 던지고 사람이 고친 결과물을 어떻게 가르느냐다.

법에도 답이 없고 기술에도 없다. 워터마크는 모델이 손댄 흔적을 남길 뿐이라 그 뒤에 사람이 얼마나 개입했는지는 말해주지 못한다. 앤트로픽이 “워터마크가 있다고 클로드가 쓴 글은 아니다”라고 굳이 적어둔 것도 같은 이야기다.

반대 방향은 더 위험하다. 워터마크가 안 나왔다고 사람이 만든 것으로 읽는 것. 참여하지 않은 모델, 마킹 이전 모델, 스크린샷을 거친 파일은 전부 여기로 떨어진다. 검출 도구는 자기가 아는 신호만 찾는다.

결론. 아직은 출처를 남기는 정도다

지금 붙는 것들은 거짓말을 잡아내기보다 정직하게 쓰는 쪽이 출처를 남기는 용도에 가까운 것 같다. 마음먹고 지우면 지워지고, 안 나왔다고 사람이 만든 것도 아니다.

그래도 반년 사이에 EU가 날짜를 박고 앤트로픽과 구글이 붙이고 카카오가 따라 들어간 건 꽤 빠른 축이라고 본다. 카카오 SynthID가 실제로 붙는 게 하반기니까, 연말쯤 국내 서비스들 결과물을 몇 개 넣어보고 뭐가 잡히는지 다시 봐야겠다.

그때 되면 또 딴소리를 하고 있을지도 모르겠지만..