오픈AI, AI 이미지 식별 2중 강화...C2PA 표준에 구글 ‘신스ID’ 더했다.

오픈AI가 AI 생성 콘텐츠 식별을 강화하기 위한 새로운 조치를 발표했다. 국제 기준과 구글의 기술을 도입, 출처 검증 체계를 구축한다는 방침이다. 오픈AI는 19일(현지시간) AI로 생성된 이미지의 출처를 쉽게 확인할 수 있도록 콘텐츠 출처 시스템을 강화한다고 밝혔다. 핵심은 국제 인증 표준인 C2PA와 구글 딥마인드의 워터마킹 기술 ‘신스ID(SynthID)’를 동시에 적용하는 것이다. C2PA는 이미지와 영상, 오디오 파일의 메타데이터에 콘텐츠 생성 및 편집 이력을 기록하는 개방형 표준이다. 누가 어떤 도구로 콘텐츠를 만들었는지, 어떤 수정이 이뤄졌는지 등을 암호학적 서명과 함께 저장해 출처를 확인할 수 있도록 돕는다. 오픈AI는 2024년부터 '달리 3', '소라' 등 생성 모델에 C2PA 기반 ‘콘텐츠 자격 증명(Content Credentials)’을 적용해 왔다. 다만 메타데이터는 업로드와 다운로드 과정에서 삭제되거나 스크린샷, 파일 변환, 리사이징 등으로 손상될 수 있다는 한계가 있다. 이를 보완하기 위해 구글 딥마인드가 개발한 워터마킹 기술을 추가 도입했다. 신스ID는 이미지 내부에 사람 눈에는 보이지 않는 신호를 삽입하는 방식이다. 단순 메타데이터와 달리 스크린샷 촬영이나 크기 조정, 일부 디지털 편집 이후에도 비교적 유지되도록 설계됐다. 오픈AI는 “워터마킹은 스크린샷 같은 변환에도 더 오래 살아남을 수 있고, 메타데이터는 워터마크만으로 제공할 수 없는 상세 정보를 담을 수 있다”라며 “두 기술을 결합하면 각각 단독으로 사용할 때보다 훨씬 강력한 출처 검증 체계를 구축할 수 있다”고 설명했다. 신스ID는 '챗GPT'와 '코덱스', 오픈AI API를 통해 생성된 이미지에 적용된다. 일반 사용자도 AI 생성 여부를 쉽게 확인할 수 있도록 공개 검증 도구를 프리뷰 형태로 공개했다. 사용자가 이미지를 업로드하면, 도구가 C2PA 메타데이터와 신스ID 워터마크를 동시에 검사해 오픈AI 도구로 생성된 콘텐츠인지 확인해준다. 오픈AI는 “어떤 탐지 방식도 완벽하지는 않다”라며 신중한 접근을 강조했다. 메타데이터나 워터마크가 발견되지 않더라도, 오픈AI 생성물이 아니라고 단정할 수는 없다는 설명이다. 출처 신호가 업로드 과정에서 제거될 가능성이 있기 때문이다. 오픈AI는 이번 조치가 신뢰할 수 있는 정보 생태계 구축을 위한 업계 협력에 따른 것이라고 강조했다. 최근 C2PA 적합성 프로그램에도 공식 참여했으며, 앞으로 다른 플랫폼과 생성 AI 도구까지 검증 범위를 확대하는 것을 목표로 하고 있다. 박찬 기자 [email protected]