- OpenAI의 이미지 생성기 DALL-E 3는 이미지 메타데이터에 워터마크를 추가할 예정임
- C2PA(콘텐츠 출처 및 진위성 연합)의 표준을 지원하는 회사들이 늘어나면서, DALL-E 3에서 생성된 이미지에 C2PA의 워터마크가 표시될 것
- 워터마크는 ChatGPT 웹사이트와 DALL-E 3 모델의 API에서 생성된 이미지에 나타나며, 모바일 사용자는 2월 12일까지 워터마크가 추가될 예정
- 워터마크에는 보이지 않는 메타데이터 구성 요소와 상단 왼쪽 모서리에 나타나는 CR 심볼이 포함될 것
- OpenAI 플랫폼에서 생성된 이미지의 출처(어떤 AI 도구를 사용했는지)를 Content Credentials Verify와 같은 웹사이트를 통해 확인할 수 있음
- 현재는 동영상이나 텍스트가 아닌 이미지만 워터마크를 포함
워터마크의 영향
- 이미지에 워터마크 메타데이터를 추가하는 것은 지연 시간에 거의 영향을 주지 않으며 이미지 생성 품질에 영향을 주지 않음
- 일부 작업에서 이미지 크기가 약간 증가할 수 있음
콘텐츠 출처 및 진위성 연합 - Coalition for Content Provenance and Authenticity (C2PA)
- Adobe와 Microsoft와 같은 회사들로 구성된 C2PA는 콘텐츠의 출처를 식별하고 인간 또는 AI에 의해 만들어졌는지를 보여주는 Content Credentials 워터마크 사용을 촉진하고 있음
- Adobe는 Content Credentials 심볼을 만들었으며, OpenAI는 이를 DALL-E 3 생성물에 추가하고 있음
- Meta는 최근 자사의 소셜 미디어 플랫폼에서 AI가 생성한 콘텐츠에 태그를 추가할 것이라고 발표
AI 생성 콘텐츠 식별
- 바이든 행정부의 AI에 관한 행정 명령에서 AI 생성 콘텐츠 식별은 주요 지침 중 하나임
- 그러나 워터마킹은 잘못된 정보를 막는 확실한 방법은 아님
- OpenAI는 C2PA의 메타데이터가 쉽게 실수로 또는 의도적으로 제거될 수 있으며, 대부분의 소셜 미디어 플랫폼은 업로드된 콘텐츠에서 메타데이터를 종종 제거한다고 지적함
- 또한 스크린샷을 찍으면 메타데이터가 누락됨
- OpenAI는 출처를 확립하는 방법을 채택하고 사용자들이 이러한 신호를 인식하도록 장려하는 것이 디지털 정보의 신뢰성을 높이는 데 중요하다고 사이트에서 밝힘