딥페이크 및 AI 생성 이미지를 식별하는 방법: 단계별 가이드

딥페이크 또는 AI 생성 이미지를 감지할 수 있는 단일 도구는 없습니다. 사이버 보안 회사 ESET과 옥스포드 대학교 저널리즘 연구소는 모두 여러 검사를 계층화할 것을 권장합니다. 시각적 검사, 출처 메타데이터, 워터마크 감지 및 출처 확인은 각 방법에 알려진 맹점이 있기 때문입니다.

단계 1: 시각적 및 음성 불일치 찾기

AI 생성 허위 정보를 찾기 위한 ESET의 가이드는 먼저 확인해야 할 구체적인 시각적 단서를 나열합니다: 부자연스러운 조명, 지나치게 부드러운 피부 텍스처, 깜박이는 가장자리, 흐린 배경. 확인할 가치가 있는 얼굴 이상에는 어긋난 눈, 비뚤어진 치아, 비정상적인 눈깜박임 패턴이 포함됩니다. 동영상의 경우 ESET에 따르면 음성과 화자의 입술 움직임 사이의 불일치는 조작의 일반적인 징후입니다.

ESET은 또한 딥페이크를 만드는 데 사용되는 도구가 파일의 생성 및 수정 날짜를 변경하거나 삭제하는 경우가 많으므로 일치하지 않는 메타데이터가 보조적인 단서가 될 수 있음을 주목합니다.

단계 2: Content Credentials(C2PA) 확인

C2PA 기술 표준을 기반으로 구축된 Content Credentials는 암호화 서명을 통해 생성 시점의 이미지에 대한 정보를 기록합니다. 콘텐츠 인증 이니셔티브(CAI)는 이 기록을 디지털 콘텐츠의 영양 정보 표시와 같다고 설명하며 제작자, 사용된 소프트웨어 또는 AI 도구, 제작자가 해당 정보를 포함한 경우 파일이 AI로 생성되었거나 편집되었는지 여부를 표시합니다.

CAI는 Content Credentials가 콘텐츠가 '실제'인지 여부를 선언하기 위한 것이 아님을 명시하고 있습니다. 이들은 출처에 관한 맥락을 제공하며 판단이 아닙니다. 이 시스템은 생성 도구가 실제로 매니페스트를 포함할 때만 작동합니다.

단계 3: SynthID와 같은 보이지 않는 워터마크 확인

Google의 SynthID는 Google의 Imagen 모델로 생성된 이미지의 픽셀에 직접 감지할 수 없는 디지털 워터마크를 포함합니다. 별도의 감지 모델이 이미지의 패턴을 스캔하고 세 가지 결과 중 하나를 보고합니다: 워터마크 감지됨(AI 생성 가능성 높음), 감지되지 않음(AI 생성 가능성 낮음), 또는 감지 가능함(이 경우 DeepMind는 결과를 신중하게 처리할 것을 권장합니다).

DeepMind는 SynthID 워터마크가 필터링, 색상 조정, 회전, JPEG 압축과 같은 일반적인 편집을 견디도록 설계되었다고 말합니다. 그러나 Imagen 또는 SynthID를 사용하는 파트너 도구에 의해 생성 시 워터마크가 지정된 이미지에만 플래그를 지정합니다. SynthID를 사용하지 않는 모델의 이미지는 AI 생성이더라도 '감지되지 않음' 결과를 반환합니다. DeepMind의 문서에 표시되어 있습니다.

단계 4: 역이미지 검색 실행

Google Lens 또는 TinEye와 같은 역이미지 검색 도구는 이미지가 이전에 다른 맥락에서 유포되었는지 여부를 드러낼 수 있습니다. 이는 로이터 통신사 저널리즘 연구소 연구원들이 주목하는 재활용되거나 재라벨링된 시각 자료를 감지하는 가장 신뢰할 수 있는 방법 중 하나입니다. 같은 이미지가 오래되고 관련 없는 기사에 첨부되어 있다면 현재 주장이 거짓이라는 강한 신호입니다. 이는 이미지 자체가 AI로 생성되었는지 여부와 무관합니다.

자동 탐지기가 속을 수 있는 이유

AI 탐지 도구에 대한 로이터 통신사 저널리즘 연구소의 검토에 따르면 간단한 편집이 이러한 도구를 정기적으로 무찌릅니다. 연구원들이 Pentagon 폭발을 보여준다고 주장하는 바이러스 이미지를 자르고 크기를 조정했을 때 탐지 소프트웨어는 수정된 버전을 진정한 것으로 분류했습니다. 해상도를 낮추고 잘 알려진 Obama 딥페이크 비디오를 자르는 것도 유사한 거짓 음성을 생성했으며, AI 생성 Biden 로보콜의 소셜 미디어 압축으로 인해 한 탐지기는 사본을 '매우 실제일 가능성이 높음'이라고 부르는 한편 원본 압축되지 않은 파일은 74% 가짜일 가능성이 있다는 점수를 받았습니다.

또한 검토에 따르면 국가 원수와 같이 잘 알려진 공인을 주로 훈련받은 탐지기는 기본 모델에 비교할 검증된 참고 데이터가 적기 때문에 온라인 신분이 적은 덜 알려진 개인에 대해 성능이 더 나빴습니다.

모든 것을 정리하기

1. ESET이 나열하는 부자연스러운 조명, 깜박임 패턴 또는 입술 동기화 불일치와 같은 시각적 및 음성 불일치에 대해 이미지 또는 동영상을 검사합니다.
2. 파일이 AI 생성을 공개하는 Content Credentials(C2PA) 메타데이터를 포함하는지 확인합니다.
3. 이미지가 Google 모델에서 나올 수 있는 경우 Google SynthID 탐지기를 사용하여 워터마크 결과를 확인합니다.
4. Google Lens 또는 TinEye를 사용하여 역이미지 검색을 실행하여 이미지가 다른 곳의 다른 맥락에서 나타났는지 확인합니다.
5. 로이터 통신사 저널리즘 연구소와 ESET이 모두 권장하는 대로 단일 결과를 자체적으로 결정적인 것으로 취급하지 않고 공유하기 전에 확립된 뉴스 조직의 보도에 대해 주장을 비교합니다.