딥페이크는 어떻게 가려내나, 탐지 기술의 원리와 한계

딥페이크 탐지는 인공지능이 만든 가짜 영상, 사진, 목소리에 남은 미세한 흔적을 찾아 진위를 가리는 기술이다. 초기의 딥페이크는 눈을 잘 깜빡이지 않거나 얼굴 경계가 어색한 등 눈에 띄는 흠이 있었다. 그러나 생성 기술이 빠르게 발전하면서 이런 흠은 줄어들었다. 그래서 탐지는 사람 눈에 보이지 않는 통계적 흔적을 찾는 방향과, 처음부터 진짜임을 증명하는 기록을 남기는 방향으로 함께 나아가고 있다.

딥페이크는 어떤 흔적을 남기나

가짜 영상을 만드는 인공지능은 얼굴을 바꾸거나 새로 그려 넣는다. 이 과정에서 실제 카메라로 찍은 영상에는 없는 흔적이 생기기 쉽다. 얼굴과 머리카락, 배경이 만나는 경계가 미묘하게 흐릿하거나, 조명의 방향이 얼굴과 주변에서 어긋나거나, 양쪽 귀걸이나 안경테의 모양이 서로 맞지 않는 식이다.

사람 눈으로는 보이지 않는 흔적도 있다. 이미지를 주파수 성분으로 나눠 보면, 인공지능이 그린 그림에는 특유의 규칙적인 무늬가 남는 경우가 있다. 실제 사람의 얼굴은 심장이 뛸 때마다 혈류에 따라 피부색이 아주 미세하게 변하는데, 가짜 영상에서는 이런 생리적 신호가 자연스럽지 않을 수 있다. 탐지 기술은 이런 단서들을 찾아낸다.

탐지 모형은 어떻게 학습하나

오늘날의 탐지기 상당수도 인공지능이다. 진짜 영상과 가짜 영상을 대량으로 보여 주며, 둘을 가르는 특징을 스스로 찾아내도록 학습시킨다. 학습한 종류의 가짜에 대해서는 높은 정확도를 보인다.

문제는 새로운 생성 방법이 나올 때다. 탐지기는 학습 때 본 가짜의 흔적을 기억하는데, 다른 방식으로 만든 가짜는 그 흔적이 달라서 잘 잡아내지 못하는 경우가 많다. 영상을 한 번 압축하거나 크기를 바꾸기만 해도 미세한 흔적이 지워져 탐지가 어려워진다. SNS에 올라가는 영상은 대부분 이렇게 압축되기 때문에, 실험실에서의 정확도가 실제 환경에서는 떨어지기 쉽다.

접근	방식	약점
흔적 탐지	가짜에 남은 시각·통계적 흔적을 찾음	새 생성 기술에 약함, 압축에 약함
생리 신호 분석	맥박에 따른 피부색 변화 등을 확인	영상 품질에 크게 좌우됨
출처 기록	촬영 순간부터 진위 정보를 기록	기록이 없는 기존 콘텐츠엔 못 씀
워터마크	생성 단계에서 보이지 않는 표식을 넣음	생성 업체의 협조가 필요

왜 탐지는 늘 한 발 늦나

딥페이크를 만드는 기술과 탐지하는 기술은 서로를 따라잡으며 발전한다. 탐지기가 어떤 흔적을 잡아내기 시작하면, 생성하는 쪽은 그 흔적을 없애도록 기술을 고친다. 심지어 탐지기를 속이도록 일부러 생성 모형을 학습시키는 것도 가능하다. 이 때문에 탐지는 구조적으로 뒤따라가는 입장에 놓이기 쉽다. 완벽한 탐지기는 원리적으로 만들기 어렵다는 지적도 있다.

가짜를 잡는 대신 진짜를 증명할 수 있을까

그래서 발상을 뒤집는 접근이 주목받는다. 가짜를 찾아내는 대신, 진짜 콘텐츠에 처음부터 출처를 증명하는 기록을 붙이는 것이다. 카메라가 사진을 찍는 순간 촬영 기기와 시각 같은 정보를 암호 서명과 함께 파일에 넣고, 이후 편집할 때마다 그 이력을 덧붙인다. 보는 사람은 이 기록을 확인해 콘텐츠가 어디서 왔고 어떻게 바뀌었는지 알 수 있다. 여러 기술 기업과 언론사가 이런 출처 표준을 함께 만들고 있다.

남은 과제

출처 기록은 새로 만들어지는 콘텐츠에는 쓸 수 있지만, 이미 퍼진 수많은 영상에는 적용할 수 없다. 기록이 없다고 해서 가짜라고 단정할 수도 없다. 결국 기술만으로는 한계가 있어서, 출처가 불분명한 자극적인 영상을 그대로 믿거나 퍼뜨리지 않는 습관, 그리고 딥페이크를 악용한 범죄를 처벌하는 법과 제도가 함께 필요하다는 것이 많은 전문가의 공통된 시각이다.