경찰 딥페이크 (허위영상물) 범죄 419명 검거, ‘만든 흔적’까지 추적한다

경찰 AI 3중 대응체계 가동…딥페이크 범죄 419명 검거

경찰 AI 3중 대응체계 가동…딥페이크 범죄 419명 검거, ‘만든 흔적’까지 추적한다

사진 한 장만 있어도 가짜 영상이 만들어지는 생성형 인공지능(AI) 시대. 이제 경찰 수사도 단순히 “이 영상이 가짜인가”를 확인하는 단계에서 벗어나 어떤 AI 프로그램으로 만들었는지, 무엇을 조작했는지, 누가 제작·의뢰하고 어디에 유포했는지까지 추적하는 방향으로 진화하고 있다.

■ 핵심 내용 한눈에 보기

● 경찰청 국가수사본부 발표 기준 2026년 1~7월 허위영상물 범죄 피의자 419명 검거
● 이 가운데 17명 구속
● 1단계 : 딥페이크 탐지 소프트웨어 분석
● 2단계 : 과학수사 영상분석관의 전문 판독
● 3단계 : AI·디지털 포렌식을 통한 범행도구와 제작과정 분석
● 딥페이크 탐지 소프트웨어 개발 후 총 1,636건 활용
● 2026년에는 선거범죄 등 다른 수사 분야에서도 72건 활용
● 향후 허위정보 유포, 전기통신금융사기 등 AI 악용 범죄로 적용범위 확대 예정

딥페이크 범죄 419명 검거…경찰 수사도 ‘AI 대 AI’ 시대로

경찰청 국가수사본부에 따르면 2026년 1월부터 7월까지 허위영상물, 이른바 딥페이크 관련 범죄로 검거된 피의자는 419명이며 이 가운데 17명이 구속됐다.

 

주목해야 할 부분은 단순한 검거 숫자만이 아니다. 생성형 AI 기술이 빠르게 발전하면서 범죄자가 사용하는 도구 역시 고도화되자 경찰도 AI와 디지털 포렌식을 결합한 다단계 분석체계를 구축하고 있다는 점이다.

 

경찰이 밝힌 대응체계는 크게 ① 딥페이크 탐지 소프트웨어 판별 → ② 과학수사 영상분석관 판독 → ③ AI 포렌식 등을 통한 범행도구 분석의 세 단계로 정리할 수 있다.

단계	수사 방식	주요 확인 내용
1단계	딥페이크 탐지 AI	얼굴 생성·교체, 생물학적 특징, 메타데이터 등 분석
2단계	영상분석관 정밀 판독	AI 분석만으로 판단이 어려운 영상의 위·변조 여부 검증
3단계	AI·디지털 포렌식	사용 프로그램, 원본자료, 조작부분, 제작·유포 흔적 분석

첫 번째 수사 사례…해외 성인사이트에 합성 영상이 올라왔다

경찰청이 공개한 사례를 보면 AI 분석기술이 실제 수사에서 어떻게 활용되는지를 보다 쉽게 이해할 수 있다.

2026년 3월경 경찰청 사이버범죄신고시스템에는 해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 게시됐다는 피해 신고가 잇따라 접수됐다.

 

경찰은 여러 시·도경찰청에 접수된 사건의 증거를 확보하고 해당 사이트를 상대로 범행 계정과 게시물 삭제 조치를 진행했다. 동시에 경찰청의 딥페이크 탐지 소프트웨어를 이용해 영상들을 분석했다.

분석 과정에서 영상들 사이에 동일한 특징이 발견됐다. 수사팀은 서로 다른 피해자에 관한 영상이지만 동일인이 제작했을 가능성에 무게를 두고 수사를 진행했고, 결국 20대 남성 피의자를 검거해 구속 송치했다.

여기서 중요한 점

AI 탐지 프로그램이 범인을 자동으로 찾아냈다는 의미는 아니다. 탐지 소프트웨어가 영상 사이의 기술적 특징과 합성 가능성을 분석해 수사 방향을 설정하는 단서를 제공하고, 이를 수사관의 추가 수사와 증거 확보로 연결했다고 이해하는 것이 정확하다.

두 번째 사례…AI가 만든 영상에서 ‘제작 프로그램’과 원본까지 추적

또 다른 사건에서는 SNS 계정을 통해 성착취 허위영상물을 제작·판매한 20대 남성이 검거돼 구속 송치됐다.

경찰은 여기서 수사를 끝내지 않았다. 제작을 의뢰한 사람들에 대한 수사를 계속하던 중 기존 영상과 다른 패턴을 가진 허위영상물을 발견했다.

경찰은 딥페이크 탐지 소프트웨어로 1차 판별한 뒤 AI 디지털 포렌식 기법을 적용했다. 그 결과 경찰 발표에 따르면 영상 제작에 사용된 생성형 AI 프로그램과 편집 전 원본 사진까지 추가로 확보했고, 이를 토대로 제작 의뢰자의 혐의도 계속 수사하고 있다.

경찰의 딥페이크 탐지 AI는 무엇을 살펴보나

사람이 영상을 눈으로 보고 “뭔가 이상하다”고 판단하는 것과 전문적인 딥페이크 탐지는 다르다.

① 얼굴이 생성되거나 교체됐는지 분석

AI로 생성하거나 다른 사람의 얼굴을 합성한 경우 얼굴 영역에 인위적인 특징이 나타날 수 있다. 탐지 시스템은 이러한 특징을 종합적으로 분석한다.

② 눈 깜빡임·혈류 변화 등 생물학적 특징 분석

실제 사람의 얼굴 영상에는 눈의 움직임이나 피부에서 나타나는 미세한 생체신호 등이 존재한다. 경찰 발표에 따르면 탐지 소프트웨어는 눈 깜빡임과 혈류 변화 등 생물학적 특징도 분석요소로 활용한다.

③ 파일 메타데이터와 구조 분석

영상의 내용만 보는 것도 아니다. 파일 내부의 메타데이터와 구조적 특징 등을 함께 분석해 생성·편집 과정에서 남을 수 있는 흔적을 확인한다.

특히 경찰은 국내 허위영상물 탐지에 특화하도록 훈련된 AI 모델을 탑재하는 등 탐지 성능을 지속적으로 고도화하고 있다고 설명했다.

AI가 판단하기 어렵다면? 결국 전문 분석관이 다시 본다

이 대목은 매우 중요하다.

AI 탐지 결과를 곧바로 범죄의 최종 증거라고 단정하는 구조가 아니라는 것이다.

딥페이크 탐지 소프트웨어로 분석했음에도 조작 여부가 명확하지 않은 경우에는 과학수사 영상분석관에게 추가 분석을 의뢰하고 전문 영상분석 프로그램을 이용해 위·변조 여부를 검증하는 절차가 마련돼 있다.

■ 팩트체크 포인트

“AI가 딥페이크라고 판정하면 바로 범죄가 인정된다?” → 그렇다고 단정할 수 없다.

AI 탐지 결과는 수사 과정에서 중요한 기술적 판단자료가 될 수 있지만 실제 형사사건에서는 다른 디지털 증거와 제작·유포 경위, 피의자의 행위와 고의성 등 관련 증거를 종합적으로 살펴야 한다. 특히 분석이 모호한 경우 전문 영상분석 절차가 추가된다.

더 무서운 것은 ‘AI 포렌식’…범행의 제작과정을 재구성한다

경찰의 대응 가운데 향후 가장 주목할 부분은 AI 포렌식이다.

일반적인 딥페이크 탐지가 “이 영상이 조작됐는가?”를 확인하는 데 초점이 맞춰져 있다면 AI 포렌식은 한 단계 더 들어간다.

 

경찰청은 딥페이크 제작에 악용되는 상용 AI 프로그램의 특이점을 분석한 AI 포렌식 기법을 개발해 수사에 활용하고 있다고 밝혔다.

시·도경찰청 전문분석관은 압수된 디지털 기기와 자료 등을 분석해 피의자가 어떤 프로그램을 사용했는지, 영상의 어느 부분을 변경했는지 등 제작에서 유포에 이르는 범행 과정을 기술적으로 분석·재구성한다.

 

이는 단순히 “가짜 영상이다”라는 사실을 확인하는 것을 넘어 피의자의 고의성, 제작 과정, 추가 범행과 여죄를 규명하는 증거로 활용될 수 있다는 점에서 의미가 크다.

딥페이크 탐지 기술, 이미 1,636건 활용

경찰청 발표에 따르면 딥페이크 탐지 소프트웨어는 개발 이후 현재까지 총 1,636건 활용됐다.

더 눈에 띄는 것은 적용 분야의 확대다. 경찰은 2026년 들어 선거범죄 등 다른 수사 분야에서도 해당 기술을 72건 활용했다고 밝혔다.

구분	경찰청 발표 내용
2026년 1~7월 딥페이크 피의자	419명 검거
구속	17명
탐지 SW 누적 활용	1,636건
2026년 기타 수사 분야 활용	72건

왜 선거범죄·허위정보·보이스피싱까지 중요한가

딥페이크 기술의 위험은 성범죄에 국한되지 않는다.

정치인의 얼굴과 음성을 조작한 허위영상, 유명인을 사칭한 투자 광고, 가족의 목소리를 흉내 낸 보이스피싱, 기업 대표를 가장한 송금 요구 등 생성형 AI를 이용한 범죄 가능성은 계속 확대되고 있다.

 

예를 들어 실제로 존재하지 않는 영상에 특정 인물이 말하는 것처럼 얼굴과 음성을 합성한다면 일반 이용자는 짧은 SNS 영상만으로 진위를 판단하기 어려울 수 있다.

 

따라서 앞으로 수사의 핵심은 단순히 콘텐츠의 진위를 판단하는 것을 넘어 누가 만들었는지 → 어떤 프로그램을 사용했는지 → 원본은 무엇인지 → 누가 의뢰했는지 → 어디에서 유포했는지를 연결해 입증하는 데 있을 것으로 보인다.

■ 독자가 기억해야 할 5가지

1. 영상이 자연스럽다고 해서 반드시 실제 영상인 것은 아니다.
2. 유명인의 얼굴·음성이 나온다고 무조건 본인의 발언으로 믿어서는 안 된다.
3. 의심스러운 투자·송금 요구는 영상이나 음성만 믿지 말고 별도 경로로 확인해야 한다.
4. 딥페이크 피해를 발견하면 URL, 계정명, 게시 시각 등 관련 정보를 확보해 두는 것이 수사에 도움이 될 수 있다.
5. 성적 허위영상 피해가 발생했다면 혼자 삭제를 시도하는 데 그치지 말고 경찰 등 관계기관에 신속하게 도움을 요청하는 것이 중요하다.

전문가적 관점에서 본 경찰 ‘AI 3중 대응’의 의미

이번 경찰 발표에서 가장 주목해야 할 부분은 AI 자체보다 AI와 사람, 디지털 포렌식을 결합했다는 점이다.

딥페이크 생성기술이 발전하면 탐지기술도 함께 발전해야 한다. 그러나 새로운 생성 모델과 압축·재편집 방식이 계속 등장하기 때문에 하나의 탐지 프로그램만으로 모든 조작물을 완벽하게 판별한다고 보는 것은 위험하다.

 

따라서 1차적으로 AI가 이상 징후를 찾아내고, 판단하기 어려운 사안은 전문 영상분석관이 재검증하며, 다시 디지털 포렌식으로 제작 프로그램과 원본자료·조작 흔적 등을 추적하는 다층적 방식은 수사 신뢰성을 높이기 위한 합리적인 구조로 평가할 수 있다.

다만 AI 탐지기술이 발전할수록 오탐(false positive)과 미탐(false negative), 디지털 증거의 무결성, 분석결과의 재현 가능성, 법정에서의 증거능력 등도 함께 검토해야 한다.

 

결국 기술이 범죄자를 처벌하는 것이 아니라, 기술을 활용해 확보한 증거를 수사기관이 적법한 절차에 따라 분석하고 이를 법적으로 입증하는 과정이 핵심이다.

경찰 “디지털 성범죄 넘어 AI 악용 범죄 전반으로 확대”

경찰청 국가수사본부는 딥페이크 탐지기술을 디지털 성범죄에만 적용하지 않고 허위정보 유포와 전기통신금융사기 등 AI를 악용한 다양한 범죄 분야로 확대할 계획이라고 밝혔다.

경찰은 관련 시스템을 지속적으로 고도화하고 집중단속을 통해 허위영상물 범죄에 강력 대응한다는 방침이다.

피해자가 된다면 어떻게 해야 하나

자신의 얼굴이 합성된 성적 허위영상이나 악의적인 딥페이크를 발견했다면 당황해서 게시물만 삭제하려 하기보다는 향후 수사를 고려해 증거를 확보하는 것이 중요하다.

• 게시물 전체 화면과 계정정보를 캡처한다.
• 게시물 주소와 발견 날짜·시간을 기록한다.
• 유포 계정의 ID와 프로필 정보를 확보한다.
• 관련 메시지나 대화내용을 삭제하지 않는다.
• 재유포하거나 주변 사람에게 영상을 전송하지 않는다.
• 경찰청 사이버범죄 신고시스템 등 공식 신고창구를 이용한다.

특히 증거를 남긴다는 이유로 문제 영상을 여러 사람에게 전달하는 행동은 추가 유포로 이어질 수 있으므로 주의해야 한다.

함께 읽으면 좋은 글
→ AI 시대 보이스피싱, 범죄 수법은 어디까지 진화했나
→ 디지털 성범죄 피해자가 반드시 알아야 할 대응 방법

결론｜AI 범죄의 흔적, 결국 디지털 증거로 남는다

생성형 AI는 누구나 손쉽게 사진과 영상, 음성을 만들어낼 수 있는 시대를 열었다. 동시에 타인의 얼굴을 도용하거나 존재하지 않는 사실을 실제처럼 만드는 범죄 위험도 크게 키웠다.

이번 경찰청 발표에서 확인되는 변화는 분명하다.

경찰 수사는 이제 단순히 “이 영상은 가짜인가?”를 묻는 데서 끝나지 않는다.

“누가, 무엇으로, 어떻게 만들었고
누구의 지시를 받아 어디에 유포했는가.”

AI 탐지와 전문 영상분석, AI·디지털 포렌식을 결합한 이른바 ‘3중 대응체계’의 궁극적인 목적도 여기에 있다.

앞으로 딥페이크 기술은 더 정교해질 가능성이 높다. 경찰의 탐지기술 역시 이에 맞춰 계속 발전해야 한다. 동시에 시민에게도 영상 하나를 곧바로 사실로 받아들이지 않는 새로운 형태의 ‘디지털 검증 습관’이 요구된다.

AI가 가짜를 만드는 시대, 결국 중요한 것은 진짜와 가짜를 가려낼 수 있는 기술과 증거, 그리고 그것을 제대로 판단할 사람의 전문성이다.

출처-경찰청

 

자료 및 팩트체크 기준
경찰청·경찰청 국가수사본부 공개자료를 토대로 작성했으며, 검거 인원·구속 인원·탐지 소프트웨어 활용 건수 및 수사 사례는 경찰 발표 기준이다. 수사가 진행 중인 사안에 대해서는 유죄가 확정된 것으로 단정하지 않았다.

※ 피의자는 법원의 확정판결 전까지 무죄로 추정됩니다.
※ 본문에 제시된 기술적 설명은 경찰 발표 내용을 독자가 이해하기 쉽도록 풀어 설명한 것입니다.