딥페이크 막는 AI, 범죄 수사 새 길 연다

다음은 대한민국 정부 부처에서 발표한 보도자료 '딥페이크 막는 AI, 범죄 수사 새 길 연다'에 대한 상세하고 포괄적인 요약입니다.

1. 핵심 요약

행정안전부와 국립과학수사연구원은 인공지능(AI) 기반의 'AI 딥페이크 분석모델' 개발을 2025년 4월 완료하고, 5월부터 공식 감정 업무에 돌입하여 딥페이크 범죄 수사에 획기적인 전환점을 마련했습니다. 이 모델은 올해 상반기 두 달간 총 15건의 딥페이크 감정을 성공적으로 수행했으며, 특히 제21대 대통령 선거 기간 중 중앙선거관리위원회와의 협력을 통해 유튜브 등 온라인 공간의 불법 딥페이크 선거물 약 1만여 건을 탐지하고 삭제하는 데 기여했습니다. 이는 과거 기술적 한계로 어려움을 겪던 딥페이크 감정을 국내 최초로 공식화하고 과학적 증거 기반의 수사 체계를 구축했다는 점에서 큰 의미를 가지며, 향후 여성가족부 등 유관기관으로 모델을 확산하여 범정부 차원의 디지털 범죄 대응 역량을 강화할 계획입니다.

2. 주요 내용

• AI 딥페이크 분석모델 개발 및 공식 감정 업무 개시: 행정안전부와 국립과학수사연구원은 인공지능(AI) 기술을 활용하여 딥페이크 의심 이미지, 영상, 음성의 진위를 판별하는 'AI 딥페이크 분석모델' 개발 및 검증을 2025년 4월까지 완료했습니다. 이 모델은 2025년 5월부터 국립과학수사연구원의 공식 감정 업무에 본격적으로 투입되어, 국내 최초로 딥페이크 감정을 공식화하고 과학적 증거에 기반한 수사 체계를 마련했다는 점에서 큰 의미를 가집니다.

• 초기 감정 성과 및 주요 사례: 모델 도입 후 2025년 5월부터 6월까지 두 달간 경찰청 등 일선 수사기관의 감정 의뢰를 받아 총 60종의 증거물에 대해 15건의 딥페이크 감정을 성공적으로 수행했습니다. 이 중 13건은 제21대 대통령 선거 기간 중 발생한 딥페이크 사건과 관련되었으며, 2건은 디지털 성범죄 관련 사건이었습니다. 실제 사례로는 특정 후보의 허위 발언 조작 영상 분석을 통해 음성의 미세한 비일치성을 탐지하여 선거 혼란을 조기에 차단했으며, 지인의 얼굴을 나체 이미지에 합성한 디지털 성범죄 유포물에서 합성된 얼굴 경계면의 왜곡을 포착하여 딥페이크임을 규명하는 데 결정적인 증거를 제공했습니다.

• 선거 공정성 확보 기여: 제21대 대통령 선거 기간 중 중앙선거관리위원회에 'AI 딥페이크 분석모델'을 공유하여 유튜브 등 온라인 공간에 유포된 불법 딥페이크 선거물 약 1만여 건을 탐지하고 삭제하는 데 크게 기여했습니다. 이는 선거의 공정성을 확보하고 유권자에게 혼란을 줄 수 있는 허위 정보의 확산을 효과적으로 차단하는 데 중요한 역할을 수행했음을 보여줍니다.

• 모델 개발 과정 및 활용 데이터: 딥페이크 범죄의 폭발적인 증가와 기존 판별 기술의 한계를 극복하기 위해 개발된 이 모델은 약 231만 건에 달하는 방대한 딥페이크 데이터(영상 69만 건, 음성 162만 건)를 활용했습니다. 이 데이터는 KoDF, asvspoof 등 국내외 공개된 대규모 학습용 딥페이크 데이터셋과 자체 제작 콘텐츠를 포함하며, 최신 딥러닝(인공지능이 스스로 학습하여 패턴을 인식하는 기술) 알고리즘에 학습되고 지속적인 피드백과 성능 개선 작업을 거쳐 딥페이크 탐지 성능을 획기적으로 향상시켰습니다.

• 모델의 핵심 기능 및 강점: 개발된 'AI 딥페이크 분석모델'은 딥페이크 흔적을 자동으로 탐지하며, 변조 의심 파일(이미지, 영상, 음성)에 대해 합성 확률 및 시간별 변조율을 예측하여 딥페이크 여부를 신속하게 판단할 수 있도록 돕습니다. 특히, 얼굴의 눈, 코, 입과 같은 특정 부위별 변조 탐지 능력이 뛰어나며, 반복된 업로드·다운로드로 인해 일부 데이터가 손실되거나 음질이 저하된 증거물에 대해서도 뛰어난 분석 능력을 갖추어 실제 수사 환경에서 효과적으로 활용될 수 있도록 설계되었습니다.

• 기존 모델과의 시너지 창출 계획: 행정안전부와 국립과학수사연구원은 이번 'AI 딥페이크 분석모델'의 성과를 2023년 행정안전부가 개발한 '보이스피싱 음성 분석모델'과 연계하여 더욱 강력한 시너지를 낼 계획입니다. 두 모델을 함께 활용하면 딥페이크 여부를 판별하는 것을 넘어, 해당 딥페이크가 특정 정치인 등의 음성을 모방하거나 합성하여 제작되었는지까지 입증할 수 있을 것으로 기대되어 더욱 정밀한 수사가 가능해질 것입니다.

• 활용 범위 확대 및 기관 간 협력: 국립과학수사연구원 내부적으로는 현재 독립형으로 운영 중인 모델을 향후 디지털 증거물의 수집·분석 등 전 과정을 관리하는 공식 통합 시스템인 디지털증거물인증시스템(DAS)에 통합하여 업무 효율성을 높일 예정입니다. 또한, 딥페이크 문제로 어려움을 겪고 있는 여성가족부, 방송통신위원회 등 다른 유관기관에도 본 모델을 단계적으로 확산하여 각 기관의 딥페이크 콘텐츠 탐지 및 대응 역량 강화를 적극 지원할 계획입니다.

3. 배경 및 목적

'AI 딥페이크 분석모델' 개발의 가장 큰 배경은 최근 인공지능 기술을 악용한 딥페이크 범죄가 폭발적으로 증가하며 심각한 사회 문제로 대두되었음에도 불구하고, 이를 판별할 기술이 부족하여 수사기관이 관련 증거물 분석에 큰 어려움을 겪고 있었다는 점입니다. 특히, 방송통신심의위원회 자료에 따르면 딥페이크 성범죄 영상물 시정요구 건수는 2022년 3,574건에서 2023년 7,187건, 그리고 2024년에는 23,107건으로 급증하는 등, 딥페이크 범죄의 심각성이 날로 커지고 있었습니다. 이러한 딥페이크는 허위 정보 유포를 통한 선거 개입, 디지털 성범죄, 사기 등 다양한 형태로 확산되어 사회적 혼란을 야기하고 개인에게 심각한 피해를 입히고 있었습니다.

이러한 상황을 극복하고 딥페이크 범죄에 대한 효과적인 대응 체계를 마련하기 위해, 행정안전부와 국립과학수사연구원은 과거 기술적 한계로 수행하지 못했던 딥페이크 감정을 국내 최초로 공식화하고 과학적 증거에 기반한 수사 체계를 구축하는 것을 목적으로 본 모델을 개발했습니다. 궁극적으로는 딥페이크로 인한 사회적 혼란과 개인의 피해를 최소화하고, 국민이 신뢰할 수 있는 과학수사 체계를 확립하여 디지털 범죄로부터 국민의 안전을 보호하는 데 기여하고자 합니다.

4. 세부 추진 내용

'AI 딥페이크 분석모델'은 행정안전부와 국립과학수사연구원의 긴밀한 협력을 통해 개발되었습니다. 모델 개발 과정에서는 국내외 온라인에 공개된 대규모 학습용 딥페이크 데이터 모음인 KoDF, asvspoof 등 공개 데이터셋과 국립과학수사연구원이 자체 제작한 콘텐츠를 포함하여 약 231만 건에 달하는 방대한 딥페이크 데이터(영상 69만 건, 음성 162만 건)가 활용되었습니다. 이러한 데이터는 딥페이크의 다양한 변형과 특징을 학습하는 데 필수적인 기반이 되었습니다.

이렇게 수집된 방대한 데이터는 최신 딥러닝(Deep Learning) 알고리즘에 학습되었으며, 지속적인 피드백과 성능 개선 작업을 거쳐 딥페이크 탐지 성능을 획기적으로 향상시켰습니다. 딥러닝은 인공지능의 한 분야로, 대량의 데이터를 통해 스스로 학습하여 복잡한 패턴을 인식하고 예측하는 기술을 의미합니다. 개발된 모델은 딥페이크 흔적을 자동으로 탐지하고, 변조 의심 파일(이미지, 영상, 음성)에 대해 합성 확률 및 시간별 변조율을 예측하여 딥페이크 여부를 신속하게 판단할 수 있도록 설계되었습니다. 특히, 얼굴의 눈, 코, 입과 같은 특정 부위별 변조 탐지 능력과 함께, 반복된 업로드·다운로드로 인해 일부 데이터가 손실되거나 음질이 저하된 증거물에 대해서도 뛰어난 분석 능력을 갖추어 실질적인 수사 환경에서 그 효과를 발휘할 수 있도록 구현되었습니다. 개발 완료 시점은 2025년 4월이며, 5월부터 국립과학수사연구원의 공식 감정 업무에 즉시 투입되었습니다.

5. 기대 효과

'AI 딥페이크 분석모델'의 도입은 딥페이크 범죄 수사에 획기적인 전환점을 마련할 것으로 기대됩니다. 첫째, 과거 기술적 한계로 어려움을 겪던 딥페이크 감정을 국내 최초로 공식화함으로써 수사기관이 과학적 증거에 기반하여 신속하고 정확하게 딥페이크 여부를 판별하고 수사를 진행할 수 있게 됩니다. 이는 수사 효율성을 크게 높이고, 불법 딥페이크 콘텐츠의 유포를 조기에 차단하여 사회적 혼란과 개인의 피해를 최소화하는 데 기여할 것입니다. 둘째, 제21대 대통령 선거 기간 중 불법 선거물 1만여 건 탐지 및 삭제 지원 사례에서 보듯이, 선거의 공정성을 확보하고 유권자의 혼란을 방지하는 데 핵심적인 역할을 수행할 수 있습니다. 셋째, 디지털 성범죄 등 다양한 유형의 딥페이크 범죄 피해자들에게 신속한 구제와 정의 실현을 위한 결정적인 과학적 증거를 제공함으로써, 국민의 안전과 권익을 보호하는 데 크게 이바지할 것으로 예상됩니다. 궁극적으로는 국민이 신뢰할 수 있는 과학수사 체계를 구축하여 디지털 범죄로부터 안전한 사회를 만드는 데 기여할 것입니다.

6. 향후 계획

행정안전부와 국립과학수사연구원은 'AI 딥페이크 분석모델'의 활용 범위를 더욱 확대하고 기능을 고도화할 계획입니다. 우선, 국립과학수사연구원 내부적으로는 현재 독립형 방식으로 운영 중인 모델을 향후 디지털 증거물의 수집·분석 등 전 과정을 관리하는 국과수 공식 통합 시스템인 디지털증거물인증시스템(DAS)에 통합하여 업무 효율성을 극대화할 예정입니다. 또한, 2023년 행정안전부가 개발한 '보이스피싱 음성 분석모델'과 연계하여 두 모델을 함께 활용함으로써 딥페이크 여부 판별을 넘어 특정 정치인 등의 음성 모방·합성 여부까지 입증할 수 있도록 강력한 시너지를 창출할 계획입니다. 더 나아가, 딥페이크 문제로 어려움을 겪고 있는 여성가족부, 방송통신위원회 등 다른 유관기관에도 본 모델을 단계적으로 확산하여 각 기관의 딥페이크 콘텐츠 탐지 및 대응 역량 강화를 적극 지원함으로써 범정부 차원의 디지털 범죄 대응 역량을 강화해 나갈 것입니다. 이봉우 국립과학수사연구원장은 AI 기술 기반의 과학수사 역량 강화를 통해 감정의 신속성과 정확성을 높이고 국민이 신뢰할 수 있는 과학수사 체계를 구축하겠다고 강조했습니다.