경찰청 국가수사본부가 인공지능(AI) 기반의 3중 대응체계를 구축해 허위영상물(딥페이크) 범죄 척결에 나섰다.

경찰청, AI 3중 대응체계로 딥페이크 범죄 끝까지 쫓는다

경찰청은 14일, 올해 1월부터 7월까지 허위영상물 범죄 피의자 419명을 검거하고 이 가운데 17명을 구속했다고 밝혔다. 경찰은 진화하는 디지털 범죄에 대응하고자 ‘딥페이크 탐지 소프트웨어’, ‘과학수사 영상 분석’, ‘인공지능 포렌식 기법’으로 구성된 3중 대응체계를 고도화하고 있다.

실제 지난 3월, 해외 성인사이트에 자신의 합성 영상이 게시되었다는 신고가 잇따르자 경찰은 즉각 수사에 착수했다. 경찰은 딥페이크 탐지 소프트웨어로 유포된 영상물들의 동일성을 확인했고, 정황 증거를 토대로 신속하게 피의자를 검거해 구속 송치했다.

또한, SNS를 통해 성착취물을 제작·판매한 20대 남성을 검거한 후, 추가 영상물을 분석하는 과정에서도 인공지능 포렌식 기법이 빛을 발했다. 경찰은 해당 기법을 통해 영상 제작에 사용된 생성형 AI 프로그램과 원본 사진을 확보해 의뢰자의 혐의까지 입증하고 있다.

이 날 활용된 딥페이크 탐지 소프트웨어는 얼굴 생성 및 교체 여부와 생물학적 특징, 파일 메타데이터 구조를 종합 분석한다. 국내 허위영상물 탐지에 특화된 이 모델은 개발 이후 총 1,636건의 수사에 활용되었으며, 최근에는 선거 범죄 등 적용 분야가 확대되는 추세다.

이와 관련해 탐지 소프트웨어로도 조작 여부 판단이 모호한 경우에는 과학수사 영상 분석관이 별도의 분석 프로그램을 통해 위·변조를 정밀 검증한다. 이를 위해 경찰은 기술적 분석 절차를 체계화했다.

디지털 포렌식 분야에서는 상용 AI 프로그램의 특이점을 분석하는 기법을 개발해 수사에 적용 중이다. 전문분석관은 피의자가 사용한 도구와 변경 지점 등을 기술적으로 재구성해 범행 전 과정을 입증하고 여죄를 확인하는 핵심 증거로 활용하고 있다.

경찰청은 이번 대응체계를 디지털 성범죄를 넘어 허위정보 유포 및 전기통신금융사기 등 AI 악용 범죄 전반으로 확대 적용할 방침이다.

경찰청 국가수사본부 관계자는 `기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다`며, `관련 시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다`고 밝혔다.