(내외방송=박인숙 기자) 경찰청 국가수사본부(이하 국수본)가 유명인을 상대로 가짜 영상으로 인한 피해를 막기 위해 '딥페이크 탐지 소프트웨어를 개발해 본격적으로 적발에 활용한다고 5일 밝혔다.
인공지능(AI)의 급속한 발달과 함께 딥페이크를 이용한 범죄 위협이 증대되고 있는 가운데, 특히 오는 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보의 유포 및 여론조작에 대한 우려가 심화되고 있는 현실이다.
이에 개정된 공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지하고 있고, 경찰 또한 해당 범죄에 대한 엄정 대응 기조를 강조한 바 있다.
경찰이 활용할 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 통상 5~10분 내에 분석작업을 완료해 '가짜 영상' 여부를 판독한다. 또한 판독이 완료됨과 동시에 결과보고서를 통해 수사에 곧바로 활용할 수 있게 된다.
기존의 딥페이크 탐지 모델은 해외에서 주로 서양인 위주의 데이터를 모델로 개발돼 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었지만, 이번에 국수본에서 활용할 '딥페이크 탐지 소프트웨어'는 인물 5,400여 명의 데이터 520만 점(한국인 데이터 100만 점, 아시아 계열 인종 데이터 13만 점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이뤄졌으며, 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있는 최신 인공지능 모델을 탑재했다.
다만 이 소프트웨어의 진위 여부 탐지율이 약 80%로 100%가 아닌 점을 고려해 증거자료보다는 수사 방향을 설정하는 자료로만 활용한다.
경찰청은 "딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해나갈 수 있을 것으로 기대한다"며, "선거범죄 외에도 합성성착취물 등 다양한 범죄에도 능동적으로 대처하겠다"고 전했다.
