정부가 선거 과정에서 확산하는 딥페이크 가짜뉴스에 대응하기 위해 인공지능(AI) 기반 탐지 기술을 도입한다. An artificial intelligence (AI)-based detection technology will be used in the June 3 local elections to prevent the spread of false content using deepfakes.
행정안전부(행안부)가 국립과학수사연구원(국과수)과 공동 개발한 ‘AI 딥페이크 탐지 분석모델’을 오는 6월 3일 실시되는 제9회 전국동시지방선거에 활용할 계획이라고 지난달 10일 밝혔다.
The AI deepfake detection and analysis model jointly developed by the Ministry of the Interior and Safety with the National Forensic Service (NFS) will be used in the local elections on June 3.
이번 조치는 최근 특정 인물의 얼굴이나 음성을 정교하게 합성한 딥페이크 콘텐츠가 급증함에 따라, 후보자 관련 허위 정보가 유권자의 판단을 왜곡하는 것을 방지하기 위해 추진된다.
This is to prevent false information about candidates from distorting voter judgment, as deepfake content that sophisticatedly synthesizes people's faces or voices has recently surged.
탐지 모델은 지난해 12월 열린 '딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회' 성과를 바탕으로 개발됐다. 대회에는 268개 팀(1077명)이 참여했다.
This model was developed using the results of a contest in December last year for AI detection models to counter deepfake crime, with 1,077 contestants spanning 268 teams competing.
행안부와 국과수는 최종 선정된 5개 우수 모델을 중앙선거관리위원회에 제공할 예정이다. 선거 기간에는 의심되는 영상이나 음성 콘텐츠에 대해 신속한 감정·분석을 지원하는 체계도 운영한다.
The ministry and the NFS will provide the five outstanding models they selected to the National Election Commission of Korea. In addition, another system will support the rapid evaluation and analysis of dubious video or audio content during the election period.
▲ 행정안전부와 국립과학수사연구원이 주관한 'AI 딥페이크 탐지 분석 모델 외신 정책설명회'가 지난달 19일 서울 중구 코시스센터에서 개최되고 있다. The Ministry of the Interior and Safety and the National Forensic Service on March 19 host a policy briefing for foreign media on the AI deepfake detection and analysis model at KOCIS Center in Seoul's Jung-gu District. (Ministry of the Interior and Safety - 행정안전부)
특히 이번 모델은 영상 전체 흐름을 분석하는 '전역 분석'과 얼굴 등 특정 부위의 조작 여부를 정밀하게 판별하는 '국소 분석'을 동시에 수행하는 방식으로 탐지 정확도를 높였다. 검증 결과 탐지 정확도는 약 92%로, 기존 모델(76%)보다 크게 향상됐다고 정부는 설명했다.
The model enhances detection accuracy by simultaneously conducting "global analysis" of a video's entire flow and "local analysis" to determine which details such as faces have been forged. The detection accuracy rate is about 92%, far higher than 76% of the former model.
행안부와 국과수는 향후 AI 딥페이크 분석 모델의 활용 범위를 단계적으로 확대할 계획이다. 성평등가족부, 방송통신위원회, 경찰청 등 관계 부처와 협력해 범정부 차원의 디지털 범죄 대응 체계를 강화한다는 방침이다.
The ministry and the NFS will gradually expand the scope of using deepfake analysis models. They will cooperate with relevant departments like the Ministry of Gender Equality and Family, Korea Communications Commission, and Korean National Police Agency to streamline the pan-government response to digital crimes.
윤호중 행안부 장관은 “고도로 정교해진 AI 딥페이크 가짜뉴스가 선거 민주주의를 심각하게 위협하고 있다”며 “정부는 국민의 소중한 권리가 침해받지 않도록 선거 과정에서 허위·조작 정보에 대한 대응 역량을 꾸준히 높여 유능하고 신뢰받는 ‘AI 민주 정부’를 만들어 나가겠다”고 말했다.
"Highly sophisticated AI deepfake disinformation seriously threatens electoral democracy," Yun Ho Jung, Minister of the Interior and Safety, said. "The government will keep raising its ability to respond to false and manipulated information during the election process to prevent violation of the people's fundamental rights and create a competent and trustworthy democratic government driven by AI."
유연경 기자 dusrud21@korea.kr
By Yoo Yeon Gyeong, dusrud21@korea.kr


%20%ED%95%9C%EA%B5%AD%EC%9D%B4%20%EC%9D%B8%EA%B5%AC%20%EB%8C%80%EB%B9%84%20AI%20%ED%8A%B9%ED%97%88%EC%97%90%EC%84%9C%20%EC%84%B8%EA%B3%84%201%EC%9C%84%EB%A5%BC%20%EA%B8%B0%EB%A1%9D%ED%96%88%EB%8B%A4%EB%8A%94%20%EB%82%B4%EC%9A%A9%EC%9D%B4%20%EB%8B%B4%EA%B8%B4%20%E2%80%982026%20AI%20%EC%A7%80%ED%91%9C%E2%80%99%20%EB%B3%B4%EA%B3%A0%EC%84%9C.jpg)

%EB%A5%BC%20%EB%B0%9C%EA%B2%AC%ED%96%88%EB%8B%A4%EA%B3%A0%209%EC%9D%BC%20%EB%B0%9D%ED%98%94%EB%8B%A4.jpg)
%20%ED%8F%89%ED%99%94%EC%9D%B4%EC%9D%8C%20%EC%97%B4%EC%B0%A8'%EA%B0%80%20%EC%84%9C%EC%9A%B8%EC%97%AD%EC%9C%BC%EB%A1%9C%20%EB%93%A4%EC%96%B4%EC%98%A4%EA%B3%A0%20%EC%9E%88%EB%8B%A4.jpg)
