전문가도 구별 어려운 합성 영상…유권자 판단 흐리는 새로운 위협 부상
기술은 고도화되고 접근성은 높아져…전문 지식 없이도 영상 합성 가능

[서울=뉴시스] 최동준 기자 = 21대 대통령 선거일인 3일 오후 서울 중구구민회관에 마련된 개표소에서 개표 작업이 진행되고 있다. 2025.06.04. photocdj@newsis.com

[서울=뉴시스]송혜리 기자 = 제21대 대통령 선거 기간 중 관련 딥페이크(Deepfake) 불법 콘텐츠가 1만건을 웃돈 것으로 나타났다.

중앙선거관리위원회에 따르면 지난 4월 4일부터 선거 전날인 이달 2일까지 한국인터넷자율정책기구(KISO) 등을 통해 삭제가 요청된 딥페이크 콘텐츠 누적 건수는 총 1만448건에 달했다. 이는 지난해 총선 당시 삭제 요청 건수인 388건보다 약 26배 증가한 수치다.

선관위는 이 같은 딥페이크 확산세에 대응, AI 기반 딥페이크 콘텐츠를 제작하거나 게시한 행위에 대해 수사기관에 고발 조치를 취하기도 했다. 이는 2023년 12월 28일 관련 법이 신설된 이후 첫 고발 사례다.

적발된 주요 위반 행위로는 죄수복을 입은 후보자의 이미지를 딥페이크로 제작해 인터넷 커뮤니티에 35회 이상 반복 게시한 사례와 AI 여성 아나운서를 활용해 특정 후보를 지지하거나 반대하는 내용을 담은 가짜 뉴스 영상 10건을 유튜브에 게시한 행위 등이 포함됐다.

앱에서 '딥페이크'검색만 해도 수두룩

딥페이크는 AI 기술인 딥러닝(Deep learning)과 '가짜'를 뜻하는 페이크(Fake)의 합성어로, 사람의 얼굴, 목소리, 행동 등을 합성해 실제처럼 보이는 콘텐츠를 만들어내는 기술이다.

관련 업계에서는 선거철에 딥페이크 악용 사례가 급증하는 이유로 ▲정치적 목적 ▲기술에 대한 접근 용이성 ▲소셜 미디어를 통한 빠른 확산 ▲법적 규제의 미비 ▲정보 검증 능력 부족 등을 주요 요인으로 꼽는다.

딥페이크 기술은 정치인의 발언이나 행동을 조작해 유권자에게 혼란을 주고, 특정 후보를 비방하거나 지지하는 데 악용될 수 있다. 특히 소셜네트워크서비스(SNS)를 통한 빠른 확산에 비해 법적 대응은 미비하고, 일반 유권자의 정보 검증 능력도 낮아 피해 가능성은 점점 커지고 있다는 지적이다.

특히 딥페이크 악용 선거 콘텐츠 확산에 화력을 더한 것은 복잡한 기술 지식 없이도 누구나 손쉽게 딥페이크 영상을 제작하고 유포할 수 있는 환경이 이미 갖춰졌다는 점이다.

과거에는 딥페이크 영상 속 인물의 표정이 어색하거나 움직임이 부자연스러워 진위 여부를 비교적 쉽게 판별할 수 있었다. 그러나 최근 기술은 AI 학습 데이터와 생성 알고리즘의 고도화로 인해, 전문가조차도 육안으로는 진위를 가리기 어려울 만큼 정교한 수준에 도달했다. 단 몇 분짜리 영상과 약 100문장 분량의 음성만 있으면, 실제 인물이 말하고 행동하는 듯한 가짜 영상을 만들어낼 수 있다.

아울러 이제 딥페이크 기술은 누구나 쉽게 접근할 수 있는 단계에 이르렀다. 스마트폰 앱스토어에서 '딥페이크'를 검색하면 수십 개의 관련 앱이 나오고, 얼굴 바꾸기, 성별 전환, 목소리 합성 등 다양한 기능을 탑재한 앱들이 일반 사용자에게 그대로 제공된다.

"개인의 책임감 있는 활용 필요" 당부

이처럼 딥페이크의 대중화는 기술 진보의 성과이기도 하지만, 동시에 악용 가능성을 더욱 키우는 양날의 검으로 작용하고 있다.

이에 따라 국내 보안 업계도 딥페이크 위협에 대응하기 위해 기술 개발에 나서고 있다. 딥페이크 여부를 판별하는 탐지 기술, 이미 유포된 콘텐츠를 추적·삭제하는 기술 등이다.

예를 들어, AI를 이용해 눈 깜빡임, 입 모양, 표정 변화 등을 분석해 비정상적인 패턴을 탐지하는 기술이 있다. 많은 딥페이크 영상에서는 눈을 거의 깜빡이지 않거나, 음성과 입 모양이 어긋나는 경우가 많아 이런 비정상 패턴이 단서가 된다.

보안 전문가들은 기술 개발 외에도 시민 개개인의 인식 변화와 책임 있는 콘텐츠 소비가 중요하다고 강조한다. 한 업계 관계자는 "딥페이크는 누구나 쉽게 만들 수 있지만, 그 피해는 사회 전체에 영향을 미칠 수 있다"며 "특히 선거나 공공 이슈 관련 콘텐츠는 제작·공유 전 반드시 사실 여부를 확인하는 자세가 필요하다"고 당부했다.

☞공감언론 뉴시스 chewoo@newsis.com

Copyright © 뉴시스. 무단전재 및 재배포 금지.