저비용·고성능 딥페이크 진위 구분 어려워 
바이든 “투표 말라” 전화…벌금 85억원 
韓 탄핵집회·선거운동에도 딥페이크 등장 
선관위 탐지 프로그램 ‘아이기스’ 도입

지난 1일 경기도 수원시 권선구 중앙선거관리위원회 선거연수원에서 열린 ‘제21대 대통령선거 공관 재외선거 담당자 투표관리 교육’에서 참석자들이 재외투표용지 발급기 운영 실습을 하고 있다. [연합]

[헤럴드경제=권제인·박혜림 기자] 21대 대통령 선거가 한 달 앞으로 다가오며, 딥페이크 창작물을 활용한 흑색선전이 기승을 부리고 있다. 인공지능(AI) 기술의 진화로 전문가가 아닌 일반인도 손쉽게 딥페이크 제작이 가능해지면서다. 낮은 비용으로도 고품질의 결과물을 생성할 수 있어, 실제와 구별하기 어려운 점이 문제다. 투표를 앞둔 유권자들의 혼란을 일으킬 수 있다는 우려가 작지 않다.

▶바이든 가짜 음성 퍼지더니…韓 선거 운동에도 등장= IT업계에서는 지난해에 이어 올해에도 정치권 내에서 딥페이크를 악용한 비방 및 허위 정보 유포 등의 사례가 급증할 것으로 보고 있다.

딥페이크 탐지기술을 개발하는 하이브 AI의 케빈 궈 CEO(최고경영자)는 “생성형 AI가 현실적인 콘텐츠를 제작하는 능력이 기하급수적으로 향상하고 있다”며 “올해 가장 위협적인 딥페이크 악용 사례는 선거 등 주요 이벤트를 둘러싼 허위정보가 될 것”이라고 예고했다.

딥페이크는 한국보다 앞서 치뤄진 미국 대선에서도 기승을 부린 바 있다. 한 정치 컨설턴트는 조 바이든 전 대통령의 목소리로 민주당 당원에게 투표 거부를 독려하는 가짜 전화 메시지를 만들어 벌금 600만달러(약 85억원)가 부과됐다. 또한, 미국 정부는 러시아 단체가 딥페이크 이미지를 유포해 대선 후보에 대한 허위정보를 유포했다며 이를 제재하기도 했다.

조 바이든 전 미국 대통령이 지난 15일 일리노이주 시카고 소피텔 호텔에서 열린 장애인 권익옹호자·상담사·대리인 컨퍼런스에서 연설하고 있다. [AFP 제공]

이보다 전인 2022년에는 볼리디미르 젤렌스키 우크라이나 대통령이 러시아에 항복을 선언하는 가짜 동영상이 확산했다. 동영상에서 젤렌스키 대통령은 우크라이나 국가문장이 그려진 배경막 앞에서 자주 입는 초록색 상의를 입고 자국민에게 무기를 내려놓으라고 언급했다. 페이스북과 유튜브는 이를 허위 동영상으로 확인한 뒤 삭제 조치했다.

한국도 안전지대는 아니다. 탄핵과 대선 정국을 거치며 최근 들어 딥페이크 창작물이 빠르게 확산하고 있다. 탄핵 찬성 집회에서는 정치인의 가족을 노출이 많은 의상을 입은 것처럼 합성하고, 정치인이 카메라에 총구를 겨누는 모습을 담은 가짜 동영상이 상영됐다. 한 대선 후보는 아내에게 욕설을 내뱉는 가짜 음성이 퍼지자 엄정 대응을 예고했다.

12일 서울 세종대로에서 자유통일당이 연 광화문 국민대회에서 참가자들이 탄핵 무효 등을 외치고 있다. [연합]

▶선관위 딥페이크 탐지 프로그램 도입…“창작물 출처 확인해야”=딥페이크 창작물이 선거에 영향을 끼칠 수 있는 주요 변수로 부상함에 따라, 중앙선거관리위원회도 딥페이크 탐지 프로그램 ‘아이기스(Aegis)’를 도입하며 대응에 나섰다.

국립과학수사연구원과 한국전자기술연구원(KETI)이 공동 개발한 아이기스는 사람이 판별하기 어려운 영상과 음성을 정교하게 탐지하는 데 사용된다. 중앙선관위는 ▷시각적 탐지기법 ▷감별 프로그램 활용 ▷AI 감별 자문위원 활용 등 3단계를 거쳐 딥페이크 창작물을 감별하고 삭제 조치한다는 방침이다.

중앙선관위는 “이번 선거에서는 생성형 AI를 활용한 딥페이크 영상 등 위법 게시물 확산 문제와 선거 준비 기간이 짧은 궐위선거 특성상 유권자들이 후보자를 검증할 기회가 줄어들어 비방·흑색선전의 우려 또한 더욱 크다”며 공직선거법 위반행위에 철저히 대응하겠다고 밝혔다.

창작물의 입 모양, 눈 깜박임, 주름 등 미세한 부분을 주의 깊게 살펴보는 것도 딥페이크를 판독할 수 있는 한 가지 방법이다. 박현우 라온시큐어 AI연구개발센터장은 “얼굴 경계면과 배경의 차이, 모발·입 모양의 부자연스러움, 눈 깜박임의 빈도, 화질 일관성, 점·주름 등이 사라지는지 여부 등을 통해 딥페이크 창작물을 구분할 수 있다”고 조언했다.

다만 나날이 딥페이크 기술력이 진화하는 만큼, 육안으로 판별하기엔 한계가 있다. 정교한 창작물의 경우에는 출처를 파악하고, 공식적으로 확인된 정보인지 확인이 필요하다. 박 센터장은 “최근 딥페이크 영상과 이미지가 정교해지면서 얼핏 보면 진짜처럼 보이는 경우가 많다”며 “낯선 채널이나 확인되지 않은 경로로 유통된 콘텐츠는 더욱 주의가 필요하다”고 강조했다.

지난 29일 서울 종로구 서울특별시 선거관리위원회 외벽에 이번 대선 투표일과 사전 투표일을 알리는 대형 현수막이 게시되고 있다. [연합]

Copyright © 헤럴드경제. 무단전재 및 재배포 금지.