대선 앞두로 딥페이크 변조물 우려…선관위, 지난 15일까지 1800여건 삭제
얼굴 표정·입술 불일치·혈류로 딥페이크 탐지
샌즈랩·라온시큐어, 딥페이크 판별할 수 있는 무료 서비스 제공

[서울=뉴시스]송혜리 기자 =

[그래픽=뉴시스] 재판매 및 DB금지. hokma@newsis.com

#후보 단일화를 두고 진통을 겪었던 한덕수 전 총리와 김문수 국민의힘 대선 후보가 포옹 후 우격다짐을 한다. 이재명 더불어민주당 대선 후보는 홍준표 전 대구시장과 막걸리 회동을 한다.

다음달 3일 대통령 선거를 앞두고 대선 후보들의 음성과 얼굴을 악용한 딥페이크 허위 영상이 빠르게 늘고 있다.

중앙선거관리위원회에 따르면 선관위가 지난달 4일부터 이달 15일까지 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 딥페이크 영상물은 1843건에 달했다.

특히 지난 11일 누적 769건이던 것이 이틀 만에 누적 1000건을 돌파, 하루 수백 건씩 불어나는 양상이다. 이는 지난해 총선(1월 29일~4월 10일) 전체 기간 삭제 요청 건수 388건의 5배에 가까운 수치다.

현행 공직선거법에서는 ▲AI 기술을 이용해 만든 ▲실제와 구분하기 어려운 가상의 ▲음향·이미지·영상 등을 딥페이크 영상으로 규정하고, 이를 이용한 선거운동을 금지하고 있다. 선관위 측은 "조금이라도 (실제로) 오인할 가능성이 있다면 법 위반에 해당된다"고 설명했다.

AI로 AI 변조 잡아낸다…얼굴 미세 움직임, 입모양 일치여부, 혈류 변화 등으로 판별

보안업계는 선거를 앞두고 딥페이크 콘텐츠의 악용 가능성이 갈수록 커지고 있다며 유권자들에게 각별한 주의가 필요하다고 당부했다.

이 가운데 라온시큐어, 샌즈랩 등 보안 기업들은 국민 누구나 활용할 수 있는 딥페이크 판별 서비스를 무료로 제공하고 있다. 해당 서비스에 적용된 AI기술들은 얼굴의 미세한 움직임, 입 모양의 불일치, 혈류 변화 등 생체 신호로 합성 여부를 분석하는 등 다양하다.

예를 들어, 사람은 자연스럽게 눈을 깜박이지만 딥페이크 영상에서는 눈 깜박임이 비정상적이거나 거의 나타나지 않는 경우가 많다. 이러한 비정상적인 움직임을 탐지해 딥페이크 여부를 판단할 수 있다.

또 합성된 얼굴 이미지와 실제 얼굴 이미지를 학습한 '합성곱 신경망(CNN)' 모델을 통해 딥페이크 여부를 판별하거나, 딥페이크 생성에 사용된 '생성적 적대 신경망(GAN)'의 흔적을 추적하는 방식도 활용된다.

이외에도, 딥페이크 영상이나 이미지의 메타데이터에서 비정상적인 정보를 탐지하는 방법도 있다. 예를 들어 파일 생성 시간이나 소프트웨어 사용 기록 등에서 의심스러운 점을 발견할 수 있다. 

챗GPT로 만든 합성 이미지를 '페이크체크'에 올리자, 수 초 만에 '페이크' 답변이 떴다. *재판매 및 DB 금지

딥페이크 판별해주는 서비스 어디?

라온시큐어는 개인용 백신 앱 '라온 모바일 시큐리티'로 페이크 탐지 서비스를 제공 중이다.

라온 모바일 시큐리티는 AI 기반 스미싱 탐지 및 악성앱 탐지, 해킹 방지 등을 제공하는 개인용 모바일 백신 앱이다. 라온시큐어는 이 앱에 자체 개발한 AI 기반 딥페이크 탐지 기능을 추가했다. 현재 라온 모바일 시큐리티는 딥페이크 탐지 기능을 포함해 무료로 이용할 수 있다.

이용자들은 라온 모바일 시큐리티에서 동영상이나 이미지, 유튜브 링크(URL) 등을 업로드 하면 해당 콘텐츠가 생성형 AI로 조작된 딥페이크일 가능성이 얼마나 높은지 몇 초만에 알 수 있다.

라온시큐어는 추후 '실시간 딥페이크 탐지 서비스'도 라온 모바일 시큐리티에 추가할 계획이다. 이를 통해 영상통화 시에도 상대방이 조작된 얼굴로 지인을 사칭하는지 실시간으로 탐지할 수 있게 된다. 또 회사는 목소리로 타인을 사칭하는 '딥보이스 탐지 기술'도 개발 중이다.

샌즈랩은 딥페이크 탐지 서비스인 '페이크체크'를 무료로 제공하고 있다.

지난해 말 서비스를 시작한 페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 AI가 수 초 내로 위조 진위 여부를 판별해 결과를 알려준다. 회원가입, 인증 등 번거로운 절차없이 PC나 모바일로 접속해 무료로 사용할 수 있다. 샌즈랩 관계자는 "국민 누구나 쉽게 서비스를 이용할 수 있도록 무료 웹사이트로 구현했다"고 설명했다.

기존엔 png, jpg, jpeg 등 2MB 이하의 이미지 파일만 판별이 가능했으나, 회사는 최근 가상인물과 허위 영상 탐지까지 가능하도록 기능을 강화했다.

구체적으로 전 연령대의 고른 분석이 가능하도록 고도화했으며, AI로 위·변조한 이미지뿐 아니라 챗GPT 등 생성형 AI가 만들어 낸 '가상 인물' 이미지까지 구분할 수 있도록 했다. 이에 더해 '딥페이크 영상 탐지 기능' 또한 적용될 예정이다. 현재 기술 최적화가 진행 중으로, 이달 내 영상 탐지 적용이 완료될 예정이란 게 회사 측 설명이다.


☞공감언론 뉴시스 chewoo@newsis.com 

Copyright © 뉴시스. 무단전재 및 재배포 금지.