본지·오픈서베이, ‘딥페이크 판독률’ 공동 조사 
전체 3문항 모두 맞힌 응답자 2% 불과 
2030 대비 5060이 딥페이크에 더 취약

벚꽃 구경에 나선 사람들을 오픈AI의 챗GPT로 생성한 딥페이크 이미지. [권제인 기자]

[헤럴드경제=박혜림·권제인 기자] #. 직장인 박모(32) 씨는 최근 가족 단체 채팅방에 어머니가 올린 소셜네트워크서비스(SNS) 영상을 보고 깜짝 놀랐다. 영상에 대선 후보로 거론되는 한 정치인이 자신의 치부를 드러내는 장면이 담겨 있던 것이다. 하지만 자세히 들여다 보니 영상은 진짜가 아닌, 딥페이크(Deepfake)로 만들어진 허위·비방용 창작물이었다.

박 씨는 “조작된 영상임에도 불구하고, 내가 딥페이크라고 말씀드리기 전까지 어머니께선 영상 속 내용이 진짜라고 철썩같이 믿고 있었다”며 “내가 언뜻 보기에도 제법 그럴듯 해, 어머니처럼 속는 분이 한둘이 아닐 것 같더라”고 말했다.

6·3 조기 대선을 앞두고 생성형 AI(인공지능) 기술로 제작된 딥페이크 창작물 ‘주의보’가 발령됐다. 대선 후보들을 겨냥한 비방용 딥페이크 사진 및 영상이 난무하며, 유권자들의 판단을 흐리고 있기 때문이다. 이미 지난해 튀르키예, 슬로바키아 등에서는 딥페이크 창작물이 선거 막판, 결과에 막대한 영향을 끼쳤다는 분석이 나온 바 있다.

문제는 선거판에서 딥페이크의 영향력이 나날이 커지고 있음에도 일반 시민들이 이를 구별할 수 있는 방법이 없다는 것이다. 헤럴드경제가 소비자 데이터 플랫폼 ‘오픈서베이’와 공동으로 실시한 조사 결과에서도 단 2%만이 모든 딥페이크 이미지를 정확히 판별한 것으로 나타났다. 설문조사에 참여한 응답자의 25%는 딥페이크 창작물과 실제 이미지·영상을 어느 정도 구별할 수 있다고 자신했지만, 현실은 그렇지 못했다.

특히 2030세대 대비 5060세대의 딥페이크 판독률이 더 떨어지는 것으로 조사됐다. 21대 대통령 선거가 40대 미만 유권자보다 60대 이상 유권자가 더 많은 인구 구조에서 치러지는 첫 대선임을 상기하면, 상당히 우려스러운 부분이다. 자칫 딥페이크발 가짜 뉴스가 여론을 호도할지도 모른다는 위기감이 현실로 다가오고 있다.

오픈 AI의 챗GPT로 생성한 도널드 트럼프 미국 대통령과 시진핑 중국 국가 주석의 딥페이크. [권제인 기자]

▶ 10명 중 4명, “1개는 맞힌다 ‘자신’”…모두 맞힌 사람은 2%= 본지와 오픈서베이는 지난달 24일 20~69세 일반인 1000명을 대상으로 딥페이크 판독률을 조사했다. 생성형 AI 기술로 만든 딥페이크 창작물과 실제 사진, 총 5장을 무작위로 섞어놓고 이 가운데 딥페이크 창작물이라 여겨지는 이미지를 모두 고르도록 했다.

1번 질문은 도널드 트럼프 미국 대통령과 시진핑 중국 국가 주석이 나란히 서있는 모습의 이미지 5장을 나열했다. 이 가운데 딥페이크 이미지는 1개에 불과했다.

그러나 전체 응답자 가운데 15%에 불과한 150명 만이 딥페이크 이미지를 제대로 골라냈다. 전체 응답자의 53.7%가 딥페이크 이미지를 알아보긴 했지만, 1000명 중 850명은 실제 촬영된 사진을 조작된 것으로 오인하며 2개 이상의 이미지를 딥페이크 창작물로 꼽았다.

2번 질문은 벚꽃 구경에 나선 사람들 가운데 딥페이크 창작물이 무엇인지 물었다. 총 5장의 사진 중 2장이 딥페이크 창작물이었지만, 이번에는 1000명 중 78명만이 정확한 답을 선별해냈다.

3번 질문은 올해 1월 벌어진 서부지법 사태 당시 시위대의 모습을 촬영한 실제 사진과 딥페이크 창작물을 섞어 나열했다. 5개 가운데 3개의 이미지가 딥페이크 창작물이었다. 그러나 3개의 이미지를 모두 고른 응답자는 1000명 중 23명에 불과했다.

설문조사에 참여한 응답자의 35.9%는 딥페이크 창작물의 진위 여부를 ‘비교적 구별할 수 없다고 느낀다’고 응답했다. 33.6%는 ‘보통 수준으로 구별한다’고 답했다.

그럼에도 ‘몇 개의 질문을 맞혔을 것이라고 예상하느냐’는 질문에는 41%가 총 세 문항 중 적어도 한 개는 맞혔을 것이라고 생각했다. 34.4%는 두 문제, 9.4%는 세 문제 모두 맞혔을 것이라고 자신했다. 단 한 개도 맞히지 못했을 것이라고 답한 응답자는 15.1%였다.

하지만 3번 문항의 정답자 수가 1000명 중 23명인 2.3%에 불과한 것을 상기하면, 3개 문항을 모두 맞힌 정답자는 이와 유사하거나 더 적을 수밖에 없다.

[오픈서베이 제공]

▶ 이미지 내 사람 많을수록 정답률 ‘뚝’…5060세대 오답률 ‘심각’= 세부적으로 살펴보면, 응답자들은 이미지 안에 사람이 많을수록 정답률이 떨어지는 경향을 보였다. 3번 질문의 경우 전체 5장의 보기 가운데 시위대와 경찰이 밀집해 있는 딥페이크 창작물을 실제 사진으로 오해한 응답자 가장 많았다.

실제 사진이라도 보정을 거쳤을 경우 딥페이크 창작물로 오해하는 이들도 적지 않았다. 전체 응답자의 60%가 벚꽃 핀 거리에 서있는 여성 가수의 실제 사진을 딥페이크 창작물이라고 꼽은 것이 단적인 예다. 해당 사진은 5장의 이미지 가운데 가장 많은 선택을 받았다.

연령별로 살펴봤을 땐, 상대적으로 장·노년층으로 갈수록 오답률이 높았다.

1번 문제의 경우 ▷30대(20%) ▷20대(19.8%) ▷40대(14.3%) ▷50대(12.2%) ▷60대(10.7%) 순으로 정답 맞혔고, 2번 문제는 ▷20대(18.6%) ▷30대(12.7%) ▷40대(6.2%) ▷50대(3.3%) ▷60대(1.8%) 순으로 정답률이 높았다. 3번 문제도 ▷20대(7.4%) ▷30대(2.7%) ▷40대(2.3%) ▷60대(0.4%) ▷50대(0%) 순으로 정답을 맞추며, 2030세대가 5060세대 보다는 딥페이크 창작물과 실제 사진을 잘 구별하는 것으로 나타났다.

이같은 결과는 딥페이크에 대한 인식 및 생성형AI 사용률에서 이미 예견됐다. 60대 이상 가운데 딥페이크를 모른다고 답한 응답자가 19.7%에 달해, 전체 연령 가운데 가장 높은 비율을 보인 것이다.

60대 이상의 생성형 AI 사용률은 반대로 가장 낮았다. 64.8%가 전혀 사용하지 않는다고 응답했다. 60대 응답자의 51.5%가 ‘지난 일주일간 딥페이크 창작물을 얼마나 접했다고 생각하느냐’는 질문에 ‘전혀 접하지 않았다’고 답했지만, 실제로는 제대로 분별하지 못했을 가능성을 배제할 수 없는 셈이다.

오픈 AI의 챗GPT로 올해 1월 벌어진 서부지법 사태 당시 시위대의 모습을 생성한 이미지. [박혜림 기자]

▶ 갈수록 커지는 딥페이크 위기 의식…그럼에도 “판독률, 더 떨어질 것” 전문가 경고= 빠르게 발전하는 딥페이크 기술에, 사람들 사이에서는 ‘나도 언제 어떻게 속을지 모른다’는 위기 의식이 갈수록 커지고 있다.

설문조사에 참여한 응답자의 약 70%도 ‘딥페이크 등을 활용한 뉴스 및 콘텐츠가 개인과 사회에 부정적 영향을 준다’고 우려했다. 특히 이 가운데 34.9%는 ‘매우 부정적 영향을 준다’고 답했다. ‘대체로 긍정적인 영향을 준다’, ‘매우 긍정적인 영향을 준다’는 답변은 각각 8.5%, 1.0%에 불과했다.

전문가들은 실제 이미지·영상과 딥페이크 창작물을 구별하는 일이 점점 더 어려워질 것이라고 입을 모은다. 이미 사람의 눈으로 딥페이크 기술을 구별하는 것이 불가능하다는 목소리도 적지 않다.

권태경 연세대 정보대학원 교수는 “2000년대에 많이 악용되던 칩페이크(Cheapfake) 기술은 사람의 눈으로 70~80%는 구별해낼 수 있었지만, 2014년에 GAN(생성적 대립신경망)과 디퓨전 모델이 차례로 등장하며 이제는 겨우 20% 남짓 식별할 수 있는 수준”이라면서 “이제는 사람들이 딥페이크를 가려내는 시대는 지났다”고 말했다.

황석진 동국대 국제정보보호대학원 교수도 “일반인들이 딥페이크와 실제 촬영물을 구별하는 것은 거의 불가능하다”며 “특히 대중에 널리 노출된 유명인은 학습 데이터에 얼굴, 목소리 등이 상당 부분 포함돼 있어 실질적으로 판독하기 어렵다”고 말했다.

불과 지난해만 하더라도 GAN과 디퓨전 모델은 이른바 ‘할루시네이션’(환각·사실 왜곡) 문제를 극복하지 못하며 사람의 손가락을 제대로 구현해내지 못했다. 그럴 듯한 사진을 창작하고도 손가락을 뭉개거나 6개의 손가락을 생성하는 일이 적지 않았다. 이에 생성형 AI를 활용한 결과물이냐, 아니냐를 구별할 때 손가락을 보라는 말이 나올 정도였다.

[게티이미지뱅크]

하지만 권 교수는 “최근에 이르러선 디퓨전 모델의 발전으로 손가락조차 실제와 다름 없이 구현하고 있다”며 더는 기존의 방식이 통용되지 않는다고 지적했다.

박현우 라온시큐어 AI연구개발센터장도 “요즘은 영상이나 이미지가 워낙 정교하게 만들어져서 얼핏 보면 진짜처럼 보이는 경우가 많다”면서 “때문에 콘텐츠를 접할 때 출처가 어디인지, 공식적으로 확인된 정보를 살펴보는 것이 중요하다”고 조언했다.

한편, 헤럴드경제가 소비자 데이터 플랫폼 오픈서베이에 의뢰해 진행한 이번 설문은 전국 20~69세 패널 1000명을 인구 구성에 따라 비례할당 추출했으며, 표본오차는 신뢰수준 80%에서 ±2.03%포인트다.

Copyright © 헤럴드경제. 무단전재 및 재배포 금지.