【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[실시간뉴스]진짜같은 가짜, 딥페이크 직접 제작해보니…100만 회 학습한 AI [특집+]

온카뱅크관리자

2024-04-07 10:08:03

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="p8JzT7ZwSD">
 <div class="video_frm" dmcf-pid="bG95rZloSF" dmcf-ptype="kakaotv">
 <div class="layer_vod">
 <div class="vod_player">
 <iframe allowfullscreen class="player_iframe" dmcf-mid="B7vA8je7W3" dmcf-mtype="video/kakaotv/owner" dmcf-poster-mid="0tA41fuSyw" frameborder="0" height="370" id="video@B7vA8je7W3" poster="https://t1.daumcdn.net/news/202404/07/kbs/20240407100143184dxbr.png" scrolling="no" src="//kakaotv.daum.net/embed/player/cliplink/445835311?service=daum_news&amp;m_use_inline=true&amp;ios_allow_inline=true&amp;m_prevent_sdk_use=true&amp;wmode=opaque" width="100%"></iframe>
 </div>
 </div>
 </div>
 [특집다큐 '자신있나? 속지않을? 딥페이크!' 중에서]
 &lt;오프닝&gt; 윤수영/ KBS아나운서 백문이 불여일견. ‘보는 것이 진실’이라는 동서양을 막론한 진리가 어쩌면 더 이상 통하지 않는 시대가 온 건지도 모릅니다. 이렇게 말이죠.
 "과연 이 중에 누가 실제 인물인지 여러분은 구분할 수 있으신가요? 진짜는 누구일까요? 이 얼굴? 아니면 이 얼굴? 문제는 A기술을 누구나 너무 쉽게 이용할 수 있게 되면서 이를 악용하는 문제가 심각해지고 있다는 겁니다."
 스튜디오에서의 대역 촬영을 시작으로 딥페이크물 제작에 들어갔습니다.
 얼굴 표정을 잘게 쪼개 분석한 사진들.
 &lt;인터뷰&gt; 신예슬/ 디오비 스튜디오 매니저 윤수영 아나운서 같은 경우는 4,750장으로 세분화돼서 나눠져서 거기에서 이제 자연스럽게 합성할 수 있도록 이제 되었습니다.
 이렇게 얼굴을 수천 장으로 쪼개 나누는 것도, 그리고 이 세분화된 표정과 목소리까지 반복적으로 학습하는 것도 바로 AI입니다.
 &lt;인터뷰&gt; 신예슬/ 디오비 스튜디오 매니저 같은 동영상을 100만 회 정도의 학습량을 채우면서 이제 얼굴 가상 인물을 만들어나가는 거죠.
 그리고 눈과 입술, 얼굴 윤곽 등 보정작업을 거쳐, 구별하기 힘들 정도의 정밀한 딥페이크가 완성됩니다.
 한 사람의 얼굴을 여러 사람에게 입히는 것도 문제 없습니다.
 지난 2월, 홍콩 다국적기업의 한 재무담당자가 충격적인 사건에 휘말립니다.
 시작은 영국 본사에서 걸려온 화상 통화.
 최고 책임자를 비롯한 임원 6명과 진행된 화상 통화 후 우리 돈 340억 원을 송금했는데, 알고 보니 사기였습니다.
 화상 회의에 참석한 6명 모두 딥페이크로 만든 가짜였습니다.
 &lt;녹취&gt; 송혜교 딥페이크 “안녕하세요. 저는 송혜교입니다. 교수님의 QF 어린이 기금회를 진심으로 감사드리며...”
 &lt;녹취&gt; 조인성 딥페이크 “안녕하세요. 조인성입니다. 수강생들이 자선을 위해 힘을 보태어주심에 감사드립니다.”
 유명 배우들이 등장해 행사 개최를 축하하며 투자를 권유하는 영상, 투자자들은 이 영상을 믿고 돈을 투자했지만 사기였습니다.
 해당 배우의 실제 모습과 비교해봐도 상당히 흡사하지만, 얼굴, 입모양, 목소리까지 조작한 ‘딥페이크’였던 겁니다.
 &lt;인터뷰&gt; 박주용 카이스트 교수/ 포스트 AI연구소장 유명인을 도용한다든가 이런 이름을 도용해서 사람들을 속이는 것은 항상 존재해왔을 것 같아요. 분명히 100년 전에도, 200년 전에도 있었을 것인데, 문제는 지금은 사람들의 그럴 듯한 그림까지 만들어내고 진짜 그 사람의 목소리 같은 걸 사용하니까 사실은 사람들이 본능적으로 믿는 일이 더 벌어지는 거죠. 또 하나는 그런 사실적인 영상을 만드는 게 아주 쉬워지다 보니까 그 숫자는 계속 늘어날 수 밖에 없거든요.어떻게 보면 걷잡을 수 없을 정도의 문제가 될 수 있을 거라고 생각합니다.
 AI 영상물에 비교적 익숙한 청년층은 어떨까요? 한 대학교를 찾았습니다.
 “영상을 하나 보여드릴게요... 총 여섯 명의 인물이 나옵니다.”
 미디어를 전공하는 학생들에게 딥페이크가 섞인 6명의 영상을 보여준 후, 가짜를 골라보도록 했습니다.
 과연 이 여섯 명의 인물들 중 가짜는 모두 몇 명일까요?
 &lt;인터뷰&gt; 이정수/ 딥브레인AI 이사 입 모양이 제대로 잘 맞는지. 말을 할 때 입만 움직이는 게 아니고 얼굴 전체의 근육을 움직이는 부분들, 머리를 움직이는 부분들, 어깨를 움직이는 부분들 그런 부분들을 좀 분별해서 보면...
 모두 4명이 가짜입니다.
 미디어학과 특성상 평소 AI나 딥페이크 콘텐츠를 접할 경험이 많다보니 딥페이크 구별법을 제법 잘 알고 있다는 학생들은 몇 명이나 정답을 맞췄을까요?
 &lt;인터뷰&gt; 대학생 얼굴 광이 달라요. 광이 약간 AI는 매끈매끈한데 3, 5번은 광이 입체적으로 있는 것 같아요.
 &lt;인터뷰&gt; 대학생 1번, 6번은 동공이 안 움직여서 확실하게 가상인간이라는 생각이 있었는데 2번, 4번은 실제로 그 시선을 아예 보정하면 나올 수도 있는 영상인 것 같아서 가상인간이라고 생각을 못했어요.
 서른 아홉명의 실험 참가자들 중 정답을 모두 맞춘 학생은 단 3명뿐이었습니다.
 1번과 6번의 경우 30명이 넘는 학생들이 가짜로 지목했지만, 2번과 4번의 경우는 각각 13명의 학생들만 가짜임을 알아맞췄습니다.
 3명 중 2명은 딥페이크를 진짜라고 생각한 겁니다.
 실험에 참가한 학생들은 일상 생활 속에서 이런 영상물에 노출된다면 더 쉽게 속을 수밖에 없을 것 같다고 말합니다.
 &lt;인터뷰&gt; 대학생 (유튜브나 다른 미디어에서 얼굴이 바뀐 사람이 나오면 구분할 수 있으실 것 같으세요?) 구분을 못 할 것 같아요. 의식하지 않고 유튜브처럼 보게 되면 아마 찾기 어려울 것 같습니다.
 관련 방송: 2024년 4월 2일(화) 밤 10시 5분 KBS 1TV/ 유튜브
 <div dmcf-pid="zfeuSUHEvp" dmcf-ptype="general">
 '시사기획 창' 홈페이지 https://news.kbs.co.kr/vod/program.do?bcd=0039&amp;ref=pSiteMap
 유튜브 https://www.youtube.com/channel/UCEb31RoX5RnfYENmnyokN8A
 페이스북 https://www.facebook.com/changkbs
 WAVVE '시사기획 창' 검색 
 
 <div>
 ■ 제보하기
 ▷ 전화 : 02-781-1234, 4444
 ▷ 이메일 : kbs1234@kbs.co.kr
 ▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
 ▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!
 </div>
 </div>
 이승철 기자 (neost@kbs.co.kr)
 </section> 
 </div> 
 Copyright © KBS. 무단전재 및 재배포 금지.