【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[실시간뉴스]"가짜라고요?" 생방송 화면 보고 깜짝…'AI 조작'의 무서운 진화

온카뱅크관리자

2024-04-04 20:59:53

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="49fSRWlorW">
          <div class="video_frm" dmcf-pid="824veYSgry" dmcf-ptype="kakaotv">
           <div class="layer_vod">
            <div class="vod_player">
             <iframe allowfullscreen class="player_iframe" dmcf-mid="qMzwVODxEt" dmcf-mtype="video/kakaotv/owner" dmcf-poster-mid="bAqm4CrRE5" frameborder="0" height="370" id="video@qMzwVODxEt" poster="https://t1.daumcdn.net/news/202404/04/sbsi/20240404204519168hcmn.jpg" scrolling="no" src="//kakaotv.daum.net/embed/player/cliplink/445779540?service=daum_news&amp;m_use_inline=true&amp;ios_allow_inline=true&amp;m_prevent_sdk_use=true&amp;wmode=opaque" width="100%"></iframe>
            </div>
           </div>
          </div>
          <p dmcf-pid="60uD2sEQrT" dmcf-ptype="general">&lt;앵커&gt;</p>
          <p dmcf-pid="Pp7wVODxmv" dmcf-ptype="general">인공지능 기술이 발달하면서 조작된 사진이나 영상이 인터넷상에 많이 떠돌고 있죠. 그런데 인공지능이 실시간으로 달리는 댓글을 가짜로 만들어주는 앱까지 나와 논란이 되고 있습니다. </p>
          <p dmcf-pid="QUzrfIwMOS" dmcf-ptype="general">임태우 기자가 보도합니다. </p>
          <p dmcf-pid="x4PWiXyjIl" dmcf-ptype="general">&lt;기자&gt;</p>
          <p dmcf-pid="yhvMZJxpwh" dmcf-ptype="general">저는 서울 광화문 광장에서 인터넷 스트리밍 방송을 하고 있습니다.</p>
          <p dmcf-pid="WlTR5iMUwC" dmcf-ptype="general">지금 10만 명 정도 되는 시청자가 접속하고 있습니다.</p>
          <p dmcf-pid="YOhPGR6FsI" dmcf-ptype="general">스트리밍 화면에 실시간 채팅이 쉴 새 없이 올라옵니다.</p>
          <p dmcf-pid="GIlQHeP3sO" dmcf-ptype="general">세종대왕 동상 얘길 꺼내봤습니다.</p>
          <p dmcf-pid="HCSxXdQ0ws" dmcf-ptype="general">[지금 제 뒤로 세종대왕 동상이 보이고 있습니다.]</p>
          <figure class="figure_frm origin_fig" dmcf-pid="XqKIPSOJDm" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/04/sbsi/20240404204515312ilvg.jpg" data-org-width="699" dmcf-mid="7Y0ABDj4O3" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/04/sbsi/20240404204515312ilvg.jpg" width="658"></p>
          </figure>
          <p dmcf-pid="ZB9CQvIiIr" dmcf-ptype="general"><br> 그러자 채팅창 화제가 금세 세종대왕으로 바뀝니다.</p>
          <p dmcf-pid="5b2hxTCnmw" dmcf-ptype="general">시청자들과 실시간 상호작용하는 듯하지만, 시청자 수도, 댓글 내용도 모두 AI가 만들어낸 가짜입니다.</p>
          <p dmcf-pid="1hvMZJxpwD" dmcf-ptype="general">시민들에게 보여줬더니 AI가 조작한 사실이라는 걸 전혀 알아채지 못했습니다.</p>
          <p dmcf-pid="tlTR5iMUwE" dmcf-ptype="general">[이렇게 보시는 화면이 사실 가짜예요.]</p>
          <p dmcf-pid="FSye1nRuOk" dmcf-ptype="general">[가짜예요? 어, 진짜요? 그럼 10만 명도 가짜인가요?]</p>
          <p dmcf-pid="3dnFcUtsrc" dmcf-ptype="general">[송성근/시민 : 충분히 속을 것 같아요. 채팅 나오는 게 (진짜 같아서) 무조건 속을 것 같습니다.]</p>
          <p dmcf-pid="0JL3kuFODA" dmcf-ptype="general">미국 최대 토론 커뮤니티에서는, 이 앱을 이용해 길거리나 파티장에서 인플루언서 행세를 하며 이성의 호감을 얻는 영상이 올라와 논란이 뜨겁습니다.</p>
          <figure class="figure_frm origin_fig" dmcf-pid="pio0E73Iwj" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/04/sbsi/20240404204516749rnat.jpg" data-org-width="699" dmcf-mid="zrJ5N3ZwDF" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/04/sbsi/20240404204516749rnat.jpg" width="658"></p>
          </figure>
          <p dmcf-pid="UxeZaFXDDN" dmcf-ptype="general"><br> [4만 6천의 시청자가 모두 널 보고 있어. (와, 정말로 흥미로운 걸?)]</p>
          <p dmcf-pid="uMd5N3ZwIa" dmcf-ptype="general">AI 생성 기술이 만들어 낸 가짜 정보와 사진, 영상은 그래도 최소한의 확인과 검증할 시간이 있지만 이렇게 AI가 실시간으로 조작해 내는 현실 속에서는 의사 결정을 왜곡시킬 가능성이 훨씬 높아집니다.</p>
          <p dmcf-pid="7RJ1j05rsg" dmcf-ptype="general">미국 파티장의 가짜 인플루언서 사례처럼, 대규모 이용자와 실시간 댓글을 통한 조작된 반응은 특히 가짜 권위를 만들어내는 데 악용되기 쉽다는 게 전문가들의 견해입니다.</p>
          <p dmcf-pid="zRJ1j05rEo" dmcf-ptype="general">[윤혜선/한양대 법학전문대학원 교수 : 여론이 왜곡되고 그게 민주주의에도 영향을 미칠 수 있고 법치주의에도 영향을 미칠 수 있고….]</p>
          <p dmcf-pid="qeitAp1mDL" dmcf-ptype="general">AI 활용 사실을 의무적으로 고지하고 신뢰성과 안전성을 확보하는 등의 AI 윤리 규범 마련도 시급해지고 있습니다.</p>
          <p dmcf-pid="BdnFcUtsEn" dmcf-ptype="general">(영상취재 : 강시우, 영상편집 : 정용화)
           <link href="https://news.sbs.co.kr/news/endPage.do?news_id=N1007600212" rel="canonical"></p>
          <p dmcf-pid="bvWdtLe7wi" dmcf-ptype="general">임태우 기자 eight@sbs.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지</p>