【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]도 넘은 ‘AI 딥페이크’ 관리 사각지대

온카뱅크관리자

2025-12-12 11:37:32

<div id="layerTranslateNotice" style="display:none;"></div> 유명인·전문가 사칭한 AI 허위광고 기승 불법 도박·의료용품 홍보 악용사례 확산 “규제관리 사각지대” SNS로 무분별 확산 정부, 징벌적 손배·AI생성물 표시제 추진 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="YoZIcg71Xo">
 <figure class="figure_frm origin_fig" contents-hash="e7d10e61a43503bcc3e5a82e60f65d99295b159e55828a56d75bfb16386b22d1" dmcf-pid="Gg5CkaztYL" dmcf-ptype="figure">
 <img alt="AI를 이용해 유명인이나 전문가를 사칭하거나, 언론사에서 제작한 영상처럼 조작해 만든 광고가 소셜미디어(SNS) 등을 중심으로 무분별하게 유통되고 있다. [방송미디어통신위원회 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/12/ned/20251212113140215pkxa.jpg" data-org-width="934" dmcf-mid="WA9tyhMVXg" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/12/ned/20251212113140215pkxa.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 AI를 이용해 유명인이나 전문가를 사칭하거나, 언론사에서 제작한 영상처럼 조작해 만든 광고가 소셜미디어(SNS) 등을 중심으로 무분별하게 유통되고 있다. [방송미디어통신위원회 제공]
 </figcaption>
 </figure>
 #. 한 유명 가수와 스포츠 스타가 온라인 게임 사이트를 소개한다. 흔히 볼 수 있는 합법적인 광고처럼 보이지만, 인공지능(AI) 딥페이크 영상이다. 가짜 유명인이 소개한 온라인 게임 사이트 역시, 불법 도박 사이트다.
 #. 본인을 전문의로 소개한 한 의사가 다양한 건강 지식과 함께 몸에 좋은 영양제를 추천한다. 전문가의 신뢰도 높은 정보로 오인하기 쉽지만, 이 역시 AI가 생성한 가짜 의사의 허위 광고다.
 AI 딥페이크를 악용한 불법 허위 광고 게시물이 범람하고 있다. 가짜 전문가뿐 아니라, 유명인의 목소리와 얼굴까지 위장한 허위 과장 광고 문제가 심각한 수준으로 치닫고 있다. 이는 단순히 게시물 유통을 넘어 다른 이용자들의 금전적, 위법적 피해로까지 이어질 수 있어 각별한 주의가 요구되고 있다.
 소셜미디어(SNS)를 타고 순식간에 확산하는 불법 게시물은 관리 ‘사각지대’가 되고 있다는 우려가 커진다. 이에 정부도 AI 허위 광고에 칼을 빼들고 총력 대응을 시작했다.
 ▶도 넘은 AI 딥페이크 허위 광고 SNS에 범람…딥페이크 사기 ‘급증’=12일 관련업계에 따르면, 최근 소셜미디어를 중심으로, 딥페이크 등 AI로 생성한 불법, 허위 과장 광고가 무분별하게 유통되고 있다. 유명인의 외모, 목소리까지 위장한 AI 딥페이크가 대표적이다. 한국소비자원이 지난 8∼9월 페이스북의 온라인 도박 광고를 모니터링한 결과 딥페이크 등 부당한 방식의 허위 광고 사례가 38건 확인됐다.
 딥페이크로 유명인이나 방송뉴스에서 추천한 것처럼 조작한 사례가 각각 6건(이하 중복포함), 8건이었다. 정부·공공기관의 인증, 유명기업·단체 제휴 사칭이 각각 24건, 13건이었다.
 이들 광고는 유명 연예인이나 스포츠 스타가 출연해 해당 온라인 도박 사이트를 언급한 것처럼 영상을 만들었다. AI 딥페이크를 악용해 외모 뿐 아니라 목소리, 입 모양까지 정교하게 구현해, 소비자들은 이를 믿고 불법 광고에 현혹될 우려도 컸다.
 앞서 지난해에는 AI 딥페이크로 연예인, 금융인 등을 사칭해 투자를 권유하는 불법 광고가 확산했다. 이에 사칭 피해를 겪은 당사자들이 ‘유명인 사칭 온라인 피싱 범죄해결을 위한 모임’을 통해 해결을 촉구하는 성명서를 내기도 했다.
 AI를 악용한 불법, 허위 광고 문제는 이뿐만이 아니다. AI로 생성된 가짜 의사나 전문가가 식·의료품을 추천하는 허위·과장 광고도 최근 SNS상에서 급격히 증가하고 있는 실정이다. AI로 생성된 가짜 의사, 약사, 한의사를 전문가로 오인하고 제품을 구매하게 된 소비자들도 적지 않다.
 AI 허위 게시물은 소비자들의 금전적인 피해나 건강의 문제로 이어질 수 있다는 지적이다. 특히 불법 도박사이트와 같은 경우, 합법으로 믿고 접근했다 하루 아침에 범법자로 전락할 우려까지 있다.
 실제 AI 딥페이크로 인한 사기 피해는 전 세계적으로 급격히 증가 추세다. 딜로이트 금융서비스센터의 분석에 따르면 미국 내 생성 AI 기반 금융 사기 피해액은 2023년 123억달러(약 17조1979억원)에서 2027년 400억달러(약 55조9280억원)로 연평균 32% 증가할 것으로 예상되고 있다.
 ▶순식간에 확산 ‘SNS’ 사각지대 우려…정부 총력대응=SNS에서 순식간에 확산하는 AI 불법 게시물은 자칫 관리 ‘사각지대’가 될 수 있다는 우려도 커진다. 특히 불법 게시물 상당 수는 게시자를 찾을 수 없는 경우가 적지 않다. 한국소비자원이 적발한 딥페이크 불법 도박 광고 영상 역시, 광고 게시자는 대부분 확인이 불가했다.
 AI 생성물 허위광고 문제가 갈수록 심각한 수준으로 치닫자, 정부도 팔을 걷고 AI 생성물 불법, 허위 광고와 ‘전쟁’을 시작했다.
 당장, 정부는 허위·조작정보 유통행위에 대해 손해액의 최대 5배까지 부과할 수 있는 징벌적 손해배상을 도입한다. 표시·광고법상 허위·과장 광고 과징금 수준도 높인다. 식약처와 소비자원 역시 관계부처 협의 등을 통해 감시·적발 역량을 강화할 방침이다.
 허위·과장 광고의 ‘유통 이전 단계’에서부터 AI 생성물 표시제도 도입한다. 앞으로 AI 생성물을 제작·편집해 게시하는 ‘직접 정보제공자’는 이를 AI로 제작·편집했다는 사실을 표시해야 한다. 플랫폼 이용자의 표시 제거·훼손도 금지된다. 플랫폼 사업자는 표시 준수 여부를 관리하고 의무사항을 고지해야 한다.
 과기정통부도 내년 1월 시행되는 AI 기본법에 따른 표시 의무 이행과 투명성 제고를 위한 가이드라인을 마련할 계획이다.
 유통 단계에서는 신속한 차단 조치가 작동한다. 방미통위와 방송미디어통신심의위원회는 AI 허위·과장광고가 빈발하는 식·의약품, 화장품, 의약외품, 의료기기 등을 서면심의 대상에 포함하도록 법 개정을 추진한다. 이를 통해 심의 요청 이후 24시간 이내 신속 심의가 가능해질 전망이다. 박세정 기자
 </section> 
 </div> 
 Copyright © 헤럴드경제. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기