【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][AI 기본법 시행 Q&A] AI로 만든 영상 유튜브에 올리면 불법? 딥페이크 여부 판별은?

온카뱅크관리자

2026-01-22 16:47:37

<div id="layerTranslateNotice" style="display:none;"></div> AI 영상 올리면? 챗GPT로 과제는...'단순 이용자'는 책임 없어 딥페이크인지 어떻게 구분?…AI영상·음성에 ‘워터마크’ 확인해야 API 활용해서 챗봇 만들면?…표시 의무는 '최종 서비스 제공자'에 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Zfbpr8ztvl">
 [아이뉴스24 윤소진 기자] 22일 AI 기본법 시행으로 AI를 활용한 콘텐츠와 서비스 전반에 대한 규제가 법제화되면서 AI 업계는 물론 개인 이용자들도 적용 대상·의무·책임 기준에 대해 궁금해하고 있다.
 <figure class="figure_frm origin_fig" contents-hash="06d77311786650891b900bff388ff1652b841667bbdbe483ce08dbca2b0db15f" dmcf-pid="1PVzIxKpWC" dmcf-ptype="figure">
 <img alt="[사진=제미나이 제작]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/22/inews24/20260122164104873iywc.jpg" data-org-width="580" dmcf-mid="QdYXNBtWCJ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/22/inews24/20260122164104873iywc.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [사진=제미나이 제작]
 </figcaption>
 </figure>
 이런 궁금증을 해소하고자 정부는 이날 AI 기본법 제31조에 따른 투명성 확보 의무를 구체화한 'AI 투명성 확보 가이드라인'을 공개했다. 지난 1월 시행된 시행령에 이어, 사업자들이 실무에서 참고할 수 있는 세부 지침을 제시한 것이다. 가이드라인은 △사전 고지 의무 △생성물 표시 의무 △딥페이크 표시 의무 등 3가지 핵심 의무사항에 대해 서비스 유형별 구체적인 표시 방법을 담았다.
 이 가운데 일반 국민과 AI 업계가 실제로 궁금해하는 사안을 Q&amp;A 형식으로 정리했다.
 Q1. (유튜버 A씨) "'소라'로 만든 영상을 유튜브에 올리면 불법인가? ‘AI 생성’이라고 표시하지 않으면 처벌받나?"
 <figure class="figure_frm origin_fig" contents-hash="95f47ea35959fabbcf516229c4dfdb7e505f41bfa4bb0101bb8dfa7840d3f0f0" dmcf-pid="0R6KSdfzhm" dmcf-ptype="figure">
 <img alt="[사진=제미나이 제작]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/22/inews24/20260122164106161yvjy.jpg" data-org-width="580" dmcf-mid="y7V8Ggx2Te" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/22/inews24/20260122164106161yvjy.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [사진=제미나이 제작]
 </figcaption>
 </figure>
 불법이 아니다. 유튜버는 AI 서비스를 ‘제공’하는 사업자가 아니라 ‘이용’하는 사람이기 때문이다.
 가이드라인은 오픈AI의 소라를 활용해 콘텐츠를 제작·게시하는 유튜버처럼, AI 생성물을 활용해 자신의 콘텐츠를 제공하는 경우는 ‘단순 이용자’에 해당한다고 명시했다.
 투명성 확보 의무는 ‘이용자에게 최종적으로 AI 제품 및 서비스를 제공하는 AI사업자’에게만 부과된다. 소라, 런웨이 등 AI 영상 생성 서비스를 제공하는 기업이 의무 대상이며, 이를 활용해 영상을 제작하는 유튜버는 해당하지 않는다.
 마찬가지로 미드저니로 만든 이미지를 인스타그램에 올리거나, 챗GPT로 작성한 글을 블로그에 게시하는 것도 표시 의무 대상이 아니다. AI로 생성한 CG를 영화에 삽입한 영화제작자 역시 AI 서비스를 이용한 결과물을 활용한 것이므로 AI 기본법상 AI 사업자가 아니라 이용자에 해당한다.
 다만 자발적으로 ‘AI로 제작했다’고 밝히는 것은 시청자와 독자의 신뢰를 높이는 데 도움이 될 수 있다.
 Q2. (대학생 B씨) "챗GPT 답변을 복사해 과제 보고서에 붙여넣으면 ‘AI 생성’이라고 표시해야 하나?"
 <figure class="figure_frm origin_fig" contents-hash="bd14a6a2bbc6c354e944ed057c10a683a8c4cd67819997f4e16adc13cdbe4773" dmcf-pid="Blsc9vwaCA" dmcf-ptype="figure">
 <img alt="[사진=제미나이 제작]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/22/inews24/20260122164107446deqv.jpg" data-org-width="580" dmcf-mid="7ENAKSDgTq" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/22/inews24/20260122164107446deqv.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [사진=제미나이 제작]
 </figcaption>
 </figure>
 AI 기본법상 표시 의무는 없다. 가이드라인은 텍스트 생성물 표시 의무와 관련해 “이용자가 클립보드(Copy &amp; Paste) 기능을 이용하는 경우는 해당하지 않는다”고 명확히 밝혔다.
 표시 의무는 AI 서비스 사업자가 텍스트 결과물에 대해 ‘다운로드·공유 기능’을 제공할 때 발생한다. 즉 챗GPT, 클로드 등 서비스 AI 서비스 제공자가 파일 형태로 결과물을 제공하는 경우 파일 머리말이나 메타데이터에 표시해야 한다는 의미다. 이용자의 단순 복사·붙여넣기는 이에 해당하지 않는다.
 다만 대학별 학칙이나 과제 제출 규정, 표절 기준은 별개의 문제다. AI 활용에 대한 내부 규정은 학교마다 다를 수 있어 확인이 필요하며, AI 생성물의 저작권 귀속 문제 역시 여전히 논의 중인 사안이다.
 Q3. (직장인 C씨) "유튜브에서 본 정치인 발언 영상이 AI 딥페이크인지 실제인지 어떻게 구분하나?"
 영상 시작 부분이나 재생 구간 전체에 표시된 안내 또는 워터마크를 확인해야 한다.
 가이드라인에 따르면 AI로 생성된 동영상을 제공하는 사업자는 화면 일부에 로고를 표출하거나, 영상 시작 시 AI 생성 사실을 안내해야 한다.
 실제와 구분하기 어려운 딥페이크 생성물의 경우, 사람이 직관적으로 인식할 수 있는 방식으로 AI 생성 사실을 표시해야 하며, AI로 생성된 재생 구간 전체에 로고를 표출하는 등 보다 명확한 표시가 요구된다.
 가이드라인은 2023년 미국에서 AI로 생성된 ‘펜타곤 폭발’ 이미지가 확산되며 증시가 일시적으로 출렁였던 사례, 트럼프 전 대통령 체포 장면을 AI로 제작해 유포한 사례 등을 위험 사례로 제시했다.
 다만 모든 플랫폼이 이를 완벽히 구현한 상태는 아니다. 의심스러운 콘텐츠는 출처를 확인하고, 다수의 신뢰할 수 있는 정보원을 통해 교차 검증하는 것이 필요하다.
 Q4.(SNS 인플루언서 D씨) "AI로 만든 이미지를 SNS에 올렸는데, 나중에 누군가 이걸 퍼가서 가짜뉴스나 범죄에 악용하면 처음 만든 내가 책임져야 하나?"
 원칙적으로 책임지지 않는다. AI 기본법상 D씨는 단순 이용자이므로 투명성 확보 의무나 표시 의무가 없다.
 제3자가 해당 이미지를 무단으로 퍼가 가짜뉴스나 범죄에 악용한 경우, 책임 판단은 AI 기본법이 아니라 형법·공직선거법·정보통신망법 등 기존 법체계에 따라 이뤄진다.
 D씨가 악용 목적을 알고 제공했거나, 사전 공모·범죄 목적 제작이 입증되는 경우에만 예외적으로 책임이 성립한다.
 정부는 AI 기본법의 목적이 개인 창작자 처벌이 아니라, AI 서비스 제공 단계에서의 투명성 확보와 오인 방지에 있다고 설명하고 있다.
 Q5. (스타트업 대표 E씨) "오픈AI API를 써서 챗봇 서비스 만들었다. 투명성 의무는 오픈AI 책임인가, 내 책임인가? 해외 사업자인 오픈AI도 한국법 적용 대상인가?"
 <figure class="figure_frm origin_fig" contents-hash="f9975b8cd5599da210e48ff25a0e41314fcb84fe7d34fcc0f9eaa6518f5380b5" dmcf-pid="Gx4BhR2uyP" dmcf-ptype="figure">
 <img alt="[사진=제미나이 제작]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/22/inews24/20260122164108690usnb.jpg" data-org-width="580" dmcf-mid="BxlvJ0YCTu" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/22/inews24/20260122164108690usnb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [사진=제미나이 제작]
 </figcaption>
 </figure>
 E씨 회사의 책임이다. 가이드라인은 파운데이션 모델 개발사가 API를 제공하고, 이를 활용해 다른 기업이 AI 서비스를 제공하는 경우 투명성 의무는 최종 서비스를 제공하는 사업자에 부과된다고 명시했다.
 따라서 챗봇 서비스 화면에 "본 서비스는 생성형 AI를 활용합니다" 같은 사전 고지를 해야 하고, 대화 내용 다운로드 기능이 있다면 파일 메타데이터나 머리말에 AI 생성 사실을 표시해야 한다.
 또한 해외 사업자라도 챗GPT, 미드저니, 클로드 등과 같이 국내 이용자에게 직접 서비스를 제공하면 AI 기본법 적용 대상이 된다.
 Q6. (이미지 생성 앱 개발자 F씨) "서비스 화면에만 AI 이미지를 보여준다면 UI에 표시만 하면 되나? 다운로드를 제공하면 달라지나?"
 서비스 내에서만 보여주면 UI 표시로 충분하지만, 다운로드 기능을 제공하면 이미지 자체에 표시해야 한다.
 가이드라인은 서비스 내 제공 단계에서는 UI 표시로 충분하지만, 다운로드·공유 등 외부 반출 기능을 제공할 경우 결과물 자체에 AI 생성 사실을 표시해야 한다고 구분했다.
 예를 들어 챗GPT처럼 대화창에서만 텍스트를 보여주면 화면에 "AI 모델이 실시간 데이터를 생성함"을 표시하면 되지만, '문서로 내보내기' 기능을 제공한다면 파일 머리말이나 메타데이터에 표시를 추가해야 한다.
 가이드라인에 따르면, 이미지의 경우 서비스 내에서만 보여주면 "결과물 내 또는 서비스 내(화면 등) 정보의 표출 등으로 AI 생성물임을 충분히 인지할 수 있는 방법으로 표시"하면 되지만, 다운로드를 제공한다면 "결과물에 로고 삽입 등 사람이 인식할 수 있는 방법 또는 기계가 판독할 수 있는 방법을 적용"해야 한다.
 <figure class="figure_frm origin_fig" contents-hash="7feaf65e066f89bf9db5b7564293165e231cc59494591a3d506b3113d240caf7" dmcf-pid="0QfqCM9Ulb" dmcf-ptype="figure">
 <img alt="[사진=제미나이 제작]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/22/inews24/20260122164109938qksx.jpg" data-org-width="580" dmcf-mid="GITWLuXSST" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/22/inews24/20260122164109938qksx.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [사진=제미나이 제작]
 </figcaption>
 </figure>
 Q7. (문서 작성 툴 개발사 PM G씨) "사용자가 AI로 문서를 쓰는 과정에서 수정할 때마다 중간 결과물이 계속 생긴다. 이것도 전부 'AI 생성'이라고 표시해야 하나?"
 최종 결과물에만 표시하면 된다. 가이드라인은 편집 과정에서 생성되는 모든 중간 결과물에 표시할 의무는 없으며, 결과물 제공 또는 저장 단계에서 표시하면 된다고 명시했다. 이는 텍스트뿐 아니라 이미지, 동영상 등 모든 유형의 생성물에 공통적으로 적용된다.
 문서 작성 과정에서는 서비스 화면에 AI 활용 사실을 표시하고, 최종 파일 다운로드 시 문서 머리말이나 메타데이터에 표시하면 된다.
 생산성 향상 서비스(구글 워크스페이스의 제미나이, MS 코파일럿 등) 예시를 보면 이용 화면 내 로고 표출, 이용 전 안내 등으로 인공지능 활용 여부 표시하며, 개별 결과물에 대한 표시는 불필요하다. 단, 실시간으로 동기화되어 파일 등으로 저장하는 경우 '서비스 외부 반출 시 표시 방법'에 대한 추가적인 적용이 필요하다.
 Q8. (이미지 생성 서비스 개발자 H씨) "우리 서비스는 웹툰 캐릭터만 그린다. 실사 이미지를 만들지 않아도 딥페이크 기준을 적용해야 하나? 딥페이크 여부는 누가 판단하나?"
 사업자가 판단할 수 있다. 웹툰 전용이라면 일반 생성물 기준 적용이 가능하다.
 가이드라인은 실제와 구분하기 어려운 결과물이 나올 가능성이 없다고 사업자가 명확히 판단할 수 있는 경우 일반 생성물 기준을 적용할 수 있다고 밝혔다.
 일반 생성물은 로고 삽입, 메타데이터 등 비교적 유연한 표시 방법을 선택할 수 있다. 반면 딥페이크는 "사람이 직관적으로 인식할 수 있는 표시 방법 적용"이 필수이고, 동영상의 경우 "AI로 생성된 재생구간 전체에 로고 표출" 등 더욱 명확한 표시가 요구된다.
 다만 실사 생성 가능성을 판단·통제할 수 없는 경우 딥페이크의 기준을 적용해야 한다. 즉, 기술적으로 실사 생성 가능성을 완전히 차단할 수 있다면 일반 생성물 기준을 적용할 수 있지만, 이용자 입력에 따라 의도치 않게 실사가 나올 수 있다면 안전하게 딥페이크 기준을 적용하는 것이 권장된다.
 Q9. (오디오북 스타트업 CTO I씨) "AI 음성으로 오디오북 만들 때, 메타데이터에만 표시하고 실제 음성으로는 안내하지 않아도 되나?"
 메타데이터 같은 기계 판독 방식만 쓰면 반드시 1회 이상 안내해야 한다.
 음성 생성물의 경우 음성 시작 부분에 AI 생성 사실을 안내하는 방법 등 사람이 인식할 수 있는 방법을 우선 권장한다. 오디오 콘텐츠 시작 부분에 생성형 AI 활용 사실을 멘트로 간단히 안내하면 되고, 오디오 전체에 계속 표시할 필요는 없다.
 이미지의 경우도 마찬가지다. 디지털 워터마킹이나 메타데이터만 사용한다면 다운로드 시 팝업 안내 등으로 1회 이상 알려야 한다. 이는 업계에서 놓치기 쉬운 중요한 요건이다.
 Q10. (게임사 기획자 J씨) "게임 속 AI NPC와 대화할 때마다 'AI입니다' 안내가 나오면 몰입이 깨진다. 어떻게 해야 하나? 영화 같은 예술 작품도 똑같이 적용되나?"
 <figure class="figure_frm origin_fig" contents-hash="7f2a76781ebc33bda0a7e1fb671a73addc1900e1702b58ec6178db8ad24e7ece" dmcf-pid="8hmAKSDgyX" dmcf-ptype="figure">
 <img alt="[사진=제미나이 제작]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/22/inews24/20260122164111227mliv.jpg" data-org-width="580" dmcf-mid="X5sc9vwalS" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/22/inews24/20260122164111227mliv.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [사진=제미나이 제작]
 </figcaption>
 </figure>
 초기 대화 시 1회만 안내하거나 NPC 이름에 표시하면 된다. 예술 작품은 완화된 기준이 적용된다.
 가이드라인은 게임·메타버스 환경에서 NPC 이름이나 초기 대화 시 1회 안내 등으로 AI 활용 사실을 알릴 수 있다고 제시했다.
 예를 들어 'AI 상인 토마스', 'AI 가이드 루나' 같은 이름을 붙이거나, 첫 대화에서 "안녕하세요, 저는 AI 도우미입니다"라고 안내한 후 이후 대화는 자연스럽게 진행할 수 있다. 게임 로딩 화면이나 설정 메뉴에서 안내하는 것도 방법이다.
 예술적·창의적 표현물에 대해서는 특별 조항이 있다. AI 기본법 제31조 3항은 "예술적·창의적 표현물에 해당하는 경우 전시·향유를 저해하지 않는 방식으로 고지 또는 표시할 수 있다"고 규정했다.
 다만 딥페이크 수준의 작품이라면 관람객·시청자가 명확히 인식할 수 있는 수준의 표시가 필요하다.
 AI 기본법 위반 시에는 최대 3000만원 이하의 과태료가 부과될 수 있으며, 사전 고지 미이행, 생성물 표시 미이행, 딥페이크 표시 미이행 등 투명성 확보 의무 위반과 해외 사업자의 국내 대리인 미지정, 시정명령 불이행 등이 과태료 부과 대상이다.
 다만 정부는 법 시행 초기 혼란을 줄이기 위해 최소 1년 이상 계도기간을 운영할 방침이며, 인명 사고나 중대한 인권 침해 등 예외적인 경우를 제외하고는 계도와 지원을 우선한다는 입장이다.
 과기정통부는 'AI 기본법 지원데스크'를 운영하며, 향후 업계 의견을 수렴해 가이드라인을 보완할 계획이다.
 <address contents-hash="d02a6acee920ba1194bd348926a9c9af352e1f5d3c623bac78a3ac4159656e23" dmcf-pid="HrcLusNdvl" dmcf-ptype="general">/윤소진 기자(sojin@inews24.com)
</address>
 </section> 
 </div> 
 Copyright © 아이뉴스24. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기