'저는 AI 입니다' 경고 영상 화제…최신 AI로 누구나 영상 제작 가능
'AI 활용' 표시 움직임 활발…"출처 확인·리터러시 캠페인 필요"

AI 생성 경고 영상 [유튜버 딸깍 디자이너 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 김현수 기자 = 인공지능(AI)을 활용해 만든 영상이 현실과 구분이 어려워지는 수준에 이르면서 소셜미디어(SNS)를 중심으로 우려의 목소리가 커지고 있다.

최근 SNS 스레드에는 AI 생성 영상에 대한 경각심을 불러일으키는 영상이 올라와 화제를 낳았다.

해당 영상은 방송국 아나운서가 "서울 시내에 용암이 분출하고 있다"는 속보를 전하며 현장 기자를 연결하는 장면으로 시작한다.

곧바로 등장한 취재 기자는 뒤편으로 시뻘건 용암이 솟아오르지만 태연하게 서 있다.

기자는 "뒤에 보이는 용암은 진짜가 아닙니다. 저는 AI입니다"라고 말하고, 뒤이어 등장한 학생, 연예인, 사업가 등도 모두 자신이 AI임을 강조하며 시청자에게 '속지 말라'고 경고한다.

영상을 본 네티즌들 사이에서는 현실에 버금가는 영상 수준이 놀랍다는 반응부터, 끊임없이 진보하는 AI 기술이 악용될까 우려된다는 목소리가 함께 나왔다.

AI 활용이 익숙하지 않은 고령자가 AI 생성 여부를 판단할 수 있게끔 교육해야 한다는 반응도 이어졌다.

아무 의심 없이 콘텐츠를 수용하는 현실을 풍자한 해당 영상에는 구글의 동영상 생성 AI 모델 '비오3'(Veo)가 활용됐다.

해당 영상을 제작한 유튜버 '딸깍 디자이너'는 연합뉴스에 "뉴스에서 일론 머스크의 얼굴로 로맨스스캠(연애 빙자 사기)을 당한 사례가 인상 깊었다"며 "조악한 AI 기술로도 사람들이 속을 수 있다는 게 놀라웠다"며 영상 제작 배경을 설명했다.

그는 "비오3로 누구나 마음만 먹으면 쉽게 영상과 음성을 생성할 수 있다"며 "AI 생성 영상에 대한 접근성이 쉬워지는데 이에 대한 경각심이나 인식은 낮은 것 같다"고 덧붙였다.

AI 영상 광고 제작소 '아웃오프라인'이 제작한 '한국 남성의 삶' 영상은 유년기부터 노년에 이르는 인생 과정을 AI 기술로 풀어내 주목받았다.

영상을 본 네티즌들은 '비오3로 만든 영상 중 제일 자연스럽다'는 호평부터 '숏폼은 이런 제작자가 다 선점하겠다' 같은 전망까지 다양한 반응을 내놨다.

AI 생성 영상을 쉽게 돈 버는 방법으로 인식하는 이들도 눈에 띄었다.

한 스레드 이용자는 "유튜브 영상 직접 안 찍어도 된다"며 "100만 뷰로 돈을 벌고 싶다면 추천하는 프롬프트를 써보라"고 소개했다.

AI 생성 영상이 현실과 경계를 허무는 수준에 이르자 콘텐츠에 AI 사용 여부를 표시해야 한다는 목소리도 커지고 있다.

내년 시행을 앞둔 AI 기본법에는 생성형 AI를 통해 만들어진 영화·드라마 등 콘텐츠 서비스에 AI 결과물 표시를 의무화하는 내용이 담겨 있다.

네이버는 지난 달 콘텐츠 블로그, 카페, 네이버 TV, 클립 등에서 'AI 활용' 표시를 통해 작성자가 AI 활용 여부를 표시할 수 있는 기능을 제공하기 시작했다.

네이버는 기능 도입 배경에 대해 "콘텐츠에 따라 실제와 가상의 구분이 어려울 수 있어 AI를 활용한 콘텐츠를 구분하는 것이 필요해지고 있다"며 "AI 활용 표시를 통해 이용자들은 콘텐츠의 출처를 명확히 파악할 수 있고, AI로 생성된 콘텐츠가 실제와 혼동되는 것을 방지할 수 있다"고 설명했다.

AI 영상 생성 여부를 쉽게 판단할 수 없음을 인정하고, 미디어 리터러시 훈련이 우선돼야 한다는 전문가 지적도 나온다.

최병호 고려대 AI연구소 교수는 "오픈소스로 공개된 AI 영상 제작 기술을 응용해 악의적 행동을 하면 진위를 판단하는 게 사실상 불가능하다"며 "누가, 언제, 왜 이런 영상을 만들었는지 콘텐츠 출처를 파악하고, 모든 걸 의심해야 한다는 취지의 캠페인을 언론, 비영리 단체 등이 시행해야 한다"고 조언했다.

hyunsu@yna.co.kr

▶제보는 카톡 okjebo

Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지