유튜브·메타 “‘AI 슬롭’ 영상 규제” 의지
메타, 10억개 가짜 계정에 조치… 1000만개 삭제
유튜브, ‘디디 재판 영상’ 이후 정책 개편

유튜브, 메타 등 글로벌 소셜미디어(SNS) 기업들이 인공지능(AI)으로 만든 비창작 콘텐츠 규제에 나섰다. 생성형 AI 기술을 악용한 가짜뉴스가 많아지고 저품질 동영상이 대량으로 늘어나자 생태계 정화에 나서는 모습이다.

테크크런치 등 외신에 따르면 메타는 지난 14일(현지시각) 페이스북 내 ‘비창의적 콘텐츠’에 대한 단속을 대폭 강화한다고 밝혔다. 반복적으로 타인의 텍스트, 이미지, 영상 등을 재사용하거나 사칭 계정을 운영하는 계정에 대해 게시물 확산을 축소하고 수익 창출을 제한하는 등 제재가 본격 적용된다. 특히 AI 기술 확산으로 양산되는 저품질 콘텐츠, 이른바 ‘AI 슬롭(찌거기)’에 대한 규제를 통해 플랫폼 품질 관리를 강화하겠다는 의지를 밝혔다.

메타는 올해 1~3월 사이 페이스북의 월간 활동 사용자 중 약 3%가 가짜 계정이었으며 이 기간에 10억개의 가짜 계정에 조치를 취했다고 밝혔다. 그중 유명 콘텐츠 제작자로 속인 계정 1000만개를 삭제했고 스팸성 활동이나 ‘가짜 참여’를 유도한 계정 50만개에 대해 댓글 노출을 줄이고 콘텐츠 배포를 제한했다. 다만 단순 반응 영상이나 유행 콘텐츠 참여처럼 창의적 해석이 동반된 재사용은 단속 대상에서 제외된다. 메타는 원본 제작자에게 정당한 조회 수와 보상을 제공하기 위해 중복 콘텐츠 하단에 ‘원본 링크’를 추가하는 기능도 테스트 중이라고 설명했다.

앞서 유튜브도 지난 10일(현지시각) 비슷한 조치를 발표했다. 유튜브는 오는 15일부터 ‘유튜브 파트너 프로그램’ 정책을 개편하고 대량 생산된 동영상 및 기타 유형의 반복적인 콘텐츠 등 진정성 없는 콘텐츠를 수익화 대상에서 제외하는 정책을 시행하겠다고 밝혔다. 새 정책이 시행되면 실제 사람의 음성이 담긴 원본 콘텐츠만 수익화 대상이 될 예정이다. AI 음성으로 위키백과 내용을 읽는 콘텐츠나 슬라이드 이미지만 나열한 영상, 유사한 형식의 반복되는 AI 뉴스 영상, 기계적으로 조합된 AI 이미지와 음악만 있는 영상 등은 광고 수익을 받을 수 없다.

생성형 AI로 만든 디디 재판 영상. /온라인 커뮤니티 캡처

유튜브의 이 같은 결정에는 지난달 있었던 ‘디디 재판 영상’이 영향을 미쳤다. 지난 몇 달간 유튜브에서 미국의 유명 래퍼 디디가 법정에서 증언하는 듯한 영상이 퍼졌는데 실제로는 모두 AI가 만들어낸 영상이었다. 가디언에 따르면 해당 콘텐츠들이 26개 채널을 통해 900개 넘게 업로드됐고 누적 조회수가 7000만회에 달한다고 보도했다. 이런 콘텐츠가 생기는 것은 조회수에 따른 광고 수익 때문이다. 실제 유튜브 수익 창출 전략을 강의하는 한 크리에이터는 “‘디디 슬롭’은 현재 유튜브에서 쉽게 돈을 버는 방법”이라고 말했다.

최근 글로벌 SNS 기업이 규제에 나선 데는 생성형 AI가 만든 비창작 콘텐츠가 과도하게 많아져서다. ‘AI 슬롭’이라 불리는 이런 영상은 이미지나 영상 클립 위에 AI 기술로 음성을 덧입혀 만든다. 특히 ‘AI 슬롭’은 미드저니, 구글 VEO, 오픈AI 소라 등 AI 영상 제작 소프트웨어(SW)가 보급되면서 빠르게 확산했다. 글로벌 SNS 기업은 이런 영상들이 SNS 내 수백만 조회 수를 기록하며 플랫폼 신뢰도를 떨어뜨린다고 판단했다. 실제 유튜브 시장조사업체 튜브필터에 따르면 지난달 1일 세계에서 유튜브 구독자가 가장 많이 증가한 채널 50개 중 8개는 AI 생성 영상을 쇼츠로 올린 채널인 것으로 집계됐다.

실제와 AI 영상을 구별하기 어려울 정도로 기술이 발전하면서, 글로벌 SNS 기업들은 콘텐츠 창작자에게 다양한 방안을 제시하고 있다. 메타는 콘텐츠 창작자들에게 단순히 클립을 이어붙이거나 워터마크를 추가하는 수준을 넘어 의미 있는 스토리텔링에 집중할 것을 권고했다. 이어 고품질 자막 제공을 강조하며 AI가 자동 생성한 자막은 지양하라고 전했다. 유튜브 역시 앞으로 콘텐츠 창작자들에게 ‘개인의 기여’와 ‘창의성’을 명확히 증명하도록 요구할 전망이다.

- Copyright ⓒ 조선비즈 & Chosun.com -

Copyright © 조선비즈. 무단전재 및 재배포 금지.