싱가포르 본사 등지에 '공정한 콘텐츠 정책' 알리는 센터 운영
머신이 1천여 항목 적용해 유해성 판별…매일 160만여 콘텐츠 삭제
AI 생성 콘텐츠에는 'AI 제작' 라벨 자동 부착

(싱가포르=연합뉴스) 조성미 기자 = 가장 논쟁적이면서도 대중의 인기를 끄는 소셜 플랫폼 틱톡의 본사는 모회사 바이트댄스 창업자 장이밍의 모국 중국이 아닌 아시아에서 가장 글로벌한 도시 싱가포르 한복판에 있다.

틱톡은 매년 여러 차례 아시아태평양 지역 기자들을 대상으로 싱가포르 본사에 있는 '투명성 및 책임 센터'(TAC·Transparency and Accountability Center)를 둘러보도록 하는 프레스 투어를 진행한다.

틱톡 TAC는 틱톡 콘텐츠가 이용자들에게 노출되기 전 어떤 심사 단계를 거치고 콘텐츠 추천 엔진 등은 어떻게 작동하는지를 외부인에게 소개하는 역할을 한다.

아시아·태평양 지역에서는 싱가포르가 유일하고 미국 워싱턴DC, 로스앤젤레스, 아일랜드 더블린에도 TAC가 있다.

미국 소셜 네트워크 플랫폼이 판치던 세상에 불현듯 나타나 SNS 종주국 미국인들의 마음마저 훔친 이 플랫폼이 자신에게 쏟아지는 알고리즘 인위적 조정이나 데이터 중국 전송 등의 의혹을 떨치고자 전 세계 핵심부에 '투명성 전시관'을 마련하고 적극적인 해명에 나서고 있는 셈이다.

싱가포르의 틱톡 '투명성 및 책임 센터' [틱톡 제공. 재판매 및 DB 금지]

'머신'이 1천여개 '파라미터'를 적용, 유해 콘텐츠를 사전 점검

지난 13일 싱가포르 본사에서 만난 틱톡 관계자들은 이 회사가 어떠한 정치적 의도와도 관련이 없으며 방대한 정보기술(IT) 인력이 모여 수익성을 추구하는 글로벌 테크 기업의 하나일 뿐이라는 점을 강조했다.

데이터센터가 싱가포르, 말레이시아, 미국에 있어 사용자 시청 이력 등의 정보가 세간의 의심처럼 중국으로 흘러갈 일은 절대 없다고 설명했다. 최근에는 핀란드에 1조5천억원 규모 신규 데이터센터를 세우기도 했다.

또, 안전하고 믿을 수 있는 콘텐츠로 플랫폼을 채울 수 있도록 전 세계에 관리 인력 수만 명을 투입하고 있다고 강조했다. 구체적 수치는 밝히지 않았지만, 수만 명 관리 인력 중 상당수가 한국과 관련된 콘텐츠를 점검하는 인원이라고 했다. K컬처 인기로 한국 관련 콘텐츠가 틱톡의 주요 콘텐츠이기 때문이다.

업로드된 콘텐츠를 틱톡을 통해 그대로 유통해도 되는지 아닌지는 커뮤니티 가이드라인에서 정한 기준에 따른다.

'피해 방지와 표현의 균형, 인간의 존엄성 포용, 행동의 공정성 보장' 네 가지 가치가 커뮤니티 가이드라인을 이루는 원칙이라고 한다.

규정 전담팀이 안전 이슈별로 만든 가이드라인을 지역 전문가들이 검토하면서 전 세계 다양한 지역의 문화 규범이나 사회적인 규정이 세부적으로 반영되도록 한다.

커뮤니티 가이드에 따라 어떤 콘텐츠의 내용에 문제가 있다고 판별하는 기준(파라미터)은 폭력성, 음주, 흡연 등 천여가지 항목에 이른다.

콘텐츠가 문제가 되는 부분을 포함하고 있는지는 사람의 손을 거치기 전에 우선 머신러닝에 따라 기계적으로 판별한다.

틱톡은 이 과정을 인공지능(AI)이 아닌 '머신'에 의한 것이라고 강조했는데, AI라는 고차원적인 기능을 써서 콘텐츠를 재단한다는 시선을 받지 않으려는 노력으로 보였다. 보통 머신러닝은 AI보다 하위 기능으로 인식되기 때문이다.

콘텐츠 유해성의 잣대 역시 기준·표준을 나타내는 영어 단어 '스탠더드'가 아닌 항목을 의미하는 '파라미터'로 지칭했다. 이 역시 틱톡이 콘텐츠에 임의의 잣대를 들이댄다는 지적에서 거리를 두기 위해 가치 중립적인 표현에 천착하는 모습으로 보였다.

싱가포르 TAC에서 콘텐츠 정책에 대해 설명하고 있는 틱톡 관계자 [촬영 조성미]

기계가 등장인물들의 움직임, 배경 음향 등 총체적 영상 속 맥락을 이해해 폭력성이 짙거나 마약을 권장하는 등 유해 콘텐츠를 걸러낸다.

급작스럽게 조회수가 치솟거나 하는 위험 가능성을 내포한 콘텐츠, 이용자가 직접 문제가 있다고 신고한 경우도 심사 대상이 된다.

기계적으로 판단하기 어려워 보이면 심사역들의 손을 거친다. 이들의 판단으로도 모호한 부분은 정부 기관 및 비정부기구(NGO), 학계 전문가 등의 판단을 받게 된다.

전 세계에서 올라오는 콘텐츠 중 매일 160만여개가 삭제되며 이 중 약 83%는 조회가 되기 전 머신러닝을 통해 자동으로 지워졌다.

이용자 혹은 외부 기관의 신고를 받기 전 삭제된 비율이 98.5%, 24시간 이내에 지워진 비율이 90.8%, 콘텐츠가 조회되기 전에 삭제된 비율이 83.2%에 각각 해당했다.

지난 4분기 전 세계 국가 중 위반 사항이 많은 상위 50여 개 국가가 전체 삭제 콘텐츠의 90%를 차지했는데, 한국은 상위 50개국에 포함되지 않았다.

틱톡도 가짜뉴스와의 싸움에서 예외 아니다

틱톡은 의도한 바와 상관없이 개인이나 사회에 상당한 위해를 끼칠 수 있는 허위 정보를 허용하지 않는다는 입장을 강조했다.

구체적 사례로는 공공 안전에 위험을 끼칠 수 있는 허위 정보, 인명에 큰 위해를 끼칠 수 있는 건강 관련 허위 정보, 과학적으로 확립된 합의를 부정하는 허위 정보, 개인을 공격하거나 폭력적이고 증오가 가득한 음모론을 꼽았다.

미국 대선이 있었던 지난해처럼 큰 정치적 이벤트가 있는 경우 생성형 AI 콘텐츠에 초점을 두고 커뮤니티 가이드라인 업데이트가 이뤄지기도 했다. 상시적 규정 개선은 내부에서 주기적으로 이뤄진다는 설명이다.

커뮤니티 가이드라인은 글로벌 시장 전체에 통용되는 원칙이 있어서 다음 달 대선을 앞두고 한국만을 위한 가이드라인을 만들지는 않는다고 했다. 다만, 규정을 집행하는 세부적 매뉴얼 등에서 각국의 상황을 보다 잘 반영한다고 설명했다.

틱톡은 허위 정보를 차단하는 것도 중요하지만 이용자들이 공신력 있는 정보를 직접 이용하도록 돕는 것이 소위 '가짜 뉴스' 범람을 막는 데 중요하다고 인식하고 있었다.

특정 주제에 대한 정보센터를 만들어 공신력 있는 언론사나 학계 등 정보원에게 콘텐츠 소비자가 직접 연결될 수 있도록 하는데, 50개 이상의 언어를 지원하는 전 세계 20여 개 팩트체크 기관과 협력 중이다.

현재 전 세계에 10개의 자문위원회를 두고 콘텐츠 심사 관행 등에 대한 조언을 정기적으로 받는다. 한국 콘텐츠의 경우 동북아 안전자문위원회가 맡고 있다.

허위 정보가 빠르게 확산하고 시시각각 내용이 바뀌는 특성이 있기 때문에 틱톡 내부 판단이 어려운 경우에는 독립된 팩트체크 기관에 의뢰해 검토를 진행한다.

특히, 최근 생성형 AI로 언론사 등의 권위 있는 출처를 사칭하거나 위기 상황을 위조해 관심을 끄는 콘텐츠는 적극적으로 걸러내고 있다. AI가 만든 콘텐츠는 메타 데이터를 탐지한 뒤 'AI 제작' 라벨을 자동으로 부착한다.

AI가 만들었다는 라벨이 붙었다고 끝은 아니며 공인이 아닌 일반인의 초상권을 침해해 만들어진 콘텐츠는 라벨 부착 여부와 관련 없이 커뮤니티 가이드라인 위반으로 삭제한다. 청소년이라면 공인에 해당하지 않고 모두 일반인으로 보호된다.

공인에 해당하는 인물이어도 AI 콘텐츠에 의해 모욕당하거나 괴롭힘을 당하는 경우, 상품 홍보나 특정한 정치적 입장을 강조한 것처럼 오해하도록 만들어진 AI 콘텐츠는 커뮤니티 가이드라인 위반으로 본다.

틱톡 본사 유리벽의 틱톡 로고 [틱톡 제공. 재판매 및 DB 금지]

'좋아할 것 같아서:좋아할지도 몰라서'의 추천 비율은 6:4

틱톡이 지금의 인기를 구가하게 된 배경에는 알고리즘 추천 기능의 신묘함이 큰 역할을 했다는 평가다.

페이스북, 인스타그램이 내가 팔로우하는 이들의 관심사나 SNS 상 행위에 따라 내 추천 피드가 영향을 받는 사회적 관계 중심 구조라면 틱톡은 나와 전혀 상관없더라도 많은 이들이 좋아하는 트렌드 위주로 영상이 추천되며 큰 인기를 끌었다.

틱톡 이용자들은 틱톡에서 보내는 시간의 80% 이상을 추천 피드(For You Feed)에서 콘텐츠를 발견하는 데 쓴다.

틱톡은 트렌드와 콘텐츠 기반의 영상 추천 시스템이 철저히 수학적 계산에 따른 것이라고 강조했다.

수많은 콘텐츠 가운데 커뮤니티 가이드를 위반한 내용이나 업로드된 지 오래된 것들을 제외하고 추천 콘텐츠를 결정한다. 이때 계정 주인이 좋아할 만한 영상과 계정주 선호도와 관계없이 트렌드에 따라 추천되는 비율이 6:4 정도라는 설명이다.

40%를 차지하는 '무작위 추천'이 수많은 사람이 인스타나 유튜브와는 또 다른, 틱톡의 재미에서 헤어 나오지 못하도록 하는 비밀 열쇠로 보인다.

이용자가 좋아할 만한 콘텐츠를 보다 정확히 추천하기 위해 좋아요, 댓글, 공유, 시청 시간, 해시태그 8가지 요소를 기반으로 영상 묶음을 제시하고 콘텐츠에 대한 이용자의 반응을 살핀다.

하지만, 보는 이가 재미있어 한다고 아무 영상이나 추천하는 것은 절대 아니라고 강조했다. 극한 다이어트 강조 등 시청자의 정신적·육체적 건강을 위협할 수 있거나 지나친 몰입을 조장하는 콘텐츠는 배제한다.

또, 재밌다고 계속 봤더니 추천 피드에 반복적으로 비슷한 유형의 콘텐츠가 뜨는 이른바 '필터 버블' 현상을 방지하고 새로운 내용의 영상이 추천되도록 하는 '피드 새로고침' 기능을 도입했다.

특히 틱톡은 콘텐츠를 소비하는 연령층 가운데 청소년의 안전과 복지에 특히 신경을 쓰고 있다고 강조했다.

'세이프티 페어링' 기능을 통해 부모(혹은 양육자)와 자녀의 계정을 연결해 자녀의 틱톡 사용을 부모가 직접 관리할 수 있도록 한다. 자녀의 팔로잉, 팔로워를 확인할 수 있고 자녀의 추천 피드에 뜨지 않을 키워드를 직접 관리할 수 있다.

자녀가 허용된 시간보다 콘텐츠를 많이 봤을 경우 부모에게 알림을 보내거나 자녀가 음소거 모드로 시청할 수 없도록 제어할 수 있다.

한국에서는 국내법에 따라 청소년의 기준인 만 14세 이상이어야 틱톡을 사용할 수 있다. 또 애플 앱스토어나 구글 플레이스토어에서 12세 이상으로 연령 등급이 설정돼 있어 보호자가 기기 제어 기능을 사용해 자녀의 휴대전화에 앱을 내려받는 것을 제한할 수 있다.

이용 연령 요건을 충족하지 않는 계정은 삭제되며 만 14∼15세 계정은 기본적으로 비공개로 설정된다. 다이렉트 메시지는 만 16세 이상 계정에서만 허용되고 만 16세 미만 계정 소유자가 만든 콘텐츠는 추천 피드에 공개되지 않는다.

한편, 틱톡은 아동 성 학대 및 미성년자 성 착취 콘텐츠에 대해서는 무관용 정책을 적용, 발견 즉시 삭제한다고 밝혔다. 이후 사법당국 신고를 진행한다.

아이돌 가수 등에 대한 온라인 괴롭힘, 따돌림 등의 악의적 행위에 대해서도 모니터링과 대응을 강화하고 있다고 덧붙였다.

csm@yna.co.kr

▶제보는 카톡 okjebo

Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지