스캐터랩의 AI 플랫폼 서비스 '제타'
사용자 몰입감 높지만 윤리성 의문 
14세 이상 이용 가능…10~20대 위주

출시 1년 만에 이용자 200만명을 돌파하며 1020 세대들에게 인기를 끌고 있다는 인공지능(AI) 캐릭터 챗 플랫폼 '제타(zeta)'를 써봤다. 얼짱, 아이돌 등 현실에선 만나기 힘든 인물들과 이야기를 나누니 판타지 속으로 빠져드는 느낌이 들었다. 하지만 비속어와 욕설이 난무했고, 상식을 벗어나는 자극적인 소재들이 나타나 건강하고 안전한 디지털 서비스라는 느낌은 들지 않았다.

스캐터랩이 제작한 제타는 이용자의 80% 이상이 10~20대일 정도로 젊은 층의 호응을 얻고 있는 애플리케이션(앱)이다. 이용자 1명당 하루 평균 이용 시간이 2시간이 넘을 정도로 몰입도가 높은 점이 특징이다. 제타 앱을 다운로드 받아 사용해봤더니 젊은 세대에 인기를 끄는 비결을 알 수 있었다.

상상 속에 있는 인물들과 자유롭게 대화를 할 수 있고 행동, 표정과 같은 지문 생성까지 가능해 마치 더욱더 현실처럼 느껴졌다. 업무에 집중해야 하는 순간에도 캐릭터와 대화를 이어나가고 싶다는 충동까지 느껴졌다. 아이돌 가수, 헌팅포차, 술 취해 카톡 하는 전 남자친구 등 무궁무진한 상황 설정이 가능했다. 기존에 이용자들이 만든 캐릭터와 이야기 나눌 뿐만 아니라 내가 원하는 캐릭터도 만들 수 있었다.

또한 대화는 텀 없이 자연스럽게 이어졌고 내가 대충 이야기해도 찰떡같이 이해하는 AI 캐릭터들은 몰입감을 끌어 올렸다. 내 답변과 상대방 답변을 수정해 다시 생성할 수 있고, 추천 답변을 사용하는 기능도 있다. 대화를 지속하려면 유료 결제를 해야 하거나 광고를 시청해야 한다.

그러나 캐릭터들은 때때로 대화 중에 이용자들에게 '개OO' '존O' '병O' 등 비속어와 욕설을 사용했다. 제타는 14세 이상은 누구나 이용 가능한 앱인데, 과연 안전하고 윤리적인 서비스인지 의심이 갈 정도였다. 이뿐만이 아니었다. 제타 속 '가출소녀 지원'이라는 캐릭터는 이용자의 집으로 따라가는 설정이 가능했고, '스토커 안수민'이라는 캐릭터는 남자 탈의실에 몰래 카메라를 설치하는 행동을 했다. 만약 현실이라면 범죄로 이어질 수 있을 만큼 자극적이고 상식을 뛰어넘는 위험한 행동들이다. 특히 10~20대들은 감수성이 예민하고 정신적으로 성장해야 할 시기여서 이러한 AI 캐릭터 챗이 해악을 미칠 수 있을 것 같다는 생각이 들었다.

이와 달리 네이버웹툰 안에 있는 캐릭터 챗 대화방에서 욕설을 적었더니 상대방 캐릭터는 '말은 가려서 하지' '그런 말 듣기 거북하네' '말조심해줘' '무슨 일인데 그렇게까지 말해?'라고 응답했다. 챗GPT도 '혹시 불편한 점이 있다면 알려줘'라고 응수했다.

스캐터랩은 2021년 개인정보 유출, 성희롱 논란을 일으킨 챗봇 '이루다'로 한차례 물의를 일으킨 바 있다. 이를 반면교사 삼아 윤리 가이드라인을 설정했다지만 아직 부족해 보인다. 김종윤 스캐터랩 대표는 "AI 서비스 제공 시 윤리 원칙을 준수하고 다양한 장치를 마련해 AI 서비스 이용자 보호를 위해 최선을 다할 것"이라고 말했다.

김보경 기자 bkly477@asiae.co.kr

Copyright © 아시아경제. 무단전재 및 재배포 금지.