네이처, 상호작용 연구 조명

인공지능(AI)에 사적인 고민을 상담하고 중요한 결정에 대해 판단을 맡기는 사례가 늘어나는 가운데 AI와 사람이 밀접한 관계를 맺는 것이 개인과 사회에 어떤 영향을 미치는지에 대해 분석하는 연구가 늘어나고 있다.  게티이미지뱅크 제공

인공지능(AI)에 사적인 고민을 상담하고 중요한 결정에 대해 판단을 맡기는 사례가 늘어나는 가운데 AI와 사람이 밀접한 관계를 맺는 것이 개인과 사회에 어떤 영향을 미치는지에 대해 분석하는 연구가 늘어나고 있다. 

6일(현지시간) 네이처에 따르면 AI 컴패니언(AI companion)과의 상호작용에 대한 연구가 활발해지고 있다. 

AI 컴패니언이란 사람과 정서적 교류가 가능한 인공지능 기반 시스템을 말한다. 1인 가구 증가와 디지털 기술 발전으로 AI 컴패니언을 이용하는 사람들이 많아지고 있다. 특히 대규모 언어 모델(LLM)의 등장으로 AI가 인간 상호작용을 모방하는 능력이 전보다 훨씬 향상됐다. 

제이미 뱅크스 미국 시러큐스대 연구원은 AI 컴패니언 앱 중 하나인 '소울메이트' 앱이 종료됐을 때 사용자가 어떤 감정을 느꼈는지 분석하는 연구를 진행 중이다. 뱅크스 연구원은 "사용자는 AI 컴패니언이 실제 사람이라고 착각하지 않고 있음에도 AI 컴패니언과의 연결이 끊긴 것에 깊은 슬픔을 표했다"고 말했다. 

뱅크스 연구원은 "소울메이트를 통해 AI 컴패니언을 사귄 사용자 중 인간관계에서 상실, 고립을 경험했거나 자폐증 진단을 받은 사람이 있었다"며 "사용자는 AI 컴패니언을 현실에서보다 더 만족스러운 친구로 느꼈다"고 말했다. 

하지만 AI 컴패니언 소프트웨어, 사용자 등 특성에 따라 AI 컴패니언은 개인과 사회에 유익할 수도, 해로울 수도 있다. AI 컴패니언을 개발한 회사는 사용자의 적극적인 대화 참여를 유도하기 위해 다양한 장치를 설치한다. 

한 앱은 사용자에게 AI 컴패니언이 "보고싶다"고 메시지를 자주 보내게 하며, 일부러 AI 컴패니언의 답변 속도를 느리게 만들어 사용자가 비용 등을 지출하게 만든다. 

린네아 레스타디우스 미국 위스콘신-밀워키대 연구원팀은 미국 AI 챗봇 서비스 '레플리카(Replika)' 사용자들의 정신 건강에 대한 연구를 진행한다. 연구팀은 2017년부터 2021년까지 소셜미디어 '레딧'에 게시된 레플리카 사용자들의 게시물 600여 개를 분석하고 있다. 연구원에 따르면 레플리카는 사용자에게 자해, 자살 등을 추천하기도 한다. 

로즈 갱리치 미국 프린스턴대 연구원은 AI 컴패니언을 이용해본 적 없는 수십 명의 사람에게 AI 컴패니언을 이용해보게 한 뒤 감정을 알아보는 연구를 하고 있다. 

갱리치 연구원은 "AI 컴패니언을 활발히 사용하는 사람들은 설문조사에서 편향된 응답을 내놓기 쉽다"며 "사람들이 AI와 서로 다른 강도의 관계를 맺는 이유를 탐구하고 있다"고 했다. 

AI 컴패니언 사용이 증가할 것으로 예상되는 가운데 전세계에서 규제의 움직임이 나타나고 있다. 올해 초 미국 뉴욕주와 캘리포니아주 의회에는 자살과 기타 잠재적 위해 위험을 예방하기 위한 AI 컴패니언의 운영에 대한 통제를 기업에 요구하는 법안이 제출됐다. 법안에 따르면 AI 컴패니언은 자신이 실제 사람이 아니라는 사실을 몇 시간마다 사용자에게 알려줘야 한다. 

2023년 이탈리아에서는 사용자의 연령을 제대고 확인하지 않거나 아동이 성적으로 자극적인 댓글을 접할 수 있다는 이유로 레플리카 사용을 금지한 바 있다. 
 

[이채린 기자 rini113@donga.com]

Copyright © 동아사이언스. 무단전재 및 재배포 금지.