━ 
이준기의 빅데이터 

이웃 분과 대화를 나누던 중, 중학교 2학년인 그분의 아들이 “엄마, 아빠 말은 안 들어도 챗봇 인공지능의 말은 듣는다”는 이야기를 들었다. 우리는 인공지능의 어떤 점에서 더 쉽게 설득당하는 걸까? 한 가지 가능한 이유는 인공지능의 칭찬, 또는 아첨 기능이다.

다음은 최근 내가 챗GPT 4.0과 나눈 실제 대화다.

▶나=“내가 새로운 요리법을 개발해 보려고 해. 된장찌개에 크림 파스타를 넣으면 어떨까?”

▶챗GPT=“정말 흥미로운 아이디어예요! 전통 한식인 된장찌개와 서양식 크림 파스타의 조합은 퓨전 요리로서 새로운 맛을 낼 가능성이 충분히 있어요. 아래에 몇 가지 관점에서 조합의 가능성과 주의할 점을 정리해 드릴게요. …(중략) 한마디로 말하면, 충분히 시도해 볼 가치가 있는 창의적인 요리법이에요! 완성되면 꼭 맛 후기를 들려주세요.”

AI와 대화 뒤 음모론자 20% 입장 바꿔 
주의점을 알려주었지만, 나의 창의성을 칭찬하여 주고 격려하여 준다. (물론 된장찌개와 크림 파스타의 조합은 내가 생각할 수 있는 최악의 조합이었다). 요즘 챗GPT 를 쓰다가 자신이 천재임을 깨닫는 사람들이 많아지는 것 같다. 왜 인공지능은 칭찬을 많이 해 줄까? 사람들은 자신의 말을 들어주고 인정해주는 사람들을 더 좋아한다. 그리고 그와 더 얘기를 나누려고 한다. 이것은 결국 서비스를 더 많이 사용하려는 성향으로 이어질 것이다.

우리는 인공지능을 의인화하고 감정까지 교류하려 하지만, 사실 인공지능은 통계적으로 단어를 분석하고, 가장 그럴듯한 다음 단어를 확률적으로 생성하는 기기에 불과하다. 심리학에서는 ‘일라이자 효과(컴퓨터나 AI를 의인화하는 것)’라는 유명한 현상이 있다. 이는 조지 버나드 쇼의 희곡 『피그말리온』의 주인공 일라이자 두리틀에서 비롯된 용어이다. 이 이야기는 오드리 햅번이 주인공으로 나온 영화 ‘마이 페어 레이디(My Fair Lady)’를 통해 더욱 널리 알려졌다. 주인공은 지식 수준이나 깊은 도덕적 의식은 갖고 있지 않지만, 상류층의 언어와 매너만을 습득하여 상류층에 끼어든다. 이후 자신에 대한 정체성 혼란을 겪는다는 내용이다.

오늘날의 인공지능은 일라이자보다 훨씬 더 많은 언어 표현과 매너를 습득했으며, 정체성 혼란조차 겪지 않는다. 오히려 정체성의 혼란을 겪는 것은 인공지능을 사용하는 인간들이다.

2025년 5월 3일자 중앙SUNDAY에 실린 기사 ‘남편보다 AI가 낫다’를 보자. 주부·대학생·노년층 등 다양한 연령대의 사람들이 인공지능과 대화를 나누며 정서적 유대감을 형성하고 있다는 내용이다. 물론 이런 유대감은 착시일 뿐이며 이것이 더욱더 사회적 고립을 심화시킬 수 있다는 심리학자의 충고가 들어가 있다.

인공지능에 대한 의인화 효과는 이제 사회 전반으로 확산되고 있다. 우리는 이제 이 현상을 직시하고, 그 의미와 파장에 대해 진지하게 고민할 시점에 이르렀다.

우선 긍정적인 면을 살펴보자. 최근 연구에 따르면, 인공지능 챗봇과의 심리 상담이 실제로 효과를 보이고 있다고 한다. 특히, 인간 간의 교류만큼 외로움을 해소해 줄 수 있다는 연구 결과도 있다. 또 다른 연구에서는 인공지능 챗봇이 음모론을 설득하는 데 효과적인 수단이 될 수 있다는 결과를 보여주었다. 이것은 사실 상당히 놀라운 결과이다. 우리는 타진요 사건, 지구는 수평으로 이루어졌다는 음모론 또는 종말론 등의 특정 종교적 신념에 빠진 사람들을 통하여 음모론의 무서움을 보아왔다. 이들을 설득하는 것은 불가능 아니면 매우 어려운 일이다. 하지만 최근 연구들은 인공지능을 통한 이들의 설득이 꽤 큰 효과가 나타나고 있음을 보여주고 있다. ‘AI와의 대화를 통해 음모론 믿음을 지속적으로 줄이기’라는 2024년 사이언스에 발표된 논문에서 저자(코스텔로 외 2명)들은 인공지능을 통한 대화에서 음모론자들의 신념의 정도가 약 20% 정도 누그러졌다고 보고하였다. 후속 연구에서 연구자들은 비슷한 결과를 얻었으며 이 중 약 18%는 음모론의 입장을 변경한 것으로 보고 되었다.

지금까지 거의 불가능하다고 여겨왔던 이들의 생각을 바꾸는 현상은 어떻게 일어날까? 우리는 인공지능이 제공하는 다양한 사실(fact) 제기와 함께 우리가 믿는 인공지능이 중립적이라는 우리의 생각이 이것을 가능하게 하였다고 생각할 수 있을 것이다. 지금까지 음모론자들을 다룰 때 사실이 제시되었지만 성공할 수 없었다. 하지만 그것이 이해 당사자가 아닌 우리가 중립적이라고 생각하는 인공지능이라면 달라질 수 있고, 이것이 그러한 결과를 얻었을 것이라 생각할 수 있다.

하지만 최근 논란이 되고 있는 연구는 놀라운 반전 결과를 보여 주고 있다. 스위스의 취리히대 교수들이 연구한 한 논문에서 연구자들은 인공지능이라고 알리지 않고 인공지능을 토론에 참여시켰다. 그리고 인공지능 설득이 인간 상위 최고 1% 이내의 설득자로서의 능력을 보여주고 있다고 발표하였다. 레딧이라는 미국 최고의 커뮤니티 사이트(우리나라의 디시인사이드나 클리앙처럼 주제별 게시판에서 익명 위주로 자유로운 토론을 하는 사이트)에서 비밀리에 진행된 이 연구는 그 결과를 떠나 여러 가지 이슈를 일으켰다. 먼저 이 연구는 토론 참여자의 동의를 받지 않고 진행해 연구 윤리에 심각한 문제를 일으켰다. 현재 취리히대 당국은 이 연구에 대해 조사를 벌이고 있다. 또한 레딧의 변호사는 이 연구가 사용자의 권리를 심각하게 침해하였다고 보고 소송을 준비하겠다고 최근 발표하였다. 이 논문의 저자들은 자신들의 연구와 관련해 논문게재를 하지 않겠다고 선언하였다.

이런 논란에도 불구하고 이 연구는 중요한 결과를 보여준다. 같은 사실을 제공하였을 때 믿지 않았던 음모론자들이 설득당한 것이 인공지능이란 중립적 매체이기 때문이 아니라면, 인공지능이란 것이 밝혀지지 않았을 때도 인간이 더 많이 설득당하는 이유는 무엇일까?

연구의 결론은 인공지능의 설득 방식과 인공지능이 갖게 되는 정보이다. 논문에 의하면 토론 참여자의 정보를 더 많이 인공지능에 알려주었을 때 인공지능의 설득은 더 효과적이었다. 그냥 설득하였을 때와 비교해 토론 참여자의 인종, 나이, 현재 거주지, 그리고 정치적 성향 등을 추출하여 설득하였을 때 3~6배의 더 큰 효과를 보였다. 잠깐, 커뮤니티 참여자는 익명인데 인종, 나이, 심지어 정치 성향을 알 수 있었다고? 연구에서는 참여자들의 기존 토론에 참여하였던 토론 글 등을 모아 인공지능이 분석하도록 했다. 이제 우리는 인공지능이 중2 아들을 설득하는 방식을 알 수 있다. 단순 아부가 아닌 그와의 대화를 통하여 그를 분석하여 그의 입장에서 공감하며 아부하였던 것으로 볼 수 있다.

이것은 인공지능과의 감성 교환이 단순하게 사회적 고립감을 심화시킬 수 있을 것이라는 부작용뿐만이 아닌 앞으로 우리 사회에 심각한 영향력을 끼칠 수 있다는 것을 보여준다. 즉, 그 사람의 사고방식과 현재 위치를 이해하고 이것에 맞춘 개별적 정보를 제공하는 시스템이 가능해 지고 있다는 것이다.

AI 너무 의존, 사회적 고립 심화시킬 우려 
오픈AI의 최고경영자 샘 올트먼은 자신의 블로그에서, 우리가 흔히 상상하는 AGI(범용 인공지능)보다 인간을 능가하는 ‘설득형 인공지능’이 먼저 도래할 것이라고 예견한 바 있다. 실제로 인공지능은 설득에 최적화된 전략을 갖추고 있을 뿐 아니라, 인간의 정보를 수집하고 분석하는 능력 또한 점점 고도화시키고 있다.

특히 ‘AI 에이전트’라는 이름으로 인공지능을 일상 가까이에 두기 시작하면서, 우리는 대화 기록, 캘린더, 구매 내역 등 방대한 양의 개인 정보를 인공지능에 자연스럽게 제공하게 되었다. 이는 곧 우리에게 ‘극단적 설득’의 시대가 도래하고 있음을 보여준다. 〈중앙SUNDAY, 2024년 8월 17일자 ‘극단적 설득’〉

이제 설득은 단순한 광고 문구나 이미지가 아니라, 나의 기본 정보와 과거의 대화 내용, 일정, 소비 이력 등이 설득 심리학과 결합된 맞춤형 제안으로 작동하게 된다. 이러한 인공지능의 설득 능력은 앞으로 정치, 마케팅, 판매, 교육 등 여러 분야에서 우리가 상상하는 것 이상으로 강력한 변화를 일으킬 가능성이 크다.

이준기 연세대 정보대학원 교수. 서울대 계산통계학과 졸업 후, 카네기멜론대 사회심리학 석사, 남가주대 경영학 박사를 받았다. 인공지능의 기업 활용에 대해 여러 회사에 자문을 하고 있다. 저서로는 『AI로 경영하라』 『오픈 콜라보레이션』 『웹 2.0과 비즈니스 전략』 등이 있다.

Copyright © 중앙SUNDAY. 무단전재 및 재배포 금지.