(34) 인공지능은 '지능'일까

편집자주 
실패를 살펴보는 것은 성공으로 가는 지름길입니다. 'AI 오답 노트'는 AI와 관련한 제품과 서비스, 기업, 인물의 실패 사례를 탐구합니다. 

1904년 영리한 말 한스와 조련사 빌헬름 폰 오스텐. 브리태니커 캡쳐

베를린에서 온 놀라운 말(馬), 말(言)을 빼고는 못 하는 게 없네!'

1904년 9월 4일 뉴욕타임스(NYT)가 낸 기사의 제목입니다. 미국과 유럽은 영리한 말, 한스(Clever Hans)에 푹 빠져있었습니다.

독일의 말 한스는 산수 문제를 풀고, 시계를 읽고, 심지어 간단한 독일어를 이해할 수 있었습니다. 한스를 키우고 가르친 건 빌헬름 폰 오스텐이라는 은퇴학 수학 교사였습니다. 오스텐은 동물의 '지능'에 관심이 많았죠. 그는 고양이와 곰에게도 숫자를 가르치려고 했으나 실패했고, 마침내 한스를 통해 성공을 거뒀습니다.

"3+2는 몇이지?"라고 물으면, 한스는 오른쪽 앞발로 땅바닥을 5번 두드렸습니다.

알파벳 A는 땅을 한 번 두드리기, B는 두 번 두드리기 등으로 규칙을 정하자, 한스와 오스텐은 간단한 질문과 답변을 할 수 있게 됐습니다. 한스는 머리를 움직여 의사를 표시했죠. '네'라면 고개를 위아래로 끄덕였고, '아니오'라면 좌우로 흔들었습니다.

오스텐은 한스와 함께 순회공연을 나섰고, 말그대로 '대박'을 터뜨렸습니다. NYT 기사에서 보듯, 미국에서도 화제가 됐을 정도죠.

지능인가 사기극인가 : 한스의 진실

'영리한 말'를 보도한 1904년 9월 4일자 뉴욕타임스의 지면.

눈앞에서 한스의 '지능'을 목격하고도, 의심을 품는 사람은 있었습니다. 독일에서 진상을 조사하기 위한 특별위원회가 꾸려졌습니다. 특별위원회는 한스의 묘기를 '지능'으로 인정할 수 있는지를 결정하는 절차였죠.

조사단은 '사기극'을 폭로하고자 여러 노력을 기울였으나, 끝내 근거를 찾지 못했습니다. 단지 '과학적 탐구의 대상이 될 만하다'로 매듭짓습니다.

공식 조사가 끝난 후에도 의심을 거두지 못한 사람이 있었습니다. 그들은 한스의 행동에 분명히 미심쩍은 부분이 있다고 봤습니다. 질문자가 한스와 멀리 떨어져 있으면, 한스가 오답을 내는 경우가 많다는 사실이었습니다. 그리고 마침내 비밀을 밝혀내죠.

"3+2가 몇이지?"라고 물으면 한스는 땅을 두드립니다. 하나, 둘, 셋, 넷…

한스가 다섯번째 땅바닥을 두드리는 그 순간, 질문자의 표정, 자세, 움직임이 미세하게 바뀌었고, 한스는 바로 그걸 보고 동작을 멈췄던 겁니다.

다만 오스텐의 순회공연이 '사기'는 아닌 것으로 확증됐습니다. 오스텐의 비언어적 제스처는 의도적으로 나온 것이 아니라, 무의식적으로 나온 것이었습니다.

지능이란 무엇인가 : 사회적 합의이자 임의적인 산물

모은 양손 위에 전구가 놓여져 있는 사진. 게티이미지뱅크

인공지능(AI) 분야에서 이 사례는 '영리한 한스 효과(Clever Hans effect)'로 잘 알려져 있습니다. AI 모델이 겉보기에 인상적인 결과를 보여준다 하더라도, 그것이 우리가 기대하는 방식의 이해나 지능을 의미하지 않을 수 있다는 교훈을 줍니다.

한스의 사례는 또한 '지능이란 무엇인가'에 대한 힌트를 줍니다.

'지능'은 객관적 사실이라기보다 대중의 열망, 시대적 맥락, 그리고 권위 있는 기관(특별위원회)의 판단을 통해 사회적으로 합의되고 구성될 수 있는 개념이라는 것입니다.

대중은 '동물이 인간처럼 생각할 수 있다'는 소식에 열광했고, 이는 곧 지능을 둘러싼 스펙터클이자 산업(순회공연)이 됐죠.

그런 점에서 한스 이야기는 단순한 일화를 넘어, 우리가 지능을 어떻게 인식하고, 평가하며, 사회적으로 구성하는지에 대한 이야기인 셈입니다.

인공지능 시대의 시작 : "지능은 창조될 수 있다"

손 위에 뇌와 인간의 신체를 그린 홀로그램이 떠 있다. 게티이미지뱅크

그렇다면 AI 시대의 '지능'은 무엇을 의미하고 있을까요. 1950년대 이후 인공지능이라는 개념의 탄생, 그리고 인공지능의 눈부신 발전 흐름이 이어지면서, 지능에는 분명 어떤 지배적 함의가 담겨있다고 볼 수 있습니다.

지능이란 인간으로부터 독립될 수 있는 별개의 것이자, 규격화되고 디지털화된 무엇으로 만들어질 수 있다는 믿음이 바로 그것이죠.

앨런 튜링이 1949년 고안한 '튜링 테스트'가 대표적입니다. 인간과 기계의 대화에서, 인간이 대화 상대가 기계임을 인식하지 못할 경우엔 '기계가 지능을 가졌다'고 판단할 수 있다는 기준이죠.

미국의 컴퓨터 과학자 존 매카시도 비슷한 견해를 가졌습니다. 그는 "인간에게 '지능적이다'라고 부를 만한 행동을 기계가 할 수 있다면, 그것이 바로 인공지능"이라고 했습니다. 이는 인간의 지적 행동을 모방하는 기계를 만들 수 있다는 믿음으로 이어지죠. 지금 우리가 목격하는 AI 혁명은 대체로 이러한 믿음이 현실화한 결과물이라고 볼 수 있습니다.

현재의 AI 서비스, 기능들은 인간이 필요로 하는 무언가를 수행하도록 설계되어 있죠. 글쓰기, 번역, 이미지 분류, 질문과 답변, 계산, 분석, 예측 등입니다.

AI의 결과물은 놀라운 정도입니다. 인간만이 할 수 있다고 여겨졌던 많은 일이 이미 AI에 의해 처리되고 있습니다. 게다가 AI의 성능은 하루가 다르게 좋아지고 있습니다. 이미지 판독, 텍스트 분석 등 일부 전문 영역에서는 이미 AI가 인간의 능력을 능가하는 경우까지 있습니다.

그리고 현재 우리는 바로 그러한 것들을 '지능'이라 부르고 있습니다.

교황의 반박 : "지능은 오직 인간 본연 그 자체"

지난 4월 선종한 프란치스코 교황은 인공지능에 대한 깊은 관심을 드러냈다. 그는 인공지능이 "매혹적인 도구"라면서도 "인공지능 개발의 혜택이 소수의 기술 대기업에 집중되지 않고 모든 인류에게 돌아가야 한다"고 수차례 강조했다. AP연합뉴스

"AI와 관련하여 '지능'이라는 용어를 사용하는 것 자체가 오해를 불러일으킬 수 있다"

지난 4월 선종한 프란치스코 교황이 2024년 1월 남긴 말입니다. 프란치스코 교황은 AI는 인간 지능의 인공적 형태로 간주하여선 안 되며, 오히려 인간 지능의 산물로 이해돼야 한다고 여러 자리에서 강조했습니다.

지능이라는 개념이 사회적이고 정치적으로 구성된 임시적인 개념이라면, 지능을 비판적으로 바라보는 건 마땅한 일일 겁니다. 지능이 객관적이고 중립적인 것이 아닐 수 있다면, 특정한 질서와 권력 구조를 반영하고 강화할 수 있습니다.

AI 관련 기술은 구글, 메타, 마이크로소프트(MS), 아마존, 오픈AI 같은 소수의 기업에 집중된 건 사실입니다. 이들 기업은 방대한 데이터, 컴퓨팅 자원, 인재를 사실상 독점하고 있으며, 기술 생태계 내 권력 불균형은 갈수록 심화하고 있죠.

이러한 독점은 단순한 경제적 집중을 넘어, 민주주의적 위기로 간주할 수 있습니다. 대중의 인식과 행동에 영향을 미치는 '미묘하면서도 침투적인 통제 시스템'을 구축할 수 있는 것이죠.

이들은 이윤 추구 과정에서 여론을 조종할 수 있고, 개인과 조직, 사회의 의사결정 과정에 은밀히 개입할 위험성을 갖고 있습니다. 이를 예방할 장치는, 현재로선 오직 그들 기업의 양심뿐 입니다.

인공지능은 무엇이어야 하는가

반도체와 두뇌가 디지털로 표현된 이미지. 게티이미지뱅크

이 지점에서 다시 한번 프란치스코 교황의 말을 떠올려봅니다. 그는 기술의 놀라운 발전을 지켜보며 이렇게 말했습니다.

"인간의 책임감, 가치관, 양심은 기술의 잠재력 증가에 비례하여 성장해야 합니다. 
그리고 인간의 능력이 증가할수록, 개인과 공동체의 책임도 더욱 커집니다."

지난 1월 28일 교황청 신앙교리부·문화교육부는 '옛것과 새것(Antiqua et Nova)'이라는 제목의 문헌을 발표했습니다. AI의 올바른 사용을 위한 일종의 가이드라인이죠.

프란치스코 교황이 승인한 이 문서는 '지능이란 무엇이어야 하는가'에 대한 종교적 대답이라 볼 수 있습니다. 교황청에서 나온 문서이지만, 종교적 시각에만 매몰되어 있지 않습니다. 인간과 기술, 기술과 인간에 대한 폭넓은 고민을 담고 있어, 종교인이 아니더라도 해당 주제에 관한 훌륭한 지침서가 되어 줍니다.

이 문서는 앞서 프란치스코 교황의 말처럼, 인간의 지능과 AI의 지능을 나란히 두는 것이 왜 부적절한지에 대해 자세히 설명합니다.

무엇보다도, 인간의 지능은 본질적으로 '관계적'이라는 것입니다. 인간에게서 뚝 떼어내 홀로 존재하는 그 무엇이 아니라는 것이죠. 인간의 지능은 타인과의 대화, 협력, 상호작용 속에서 완전히 발현되며, 이러한 관계적 맥락을 떠나서는 온전히 이해될 수 없습니다.

인간을 AI와 동일시하는 관점이 낳는 부작용도 지적합니다. 인간은 단순한 기능의 총합으로 보는 기능주의에 빠질 수 있다는 비판이죠.

'지능'이 사회적으로 합의되는 개념이라면, 그 합의 과정에는 보다 다양한 목소리가 반영돼야 합니다. AI가 누구에 의해, 어떤 목적으로 설계되고 배포되는지, 그리고 그 혜택과 위험이 사회적으로 어떻게 분배되는지를 지속적으로 질문하고 감시할 필요가 있습니다.

이는 AI 거버넌스, 규제 체계, 그리고 시민 참여의 확대를 통해 AI 발전의 방향을 보다 공정하고 포용적인 방향으로 재조정하는 집단적 노력을 상시적으로 요구합니다.

인공지능의 수준이 지금과는 비할 바 없이 초라했을 1979년, 당시 교황 요한 바오로 2세가 남긴 말은 지금, 이 순간에도 유효합니다.

"이러한 기술적 발전 속에서 인간은 과연 더 나은 존재가 되고 있는가? 
즉, 더 성숙한 영성을 가지며, 인간 존엄성에 대한 인식이 깊어지고, 더욱 책임감 있고, 
특히 가장 가난하고 약한 이들을 향해 더 개방적이며, 기꺼이 베풀고 도울 준비가 되어 있는가?"

김동표 기자 letmein@asiae.co.kr

Copyright © 아시아경제. 무단전재 및 재배포 금지.