[Interview] 롭 라이히 스탠퍼드대 정치학 교수

롭 라이히 스탠퍼드대 정치학 교수 - 현 스탠퍼드대 인간중심AI연구소 선임 연구원, 전 미국 AI안전연구소 수석 고문, '시스템 에러: 빅테크 시대의 윤리학' 저자 /사진 롭 라이히

“만약 기술이 민주적 감독과 거버넌스를 받지 않는다면, 우리는 기업이 무책임하게 기술을 운용하는 방식과 중국식 권위주의적 기술 통제 모델 중 하나를 선택해야 하는 상황에 놓이게 될 것이다.”

과학기술 윤리 분야 세계적 석학인 롭 라이히(Rob Reich) 스탠퍼드대 교수는 최근 인터뷰에서 알고리즘의 올바른 개발 방향 필요성을 강조하며 이렇게 말했다. 그에 따르면, 알고리즘 자체는 선하지도 악하지도 않지만, 어떻게 사용되느냐에 따라 보이지 않는 새로운 권력이 될 수 있다. 소셜미디어(SNS)가 대표적이다. SNS 속 알고리즘은 사용자 참여를 극대화하는 방식으로 설계돼 있어, 그 결과 자극적이며 감정을 극도로 부추기는 콘텐츠를 증폭할 가능성이 크다. 라이히 교수는 “알고리즘이 민주적 감독 없이 방치될 경우 사회·정치적 권력이 소수에게 집중될 위험이 있다”면서 “정부와 기업이 함께 알고리즘에 영향을 주는 인공지능(AI) 기술을 인간 중심적이고 민주주의적 가치를 지지하는 방향으로 발전시켜야 한다”고 강조했다.

라이히 교수는 스탠퍼드대에서 과학 및 기술의 사회 윤리를 연구하는 맥그리거-지랑드 석좌교수로, 2024년 미국 AI안전연구소의 수석 고문을 지냈고, 현재 스탠퍼드대 인간중심AI연구소(HAI) 선임 연구원을 맡고 있다. 2022년 한국에 번역 출간된 ‘시스템 에러: 빅테크 시대의 윤리학’ 공동 저자이기도 하다. 다음은 일문일답.

알고리즘이 우리 사회에 점점 더 많은 영향을 미치고 있다.

“실제로 지금 우리는 알고리즘이 매개하는 세계에서 살고 있다. 알고리즘은 인간 사이 관계뿐 아니라 우리가 속한 경제·사회·정치적 제도와 관계에서도 핵심적인 역할을 한다. 채용, 형사·사법, 의료, 교육 등 중요한 분야에서도 알고리즘이 이미 변화를 주도하고 있다. 우리가 정보를 얻고 엔터테인먼트를 소비하는 SNS 플랫폼 역시 알고리즘이 움직인다. 문제는 AI 시대가 도래하면서 알고리즘의 영향력이 더 커지고 있지만, 동시에 그 작동 방식은 점점 불투명해지고 있다는 사실이다. 개발자조차도 이해하기 어려운 수준에 이르고 있다.”

그렇다면 알고리즘은 인간 사회에 본질적으로 위협이 되는가. 아니면 그 이점이 위험을 넘어선다고 보는가.

“알고리즘은 사회에 엄청난 기회를 제공하는 동시에 심각한 위험을 초래할 수 있다. 따라서 이 문제는 단순한 선택의 문제가 아니라 균형의 문제로 접근해야 한다. 책임감 있게 설계되고 신중하게 구현된 알고리즘 시스템은 인간의 편견을 줄이고, 효율성을 높이며 보다 일관된 결과를 도출할 수 있다. 하지만 반대로 알고리즘이 인간의 편견을 강화하고, 불공정을 확산하며, 결정 과정을 불투명하게 만들어 알고리즘이 내린 결정에 대해 이의를 제기하는 것이 어렵거나 불가능해질 수도 있다.”

AI 고도화로 알고리즘 시스템을 인간이 더 이상 통제하지 못할 것이란 우려도 커지고 있다.

“알고리즘이 행사하는 영향력에서 가장 근본적인 문제는 그들이 지닌 불투명한 권력이다. 알고리즘은 사회적 관계를 형성하는 중개자로 작용하고 있다. 즉, 알고리즘은 우리가 어떤 방식으로 상호작용하는지, 무엇이 장려되는지, 혹은 무엇이 불가능한지를 결정한다. 예를 들어, 대출을 받을 수 있는지, 데이팅 앱에서 누구와 매칭될지, 취업 지원서가 면접으로 이어질 가능성이 있는지, SNS에서 어떤 게시물을 보게 될지 그리고 AI가 우리 일자리를 대체할지 등을 결정하는 데 영향을 미친다. 결국, 알고리즘은 보이지 않는 형태의 지배 구조를 형성하고 있다.”

그럼 어떻게 해야 하나.

“이 문제를 해결하려면, 인간이 알고리즘을 관리하는 체계를 구축해야 한다. 알고리즘이 인간을 지배하도록 둬서는 안 된다. 알고리즘의 결정에 영향받는 개인에게 책임을 떠넘길 문제가 아니다. 시스템을 설계하고 운용하는 개발자와 기업이 공정성·투명성· 책임성을 보장하도록 해야 한다. 알고리즘 자체는 가치중립적이다. 태생적으로 선하거나 악하지 않다. 중요한 것은 그것이 인간 가치를 존중하고 사회적 복지를 증진하는 방식으로 설계·운용·관리되는지다.”

최근 한국에서는 정치적 양극화가 심화하고 있다. SNS의 알고리즘이 자기 성향에 맞춰 편향된 정보만을 띄워주는 필터 버블이 원인으로도 꼽힌다. 알고리즘이 이러한 양극화와 이념적 편향을 조장하는 게 사실인가.

“나는 철학자로서 이 문제를 사회과학적 관점에서 연구하는 것이 중요하다고 본다. SNS의 영향을 실험하고 연구하기 위해선 독립적인 연구자가 틱톡·메타·구글·X 같은 대형 플랫폼 기업이 보유한 데이터에 접근할 수 있어야 한다. 기업이 스스로 연구한 데이터를 공개한다고 해서 시민이 이를 신뢰해야 할 이유는 없다. 학생이 스스로 시험을 채점하는 것을 허용하지 않는 것과 마찬가지다. 다만 현재까지 밝혀진 최선의 증거를 바탕으로 보면, 내가 책에서 논의한 바와 같이, SNS 속 알고리즘은 사용자 참여를 극대화하도록 설계돼 있다. 이는 자극적이고 감정을 극도로 부추기는 콘텐츠가 증폭될 가능성이 크다는 것을 의미한다. 흔히 말하는 필터 버블이 생각만큼 광범위하게 존재하는 것은 아니지만, 이러한 플랫폼이 극단적인 콘텐츠가 번성하고 확산될 수 있는 환경을 조성한다는 점은 분명하다.

한국 같은 국가에서는 문제의 본질이 알고리즘뿐만 아니라 제도적 구조에도 있다. 몇 개의 대형 플랫폼이 AI 기반 콘텐츠의 조정 결정을 하는 과정에서 엄청난 권력을 행사하고 있으며, 이 결정은 소수 경영진에 의해 내려진다. 특히 플랫폼이 민주주의보다는 사용자 참여도를 극대화하는 방식으로 운용될때, 이러한 권력 집중은 더욱 문제가 된다.”

사용자가 스스로 알고리즘에서 벗어나려고 하지 않는다면, 어떻게 해야 하나.

“가능한 해결책으로는 알고리즘의 투명성을 높이고, 반독점 규제를 강화해 경쟁을 촉진하며, 사용자가 정보를 더 주체적으로 선택할 수 있도록 돕는 도구를 제공하는 방법이 있다. 하지만 가장 중요한 것은 민주적 정부가 정보 생태계의 무결성을 보호하는 정책적 장치를 마련하는 것이다. 동시에 이러한 조치가 표현의 자유를 침해하지 않도록 신중한 접근이 필요하다.”

당신은 책에서 기술이 민주적 통제를 받아야 한다고 강조했다.

“그렇다. 책에서 우리는 민주적 제도가 첨단 기술의 발전에 적응하고, AI가 인간 중심적이며 민주주의적 가치를 지지하는 방향으로 개발되도록 이끌어야 한다고 주장했다. 만약 기술이 민주적 감독을 받지 않는다면, 우리에겐 두 가지 선택지만 남을 것이다. 기업이 무책임하게 기술을 운용하는 방식 또는 중국식 권위주의적 기술 통제 방식이다. 결국 둘 중 하나를 선택해야 하는 상황에 놓이게 될 것이다.”

그렇다면 정부와 기업이 함께 책임 있는 AI 정책을 개발하고 공정한 알고리즘을 설계하려면.

“정부와 기업 간 효과적인 협력은 두 가지 요소를 포함해야 한다. 첫째, 정부는 기술 전문성을 갖춘 인력을 적극적으로 유치해 ‘기술 팀원’을 확보해야 한다. 기업은 산업 전반의 표준과 가이드라인을 마련해 제품 개발 초기부터 사회적 영향을 고려하는 가치 기반 설계를 추진해야 한다. 이는 비현실적인 이상론이 아니다. 영국과 대만에서 시행 중인 규제 샌드박스 모델이 좋은 예다. 이는 기업이 새로운 기술을 실험할 수 있도록 하면서도 규제 기관이 실시간으로 영향을 관찰하고 규제를 조정할 수 있도록 하는 방식이다.

둘째, 우리는 AI를 비롯한 첨단 기술이 발전하는 속도에 맞춰 민주적 제도를 개편해야 한다. 20세기에는 경제학자가 거시경제, 미시경제, 비용·편익 분석 등의 새로운 방법론을 개발하면서 중앙은행, 세계은행, 국제통화기금(IMF) 같은 기관이 탄생했다. 21세기의 경제학자가 기술 전문가라면, 우리는 AI 같은 첨단 기술을 이해하고 이를 민주주의에 기여하도록 하는 새로운 제도를 마련해야 한다. 한국의 카이스트 AI공정성연구센터 같은 기관이 이러한 변화의 시작이며, 우리는 이를 더욱 발전시켜야 한다.”

- Copyright ⓒ 조선비즈 & Chosun.com -

Copyright © 조선비즈. 무단전재 및 재배포 금지.