문패 : 미리보는 2025사람과디지털포럼

가짜뉴스·극단주의 확산 속
민주주의에 기여하는 소셜미디어 모색 
오드리 탕, 아이젠스타트 등 
알고리즘 정책 최전선 경험 공유
극우 유튜브와 공론장 위기 집중 논의

### 광고없음. 프로그램표와 사진 2개 

### 첨부한 2024 아미포 소개 기사 참조해서 프로그램표 붙여주시길 요청드립니다

“제가 에스엔에스(SNS)를 통한 국민과의 직접 소통이 없었으면 살아남았겠느냐.” 

대선을 앞두고 당선이 유력한 이재명 더불어민주당 후보는 소셜미디어의 긍정적 역할을 높이 평가했다. 그러나 소셜미디어는 논란의 한 복판에 서 있다. 대중의 참여와 연결을 통해 민주주의에 기여할 ‘촉진자’로 기대를 모으는가 하면, 공적 제도에 대한 불신을 조장하고 폭력을 부추기는 ‘배후자’로 지목받기도 한다.

다음 달 25일 대한상공회의소에 열리는 제4회 사람과디지털포럼은 ‘AI 알고리즘은 민주주의를 어떻게 해킹하는가’를 주제로, 생성형 인공지능 시대에 알고리즘이 주도하는 소셜미디어가 여전히 집단지성과 연대를 추동하는지, 민주주의를 해치는 위험한 도구로 전락하는지에 대한 질문에 해답을 찾는 자리다. 알고리즘과 민주주의, 공론장을 열쇳말로 정부, 기업, 감시기구 등 각 분야의 최전선에서 활동해온 국내외 전문가들이 모여 대안과 해법을 모색한다.

2018년 브라질 대통령으로 당선된 자이르 보우소나루는 소셜미디어를 통해 대중과 직접 소통하며 아웃사이더의 한계를 뚫고 최고 권력을 거머쥐었다는 점에서 ‘브라질의 트럼프’로 불린다. 2022년 10월 대선에서 패배한 직후에는 부정선거 등 가짜뉴스로 지지자를 규합해 연방의회, 대법원, 대통령궁을 습격하도록 했다. 트통령(트위터 대통령)으로 불리던 미국 대통령 도널드 트럼프가 권력을 획득하고, 대선 패배 후 분노한 지지자들이 국회의사당을 습격하도록 사주한 것과 매우 비슷하다. 소셜미디어가 가짜뉴스를 확산하고 극단주의자를 연결해 폭동을 부추기는, 이른바 ‘송유관’으로서의 역할은 2021년 미국의 ‘1·6 폭동’부터 2022년 브라질, 그리고 2025년 한국의 ‘1.19 서부지법 폭동’까지 세계 곳곳으로 번지고 있다. 

인간과 사회의 운명을 좌우하는 중요한 결정들이 알고리즘이라는 자동화된 의사결정을 통해 이루어지는 세상이다. 소셜미디어의 개인화된 맞춤형 알고리즘은 진실보다 거짓, 공감보다 분노에 반응하는 인간의 본능을 타깃으로 삼는다. 출처 불명의 가짜뉴스가 순식간에 확산하면서 분열을 유발하는 자극적, 선동적인 콘텐츠가 득세하는 이유다.

이는 소셜미디어 플랫폼 기업의 사업 모델과 관련이 깊다. 사용자 참여 극대화라는 수익 모델로 인해 알고리즘은 혐오, 분노와 같이 즉각적 관심을 자극하는 메시지를 더 많이 추천하고 보상한다. 그 결과 소수에 불과했던 극단주의자들이 소셜미디어를 통해 연결되면서 민주주의를 공격하고 있다. 맞춤형 창작이 가능한 생성형 인공지능의 등장은 이러한 흐름을 더 가속할 가능성이 크다. 관심은 알고리즘의 규제, 나아가 민주주의를 고양하는 알고리즘이 과연 가능한가로 모이고 있다.

이번 포럼에서 ‘디지털 집단지성은 여전히 민주주의의 미래인가’를 주제로 기조강연에 나서는 오드리 탕 대만 사이버대사는 ‘아이큐 180의 천재 해커’, ‘대만 민주화운동을 지원한 사이버 전사’, ‘대만 정부 역대 최연소이자 트랜스젠더 장관’ 등 화려한 수식어가 따라붙는 인물이다. 

2016년 디지털장관으로 임명된 후에는 디지털기술을 이용해 참여 민주주의 구현을 위한 정책들을 직접 시도해서 세계적인 주목을 받았다. 그가 만든 공공 디지털 혁신센터(PDIS)와 시민참여 플랫폼(vTaiwan)은 공공정책을 제안하고 숙의 민주주의를 이끄는 산실로 평가된다. 그는 이번 포럼에서 디지털기술과 민주주의에 대한 디스토피아적 전망이 만연하는 시대, 디지털기술을 이용한 집단지성이 여전히 민주주의 미래를 밝힐 수 있을지에 대한 논의를 풍부한 정책 경험을 토대로 이끌 예정이다. 

‘소셜 미디어, 알고리즘 그리고 민주주의, 누가 책임져야 하는가’를 주제로 기조강연을 맡은 야엘 아이젠스타트는 뉴욕대학교(NYU) ‘민주주의를 위한 사이버보안’ 정책 및 영향 이사로 정부, 기업, 시민사회 영역을 종횡무진하며 활동해왔다. 외교관, 바이든 행정부 고문 등을 지냈으며 2018년에는 페이스북에서 선거 신뢰성 운영 책임자로 일하면서 허위 정보와 유권자 억압에 대응하는 역할을 했다. 

아이젠스타트는 소셜미디어 알고리즘이 취약한 집단을 겨냥하는 방식은 테러리스트 조직이 청소년을 모집하는 방식과 유사하다고 꼬집으면서 자동화된 맞춤형 알고리즘이 혐오와 극단주의 콘텐츠를 증폭시키는 구조적 문제를 지적한다. 거대 플랫폼 기업들이 알고리즘을 설계할 때 공공 보건, 공공 안전, 시민 의사를 고려하지 않는 상황에서 우리는 이 ‘알고리즘’에 대해 어떻게 책임을 물을 수 있는지에 대해 발표한다.

독일의 알고리즘 감시기구 ‘알고리즘워치’의 공동설립자인 마티아스 스필캄프는 ‘생성형 인공지능 시대, 알고리즘의 책임성 어떻게 확보할 수 있을까’를 주제로 기조강연을 한다. 2016년 설립된 알고리즘워치는 자동화된 의사결정 시스템과 알고리즘의 사회적 영향, 투명성, 책임성을 감시하고 연구하는 유럽 내 대표적 시민사회 조직이다. 인공지능이 인간을 고된 노동에서 해방시킬 것이라는 기술적 유토피아론과, 인간의 일자리를 빼앗고 결국 세계를 지배할 것이라는 비관론이 팽팽히 대립하고 있다. 스필캄프는 이 이분법에서 벗어나 인공지능은 빅테크 기업의 영향력을 강화하며 이미 인간의 자율성과 민주주의를 위협하고 있다는 점에 주목하면서 기술적 진보를 지혜롭게 활용하기 위한 구체적 방안을 제시할 계획이다.

기조강연 이후에는 박원우 서울대 교수(정치학)의 사회로 원탁 토론이 이어진다. ‘민주주의에 기여하는 알고리즘의 가능성을 위한 정부, 기업, 시민사회의 역할’을 주제로 기조연설자 3명과 디지털 전문가 이해민 조국혁신당 국회의원이 함께 알고리즘 규제를 위한 실효성 있는 방안에 관해 토론을 나눈다.

오후 세션에서는 전 세계가 주목하는 한국의 온라인 공론장에 대한 심도 있는 논의가 펼쳐진다. ‘유튜브 정치와 공론장의 붕괴, 신뢰회복은 가능한가’를 주제로 기조강연에 나서는 강정한 연세대 교수(사회학)는 다음 아고라와 같은 온라인 커뮤니티, 포털 기사 댓글, 유튜브 등 한국 온라인 토론장의 역사를 살펴보고, 토론장이 어떻게 공론장에서 전쟁터로 바뀌었는지 조목조목 짚는다. △숙의를 불가능하게 하는 플랫폼 설계, △믿음보다 의심을 바꾸기 힘든 인간의 심리적 특성, △특정 집단이 알고리즘을 전략적으로 악용해 확산하는 폭력성 등에 주목하면서, 생성형 인공지능 시대 온라인 공론장의 회복을 위해서는 이해관계자 간 숙의와 타협보다 서사의 공유와 공감이 더 중요할 수 있음을 설명한다.

‘극단주의에 포획된 디지털 공론장, 쟁점과 해법’을 주제로 기조강연에 나서는 유승현 한양대 겸임교수(언론정보대학원)는 12∙3 내란사태를 전후로 가시화된 극우 파시즘이 유튜브와 같은 플랫폼 미디어를 어떻게 활용했는지를 다각도로 짚을 계획이다. 유튜브는 △표현의 자유 보장, △이용자 중심의 시스템, △정보 확산이 빠른 네트워크 구조, △개인화된 추천 알고리즘, △고유한 수익창출 메커니즘과 같은 매체적 속성으로 인해 극단주의가 자생할 가능성이 크다. 이에 맞서 민주주의의 핵심 가치인 자유와 다원주의를 최대한 보장하면서 민주주의 체제를 위협하는 내·외부 위험 요소에 맞서기 위해 정부, 시민, 언론이 어떤 역할을 해야 하는지 살펴볼 예정이다.

이어지는 원탁 토론은 황용석 건국대 교수(미디어커뮤니케이션학)의 사회로 장여경 정보인권연구소 상임이사, 강정수 블루닷AI연구센터 센터장 등이 참여해 혐오를 넘어 자유로운 참여의 공론장을 위한 대안을 모색한다. 

포럼에 대한 상세한 내용과 참가 신청은 누리집(https://lifeindigitalforum.org)에서 확인할 수 있다.

한귀영 사람과디지털연구소 소장 

신효진 선임연구원

hgy4215@hani.co.kr

2021년 1월6일 미국 대통령선거 결과에 불복한 트럼프 지지자들이 워싱턴 국회의사당에 난입해 깃발을 흔들고 있다. 워싱턴/EPA 연합뉴스

윤석열 구속영장 발부 직후 지지자들이 법원을 습격한 ‘1.19 폭동’. 극우 유튜브가 유력한 배후로 꼽힌다. 유튜브 ‘락티브이(TV)’ 갈무리

Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지