⁠⁠⁠⁠⁠⁠⁠

강재웅 영상미디어부장

딥페이크 가짜뉴스 피해 사례가 하루 걸러 발생하고 있다. 그럼에도 오는 6월 3일 21대 대통령 선거를 앞둔 각 후보자들은 핵심 경제공약으로 인공지능(AI)산업 육성에만 열성적이어서 안타깝다. 자신들 역시 유세 도중 딥페이크 가짜뉴스 피해자 경험을 했음에도 말이다.

지난 18일 첫 TV토론회가 열렸다. 이날 토론회 주제는 경제분야였다. 하지만 때아닌 이재명 더불어민주당 후보의 외교관을 두고 날 선 공방이 이어졌다. 김문수 국민의힘 후보와 이준석 개혁신당 후보는 한목소리로 "너무 친중국적이지 않냐"며 이 후보의 친중 외교관을 문제 삼았다. 이재명 후보는 "특정 사례를 극단화해 친중 몰이를 하는 것은 부적절하다"고 맞서며 토론회장 분위기는 고조됐다.

과거 이재명 후보의 '���' 발언이나 당대표 시절 중국대사의 위협적 발언에 침묵한 점이 문제가 된 것으로 판단된다. 여기에 또 한 가지 바로 딥페이크 가짜뉴스도 한몫했다는 생각이다.

토론회에 앞선 지난 14일. SNS를 통해 영상 하나가 빠르게 확산됐다. 이 영상은 꽤나 충격적이었다. 이재명 후보가 한국을 중국 속국으로 지칭하는 내용이 담겨 있었기 때문이다. 그러나 팩트체크 결과 해당 영상은 AI를 기반으로 한 딥페이크 가짜뉴스로 판명됐다.

비단 이재명 후보뿐 아니라 김문수·이준석 후보도 딥페이크 가짜뉴스 영상으로 홍역을 치렀다. 김문수 후보는 한덕수 전 국무총리와의 단일화 국면에서 서로 고함을 지르는 영상, 분노하며 물을 쏟는 영상 등 실제와 허위를 섞은 합성 영상물을 어렵지 않게 찾아볼 수 있다. 이준석 후보를 놓고는 정치브로커 명태균씨가 이른바 '황금폰'을 꺼내자 다급히 도망가는 영상, 황금폰 비밀번호를 알려달라며 우는 영상 등이 확인됐다.

경찰은 딥페이크 등 허위사실 유포를 5대 선거범죄로 규정하고 강도 높은 단속을 진행 중이다. 선관위는 위반 정도가 경미하고 전파성이 낮은 게시물은 삭제 요청하고, 악의적인 딥페이크 영상물이 발견되면 고발할 방침이다.

사실 딥페이크를 활용한 가짜뉴스의 가장 큰 문제는 원천 차단이 어렵다는 것이다. 실제와 거의 구별되지 않는 점도 있지만 사람들이 이를 진짜로 믿고 SNS를 통해 아주 빠르게 확산시키고 또 가짜뉴스로 나중에 판명이 되더라도 이미 사람들은 사실에 크게 관심을 가지지 않기 때문이다.

딥페이크 가짜뉴스가 가능해진 것은 아이러니하게도 AI 기술력이 향상됐기 때문이다. 하지만 대선 후보들은 앞서 말한 것과 같이 AI 육성에 사활을 걸고 있다.

이재명 후보는 AI 주권 확보를 위해 100조원을 투자하겠다는 핵심 공약을 내세우고 있다. 김문수 후보 역시 AI 청년인재 20만명 양성과 함께 글로벌 기업 참여 민관합동펀드 100조원 조성 및 AI 유니콘기업 지원 등을 내걸었다.

AI산업 육성책도 좋지만 AI윤리에 대한 논의가 보이지 않는 것이 아쉬울 뿐이다. 주위를 둘러보면 딥페이크 기술을 악용한 성착취 콘텐츠로 인해 피해를 보고 어려움을 호소하는 이가 많다. 하루 걸러 뉴스에 딥페이크 가짜뉴스 피해자들이 등장하고 있는 것도 이와 무관하지 않다. 그런 면에서 지난해 본지에서 개최한 'AI월드 2024' 강연자들의 말을 참고할 필요가 있다.

임대근 한국외대 컬처·테크놀로지융합대학장은 "'딥페이크는 범죄 또는 혁신이다'라고 이분법적으로 설정하는 게 무의미하다"며 "딥페이크는 그 자체가 범죄일 수 없고, 인간이 어떻게 활용하느냐에 따라 성격이 규정돼 갈 것"이라고 전했다. 그러면서 "순기능이 부각되고 강화되는 방향으로 갔으면 좋겠다"고 강조했다.

올해 대선은 AI공약이 주요 의제로 부각되는 첫 대선이다. 신기술은 나왔을 때 기술을 어떻게 사용하느냐에 따라 좋은 기술도, 나쁜 기술도 될 수 있다. 표를 얻기 위한 육성책도 좋지만 피해자가 발생하지 않도록 윤리 문제도 함께 고려돼야 할 시점이다.

kjw@fnnews.com

Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.