산업계·학계 등 폭넓게 확산
"AI 가이드 시급" 목소리도

인공지능 잡는 인공지능

인간과 제도가 인공지능(AI)의 발전 속도를 따라가지 못하면서 다시 AI에 의존할 수밖에 없는 시대가 됐다. IT업계가 보이스피싱을 AI로 잡아내고 대학가에서 AI 검사 프로그램이 필수가 된 게 대표적이다. 내로라하는 글로벌 빅테크와 유수 연구기관이 자체 AI로 가짜 정보 판별에 한창인 것도 사람의 힘으로는 더는 AI를 감당할 수 없기에 나타난 현상으로 볼 수 있다.  

보이싱피싱 막고 AI가 쓴 리포트도 판별

최근 두드러진 움직임을 보이는 곳은 유심 해킹 사태로 이용자 불안이 커진 통신업계다. LG유플러스는 최근 AI 통화 에이전트인 '익시오(ixi-O)'에 '안티딥보이스' 기능을 탑재했다. 위변조 목소리를 AI가 판별하는 기술로 자체 AI 엔진에 3000시간 분량의 통화 데이터를 학습시켜 개발했다. 

AI가 합성한 영상·이미지의 진위 역시 AI가 파악하는 '안티딥페이크' 기능도 연내 추가할 계획이다. 이 기술은 인간의 눈으로는 판별이 어렵지만, 픽셀 단위의 질감이나 흔적으로 남는 패턴 불균형, 프레임 간 일관성이 떨어지는 현상 등을 AI가 분석해 각종 범죄를 차단한다.

KT도 자체 스팸 알림 앱인 '후후'와 '후후 통화녹음' 앱에서 실제 피해 사례와 시나리오를 학습한 AI가 보이스피싱 의심 전화를 차단하는 서비스를 제공하고 있다. 이 역시 AI 기술 발전으로 덩달아 진화한 보이스피싱 수법을 다시 AI가 잡아내는 방식이다. 

대학가에서도 AI를 판별하는 AI는 대세가 됐다. 각종 과제와 시험에 생성형 AI를 활용하는 사례가 빈발하면서 상당수 교수가 GPT 킬러와 같은 AI 검사 프로그램을 쓰고 있는 것이다. GPT 킬러는 AI 신경 모델에 기반해 문장 속 단어와 어순 관계를 추적하고 맥락과 의미를 학습해 리포트나 논문, 입사지원서 등이 AI로 작성됐는지 판단한다. 국내 AI 기업인 무하유가 개발했다. 

미국 등 영어권 시장에서는 'GPT 제로'가 그 역할을 하고 있다. 에드워드 티안이 2023년 미국 프린스턴대학교 재학 당시 스타트업을 설립해 출시한 탐지 툴로 이 역시 생성형 AI의 오용을 막기 위해 AI가 작성한 텍스트와 인간이 쓴 텍스트를 구별해낸다. 

'국내외 막론'…가짜뉴스 거르는 AI

글로벌 빅테크들도 발빠르게 움직이고 있다. X(옛 트위터)는 AI 에이전트가 작성한 '커뮤니티 노트'를 이달 중 활성화한다. 커뮤니티 노트는 게시 콘텐츠의 사실 여부를 소셜네트워크서비스(SNS) 관리자가 아닌 사용자가 평가해 의견을 다는 참여형 모델이다. 여러 사용자가 콘텐츠에 대한 추가 정보를 쓰면 이를 접한 또다른 사용자가 사실 여부를 재판단할 수 있게 한다. 

앞서 2022년 12월 X가 정식 도입한 기능이지만, 지난 미국 대선 당시 이 시스템이 제대로 작동하지 않았다는 비판이 일었다. 이에 따라 X는 앞으로 일반 사용자가 아닌 AI가 작성한 커뮤니티 노트로 가짜뉴스를 거를 계획이다.

AI가 조작 댓글을 식별하는 모습/사진=카이스트 제공

국내에서는 최근 카이스트(KAIST) 연구팀과 국가보안기술연구소가 AI가 생성한 한국어 댓글을 탐지·식별하는 기술을 개발했다. AI 기술이 뉴스 기사에 맞춰 감정이나 논조까지 조절해 댓글을 생성하면서 여론 조작에 악용되는 것을 막는 데 최적화했다. 

이번 기술 개발에 참여한 고우영 국보연 선임연구원은 "댓글 작성 시간이나 계정 정보, 인터넷 프로토콜(IP) 주소 등 추가 데이터를 함께 활용하면 탐지 성능을 더욱 높일 수 있다"며 "궁극적으로는 AI를 이용한 여론 조작을 막는 데 기여할 수 있다"고 말했다. 

AI 진화 속도 못 따라가는 법

이처럼 AI로 AI를 걸러내는 기술이 주목받는 건 AI가 초가속으로 진화하는 동안 이에 대한 법적·윤리적 기준은 제대로 정립되지 못한 것에도 원인이 있다. 실제 AI로 인한 프라이버시 침해나 데이터 오남용 등 문제가 끊임없이 제기되고 있지만 이를 규율할 기준은 여전히 미비하다.

특히 AI 윤리원칙 제정을 담은 'AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 지난해 말 극적으로 국회 본회의를 통과해 내년 1월 시행을 앞두고 있지만, 현장 이해도는 낮은 수준이다. 아마존웹서비스(AWS)에 따르면 국내 기업의 절반가량(51%)만 AI 기본법을 알고 있다. 이 법률이 현장에서 미칠 실질적 영향까지 이해한 기업은 29%에 그쳤다. 이 조사는 AWS에 리서치 기관 스트랜드 파트너스에 의뢰해 국내 기업 1000곳과 일반 소비자 1000명을 대상으로 진행됐다. 

국내 플랫폼업계 관계자는 "AI 오남용이 비일비재한 상황에서 AI 신뢰도나 책임을 강화하는 사회적 합의나 법·제도가 미흡하니 역으로 실무 현장에서 민간이 자체 틀을 작동시키고 있는 것"이라며 "AI 관련 법·제도의 안정성과 연속성이 확보될 필요가 있다"고 말했다. 

한수연 (papyrus@bizwatch.co.kr)

ⓒ비즈니스워치의 소중한 저작물입니다. 무단전재와 재배포를 금합니다.

Copyright © 비즈워치. 무단전재 및 재배포 금지.