고객 폰에만 저장되는 온디바이스 형태로는 세계 최초…개인정보 유출 우려 적어

LG유플러스 안티딥보이스 기술 [LG유플러스 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 조현영 기자 = 최근 인공지능(AI)을 활용해 위조 목소리를 만들어 지인이나 가족을 사칭하거나, 인질극을 벌이는 형태의 보이스피싱 범죄가 늘고 있다.

이에 LG유플러스가 AI가 위·변조한 목소리와 얼굴을 판별할 수 있는 '안티딥보이스'(Anti-DeepVoice)·'안티딥페이크'(Anti-Deepfake) 기술 상용화에 나섰다.

26일 LG유플러스는 지난 3월 모바일 월드 콩그레스(MWC) 2025에서 공개한 안티딥보이스 기술을 AI 통화 에이전트 서비스 '익시오'(ixi-O)에 탑재해 이달 말 업데이트한다고 밝혔다.

이 기술을 개인정보가 고객 스마트폰에만 저장되는 온디바이스(On-Device) 형태로 상용화하는 것은 세계 최초라고 LG유플러스는 설명했다.

온디바이스 기술은 통화요약 등 민감한 개인정보가 외부로 유출되는 것을 막기 위해 활용된다.

이진혁 익시오개발테스크장(상무) "아직 상용화는 안됐지만, 양자 암호 기술을 활용해 스마트폰이 해킹됐을 때도 통화 요약 등 데이터를 보호할 수 있게 개발 중"이라며 "절대 복제할 수 없는 키 값으로 저장해 향후 양자컴퓨터가 개발돼도 암호를 풀 수 없게 할 것"이라고 말했다.

안티딥보이스 기술은 위조된 목소리의 부자연스러운 발음을 찾아내거나 음성 주파수의 비정상적인 패턴을 탐지해 진위를 판별한다.

안티딥보이스에는 LG유플러스가 자체 개발한 음성 구간 탐지 기술(VAD), 음성 텍스트 변환 기술(STT), 위변조 분석(안티스푸핑) 등 기술이 차례로 활용된다.

LG유플러스는 안티딥보이스를 '경량화'하는 작업에도 집중했다. 익시오를 온디바이스 방식으로 구현하기 위한 과정이다.

AI가 합성한 얼굴까지 분석하는 '안티딥페이크'(Anti-Deepfake) 기술도 확보했다. 이 기술은 온디바이스 환경에서도 원활하게 작동할 수 있도록 현재 AI 모델 최적화 작업이 진행 중이다.

영상이나 이미지를 분석해, 합성된 영상에 남아있는 비자연적인 흔적을 탐지함으로써 합성 여부를 판별한다. 픽셀 단위 질감이나 사람 눈에는 보이지 않지만 흔적으로는 남는 패턴의 불균형, 프레임 간 일관성이 떨어지는 현상 등을 분석해 합성 여부를 탐지하는 것이다.

이 기술을 활용하면 문자나 영상에서 위조·유해 이미지로 생성된 이미지를 감지하는 기능도 개발할 수 있다.

감지 후 해당 이미지를 자동 블러 처리하거나 차단해 피해를 막을 수 있으며, 사용자가 직접 노출 여부도 선택할 수 있게 하는 것도 가능하다.

LG유플러스는 익시오를 통해 통화 전·중·후 모든 과정에서 발생할 수 있는 보이스피싱 위험을 차단하기 위해 기술을 추가로 확보할 방침이다.

스팸과 보이스피싱 의심 전화를 AI가 대신 받아주는 서비스는 오는 8월 선보인다.

통화 시작 전 보이스피싱 가능성이 높은 번호를 자동으로 탐지하는 '통화 전 AI 보이스피싱 탐지 시스템'과 보이스피싱 범죄자의 목소리를 탐지하는 '범죄자 목소리 탐지 시스템'도 개발하고 있다.

범죄자 목소리 탐지 시스템의 경우 과학기술정보통신부 규제 샌드박스 실증 특례를 준비 중이며 올해 4분기 출시가 목표다.

4분기까지 은행연합회 등 금융권과 협업해 AI 기반 보이스피싱 징후 탐지 및 실시간 경고 기술 개발도 추진한다.

아울러 LG유플러스는 익시오에 통화 중 디지털 스토킹, 언어폭력, 허위 정보 유포 등 다양한 통신 기반 위협 요소를 탐지·차단하는 기능을 탑재할 계획이다.

학교 폭력의 경우 텍스트화된 음성 내용에서 폭력적인 부분이 감지되면 부모에게 알림을 주는 식의 서비스를 고려할 수 있다는 설명이다.

한편 LG유플러스는 익시오를 이른 시일 내 유료화할 계획은 없다고 밝혔다.

최윤호 AI 에이전트추진그룹장(상무)은 "익시오가 LG유플러스의 핵심 기능으로 자리 잡는 게 우선"이라며 "향후 더 좋은 기능이 추가되면 검토해 볼 수 있을 것"이라고 말했다.

그러면서 올해 세웠던 이용자 100만명 가입 목표는 무난히 달성할 것으로 보인다며, 3년 안에 600만명을 확보하는 것이 중기적인 목표라고 밝혔다.

타사와 협업해 딥보이스·딥페이크 기술을 네이버, 카카오 등 다른 앱에 적용하는 방안과 해외 진출도 검토 중이다.

hyun0@yna.co.kr

▶제보는 카톡 okjebo

Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지