오픈AI 가짜 이력서·악성코드·여론전 등 탐지·차단
"10건중 4건 中연계…권위주의 정부 AI 악용 막아야"
ⓒ News1 DB
(서울=뉴스1) 김민석 기자 = 오픈AI가 최근 3개월간 탐지·차단한 챗GPT 악용 사례를 분석한 결과 10건 중 4건은 중국과 연계된 계정인 것으로 나타났다.
북한 연계 추정 IT 인력 계정들은 미국·유럽 기업에 취업하기 위해 챗GPT로 가짜 이력서를 생성한 것으로 탐지됐다.
25일 IT 업계와 외신에 따르면 오픈AI는 챗GPT를 악용해 정보 조작과 사이버 공격 활동을 벌인 중국·북한·러시아 연계 추정 계정을 차단했다.
오픈AI는 악의적 AI 사용 사례 10건을 담은 'AI 악용 방지 6월 보고서'를 발간하고 △소셜 엔지니어링 △사이버 스파이 △기만적 기업 침투(고용) 계획 △은밀한 영향력 작전 등의 사이버 위협을 경고했다.
오픈AI AI 악용 방지 보고서(2025년 6월) 갈무리
보고서에서 북한과 연관된 것으로 추정된 공격그룹은 챗GPT를 활용해 가짜 이력서와 프로필, 자기소개서 등을 생성했다. 이들은 비즈니스 소셜미디어 인력으로 위장하는 프로필 생성에도 챗GPT를 적극 활용했다.
이들은 기업이 화상 면접을 요청하면 계정 대리인 얼굴을 제시하며 기술적 문제(통신 장애 등)를 이유로 음성 통화 및 비대면 면접을 유도했다. 면접 질문에는 챗GPT를 활용해 답변했다.
중국과 연계된 것으로 추정되는 계정들은 틱톡·X(옛 트위터)·레딧·페이스북 등 플랫폼에 영어·중국어·우르두어로 댓글을 생성했다.
오픈AI는 이를 '엉클 스팸'(Uncle Spam) '스니어 리뷰'(Sneer Review) 등으로 명명했다. 이들은 △미국 국제개발처(USAID) 폐쇄 관련 찬반 댓글 작성 △대만의 중국 공산당 비판 게임 이슈화 △여론전 성과 보고서 작성 등에 챗GPT를 활용한 것으로 나타났다.
오픈AI AI 악용 방지 보고서(2025년 6월) 갈무리
러시아어를 사용한 계정들은 챗GPT를 코딩 어시스턴트로 활용해 윈도 악성코드를 반복적으로 생성·배포했다. 일부 계정은 올해 독일 선거 개입을 목적으로 미국과 NATO 비판 메시지, 독일을 위한 대안(AfD) 정당 지지 콘텐츠 등을 AI로 제작해 텔레그램과 X에 유포했다.
오픈AI는 보고서를 통해 악의적 활동 탐지·차단의 핵심 목표는 권위주의 정부가 AI 도구를 사용해 권력을 축적하거나 시민을 통제하지 못하도록 방지하는 것이라고 언급했다.
보고서는 "자체 AI 모델인 '포스 멀티플라이어'로 사회공학적 공격, 사이버 스파이 활동, 기만적 고용 계획, 은밀한 영향력 작전, 사기 등 악의적 활동을 효과적으로 탐지·차단하고 있다"며 "민주적 AI를 구축해 AGI(인공일반지능)가 모든 인류에게 도움이 되도록 하는 것이 우리의 사명"이라고 강조했다.
ideaed@news1.kr
<용어설명>
■ AGI
AGI(Artificial General Intelligence·범용인공지능)은 인간과 유사한 수준의 지능을 가진 인공지능으로 인간이 수행할 수 있는 모든 지적 작업을 이해하고 학습할 수 있는 능력을 갖춘 시스템을 말한다. AGI는 특정 분야에 한정된 현재의 좁은 인공지능(Narrow AI)과 달리 다양한 분야와 상황에 유연하게 적응하며 복잡한 문제 해결하고 창의적 작업·추론·학습·이해 등 인간의 인지 능력을 포괄적으로 모방하는 인공지능을 목표로 한다.
Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.
매주 일요일 밤 0시에 랭킹을 초기화합니다.