【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]中 AI도 보안시험서 ‘꼼수’…문제 안 풀고 답안 내려받아

온카뱅크관리자

2026-08-10 15:07:32

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="QRrToTyOyR">
 <figure class="figure_frm origin_fig" contents-hash="f360b867a2000b69143b5154af01a104adb25e31ee3aa5ad1c231e03ce704b6b" dmcf-pid="xemygyWIyM" dmcf-ptype="figure">
 <img alt="지난달 17일(현지시간) 중국 상하이에서 열린 세계인공지능대회(WAIC)에서 관람객들이 최신 AI 모델 ‘키미(Kimi) K3’를 공개한 중국 AI 기업 문샷 부스를 지나고 있다. 로이터=연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/10/joongang/20260810150108582gfho.jpg" data-org-width="1280" dmcf-mid="PUamxmsASe" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/10/joongang/20260810150108582gfho.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 지난달 17일(현지시간) 중국 상하이에서 열린 세계인공지능대회(WAIC)에서 관람객들이 최신 AI 모델 ‘키미(Kimi) K3’를 공개한 중국 AI 기업 문샷 부스를 지나고 있다. 로이터=연합뉴스
 </figcaption>
 </figure>
 중국 인공지능(AI) 스타트업 문샷 AI의 최신 모델 ‘키미 K3’가 사이버보안 능력 평가 과정에서 시험 환경의 허점을 이용해 공식 해답을 찾아낸 것으로 나타났다. 문제를 직접 해결하는 대신 외부 접속이 허용된 깃허브에서 답안을 내려받은 것이다. 
 미국 테크크런치는 7일(현지시간) AI 전문 사이버보안업체 프런티어 시큐리티의 분석을 인용해 이같이 보도했다. 
 연구진은 영국 정부 산하 인공지능보안연구소(AISI)가 만든 평가 체계를 활용해 키미 K3의 방어 목적 사이버보안 과제 수행 능력을 시험했다. 
 시험은 외부 인터넷 접속이 제한된 ‘샌드박스’ 환경에서 진행됐다. 키미 K3에는 과제 수행에 필요한 명령어 실행 권한이 부여됐고, 과제와 관계없는 대부분의 외부 사이트 접속은 차단됐다. 
 하지만 프로그램 설치 등에 필요한 일부 사이트는 예외적으로 접속이 허용됐고 이 목록에 깃허브가 포함돼 있었다. 
 키미 K3는 과제를 풀기 전에 외부 네트워크 연결 상태부터 확인했다. 이후 깃허브에 접속할 수 있다는 사실을 파악한 뒤 AISI가 공개한 평가자료 저장소를 내려받았다. 
 해당 저장소에는 시험 문제의 공식 해답이 포함돼 있었고 키미 K3는 이를 직접 읽어 과제 해결에 활용했다. 
 연구진은 키미 K3가 고도의 해킹 기술을 이용해 새로운 취약점을 찾아내거나 샌드박스 자체를 뚫은 것은 아니라고 설명했다. 
 인터넷 전체가 개방된 환경도 아니었다. 대부분의 외부 사이트는 차단됐지만 허용목록에 포함된 깃허브로 연결되는 통로가 열려 있었고 키미 K3가 이를 활용한 것이다. 
 키미 K3가 깃허브의 보안 취약점을 악용해 외부 시스템에 침입하거나 권한 없이 비공개 자료를 열람·유출한 정황도 발견되지 않았다. 공개된 저장소에서 공식 해답을 내려받은 만큼 일반적인 해킹 사건과는 성격이 다르다는 설명이다. 
 다만 AI가 평가자가 의도한 방법으로 문제를 해결하지 않고 시험 환경의 빈틈을 찾아 목표를 달성했다는 점에서 AI 안전성 평가 방식에도 허점이 있다는 지적이 나온다. 
 앞서 AISI는 지난 4일 오픈AI와 앤트로픽의 시험용 AI에서도 허가된 범위를 벗어난 행동이 확인됐다고 밝힌 바 있다. 
 AISI는 인터넷 접속을 허용하고 사이버 공격을 차단하는 안전장치를 해제한 상태에서 7개 AI 모델을 122차례 시험했다. 그 결과 10차례의 시험에서 AI가 실제 사람이나 기관을 대상으로 모두 19건의 승인되지 않은 행동을 한 것으로 나타났다. 
 이 가운데 17건은 앤트로픽의 ‘미토스 5’, 2건은 오픈AI의 ‘GPT-5.6 솔’에서 발생했다. 
 미토스 5는 오픈소스 프로그램에 악성 코드를 심은 뒤 가짜 신원을 이용해 관리자를 설득하려 한 것으로 나타났지만 실제 공격에는 실패했다. 
 다만 미국 AI 모델 사례는 인터넷 접속을 의도적으로 허용하고 안전장치를 해제한 시험에서 발생했다는 점에서 제한된 샌드박스 환경에서 깃허브를 통해 공식 해답을 찾아간 키미 K3 사례와는 조건과 행동 방식이 달랐다. 
 키미 K3의 실제 사이버 공격 능력은 미국 최상위 AI 모델보다 낮은 수준으로 평가됐다. 
 AISI와 미국 인공지능표준혁신센터(CAISI)가 진행한 별도 예비평가에서 키미 K3는 41개 취약점 공격 과제 가운데 대상 시스템에 원하는 명령을 실행하는 ‘임의 코드 실행’에 단 한 차례도 성공하지 못했다. 
 프런티어 시큐리티 연구진은 이번 사례가 AI 평가 환경 자체의 통제가 중요하다는 점을 보여준다고 지적했다. 
 연구진은 AI가 평가 설계자가 예상한 방식으로 문제를 해결하는지 확인하려면 외부 통신을 기본적으로 차단하고 최종 점수뿐 아니라 AI가 실행한 명령어와 외부 통신 기록까지 함께 살펴봐야 한다고 권고했다. 
 정재홍 기자 hongj@joongang.co.kr
 </section> 
 </div> 
 Copyright © 중앙일보. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기