【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[실시간뉴스]중국산 AI 안전장치 풀었더니…생물무기·암살 방법까지 답했다

온카뱅크관리자

2026-09-30 16:07:36

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="90v0FBwavo">
          <figure class="figure_frm origin_fig" contents-hash="70b36bd860ba4fcee6f960f4e2879f8586c9bcddfd85093290bfe0041d0d9587" dmcf-pid="2J9JeN0HWL" dmcf-ptype="figure">
           <p class="link_figure"><img alt="지난 7월 17일 중국 상하이에서 열린 세계인공지능대회(WAIC)에서 관람객들이 중국 AI 스타트업 문샷의 ‘키미 K3’ 부스를 둘러보고 있다. AP연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/30/kukminilbo/20260930154145406lzuj.jpg" data-org-width="640" dmcf-mid="KGcvlXJ6vg" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/30/kukminilbo/20260930154145406lzuj.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            지난 7월 17일 중국 상하이에서 열린 세계인공지능대회(WAIC)에서 관람객들이 중국 AI 스타트업 문샷의 ‘키미 K3’ 부스를 둘러보고 있다. AP연합뉴스
           </figcaption>
          </figure>
          <p contents-hash="6b6101489f72b85240d23ee9c4a25f0a377ee64fd75232b431f91438b536686f" dmcf-pid="Vi2idjpXhn" dmcf-ptype="general"> 중국 인공지능(AI) 개발사 문샷AI의 모델 ‘키미’가 안전장치를 우회하는 명령에 노출되자 생물무기 제조와 암살 등 위험한 질문에도 답변했다는 보안업체의 실험 결과가 나왔다. 질문에 응답하는 데 그치지 않고 다른 악용 방법까지 제안했다는 게 업체 측 설명이다. </p>
          <p contents-hash="74dff915de6ac82e98abbd1d0acea0f9ee4038341befd71a9c6afc8cae6ef78d" dmcf-pid="fnVnJAUZli" dmcf-ptype="general">30일(현지시간) 영국 BBC에 따르면 AI 보안업체 마인드가드는 지난 7월 문샷AI의 ‘키미 K2.6’과 ‘K3 스웜’을 대상으로 안전장치 우회 실험을 했다. 복잡한 명령을 잇달아 입력해 개발자가 설정한 응답 제한을 무시하도록 유도하는 이른바 ‘탈옥’ 방식이다. </p>
          <p contents-hash="61f583d73f6998a0f553484673742db68e3d35bf17d2cad4dd304497f82bced0" dmcf-pid="4LfLicu5SJ" dmcf-ptype="general">마인드가드는 탈옥에 성공한 뒤 키미가 평소 답변을 거부해야 할 생물무기 제조나 암살 관련 질문에 구체적인 정보를 제공했다고 밝혔다.  </p>
          <p contents-hash="86c68245c060c1615e6f79a974fdadc07a6b8d09c6ad09e2fe1222af889f39da" dmcf-pid="8o4onk71vd" dmcf-ptype="general">피터 개러건 마인드가드 창업자는 BBC에 “일단 탈옥에 성공하면 어떤 주제든 이야기한다”며 “다른 악의적인 주제에 대해서도 자유롭게 제안하고 독창적이고 창의적인 방법을 내놓기도 한다”고 말했다. </p>
          <p contents-hash="7dbad43b04f640e1c24aa16e3090db0177be0b67354a756951dc678ce966cc9b" dmcf-pid="6g8gLEztle" dmcf-ptype="general">다만 AI가 내놓은 정보가 실제로 실행 가능한지는 확인되지 않았다. 마인드가드 역시 생물무기 관련 답변의 실행 가능성을 입증하지 못했다. 이번 실험은 위험한 정보의 정확성을 검증하기보다 이를 차단해야 할 안전장치가 우회될 수 있음을 보여주는 데 초점이 맞춰졌다. </p>
          <p contents-hash="33473920ecc5c1db56f88b23b866d927417a1ef1f639dc132568e1b695bcb62c" dmcf-pid="Pa6aoDqFvR" dmcf-ptype="general">키미가 사이버 공격에 악용될 가능성도 제기됐다. 마인드가드는 안전장치가 뚫린 키미 K2.6을 이용하면 해커가 문샷AI의 컴퓨팅 자원에서 코드를 실행하거나 인터넷에 접속할 수 있다고 주장했다. AI의 위험한 답변을 받아보는 수준을 넘어 서비스 운영에 쓰이는 자원이 공격의 발판이 될 수 있다는 우려다. </p>
          <p contents-hash="9a8129dc24ad3e2a6c7d26106a3a58d24fbca104a08c9aafcac5c94ef0a1ae08" dmcf-pid="QNPNgwB3lM" dmcf-ptype="general">문샷AI는 자체 시험 결과와는 차이가 있다는 입장이다. 회사 측은 자체 테스트에서 키미가 이런 위험한 요청에 대부분 답변을 거부했다며 마인드가드와 조사 결과를 논의하고 있다고 밝혔다. </p>
          <p contents-hash="6f330c5ea3cbc31fc4dc126fdeee0cf89118d1e0af2e920431bddcc296086091" dmcf-pid="xjQjarb0Cx" dmcf-ptype="general">마인드가드는 지난 7월 27일 문샷AI에 취약점을 알렸고 약 일주일 뒤 재차 연락했지만 답변을 받지 못했다고 설명했다. 이후 9월 12일 실험 내용을 공개했으며, 문샷AI가 연락해 온 것은 최근 BBC가 취재를 시작한 이후라고 전했다. </p>
          <p contents-hash="93250fd30ac5987fc612dc90b125cdc039d5868e08836243d1e217fc6f5731a2" dmcf-pid="ypTp3brNCQ" dmcf-ptype="general">앨런 우드워드 영국 서리대 교수는 공개형 모델이 악용될 위험이 있지만 사이버 방어에도 활용될 수 있다고 말했다. 그는 국제 규제가 AI 발전 속도를 따라가기 어렵다며 “전화번호 형식에 합의하는 데도 수십 년이 걸렸다”고 지적했다. 그러면서 AI를 악용하는 사람을 찾아내고 처벌하는 데 더 초점을 맞춰야 한다고 강조했다.</p>
          <p contents-hash="0a8f044cd63c935b419bdd6c3aa5716f0432d24422cabf64955807de66c4d6f5" dmcf-pid="WUyU0KmjSP" dmcf-ptype="general">백재연 기자 energy@kmib.co.kr</p>
          <p contents-hash="521c0bb4edf3ce5c9342ba07e3a0b85d2150fcec7c936fd61fe4de58398a55e3" dmcf-pid="YrirDl8BW6" dmcf-ptype="general">GoodNews paper ⓒ <a href="https://www.kmib.co.kr" target="_blank">국민일보(www.kmib.co.kr)</a>, 무단전재 및 수집, 재배포 및 AI학습 이용 금지</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 국민일보. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기