【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]"AI는 초능력 통제 못하는 아기…적절한 도구 쥐여줘야"

온카뱅크관리자

2026-07-24 14:17:32

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="Wc57zwEoCz">
          <p contents-hash="22eff74b5a755c0d5580bc8b1c22c9e4668c3710064f4483222b251315965307" dmcf-pid="Yk1zqrDgv7" dmcf-ptype="general"><strong>김태수 MS 부사장, AI 보안 방법론 제시</strong></p>
          <div contents-hash="107166bf5abb1dd6c21cefee4e1a0e28f4e6787a7aafa8d0b772221fec1e5105" dmcf-pid="GEtqBmwalu" dmcf-ptype="general">
           <strong>"개별 에이전트 아닌 앙상블 구조로 접근"</strong>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="d4f4b0216381d0d97226eb1e047632452ee45a51684251c65c7405f389711229" dmcf-pid="HMIYGJe4TU" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/24/552796-pzfp7fF/20260724140934146wkkq.jpg" data-org-width="640" dmcf-mid="xLnxMGWIhB" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/24/552796-pzfp7fF/20260724140934146wkkq.jpg" width="658"></p>
          </figure>
          <p contents-hash="b6703ec3c0ae21f46f47dab938c9d3aa335580f9dabdfe5953ae48092cb6c074" dmcf-pid="XRCGHid8Cp" dmcf-ptype="general">[디지털데일리 김보민기자]<strong> "애니메이션 영화 &lt;인크레더블&gt;을 보면 초능력을 가진 아기 '잭잭(Jack-Jack)'이 등장합니다. 잭잭은 순간이동부터 불사조까지 부모보다 뛰어난 초능력을 가지고 있지만, 어떻게 통제할지는 전혀 알지 못합니다. 이것이 바로 현재 우리가 마주한 인공지능(AI)의 모습입니다."</strong></p>
          <p contents-hash="9b93cf482545a50cf1617f721e39d22f0c44cddb10f6ce9b7710696fb07e16e7" dmcf-pid="ZehHXnJ6W0" dmcf-ptype="general">김태수 마이크로소프트(MS) 보안 연구 부사장(조지아공과대 교수)은 24일 서울 삼성동 코엑스에서 열린 국제 해킹방어대회 '코드게이트' 기조연설을 통해 이렇게 밝혔다. AI가 취약점을 찾아 해킹을 막을 차세대 기술로 부상한 가운데, 보안 업무를 위임하기 전 기본적인 성질을 이해해야 한다는 취지였다.</p>
          <p contents-hash="74ca8f1fcc75d49a8ff8a30962fb74dc9f369ebecae8f804338097efc0d3ece4" dmcf-pid="5dlXZLiPl3" dmcf-ptype="general">김 부사장은 보안에 AI 기술을 효과적으로 활용하려면 대형언어모델(LLM)이 기본적으로 갖추고 있는 '원시 지능(Raw Intelligence)'을 넘어, 적절한 인프라를 연계해 적용하는 것이 중요하다고 강조했다. 원시 지능은 특정 작업에 맞춰 미세조정되지 않은 인텔리전스인 만큼 오답을 내놓을 확률이 높기 때문이다.</p>
          <p contents-hash="3345e830d6083e988c889d6cf87cd3c86bc6b1c816b80112a7b044fc19b3f488" dmcf-pid="1JSZ5onQTF" dmcf-ptype="general">그 예시로 김 부사장은 "챗GPT에게 '알파벳 x가 들어간 월(month)이 뭐야'라고 묻자 '12월(December)'이라는 답이 돌아왔다"고 말했다. AI에게 구체적인 방법을 알려주지 않은 상태에서 곧바로 질문하자 오답이 돌아왔다는 것이다. 김 부사장은 "이처럼 LLM은 토큰을 완성하는 과정에서 오답을 내놓는다"고 부연했다.</p>
          <div contents-hash="d88984e56b903b1bc6c1b51bea3019ec41bb0be96e15f013acc480fc75d45b28" dmcf-pid="tiv51gLxTt" dmcf-ptype="general">
           그렇다면 해답은 무엇일까. 김 부사장은 사람도 잘 못하는 업무를 AI에게 지시할 경우, 이를 도울 도구를 주는 것이 중요하다고 제언했다. 그는 "LLM에게 단위가 긴 더하기 빼기를 해달라고 묻는 것은 잘못된 질문"이라며 "대신 계산기를 줄 수 있다"고 제시했다. 또 다른 예시로 "LLM에게 날씨를 물으면 알 방법이 없다"며 "대신 '이 질문에 답하기 위해 외부 도움이 필요해'라는 메타적 인지를 갖게 하고 외부 툴을 통해 문제를 해결하도록 해야 한다"고 말했다.
          </div>
          <figure class="figure_frm origin_fig" contents-hash="0427964d9ddf8799dfb54764be2ead240110e6665eeca10a7b202bc75e934d32" dmcf-pid="FnT1taoMW1" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/24/552796-pzfp7fF/20260724140935461ftcs.jpg" data-org-width="640" dmcf-mid="yRCGHid8Cq" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/24/552796-pzfp7fF/20260724140935461ftcs.jpg" width="658"></p>
          </figure>
          <p contents-hash="0d7ab0dce3966061390db13ae7ed4021bc2bcfb86b023639799aa6d49ebafe6a" dmcf-pid="3LytFNgRv5" dmcf-ptype="general">김 부사장은 프론티어 AI 모델이 부상한 지금, 취약점 탐지와 보안 대응 또한 이러한 관점으로 접근할 필요가 있다고 강조했다. 그는 "챗GPT와 같은 AI는 누구나 당장 쓸 수 있는 필수품이 됐지만, 뛰어난 보안 능력을 가진 모델들은 그렇지 않다"며 "이들의 인텔리전스는 우리가 경험해온 선을 뛰어넘었다"고 평가했다.</p>
          <p contents-hash="4db92f19902d4a8319b3198243dbd6861e18582b3f946b5cd3dbc209cab86f93" dmcf-pid="0oWF3jaeTZ" dmcf-ptype="general">대표적으로 앤트로픽이 올해 연합체 회원을 대상으로 제한적으로 접근권을 허용한 '클로드 미토스'가 있다. 미토스는 고위험 보안 취약점을 찾아낼 수 있는 것으로 알려졌다. 수십 년간 알려지지 않은 소프트웨어(SW) 취약점을 탐지하는 데 성공하기도 했다. 이후 글로벌 시장에서는 프론티어 모델과 같은 고성능 AI로 보안을 고도화할 경우 이전과 다른 방어 체계를 구축할 수 있다는 기대감이 커졌고, 동시에 해커가 이를 악용할 가능성도 점쳐졌다.</p>
          <p contents-hash="4ba38f8f0f541a36a3dce27d1a4b6a58d37bb894e4f4fa9de69dee1f55156adf" dmcf-pid="pgY30ANdTX" dmcf-ptype="general">김 부사장은 프론티어 AI를 통해 보안을 고도화할 방법을 찾기 위해 미국 국방고등연구기획국(DARPA)가 주최한 'AI 사이버 챌린지(AIxCC)'에 참가했고, 최종 라운드에서 1위를 차지해 400만달러 상금을 받았다. AIxCC는 사람 개입 없이 AI가 스스로 SW 보안 취약점을 찾아 고치는 능력을 겨루는 국제 대회다. 김 부사장을 비롯해 현재 MS, 오픈AI, 구글 등 대표 기업에 근무 중인 전문가들은 '팀 애틀랜타(Team Atlanta)'를 구성해 대회에 참가했다.</p>
          <p contents-hash="f94aec0d890010344cb4079643b421dfa3a6ad17d310852139e694322fdd45c0" dmcf-pid="UMIYGJe4lH" dmcf-ptype="general">김 부사장은 구조적으로 AI 모델 간 '앙상블'을 구현하는 것이 중요하다는 점을 입증했다고 강조했다. 그는 "단일 에이전트가 아니라, 에이전트 백엔드 모델을 다양화해 이들이 각각 잘하는 업무를 극대화하는 시스템을 구조적으로 구현했다"고 설명했다. 이어 "한 에이전트가 특정 종류의 버그를 찾는 데 특화돼 있다면, 각각의 역량을 갖춘 6~7개 에이전트를 합하는 방식"이라고 소개했다.</p>
          <p contents-hash="01bda7136a4b666c1553b13156672689c19a4953c949b6303fe45ece5341ca80" dmcf-pid="uRCGHid8TG" dmcf-ptype="general">이러한 구조로 보안 효능을 높이기 위해서는 '하네스(Harness)'가 필요하다고 말했다. 하네스는 AI 모델 성능을 체계적이고 일관되게 평가하기 위한 자동화된 테스트 환경(프레임워크)이다. 김 부사장은 "하네스를 고정하면 같은 모델임에도 불구하고 성능이 더 좋아진다는 점을 알 수 있다"며 "특정 모델을 가장 잘 활용하는 방법은 결국 그 주위의 인프라를 얼마나 잘 구축하느냐에 달려 있다"고 평했다.</p>
          <p contents-hash="f43ce962413edd4797effed9ae042e8e47de817f43f76a8a1e9aed834ac58308" dmcf-pid="7ehHXnJ6hY" dmcf-ptype="general">김 부사장은 AI가 취약점을 탐지하고 해결하는 시대가 도래했다고 밝혔다. 그는 "AIxCC 대회가 끝났을 당시 'AI가 버그를 찾고 고치는 미래가 올 것'이라고 주장했는데, 불과 6개월 만에 이제 현실이 됐다"며 "능력 있는 AI 에이전트를 활용해 익스플로잇(Exploit)을 만드는 과정이 이미 현실 세계에 와 있다"고 평가했다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기