【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]대신 결제하고 메일 보내는 AI…"위임부터 복구까지 안전장치 필요"

온카뱅크관리자

2026-11-12 17:57:24

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">방미통위·KISDI '2026 AI서비스 이용자 보호 컨퍼런스' 열어<br>에이전트 자동화 범위 넓어져…취소·복구 범위 넓혀야</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="9bUS12RfyI">
          <figure class="figure_frm origin_fig" contents-hash="9e0579e50432f5016b6d7a936be6f175f57ac475f0c41fd7ed3d34ebe605f16d" dmcf-pid="2KuvtVe4hO" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[사진=나선혜 기자]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/552779-26fvic8/20261112175133440iviz.jpg" data-org-width="640" dmcf-mid="KCdqPjOchC" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/552779-26fvic8/20261112175133440iviz.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [사진=나선혜 기자]
           </figcaption>
          </figure>
          <div contents-hash="d8badaa1c49b21883d25c92efe44d65504bbef71be08ce978b98d72860621bab" dmcf-pid="VfBYp6nQTs" dmcf-ptype="general">
           <br>최근 메타 '뮤즈', 오픈AI '닷츠'와 같은 인공지능(AI) 에이전트 서비스가 등장하면서 이용자 보호와 초점의 권한이 AI 답변 뿐 아니라 실제 행동과 권한 통제로 확대해야 한다는 의견이 나왔다.
          </div>
          <p contents-hash="94b6f660fee25d9cc1384ac05f178dfb5fe8bf6a441cba6897b8c814a5026772" dmcf-pid="f4bGUPLxCm" dmcf-ptype="general">12일 서울 중구 포스트타워에서는 방송미디어통신위원회(방미통위)와 정보통신정책연구원(KISDI)가 주최한 '2026 AI서비스 이용자 보호 컨퍼런스'가 열렸다. 기조발제를 맡은 이상근 고려대 교수는 "에이전트 시대 이용자 보호를 위해서는 에이전트 서비스 권한 위임부터 복구까지 전 과정에 안전 장치가 들어가야 한다"고 말했다. </p>
          <p contents-hash="7d8ee63273acc7105a639eba9ec8346659ac09f18fa3c0a251f1500669f16c5f" dmcf-pid="48KHuQoMlr" dmcf-ptype="general">이 교수는 AI 에이전트 서비스의 위험을 △외부 공격에 조종당한 에이전트 △목표 달성 과정에서 스스로 선을 넘는 에이전트 △허술하게 위임된 에이전트 등 총 3가지로 나눴다. </p>
          <p contents-hash="37895ac17e7ed3e8af0fa9030648745fbd83be04fbb4ae725d7dedca379878f2" dmcf-pid="869X7xgRCw" dmcf-ptype="general">이 교수는 "특히 외부 공격 위험은 민감한 데이터 접근권한·신뢰할 수 없는 외부 입력·외부 통신 능력이 결합할 때 커진다"며 "세 요소가 동시에 결합하지 않도록 통제해야 한다"고 설명했다. </p>
          <p contents-hash="78fdeff388e415a1fee99cea417197095c5b7e6932d4d5e44efcfae0c8a00ce0" dmcf-pid="6P2ZzMaeSD" dmcf-ptype="general">이에 따라 이용자 보호를 위해서는 위임부터 복구까지 전 과정에 안전장치가 필요하다고 짚었다. </p>
          <p contents-hash="857cd68ec148568d5e97bfbf9402af011e12afe34fd522e50b76a250d8232469" dmcf-pid="PQV5qRNdhE" dmcf-ptype="general">우선 권한을 위임할 때는 에이전트가 누구를 대신하고 이용자가 어떤 행동까지 허용했는지 확인할 수 있어야 한다고 봤다. 이 교수는 "'결제에서는 거래 주체가 에이전트다'라는 표시 등이 필요하다"고 언급했다. </p>
          <p contents-hash="3807e7c00fbc4ffd10c2af874414745596fac9cc6544365ae74aba73cee5bad0" dmcf-pid="Qxf1BejJvk" dmcf-ptype="general">행동을 감시하는 AI 모델은 업무를 실행하는 모델과 분리해야 한다고 제언했다. 감시 AI도 오류를 낼 수 잇는 만큼 권한 제한 등 구조적 안전장치를 적용해야 한다는 설명이다. </p>
          <p contents-hash="43a58368f5aea2efbf4fb49c765fd4bd93af7002eed84b00ae6eab3441296de2" dmcf-pid="xM4tbdAiyc" dmcf-ptype="general">사람의 확인 절차는 행동의 위험에 따라 달리 적용할 필요가 있다고 분석했다. 모든 행동마다 승인을 받으면 자동화의 효율이 떨어지기 때문이다. 이 교수는 "공개 데이터 만 사용해야 한다"며 "결제·외부 이메일 발송·금융 및 의료 민간 정보 처리 등 피해가 큰 행동에는 사람의 확인이 필요하다"고 이야기했다. </p>
          <p contents-hash="43fe1b89c34b260dfe7758fef7d18922637c567cd650afd0600f9d1e0ea11e13" dmcf-pid="yWhorHUZWA" dmcf-ptype="general">취소·복구 범위도 넓혀야 한다고 강조했다. 여러 에이전트가 작용하면서 사람 승인 없이 실행하는 거래가 늘어난다는 이유에서다. </p>
          <p contents-hash="2856747aa9905c42c0e440a6aae01d95b6f3cf2f356ed0b46de625db067a42d7" dmcf-pid="WYlgmXu5Tj" dmcf-ptype="general">기조 발제를 맡은 박태웅 국가AI전략위원회 공공AX 분과장은 AI 에이전트 서비스의 이용자 피해 영역을 △정보 피해 △관계 피해 △거래 피해 △데이터·보안 피해 △위임 피해 △구제 피해 등 6가지 영역으로 나눴다. 허위정보나 개인정보 유출뿐 아니라 위임 범위를 벗어난 행동, 피해 구제 절차의 부재와 지연까지 보호 범위에 포함해야 한다는 설명이다.</p>
          <p contents-hash="084ba1f722f4307fee69bad27b93afd9bc4b2cf0d7f2d666c409e9e7e265d36f" dmcf-pid="YGSasZ71yN" dmcf-ptype="general">박 분과장은 이용자 보호를 위한 법과 제도가 특정 기술을 지정하기보다 달성해야 할 안전 수준을 정하고, 사업자가 결과에 책임지도록 해야 한다고 주장했다. 그는 "AI임을 알렸으니 책임이 없다거나 이용자가 확인을 눌렀으니 책임이 없다는 구조여서는 안 된다"고 지적했다.</p>
          <p contents-hash="80046d7884173e7b3a73566c7922d3bb55564729eacc58060dc7d093d0136df6" dmcf-pid="GHvNO5ztTa" dmcf-ptype="general">이와 함꼐 에이전트의 신원과 권한, 책임 주체를 확인할 규칙을 마련해야 한다고 강조했다. 누가 에이전트를 운영·관리하는지 확인하고, 위임 범위를 벗어난 행동을 즉시 인지해 중단할 수 있어야 한다는 것이다.</p>
          <p contents-hash="e436cd9ce2f5eeeb3cd021811d1f1c9dda4d16bc9e96309eb1f42c78340eeb6b" dmcf-pid="HXTjI1qFlg" dmcf-ptype="general">박 분과장은 "이용자의 명시적 지시를 벗어난 거래가 발생했을 때는 에이전트 제공자와 결제사업자가 1차적으로 책임지는 구조가 돼야 한다"고 말했다.</p>
         </section> 
        </div>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기