【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]네이버, AI 위험 110개로 쪼개 관리…안전성 리포트 첫 발간

온카뱅크관리자

2026-09-16 10:47:25

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">'ASF 2.0' 실제 서비스 적용 사례 공개…위험 분류·답변 평가 체계 구축<br>AI탭·쇼핑 에이전트·날씨 사례 담아…설계부터 운영까지 안전성 점검</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="5wfCW1yO5f">
          <figure class="figure_frm origin_fig" contents-hash="4d82c7e66f79f1f9c4ac1d5bce100dfb6715edda678d5bf099a340487084c03a" dmcf-pid="1r4hYtWI1V" dmcf-ptype="figure">
           <p class="link_figure"><img alt="AI Safety Progress Report 2026 표지.ⓒ네이버" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/16/dailian/20260916104052069pvgt.jpg" data-org-width="700" dmcf-mid="Z2vPJNd8Y4" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/16/dailian/20260916104052069pvgt.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            AI Safety Progress Report 2026 표지.ⓒ네이버
           </figcaption>
          </figure>
          <p contents-hash="2cdd5f4ccfe2b8fbd6c5d5081cde965760cf6f859b7b49fabf293f6c55a38a59" dmcf-pid="tm8lGFYCG2" dmcf-ptype="general">네이버가 인공지능(AI) 서비스에서 발생할 수 있는 위험을 110개 세부 항목으로 나눠 관리하고, AI 답변의 유해성과 사용성을 함께 평가하는 안전성 체계를 공개했다. 자체 AI 안전성 체계가 실제 서비스에 적용되는 과정과 사례를 담은 보고서도 처음 발간했다.</p>
          <p contents-hash="816cd79b96ffa93dc8e77ff3370edf07219cb2010c493ac5beaa610084a5132a" dmcf-pid="Fs6SH3Ght9" dmcf-ptype="general">네이버는 자체 AI 안전성 체계 'ASF 2.0'의 적용 사례를 담은 'AI Safety Progress Report'를 처음 발간했다고 16일 밝혔다.</p>
          <p contents-hash="e5f3950d87e4bcefb446edab36236d29c3ea12c4fe91c71ec4ca038e31122981" dmcf-pid="3OPvX0Hl5K" dmcf-ptype="general">ASF 2.0은 AI 모델의 성능과 위험 수준뿐 아니라 이용자와 서비스 보호까지 포함하는 관리 체계다. AI 서비스의 설계·개발부터 출시, 운영에 이르는 전 과정에서 안전성을 체계적으로 관리하도록 설계됐으며, 네이버는 실행 체계인 'CHEC 2.0'을 통해 이를 실제 서비스에 적용하고 있다.</p>
          <p contents-hash="abc0cac5e283533d9166c1cd4d8347b54b906d373f8882570f9f60c4bd1d1979" dmcf-pid="0IQTZpXS5b" dmcf-ptype="general">보고서에는 AI 서비스에서 발생할 수 있는 위험을 분류·식별하는 'N-ARTI'가 소개됐다. 네이버는 법률·사회·산업 분야 사례를 바탕으로 위험을 110개 세부 항목으로 나눴다. 서비스별 특성을 반영하면서도 전사적으로 같은 기준을 적용할 수 있도록 위험 유형을 체계화한 것이다.</p>
          <p contents-hash="f66a133656bcd27e3f81b3f6668e3d62ba470fb56646167b0d98a200f63dbc67" dmcf-pid="pCxy5UZv1B" dmcf-ptype="general">네이버는 N-ARTI를 토대로 생성형 AI가 사전에 설정한 안전 기준을 벗어난 정보를 제공하지 않도록 하는 '가드레일'을 구축할 수 있다고 설명했다.</p>
          <p contents-hash="fc27b74583af655b425a9fa6996fda93f8b6b6ebec7c96c05aea490f5e73284f" dmcf-pid="UhMW1u5Ttq" dmcf-ptype="general">AI 답변 자체를 평가하는 'N-ASET'도 마련했다. 이 도구는 AI 응답을 '유해성'과 '사용성' 두 측면에서 평가한다. 유해한 내용을 포함했는지만 확인하는 데 그치지 않고 이용자의 질문에 적절하게 답했는지, 필요한 면책 문구나 전문가 안내를 갖췄는지까지 함께 살핀다.</p>
          <p contents-hash="72dff78dceb2be346c59a168a953ed498620cb6d26ce572e6ba001d114f26231" dmcf-pid="uWn5UKpXHz" dmcf-ptype="general">실제 서비스 적용 사례도 공개했다. 네이버는 AI 쇼핑 에이전트와 날씨 서비스에서 AI 활용 사실을 이용자에게 표시·고지하고 있으며, 지난 6월 선보인 'AI탭'에는 CHEC 2.0을 적용해 설계부터 출시까지 전 과정에서 안전성을 점검했다.</p>
          <p contents-hash="eb30eaf90e9aed8093610659a46b7fdcbc8e1d199aba38bb29a8155cc0f83d18" dmcf-pid="7YL1u9UZH7" dmcf-ptype="general">네이버는 앞으로 KAIST와 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등과 협력을 넓혀 AI 서비스 위험을 사전에 파악하고 예방·완화하는 연구를 이어갈 계획이다.</p>
          <p contents-hash="751781077bdd5ea271c1645dfdb16a38d899671f79d7eb64d900c26503229608" dmcf-pid="qHgFzV71tU" dmcf-ptype="general">원성재 네이버 AI Safety 센터장은 "AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다"며 "AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고 ASF 2.0을 지속적으로 고도화하고 적용해 나가겠다"고 말했다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 데일리안. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기