【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]국제 AI 보안 표준 발표..구글-오픈AI-알리바바 동참

온카뱅크관리자

2024-04-18 08:13:21

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">美中 수십 개 기업 전문가 참여</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="QK72e0f5po">
          <p dmcf-pid="xFX02WUlzL" dmcf-ptype="general">(지디넷코리아=유효정 중국 전문기자)미국과 중국 기업 등이 참여해 생성형 인공지능(AI) 보안 표준을 내놨다.</p>
          <p dmcf-pid="yCrl5kvapn" dmcf-ptype="general">17일 스위스 제네바에서 열린 제27차 유엔과학기술회의에서 세계디지털기술아카데미(WDTA)는 '생성형 AI 애플리케이션 보안 테스트 표준'과 '대규모 언어 모델 보안 테스트 방법' 등 두 가지 국제 표준을 발표했다.</p>
          <p dmcf-pid="WnRorPaVFi" dmcf-ptype="general">이 두 가지 표준은 초거대 모델 및 생성형 AI 애플리케이션 방면의 보안 테스트 표준으로서, 글로벌 AI 보안 평가 및 테스트의 새로운 기준이 될 것이라고 소개됐다.</p>
          <p dmcf-pid="YvIy3rYczJ" dmcf-ptype="general">두 표준은 오픈AI, 구글, 메타, 마이크로소프트, 엔비디아, 아마존, 알리바바그룹의 앤트그룹, 아이플라이텍, 바이두, 텐센트, 오포, 그리고 버클리대 등 수십 개 기업 및 기관의 전문가가 공동으로 만들었다. 이중 대규모 언어 모델 보안 테슽 방법은, 앤트그룹이 주도해 제정했다.</p>
          <figure class="figure_frm origin_fig" dmcf-pid="GDjryosd3d" dmcf-ptype="figure">
           <p class="link_figure"><img alt="WDTA가 발표한 표준 제정 참여 기업 (사진=WDTA)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/18/ZDNetKorea/20240418081323222kixv.png" data-org-width="640" dmcf-mid="PylGUOXDpg" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/18/ZDNetKorea/20240418081323222kixv.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            WDTA가 발표한 표준 제정 참여 기업 (사진=WDTA)
           </figcaption>
          </figure>
          <p dmcf-pid="HCrl5kvaue" dmcf-ptype="general">표준은 생성형 AI 애플리케이션(특히 대규모 언어 모델을 사용해 구축한 응용 프로그램)의 보안을 테스트하고 검증하기 위한 프레임워크를 제공한다. 또 ▲기본 모델 선택 ▲임베디드 및 백터 데이터베이스 ▲RAG 또는 검색 증강 생성 ▲AI 애플리케이션 런타임 보안 등 방면에서 AI 애플리케이션 아키텍처의 각 단계에 대한 테스트 및 검증 범위를 정의한다.</p>
          <p dmcf-pid="Xqpbxt9HpR" dmcf-ptype="general">대규모 언어 모델 보안 테스트 방법의 경우 대규모 모델 자체의 보안 평가를 위한 포괄적이고 실용적인 계획을 제공하며 대규모 언어 모델의 보안 위험 분류, 분류 방법과 테스트 방법 등을 제안한다.</p>
          <p dmcf-pid="ZBUKMF2X7M" dmcf-ptype="general">WDTA에 따르면 이 방법은 대규모 언어 모델의 복잡성을 해결하면서 적대적 공격을 견딜 수 있는 능력을 포괄적으로 테스트하고 개발자와 조직이 잠재적 취약점을 식별해 막을 수 있게 한다. 궁극적으로 대규모 언어 모델을 사용한 AI 시스템의 성능을 향상시킬 수 있다..</p>
          <p dmcf-pid="5x4Rj9dz3x" dmcf-ptype="general">유효정 중국 전문기자(hjyoo@zdnet.co.kr)</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p>