【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]중국, 메타 ‘라마’로 군용 AI 개발…커지는 AI 악용 위협

온카뱅크관리자

2024-11-04 00:02:57

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="ynBH0ZdzyR">
          <div dmcf-pid="WOdb69rRSM" dmcf-ptype="general">
           ━
           <br>
           <p> AI 오남용 우려 확산 </p>
           <br> 중국이 미국 빅테크 메타의 오픈소스 인공지능(AI) 모델을 활용해 군사용 AI 모델을 개발했다. 불특정 다수에게 제공되는 오픈소스 모델이 군사적 목적 등 통제 불가능한 방향으로 흐를 수 있다는 우려가 커지고 있다. 
          </div>
          <p dmcf-pid="YIJKP2meTx" dmcf-ptype="general">로이터는 중국 인민해방군(PLA) 핵심 연구기관인 군사과학원(AMS) 연구원 등이 메타의 오픈소스 AI 모델 ‘라마’(Llama)를 활용해 군사용 AI 모델 ‘챗비트(ChatBIT)’를 개발했다고 1일(현지시간) 밝혔다. 이들은 지난 6월 발표한 논문을 통해 “라마2 13B(매개변수 130억 개)를 활용해 군사 분야의 대화 및 질의응답에 최적화된 모델을 개발했다”고 밝혔다. 써니 청 제임스타운재단 부연구위원은 “중국 군 전문가들이 오픈소스 거대언어모델(LLM)을 군사적인 목적으로 연구·활용하려고 시도해왔다는 실질적 증거가 나온 것은 이번이 처음”이라고 말했다. </p>
          <figure class="figure_frm origin_fig" dmcf-pid="GCi9QVsdSQ" dmcf-ptype="figure">
           <p class="link_figure"><img alt="김영희 디자이너" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202411/04/joongang/20241104000258882eeeg.jpg" data-org-width="480" dmcf-mid="x1UT5WQ0he" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202411/04/joongang/20241104000258882eeeg.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            김영희 디자이너
           </figcaption>
          </figure>
          <p dmcf-pid="HA43BpaVhP" dmcf-ptype="general"> 로이터에 따르면 논문 저자들은 10만 건의 군사 대화 기록을 학습 데이터로 활용했다. 향후 모델 업그레이드를 통해 정보 분석뿐 아니라 전략적 계획 수립 및 의사 결정 등에도 사용할 수 있게 할 계획이다. 다만 조엘 피노 메타 AI 연구 부사장은 로이터에 “수조 개의 토큰으로 훈련된 대부분의 모델과 비교하면 터무니없이 부족한 양”이라며 “실제로 기능할 수 있을지 의문이 든다”고 밝혔다. </p>
          <p dmcf-pid="Xc80bUNfl6" dmcf-ptype="general">소프트웨어의 원본인 소스코드를 자유롭게 사용·복제·배포·수정·활용할 수 있게 개방하는 게 오픈소스의 정신이었지만, 최근에는 이 ‘개방성’이란 특성 때문에 기술 오·남용 위협에 대한 우려가 커지는 상황이다. 반인륜적인 범죄 행위를 저지르는 조직이나 딥페이크·해킹 등의 범죄에 오픈소스 AI가 쓰이고 있다는 정황들이 나오면서다. 오픈AI나 구글 등은 소스코드를 외부에 공개하지 않고 모델을 끌어다 쓸 수 있는 API(응용 프로그램 인터페이스)만 유료로 제공하고 있다. </p>
          <p dmcf-pid="Zk6pKuj4l8" dmcf-ptype="general">특히 미국은 자국 빅테크가 만든 AI 모델이 중국의 ‘AI 굴기’에 쓰이는 것을 우려하고 있다. IT 전문 매체 디인포메이션은 1일 “워싱턴에서 미국 기술이 중국의 군사 역량을 키우는 데 도움이 된다는 우려가 나오고 있다”고 보도했다. </p>
          <p dmcf-pid="5WjPixvaC4" dmcf-ptype="general">메타는 PLA가 군사적 목적으로 라마를 사용하는 게 라이선스 조건에 위배된다는 입장이다. 메타는 군사와 전쟁, 핵 산업 또는 응용 분야, 간첩 활동 등에는 모델 사용을 금지한다는 원칙을 밝히고 있다. 몰리 몽고메리 메타 공공정책 책임자는 로이터에 “중국군이 우리 모델을 사용하는 건 허가받지 않은 일이며, 사용 정책에 위배된다”며 오용을 방지하기 위한 조처를 했다고 밝혔다. 다만 어떤 조처를 했는지는 밝히지 않았다. </p>
          <p dmcf-pid="1YAQnMTNhf" dmcf-ptype="general">권유진 기자 kwen.yujin@joongang.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p>