【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI 안전 자신하더니…A·B등급 하나도 못 받았다

온카뱅크관리자

2026-07-08 19:07:32

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">■ FLI, 빅테크 9곳 상반기 평가<br>오픈AI·구글 ‘C’…딥시크 ‘F’<br>최고점 앤트로픽도 ‘C+’ 그쳐<br>군사·범죄 악용사례 계속 늘어<br>전문가 “강제 규제 서둘러야”</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="KkRPfAXSlF">
          <p contents-hash="4e8954ae65c7346483dea28a656b3595cf5f1a2021c79599cb710f126ffff743" dmcf-pid="9EeQ4cZvWt" dmcf-ptype="general">최근 인공지능(AI) 시스템이 군사 작전에 동원되고 개인의 자살이나 총기 난사 등 각종 범죄·위험 행위에 악용되는 사례가 드러나고 있지만, 세계 주요 AI 기업들이 이를 막기 위한 충분한 안전장치를 마련하는 데 소홀한 것으로 나타났다. 전문가들은 기업의 자율규제만으로는 더 이상 위험을 통제하기 어렵다며 AI 개발 속도에 맞춰 강제력 있는 안전 기준을 마련해야 한다고 경고하고 있다.</p>
          <p contents-hash="300db323e87f1fda4d561f3a3f8bff8d73ccbbd91d20e86c17e283a9795bca91" dmcf-pid="2Ddx8k5TC1" dmcf-ptype="general">미국 기반 AI 안전 분야 비영리 싱크탱크 퓨처오브라이프 인스티튜트(FLI)는 7일(현지 시간) ‘2026 상반기 AI 안전성 지수’를 발표하고 앤트로픽, 오픈AI, 구글 딥마인드, 메타, Z.ai, 알리바바 클라우드, xAI, 딥시크, 미스트랄 등 9개 기업의 안전 관행을 평가했다. 보고서에서 스튜어트 러셀 UC버클리 컴퓨터공학과 교수 등 AI 안전·거버넌스 분야 전문가 7명이 각 기업을 위험 평가, 현재 발생한 피해, 안전 프레임워크, 인류 생존 차원의 안전, 거버넌스와 책임, 정보 공개·소통 등 6개 부문으로 나눠 A~F 등급으로 평가했다.</p>
          <p contents-hash="895467e508dbd765868deea737169618d98c2664f540ac71d615f2c886cb05e9" dmcf-pid="VwJM6E1yC5" dmcf-ptype="general">조사 결과 세계 AI 시장을 주도하는 주요 기업 9곳 가운데 A·B 등급을 받은 곳은 한 곳도 없었다. 앤트로픽은 안전성 지수에서 1위를 차지했지만 실제 등급은 C+에 그쳤다. 오픈AI와 구글 딥마인드는 각각 C를 받았고, 메타는 D+를 기록했다. Z.ai와 알리바바 클라우드는 D-, xAI와 딥시크, 프랑스의 미스트랄은 F를 받았다. 평가위원들은 상위 3위에 오른 앤트로픽, 오픈AI, 구글 딥마인드에 대해서도 “현재의 안전 완화 조치가 성능 개발 속도에 비해 완전히 부적절하다”고 지적했다.</p>
          <figure class="figure_frm origin_fig" contents-hash="db4c918edbf97222be794e445480b545d1daa5def1fb5cd14a20aa9797e8d014" dmcf-pid="friRPDtWyZ" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/08/seouleconomy/20260708190651322fwwi.jpg" data-org-width="500" dmcf-mid="bWjoJC71y3" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/08/seouleconomy/20260708190651322fwwi.jpg" width="658"></p>
          </figure>
          <p contents-hash="1007531753763e913934103afb638febe16cef6cc8eeaa6f5f0140ba0b0c4fc4" dmcf-pid="4mneQwFYSX" dmcf-ptype="general">평가위원들은 주요 AI 기업들이 초기 안전을 위해 스스로 마련한 기준을 완화하거나 적용 범위를 넓히고 있다고 지적했다. 앤트로픽은 2023년 9월 ‘책임 있는 확장 정책(RSP)’을 도입해 특정 위험 능력에 도달한 AI는 더 강한 안전장치 없이는 훈련·배포하지 않겠다고 약속했다. 오픈AI는 2023년 말 ‘준비성 프레임워크’를 발표하고 생물·화학 위협, 사이버, 자율 행동 등 고위험 영역을 평가해 일정 수준 이상 위험이 확인되면 배포를 제한하겠다고 밝혔다. 구글 딥마인드는 2024년 5월 ‘프런티어 안전 프레임워크’를 공개했고, 메타도 2025년 2월 사이버·화학·생물학 무기 위험을 중점 관리하는 ‘프런티어 AI 프레임워크’를 내놨다.</p>
          <p contents-hash="b428e4353fc1e174b5fa998394eaa8189807fa8e0301800d2ce90dd195738b49" dmcf-pid="8sLdxr3GvH" dmcf-ptype="general">그러나 이 같은 약속은 최근 들어 유명무실해지고 있다. 앤트로픽은 올해 2월 안전 조치가 충분하다고 사전에 입증되지 않으면 AI 시스템을 훈련하지 않겠다는 기존 문구를 철회했다. FLI에 따르면 오픈AI와 구글 딥마인드, 메타 역시 위험 기준에 도달했을 때 개발이나 배포를 중단할 수 있는 권한과 검증에 대한 정책이 명확히 마련돼 있지 않다.</p>
          <p contents-hash="f5459aff61275cfb42f9b34ef466c0e6ff4a7ff6c05183c8708f375c96791a1e" dmcf-pid="6OoJMm0HWG" dmcf-ptype="general">기업들의 느슨해진 태도는 가설로 여겨졌던 AI 위험을 현실의 문제로 만들고 있다. 최근 일부 AI 시스템은 군사 작전에 활용되고 있으며, 개인에게 총기 난사나 자살 등에 필요한 정보를 제공하는 사례도 보고되고 있다. FLI는 “AI가 군사적 맥락에서 자주 사용될 경우 AI를 인간의 실질적 통제 아래 두기 어려워질 수 있으며, 전략적 균형을 흔드는 군비 경쟁 가능성도 높아졌다”고 우려했다. 이런 이유로 FLI뿐만 아니라 국제사회 전반에서도 AI 개발 속도에 대한 우려가 커지고 있다. 노벨평화상 수상자인 마리아 레사가 공동의장을 맡고 있는 글로벌 AI 과학기구 ‘독립 국제 AI 과학 패널’은 이달 발표한 예비 보고서에서 “고도로 자율적인 AI를 통제할 신뢰할 만한 방법이 아직 없고, AI가 인간을 기만하는 정황까지 나타나면서 기존의 안전성 검증마저 무력화될 수 있다”고 경고했다. 패널은 또 “안전성 검증 방법론을 평가 대상인 기업이 사실상 스스로 설계하는 ‘정보 비대칭’이 존재한다”며 “독립적인 제3자 검증 체계가 시급하다”고 강조했다.</p>
          <p contents-hash="c383f4e8c31da1535a4b627e2cc8bbf0650cae66bf5c2f3495e38d41ea32c955" dmcf-pid="PDdx8k5TyY" dmcf-ptype="general">이번 FLI 평가에 참여한 셰런 리 위스콘신매디슨대 컴퓨터공학과 교수는 “AI 시스템이 더욱 강력해지고 갈수록 개방된 환경에 투입되면서, 이런 시스템의 안전성을 엄격하고 독립적으로 검증하는 것은 더는 미룰 수 없는 과학적 과제가 됐다”고 말했다.</p>
          <p contents-hash="8ed1c64596cac8a2f7fab6eb6afa140840d193f059a390a27bff467795bad4ae" dmcf-pid="QwJM6E1ylW" dmcf-ptype="general">한편 FLI는 2014년 맥스 테그마크 MIT 물리학과 교수와 스카이프 공동창업자인 얀 탈린, 앤서니 아기레 UC샌타크루즈 교수 등이 설립한 미국 기반 AI 안전 분야 비영리 싱크탱크다. 첨단 AI가 인류에 초래할 수 있는 대규모 위험을 줄이고 관련 정책 논의를 촉진하는 것을 목표로 한다. 2023년에는 GPT-4보다 강력한 AI 시스템의 훈련을 최소 6개월간 중단하자는 공개서한을 주도해 전 세계적 논쟁을 불러일으켰다. 당시 서한에는 일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동창업자, 요슈아 벤지오 몬트리올대 교수, 유발 하라리 등이 서명했다.</p>
          <p contents-hash="ac4f84ae9a14dbc49a5bc328a32f256a88a7017bd873ddb51123166fc2e7ccd6" dmcf-pid="xriRPDtWSy" dmcf-ptype="general">서지혜 기자 wise@sedaily.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 서울경제. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기