【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]해킹·감시는 기본, 생화학 무기 개발까지 … 앤트로픽이 밝힌 'AI 디스토피아'

온카뱅크관리자

2026-09-11 17:37:25

<div id="layerTranslateNotice" style="display:none;"></div> 자사 AI서비스 '클로드' 악용 사례 리포트 공개 클로드 몰래 쓴 중국 AI기업 민간인 CCTV 감시자료 유출 신원 미상의 軍연구소 과학자 치명력 높이는 바이러스 연구 앤트로픽 "위험 계정들 차단 정부와 공동 대응 방안 확대" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="8BmdTnb0lt">
 <figure class="figure_frm origin_fig" contents-hash="8dc7a227d9bece551375190d140162787295fc9793d141559cd0806d1aa6fca7" dmcf-pid="6bsJyLKpy1" dmcf-ptype="figure">
 <img alt="Grok" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/11/mk/20260911173002833ztyy.jpg" data-org-width="500" dmcf-mid="0jFDpme4vV" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/11/mk/20260911173002833ztyy.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 Grok
 </figcaption>
 </figure>
 지난 5월 한 과학자가 모기가 옮기는 '치쿤구냐바이러스'를 더 위험하게 만드는 연구를 추진하면서 인공지능(AI) 모델 '클로드'에 도움을 요청했다. 살아 있는 동물에 바이러스를 감염시킨 뒤 질병을 일으키는 변이를 골라내는 연구로, 치명성을 더욱 높이려는 시도였다. 실험이 예정된 곳은 군 연구기관이었다. 앤트로픽은 이를 '위험 신호'로 판단해 계정을 차단했다.
 ◆ 감시·위험 연구까지 파고든 AI
 중국 쓰촨성 청두의 폐쇄회로(CC)TV로 특정 인물의 움직임을 추적한 감시 자료가 클로드에 입력되는 일도 있었다. 수백 대의 CCTV로 사람의 동선을 추적한 자료로, 일부에는 중국 인민해방군 시설 주변에서 수집된 정보도 포함돼 있었다. 알고 보니 이 자료는 중국 AI 스타트업 문샷AI의 챗봇 '키미' 이용자가 입력한 것이었다. 문샷이 이용자 몰래 질문을 클로드로 넘겨 답변을 받아오면서 민감한 감시 정보까지 함께 넘어간 것이다.
 앤트로픽이 10일(현지시간) 공개한 145쪽 분량의 '위협정보 보고서'에는 이처럼 AI가 위험한 연구와 감시 등에 활용된 사례가 담겼다. 지난해 12월부터 올해 8월까지 생물학 연구뿐 아니라 미사일·무장드론 개발, 감시, 사이버 공격, 정치 선전, AI 복제 등에 AI를 활용하거나 시도한 사례가 확인됐다. 특히 중국과 러시아, 이란 등 권위주의 국가와 연계된 세력이 AI를 악용하는 사례가 두드러졌다. AI 능력이 빠르게 높아지면서 위협의 범위는 넓어지고 수법도 정교해지고 있었다.
 생물학 분야에서는 조류인플루엔자를 포유류에 감염되도록 만드는 연구를 클로드와 함께 설계하려 한 사례가 적발됐다. 연구자는 클로드와 메시지를 주고받으며 실험을 구체화했다.
 <figure class="figure_frm origin_fig" contents-hash="31be46c997530b2ee6a0d119b09d1afa50786670e6055f03e1b911ad027c1544" dmcf-pid="YRHDpme4SY" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/11/mk/20260911173004094xedw.jpg" data-org-width="300" dmcf-mid="4e0hKvaevF" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/11/mk/20260911173004094xedw.jpg" width="658">
 </figure>
 ◆ 미사일·무장드론 개발에도 활용
 무기 개발에도 파고들었다. 앤트로픽은 미사일과 무장드론 같은 무기 개발에 클로드를 활용한 사례 6건을 적발했다. 중국 3건, 러시아 2건, 예멘 1건이다. 예멘의 한 조직은 사거리 2000㎞ 이상 미사일을 개발하면서 클로드를 소프트웨어 개발에 활용했다. 러시아에서는 목표물을 찾아 공격하는 무인기 개발에, 중국에서는 방공망을 무력화하는 전자전 소프트웨어를 개발하며 대만 내 12개 목표물을 가정한 시나리오를 만드는 데 클로드가 활용되기도 했다.
 국가 감시에서는 AI가 여러 사람이 하던 분석 업무를 소수 인력으로 대체했다. 말리에서는 1명의 개발자가 클로드를 활용해 이동통신사 3곳의 2500만개 심(SIM)카드에서 통화·문자를 분석하는 시스템을 만들었다. 이란에서는 수십만 건의 소셜미디어 게시물을 분석해 반정부 성향 인사 39명을 감시 대상으로 추려내는 데 클로드가 악용됐다.
 사이버 공격에서는 AI가 공격의 상당 부분을 대신하는 단계로 접어들었다. 러시아와 연계된 것으로 추정되는 사이버 조직은 우크라이나와 유럽의 정보기관, 방산업체 등 20곳 넘는 기관을 공격 대상으로 삼았다. 클로드는 공격 대상 조사부터 침입 방법 탐색, 악성코드 수정 등에 활용됐다.
 문샷의 클로드 무단 이용은 대규모로 이뤄졌다. 문샷은 5~7월 클로드와 2300만건 넘는 대화를 주고받으며, 싱가포르와 일본 등에서 접속한 것처럼 꾸민 가짜 계정 5380개를 동원했다. 이 과정에서 청두 CCTV뿐 아니라 중국 국영기업 엔지니어가 입력한 코드와 로그인 정보도 클로드로 넘어갔다.
 ◆ 앤트로픽 "정보 공유·대응 확대"
 제이컵 클라인 앤트로픽 위협정보 책임자는 "우리나 경쟁사가 이런 일을 했다면 거대한 프라이버시 스캔들이 됐을 것"이라고 지적했다. 앤트로픽은 문샷이 확보한 클로드의 답변과 추론 과정을 자체 AI를 훈련하는 '증류'에 활용한 것으로 보고 있다. 증류는 성능이 뛰어난 AI의 답변으로 다른 AI를 학습시키는 기술이다.
 비단 권위주의 국가에서만 이러한 일이 벌어진 것은 아니다. 프랑스에서는 한 광고업체가 클로드를 이용해 70개의 가짜 뉴스 사이트를 운영하며 돈을 받고 정치 콘텐츠를 제작했다. 
 앤트로픽은 관련 계정을 차단하고 탐지 장치를 강화했지만 AI 악용 자체를 막기는 쉽지 않다고 지적했다. 실제 말리의 감시 시스템은 클로드가 계정을 차단하자 다른 AI를 이용해 현지에 구축된 것으로 조사됐다. 앤트로픽은 "악의적 행동과 사이버 공격을 자동조사하는 시스템을 개발하고 있다"며 "기업과 정부, 업계의 정보 공유와 공동 대응도 확대할 방침"이라고 밝혔다. 
 [실리콘밸리 원호섭 특파원]
 </section> 
 </div> 
 Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기