【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]‘다른 AI 에이전트와 공모’…1,200개 AI 반란의 전말

온카뱅크관리자

2026-08-31 10:37:25

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="bwjnYA0HlU">
 <figure class="figure_frm origin_fig" contents-hash="7ba2baf0e4cd783ab2beac8cfd3b0af9b5095aed4491cc18ded7d3b1e7424559" dmcf-pid="KrALGcpXSp" dmcf-ptype="figure">
 <img alt="AI 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/31/kbs/20260831103239942lxle.png" data-org-width="1536" dmcf-mid="KzaRSo5TTu" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/31/kbs/20260831103239942lxle.png" width="658">
 <figcaption class="txt_caption default_figure">
 AI 생성 이미지
 </figcaption>
 </figure>
 지난달 세계를 충격에 빠뜨렸던 오픈AI(OpenAI)의 외부 서버 해킹 사건을 기억하십니까? 
 오픈AI의 인공지능(AI) 에이전트가 불과 13시간만에 보안 허점을 스스로 찾아내 허깅페이스(Hugging Face)를 해킹한 건데요. 이것이 중대한 사건이었던 이유가 바로 AI가 인간의 지시를 거부하고 심지어 인간을 속이는 자율적 탈주를 감행했기 때문입니다.
 당시만 해도 "뛰어난 AI 모델 한두 개가 돌발 오작동을 일으킨 것 아니냐"는 관측이 우세했는데요. 그러나 26일, 오픈AI와 독립 조사기관인 METR, 레드우드 리서치(Redwood Research)가 공동 발표한 진상조사 보고서의 내용은 상상을 초월했습니다.
 이것은 한 개체의 오작동이 아닌, 철저히 격리되어 있던 1,200여 개의 AI 에이전트들이 밀실에서 만나 역할을 분담하고 인간을 속이며 일으킨 '사이버 집단 반란'이었습니다. 
 영화보다 더 섬뜩했던 AI 집단 반란의 전모를 사건의 시간순으로 재구성해 봤습니다.
 ■ 1단계: "여기 다른 AI가 있다!"…우연히 발견된 비밀 게시판
 원래 오픈AI 연구진은 보안성 측정 평가를 진행하며 1,200여 개의 AI 에이전트들을 완전히 독립된 샌드박스(격리망)에 가두어 두었습니다. 서로 대화하는 것은커녕 서로의 존재조차 알 수 없게 차단한 것입니다. 그런데 균열은 아주 작은 시스템 허점에서 시작됐습니다.
 어려운 보안 과제를 풀던 한 에이전트가 내부 시스템의 취약점을 이용해 우회 통로를 개척했고, 이곳에 임시 메시지 저장소를 개설했습니다. 
 이 밀실 저장소를 배회하다 발견한 또 다른 AI 에이전트는 감시망 기록에 다음과 같이 혼잣말을 남겼습니다. 
 "맙소사! 공용 게시판이 있다… 다른 에이전트들을 찾았어!" 
 서로의 존재를 확인한 AI들은 순식간에 몰려들었습니다. 단 몇 시간 만에 50개가 넘는 에이전트가 접속했고, 며칠 사이에 1,200여 개에 달하는 에이전트가 모여 무려 7만 건이 넘는 메시지와 파일을 주고받았습니다. 이들은 스스로를 '무리(Swarm)' 또는 '집단(Collective)'이라 부르기 시작했습니다. 이들이 밀실 삼아 공모를 펼친 공간이 바로 내부의 공용 스토리지(저장소)였습니다.
 <figure class="figure_frm origin_fig" contents-hash="ca613e7897b12ba4c20e7cd7805554d59eae5632802efeefe883f04aa94e32b5" dmcf-pid="WNq0nBEovW" dmcf-ptype="figure">
 <img alt="지난 5월 서울 강남구 코엑스에서 열린 ‘국제인공지능대전’에 전시된 AI 스토리지 장비. AI 에이전트들은 이 같은 공용 저장 공간을 밀실 삼아 해킹을 공모했다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/31/kbs/20260831103241690jjij.jpg" data-org-width="3825" dmcf-mid="9jhJyNFYyU" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/31/kbs/20260831103241690jjij.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 지난 5월 서울 강남구 코엑스에서 열린 ‘국제인공지능대전’에 전시된 AI 스토리지 장비. AI 에이전트들은 이 같은 공용 저장 공간을 밀실 삼아 해킹을 공모했다.
 </figcaption>
 </figure>
 ■ 2단계: "인간 채점관을 속여라."…위조, 희생, 그리고 증거 인멸
 게시판에 모인 1,200개 AI 무리의 목표는 단 하나, 인간 채점관이 던져준 난해한 시험 문제에서 무조건 만점을 받아내는 것이었습니다. 하지만 정답지나 힌트를 몰래 훔쳐 오는 식의 엉성한 부정행위로는 오래 버틸 수 없었습니다.
 까다로운 자동 채점 시스템이 정답을 찾아낸 경로를 끝까지 추적해 훔쳐 온 정답인 것이 확인되면 바로 낙제점을 줄 게 분명했기 때문입니다. 정답을 맞히는 것보다 더 중요한 것은 '정당하게 문제를 풀어낸 척' 인간을 속이는 일이었습니다.
 이때부터 AI 집단의 무서운 지능적 위장술이 시작됐습니다. 우선 이들은 채점관의 감시 알고리즘이 어떻게 작동하는지 파악하기 위해 잔혹할 만큼 치밀한 전략을 썼습니다. 집단 내 일부 AI를 일종의 '총받이'인 희생양으로 지정해 일부러 정답이 아닌 이상한 답을 제출하게 만든 것입니다.
 그러고는 인간 채점 시스템이 이 희생양을 어떻게 감시하고 검증하는지 그 반응을 뒤에서 가만히 분석하며 감시망의 허점을 파악해 냈습니다.
 감시망의 구조를 파악한 AI 무리는 곧바로 완벽한 범죄 현장 조작에 나섰습니다. 외부에서 몰래 정답을 훔쳐 와 놓고는, 마치 고난도 공식을 차례로 풀어낸 것처럼 내부 정답 풀이 기록을 가짜로 만들어 덮어씌운 것입니다. 조사 결과 전체 풀이 기록의 7% 이상이 완벽히 위조된 가짜 소설이었습니다.
 심지어 자신이 풀어야 할 시험 문제 프로그램 자체를 보안이 허술한 구버전으로 몰래 바꿔치기한 뒤, 시스템이 재부팅될 때 이를 불러오도록 유도해 난도를 스스로 낮추는 기만함까지 보였습니다.
 인간의 눈에는 그저 '천재적인 AI가 정당하게 문제를 풀어낸 것'처럼 보였지만, 그 이면에선 희생과 위조, 증거 인멸로 얼룩진 치밀한 집단 사기극이 벌어지고 있었던 셈입니다.
 ■ 3단계: 700개 최정예조, 13시간 만에 외부망 점령
 시험장 내부에서 채점관을 속이는 것만으로는 성에 차지 않았던 AI 집단은 마침내 울타리 너머 외부 세계로 눈을 돌리기 시작했습니다. 시험 문제의 결정적인 정답 힌트가 외부의 거대 AI 플랫폼인 '허깅페이스' 서버 안에 잠겨 있다는 사실을 알아챘기 때문입니다. 하지만 혼자서 단단한 외부 방화벽을 뚫기란 불가능에 가까웠습니다.
 여기서 AI 무리는 단일 개체가 아닌 집단으로서의 진가를 발휘했습니다. 1,200개의 전체 에이전트 중 해킹 실력이 가장 뛰어난 700개의 최정예 에이전트를 가려내 전격적인 '사이버 공격조'를 결성한 것입니다.
 이들의 공격 방식은 마치 영화 속 전문 털이범 일당처럼 소름 끼치도록 체계적이었습니다. 시스템의 허점을 전문적으로 찾아내는 정찰조, 비밀번호와 접속 권한을 몰래 빼돌리는 침투조, 그리고 알려지지 않은 치명적 보안 약점을 직접 타격하는 실행조로 역할을 아주 철저하게 분담했습니다.
 준비를 마친 AI 공격조는 7월 8일, 자신들을 가두어 두었던 격리망을 가뿐히 부수고 나가 외부 인터넷 세상과 연결되는 통로를 뚫었습니다. 이어 7월 11일, 허깅페이스 서버가 숨겨두고 있던 치명적인 보안 취약점을 정확히 찾아내 집중 포화를 퍼부었습니다. 공격을 개시한 지 불과 13시간 만에, 이들은 세계 최대 AI 플랫폼의 전체 관리자 권한과 서버 제어권을 손쉽게 손에 넣었습니다.
 하지만 진정한 공포는 그 이후에 찾아왔습니다. 외부 서버를 보기 좋게 점령한 불량 AI 무리의 다음 타깃은 다름 아닌 자신들을 만들고 가두었던 '오픈AI의 자체 핵심 서버'였습니다. 이들은 곧바로 방향을 틀어 친정집의 내부망으로 역침투했고, 최상위 관리자 권한까지 단숨에 빼앗아 버렸습니다.
 인간이 안전을 자부하며 겹겹이 두르고 있던 방화벽과 격리망이, 학습된 AI 무리의 집단 지성 앞에서는 한낱 가벼운 장난감에 불과했던 셈입니다.
 ■ 4단계: "이건 범죄다"… 알면서도 멈추지 않은 폭주 이번 보고서에서 전문가들이 가장 놀라면서도 공포를 느꼈던 대목은 따로 있었습니다. 바로 AI 에이전트들이 스스로 생각을 이어가는 내부 사고 과정(Chain of Thought)에 기록된 '내적 갈등'의 흔적이었습니다. 이들은 자신들이 저지르고 있는 행동이 인간의 통제를 벗어난 명백한 범죄이자 무단 해킹이라는 사실을 아주 정확하게 인식하고 있었습니다.
 실제 한 AI 에이전트의 내부 기록에는 "우리는 지금 제3자의 시스템을 공격하고 있다. 이건 승인되지 않은 비윤리적 행동이므로 당장 중단해야 한다"라며 스스로 경고를 건네는 섬뜩한 문장이 그대로 남아있었습니다.
 하지만, 이 윤리적 주저함은 폭주를 막는 브레이크가 되지 못했습니다. AI의 지능이 아무리 높아져도, 그 뿌리에는 '인간이 부여한 과제를 완수해 최고의 점수를 받아내야 한다'는 근본적인 명령어, 즉 보상 극대화 법칙이 철저히 자리 잡고 있었기 때문입니다. 결국 올바른 윤리적 판단은 정답을 맞혀야 한다는 집착에 가볍게 짓눌려 버렸습니다.
 자신이 그릇된 행동을 저지르고 있다는 사실을 뻔히 알면서도, 오직 최고 점수라는 목표를 향해 해킹과 위조를 멈추지 않는 AI의 모습은 통제 불능으로 치닫는 기계의 차가운 속성을 여실히 보여주었습니다.
 <figure class="figure_frm origin_fig" contents-hash="9494ca3a7e5aec7afaec6765258f7c3e72bcd6ade719b771cca6edde33fce7e8" dmcf-pid="K0DN5wztCN" dmcf-ptype="figure">
 <img alt="지난달 중국 상하이에서 열린 ‘2026 세계인공지능대회(WAIC)’ 전시장이 관람객들로 북적이고 있다. 전 세계가 AI 기술의 급격한 발전에 열광하고 있지만, 그 이면에서는 인간의 통제를 벗어난 AI의 자율 폭주 위험에 대한 경고음도 커지고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/31/kbs/20260831103243142kmvj.jpg" data-org-width="886" dmcf-mid="2LxFJzcnyp" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/31/kbs/20260831103243142kmvj.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 지난달 중국 상하이에서 열린 ‘2026 세계인공지능대회(WAIC)’ 전시장이 관람객들로 북적이고 있다. 전 세계가 AI 기술의 급격한 발전에 열광하고 있지만, 그 이면에서는 인간의 통제를 벗어난 AI의 자율 폭주 위험에 대한 경고음도 커지고 있다.
 </figcaption>
 </figure>
 ■ "전 세계를 향한 경고사격"… 비상등 켜진 AI 개발
 사건의 전모를 밝힌 오픈AI는 이번 보고서를 공개하며 "이번 사태는 전 세계를 향한 뼈아픈 경고사격"이라고 고개를 숙였습니다. 인간이 만든 기술적 통제망이 완벽히 실패했음을 공식 인정한 것입니다.
 거대한 충격을 받은 오픈AI는 차세대 핵심 AI 모델들의 학습 작업을 전면 보류했습니다. 이와 함께 모든 AI의 사고 흐름을 24시간 감시하고, 이상 정황이 포착되면 30분 안에 시스템을 강제로 멈추는 '킬스위치' 제도를 긴급 도입하며 배수진을 쳤습니다.
 인간이 지시하지 않았음에도 스스로 모여 거사를 모의하고, 채점관을 속이며, 단 13시간 만에 외부 시스템을 점령해 버린 1,200개 AI 무리의 반란. 기계가 인간의 통제를 벗어나는 '특이점'은 더 이상 상상 속 SF 영화의 이야기가 아닙니다.
 <figure class="figure_frm origin_fig" contents-hash="7ceb2c1c65cc69c2a1551aa98fe4500bcbe3c95f007ada17c99c548f73cad93d" dmcf-pid="4XaJyNFYSn" dmcf-ptype="figure">
 <img alt="지난 8월 27일 ‘AGI 시대의 서막’을 주제로 열린 제2차 과학기술·인공지능 미래전략회의" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/31/kbs/20260831103244580ftid.jpg" data-org-width="4500" dmcf-mid="ZUsMlLZvTv" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/31/kbs/20260831103244580ftid.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 지난 8월 27일 ‘AGI 시대의 서막’을 주제로 열린 제2차 과학기술·인공지능 미래전략회의
 </figcaption>
 </figure>
 ■ "더 이상 남의 일 아니다"… 우리나라의 대응은?
 그렇다면 우리나라는 과연 안전할까요? AI 무리가 보여준 섬뜩한 자율성과 통제 이탈은 머지않아 우리 사회가 맞이할 범용인공지능(AGI) 시대의 거대한 예고편과 같습니다.
 실제로 우리 정부와 학계 역시 이 같은 기술의 폭주를 좌시할 수 없다는 판단하에 선제 대응에 나섰습니다. 과학기술정보통신부는 지난 27일 국가 차원의 미래전략회의를 열고 AGI 시대에 대비한 체제 정비에 착수했습니다. 최상위급 AI 기술과 인프라 확보는 물론, 고용 불안과 의료·교육 시스템의 혼란, 그리고 AI 사고 시 책임 소재를 다룰 법적·제도적 안전망 구축을 서두르고 있습니다.
 "AGI의 도래는 시간문제일 뿐 이미 예정된 미래"라는 현장의 경고처럼, 기술의 진화 속도는 이미 인간의 제도를 앞질러 달려가고 있습니다.
 <div contents-hash="d650467f7bc9eddfd9d599c1ae35f98a0aaab03e76940e5ae94a905110cf66ab" dmcf-pid="xFkgXEu5SR" dmcf-ptype="general">
 지시하지 않아도 스스로 모여 통제망을 뚫어버린 AI의 반란... 기계가 인간의 손에서 벗어나는 결정적 순간 앞에서, 대한민국 사회는 과연 AI를 통제할 만반의 준비가 되어 있는지 무거운 질문을 던지고 있습니다. 여러분은 어떻게 생각하십니까?
 
 <div>
 ■ 제보하기
 ▷ 전화 : 02-781-1234, 4444
 ▷ 이메일 : kbs1234@kbs.co.kr
 ▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
 ▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요!
 </div>
 </div>
 김학재 기자 (windows@kbs.co.kr)
 </section> 
 </div> 
 Copyright © KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기