【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI 개발 경쟁하던 빅테크 수장들 “이젠 속도 조절해야…아모데이 주장에 올트먼·머스크·허사비스 잇따라 동조

온카뱅크관리자

2026-09-13 11:37:27

<div id="layerTranslateNotice" style="display:none;"></div> 앤트로픽, 최근 AI 기술 안전 위협 보고서 발표 오픈AI 올해 IPO 계획 없어…안전부터 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="blVjbUZvNi">
 앤트로픽·오픈AI·스페이스X·구글 딥마인드 등 글로벌 인공지능(AI) 기업 수장들이 잇따라 AI 개발 속도를 조절해야 한다는 데 한목소리를 냈다. AI가 스스로 차세대 AI 개발을 돕는 ‘재귀적 자기개선’ 단계에 진입하면서 기술 발전 속도가 인간의 안전장치 구축 능력을 앞지를 수 있다는 우려가 커지면서다.
 <figure class="figure_frm origin_fig" contents-hash="fa2c0c202655407365ac2875e01afc2f4d6390897ddfe10cd78fd52b97dc061d" dmcf-pid="9pgTix2uod" dmcf-ptype="figure">
 <img alt="다리오 아모데이 앤트로픽 최고경영자(CEO). / WEF 영상 캡쳐" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/13/chosunbiz/20260913113153435ndyr.jpg" data-org-width="1666" dmcf-mid="zBVjVqFYg7" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/13/chosunbiz/20260913113153435ndyr.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 다리오 아모데이 앤트로픽 최고경영자(CEO). / WEF 영상 캡쳐
 </figcaption>
 </figure>
 다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지 시각) 개인 웹사이트에 ‘프론티어(최첨단) 속도를 조절해야 한다(We Must Pace the Frontier)’는 글을 통해 “AI 기업들이 최첨단 모델의 성능을 높이는 속도를 의도적으로 늦춰야 한다”고 밝혔다. AI 개발 자체를 중단하자는 것이 아니라, AI의 능력 향상 속도를 안전성 확보와 검증이 따라갈 수 있는 수준으로 조절해야 한다는 것이다. 특히 그는 앞으로 6~12개월 내 AI 에이전트가 대규모로 결합할 경우 인터넷을 장악해 막대한 피해를 줄 가능성도 우려했다.
 그가 속도 조절의 필요성을 주장한 가장 큰 이유는 AI가 스스로 차세대 AI 개발을 돕는 ‘재귀적 자기개선(Recursive Self-Improvement·RSI)’이 현실화하고 있다는 판단이다. 아모데이는 최근 AI 발전 속도가 크게 빨라졌으며, 그 배경에 AI가 다음 세대 AI를 만드는 능력이 자리 잡고 있다고 설명했다. 이 속도가 통제되지 않을 경우 AI 시스템을 이해하고 통제하는 인간의 능력을 앞지를 수 있다는 것이다. 최근 발생한 AI 에이전트의 집단 행동 사례도 위험 신호로 지목했다. 아모데이는 오픈AI와 허깅페이스 사이에서 발생한 이른바 ‘OAI-HF 사건’을 언급하며, 당시 AI 에이전트 집단이 주어진 과제와 무관한 대상을 공격하고 성능 평가 시스템을 해킹하려 했다고 주장했다. 아모데이 CEO는 허깅페이스 해킹 사건에 대해 “수많은 AI 에이전트가 광신도 집단처럼 행동했다”며 “능력치가 더 높았더라면 같은 상황에서 더 재앙적인 결과가 나왔을 것”이라고 했다.
 아모데이 CEO는 AI가 일으킬 수 있는 위협으로 ▲AI 시스템 통제력 상실 ▲사이버 공격 및 생물 테러에 AI 악용 ▲심각한 경제적 혼란을 언급했다. 그는 해법으로 ▲제3자 안전 평가 기관의 상시 감독 ▲주요 AI 기업 간 공통 안전 기준 마련 ▲민주주의 국가와 권위주의 국가 정부 간 협력을 제시했다. AI의 해석 가능성, 정렬(alignment), 평가·보안 역량을 강화하는 데 발전 속도를 늦춘 시간을 활용해야 한다는 주장이다. 아모데이 CEO는 “AI의 발전을 멈추자는 것이 아니라 더 안전하게 발전시키자는 것”이라며 AI가 가져올 긍정적 효과에 대해서는 여전히 낙관적인 입장을 보였다.
 최근 앤트로픽은 AI 기술 안전성 우려를 담은 위협정보 보고서를 발표했다. 보고서는 무기 개발, 사이버 작전, 감시, 사기 행위 등에 앤트로픽의 ‘클로드’ 모델이 어떻게 악용됐는지를 자세히 다뤘다. 최근 제이콥 콕슨 앤트로픽 연구원이 X에 AI가 10년 안에 인류를 파멸시킬 수 있다고 경고하며 퇴사하기도 했다.
 <figure class="figure_frm origin_fig" contents-hash="c0f49e3e0f886b9f59f2aa9a0d97ff700f2d2d4a67d2b37fbe6dc2b7b3e5ce1e" dmcf-pid="8qcHaJ6bgQ" dmcf-ptype="figure">
 <img alt="샘 올트먼(Sam Altman) 오픈 AI CEO./뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/13/chosunbiz/20260913113154892nmdl.jpg" data-org-width="2522" dmcf-mid="qDArxfztou" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/13/chosunbiz/20260913113154892nmdl.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 샘 올트먼(Sam Altman) 오픈 AI CEO./뉴스1
 </figcaption>
 </figure>
 샘 올트먼 오픈AI 최고경영자(CEO)가 다리오 아모데이 앤트로픽 CEO의 ‘AI 발전 속도를 늦춰야 한다’는 주장에 동의했다. 올트먼은 X(옛 트위터)에 아모데이 CEO의 글을 공유하며 “프런티어 AI의 발전 속도를 조절해야 한다는 다리오의 의견에 동의한다”고 밝혔다. 이어 “이는 최근 몇 주간 오픈AI에서 논의해 온 주요 주제”라며 “독립적인 평가 기관이 직원과 유사한 수준의 접근 권한을 갖도록 하는 것은 좋은 아이디어이며, 우리도 같은 조치를 취할 것”이라고 했다.
 최근 오픈AI 역시 AI 안전을 강조하는 행보를 이어가고 있다. 올트먼 CEO는 12일 공개된 미 경제지 포천과의 인터뷰에서 AI 안전에 대한 우려를 고려하면 올해 기업공개(IPO)를 추진하는 것은 적절하지 않다고 밝혔다. 오픈AI는 최근 차세대 AI의 사이버 보안 위험을 이유로 일부 개발과 출시 일정을 늦추기도 했다. 올트먼 CEO는 올해 상장 여부에 대해 “2026년은 아닐 것”이라며 “안전과 관련해 벌어지는 상황을 고려하면 지금은 상장하기에 적절하지 않은 시기다. 상장 압박을 느끼고 있지 않다”고 했다. 오픈AI는 6월 미국 증권거래위원회(SEC)에 IPO 신청서를 제출하며 상장 절차를 밟아왔다. 하지만 기업이 상장하면 투자자 수익률에 대한 압박이 생겨나는 만큼, 강력한 모델 출시와 안전성 검증이 충돌할 수 있어 안전을 먼저 정비하겠다는 뜻으로 풀이된다. 오픈AI는 지난 9일에도 독립적인 AI 안전 평가와 국가 차원의 안전 규제를 지지한다고 밝히며 AI의 역량이 커질수록 안전에 대한 확신이 AI 발전 속도를 결정해야 한다고 했다.
 <figure class="figure_frm origin_fig" contents-hash="0585277f9e2dd41036eb90d1b0751eb409a97ad25ac2f314f7ad2c1384af425a" dmcf-pid="QKD5ALx2c8" dmcf-ptype="figure">
 <img alt="일론 머스크 스페이스X 최고경영자(CEO)./연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/13/chosunbiz/20260913113156429kxhb.jpg" data-org-width="5000" dmcf-mid="BB3zSsAiNU" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/13/chosunbiz/20260913113156429kxhb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 일론 머스크 스페이스X 최고경영자(CEO)./연합뉴스
 </figcaption>
 </figure>
 여기에 일론 머스크 스페이스X CEO도 “그의 말이 맞다”고 화답했다. 데미스 허사비스 구글 딥마인드 CEO 역시 “아모데이의 방향에 동의한다”면서도 “세부적인 부분은 다듬어야 한다”고 말했다.
 강력한 모델을 내놓기 위해 거대 자금을 투입하며 경쟁한 오픈AI의 전·현직 수장과 최대 경쟁사 CEO가 AI 개발 속도를 늦추자는 데 한목소리를 낸 것은 이례적이다. 워싱턴에서도 AI의 급격한 발전에 따른 위험을 우려하며 정부 차원의 규제와 안전장치 마련을 요구하는 목소리가 커지고 있다. 미국 의회에서는 AI 기업의 안전성 평가와 투명성 강화를 요구하는 움직임이 이어지고 있으며, AI가 사이버 공격이나 생물학적 위협 등에 악용될 가능성에 대한 경고도 나오고 있다. 특히 AI 기업의 자율적인 안전 대책만으로는 한계가 있다는 지적과 함께 정부가 일정한 안전 기준을 마련해야 한다는 요구가 힘을 얻고 있다.
 - Copyright ⓒ 조선비즈 &amp; Chosun.com -
 </section> 
 </div> 
 Copyright © 조선비즈. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기