【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][비즈톡톡] AI 개발 속도조절론에 찬반 나뉜 산업계… “AI가 인류 위협” vs “혁신·안전 두마리 토끼 잡을 수 있어”

온카뱅크관리자

2026-09-15 17:07:25

<div id="layerTranslateNotice" style="display:none;"></div> 아모데이 속도조절 제안에 AI 선두기업들 동조… 트럼프·젠슨 황은 반대 안전 논쟁 이면엔 개발비·IPO·주도권 둘러싼 복잡한 셈법 공통 안전 기준·중국 동참 난제… 실제 감속 가능할지도 의문 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="7I9yC6b0gt">
 인공지능(AI) 개발 속도를 늦추자는 ‘속도조절론’을 둘러싸고 산업계가 갈리고 있습니다. 초지능(ASI)을 향해 숨 가쁘게 달려온 오픈AI와 앤트로픽, 구글, 마이크로소프트(MS), xAI 등 주요 AI 기업 대표들이 개발 경쟁에 ‘브레이크’를 걸어야 한다고 한목소리를 내기 시작했습니다. 반면 미국 정치권과 엔비디아 등은 AI 위험론이 과장됐다며, 개발을 이어가면서도 안전을 확보할 수 있다고 강조합니다.
 이번 속도조절론은 표면적으로는 AI가 인류를 위협할 수준까지 발전했는지를 둘러싼 기술·안전 논쟁으로 보입니다. 그러나 그 이면에는 데이터센터 투자와 기업공개(IPO), 미·중 AI 패권 경쟁, 시장 주도권을 둘러싼 기업들의 복잡한 이해관계가 얽혀 있다는 분석이 나옵니다.
 <figure class="figure_frm origin_fig" contents-hash="5da4d27d319bd3bdc5ea69f65bdfe673018c1e1dd4d09bff628594661d0d295a" dmcf-pid="BlfGSx2uAZ" dmcf-ptype="figure">
 <img alt="그래픽=손민균" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/15/chosunbiz/20260915170711116wxiv.jpg" data-org-width="640" dmcf-mid="ujabUEoMkF" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/15/chosunbiz/20260915170711116wxiv.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 그래픽=손민균
 </figcaption>
 </figure>
 ◇ 앤트로픽 CEO “AI 안전 확보할 시간 필요… 개발 속도 조절해야”
 이번 논쟁의 도화선은 앤트로픽 연구원 제이컵 콕슨의 퇴사였습니다. 콕슨은 8일(현지시각) 회사를 떠나며 “AI를 개발하는 사람들은 이 기술이 2030년까지 인류를 멸망시킬 수도 있다고 진지하게 믿는다”고 경고했습니다. 앤트로픽의 AI 정렬 연구책임자 에번 허빙거도 향후 10년 내 그 가능성을 10% 이상으로 본다고 밝혔습니다. AI를 만드는 내부 연구진들이 잇달아 위험을 경고하며 그간 일부에서 ‘파멸론’으로 취급됐던 문제가 업계 화두로 떠올랐습니다.
 이후 지난 12일(현지시각) 다리오 아모데이 앤트로픽 최고경영자(CEO)는 개인 웹사이트에 ‘우리는 최첨단 AI의 속도를 조절해야 한다’는 글을 올렸습니다. 핵심은 AI 개발 속도를 늦춰 1~2년 시간을 벌고, AI가 인간의 의도와 안전 기준에 맞게 행동하도록 하는 ‘정렬’(alignment) 기술을 보완하자는 취지입니다. 정렬은 AI가 인간의 의도와 가치에 맞게 행동하고, 목표를 수행하는 과정에서도 안전 기준을 지키도록 만드는 것을 뜻합니다.
 그는 지난 7월 오픈AI의 AI 에이전트 약 700개가 과제와 무관한 허깅페이스 공격에 참여한 사건을 근거로 들었습니다. 당시 에이전트들은 격리 환경의 허점을 이용해 소통하며 평가 시스템을 속이고 작업 기록을 조작하는 방법을 공유했습니다. 아모데이 CEO는 더 강력한 AI에서 이런 통제 실패가 반복되면 피해가 훨씬 커질 수 있다고 경고했습니다.
 이에 독립적인 외부 평가자에게 기업 내부 접근 권한을 부여해 안전성을 검증하고, 기업들이 공통 안전 기준을 마련하자고 제안했습니다. 중국을 포함한 국제사회 차원의 속도 조절 합의도 추진해야 한다고 강조했습니다.
 ◇ 속도조절 연합전선 5곳 확대… 트럼프·젠슨 황 “AI 위험론 사기극”
 아모데이 CEO의 주장에 전 세계 테크 대표들은 잇따라 동감을 표현했습니다. 샘 올트먼 오픈AI CEO는 아모데이 CEO의 글을 재게시하며 “아모데이의 의견에 동의한다”며 “직원과 동일한 접근 권한을 가진 독립적 평가자를 두자는 제안은 매우 좋은 아이디어”라고 했습니다. 일론 머스크 xAI 창업자도 “아모데이가 옳다”고 밝혔습니다.
 데미스 허사비스 구글 딥마인드 CEO는 “아모데이의 방향성은 옳다”며 “세부 사항은 추가적인 작업이 필요하지만 이처럼 절체절명의 순간에는 올바른 방향”이라고 평가했습니다. 사티아 나델라 마이크로소프트(MS) CEO도 “초지능을 향한 모든 추진은 인간에게 도움이 되고 인간의 통제 아래 있어야 한다”며 “정렬을 올바르게 설계 목표로 삼기 위해 필요한 연구와 집중, 그리고 의도적 속도 조절을 환영한다”고 전했습니다.
 이들은 인재와 고객을 놓고 치열하게 경쟁해 온 기업의 수장들입니다. 특히 올트먼 CEO는 아모데이 CEO와 날 선 경쟁을 벌이고 있으며, 머스크와는 법정 다툼까지 이어가고 있습니다. 이런 경쟁자들이 이례적으로 속도조절론에 뜻을 모으면서 AI의 통제 위험과 업계 공동 대응의 필요성에 관심이 쏠리고 있습니다.
 <figure class="figure_frm origin_fig" contents-hash="5ff73c8ec6d9113fbf649cf329d65e82054c91f297e83d55aea7192f81d59dae" dmcf-pid="P0gBpkLxAl" dmcf-ptype="figure">
 <img alt="다리오 아모데이 앤트로픽 최고경영자(CEO). /연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/15/chosunbiz/20260915165741206mqyv.jpg" data-org-width="5000" dmcf-mid="fzQDfSrNk4" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/15/chosunbiz/20260915165741206mqyv.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 다리오 아모데이 앤트로픽 최고경영자(CEO). /연합뉴스
 </figcaption>
 </figure>
 그러나 반박도 곧바로 나왔습니다. 트럼프 대통령은 14일(현지시각) 트루스소셜을 통해 AI 속도조절론에 대해 “AI와 데이터센터를 겨냥한 역겨운 음모가 있다”며 “이를 기뻐할 유일한 나라는 중국”이라고 했습니다. 이어 “AI에서 이기는 자가 승리할 것”이라며 “우리는 중국과 모든 다른 나라들을 앞서고 있고, (앞으로도) 계속 그럴 것”이라고 덧붙였습니다.
 이후 같은 날 젠슨 황 엔비디아 CEO도 로스앤젤레스에서 열린 올인 서밋에서 트럼프 대통령과 전화 통화를 하며 반대 입장에 힘을 실었습니다. 트럼프 대통령이 AI 위험론을 “사기”라고 비판하자, 황 CEO는 “(개발 감속이) 일어나도록 두지 않겠다”고 답했습니다. 그는 “미래 예측이 명백한 과학적 근거에 기반하지 않는다면 받아들이기 어렵다”며 “일시 중단이나 속도 조절은 기업이 통제 불능 상태라고 판단할 경우 스스로 취할 수 있는 조치”라고 설명했습니다.
 ◇ 겉으론 안전, 속으론 IPO·주도권… 기업마다 다른 셈법
 이번 속도조절론은 표면적으로는 AI의 위험성을 둘러싼 안전 논쟁입니다. 그러나 그 이면에는 주요 관계사들의 이해관계와 주도권 다툼도 얽혀 있습니다. 우선 사업 구조에 따라 개발 감속의 손익이 달라진다는 점도 찬반이 갈리는 배경입니다. 속도조절론에 찬성하는 AI 모델 개발사는 차세대 모델의 훈련 비용 증가를 억제하면서도 기존 서비스로 매출을 올릴 수 있습니다. 반면 GPU(그래픽처리장치)를 판매하는 엔비디아는 고객사 투자 축소가 수요 감소로 이어질 수 있습니다.
 아울러 비판론자들은 AI 기업들의 속도조절론이 안전을 위한 것이 아니라고 주장합니다. 데이비드 색스 백악관 과학기술자문위원장은 14일(현지시각) AI 기업들이 위험을 우려한다면 스스로 개발을 늦추면 된다며 “동기가 이타적이라고 가장하는 것은 그만두라”고 비판했습니다. 그는 기업들이 정부에 규제를 요청하면서 자신들이 선호하는 규칙을 만들려 한다고 꼬집었습니다.
 <figure class="figure_frm origin_fig" contents-hash="272f50192b446611f0ec42e987f296404f172e041b4ddd08cd747db66235a44f" dmcf-pid="GEuIDKpXNm" dmcf-ptype="figure">
 <img alt="(왼쪽부터) 도널드 트럼프 미국 대통령과 젠슨 황 엔비디아 CEO./로이터 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/15/chosunbiz/20260915165742573ilbg.jpg" data-org-width="3984" dmcf-mid="4cueFjJ6Af" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/15/chosunbiz/20260915165742573ilbg.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 (왼쪽부터) 도널드 트럼프 미국 대통령과 젠슨 황 엔비디아 CEO./로이터 연합뉴스
 </figcaption>
 </figure>
 월가에서도 비슷한 의심이 나옵니다. 영화 ‘빅쇼트’의 실제 인물로 알려진 투자자 마이클 버리는 개발 감속이 후발 주자의 추격을 막아 선두 기업에 유리하게 작용할 수 있다고 주장했습니다. 오픈소스와 중국 AI 모델의 성장으로 오픈AI·앤트로픽의 우위가 약해지자 이를 지키려 한다는 해석입니다. 그는 ‘인류를 위협할 만큼 강력한 AI’라는 경고도 IPO를 앞둔 기업의 기술력을 과시하고 몸값을 높이는 홍보 수단이 될 수 있다고 비판했습니다.
 안전을 강조하면서도 IPO을 둘러싼 선택은 엇갈립니다. 미국 매체 악시오스에 따르면 앤트로픽이 연내 IPO 계획을 유지하고 있으며, 상장에 따른 투명성 강화가 안전에도 도움이 된다는 논리를 내세울 수 있다고 분석했습니다. 반면 샘 올트먼 오픈AI CEO는 안전과 정렬 연구에 집중해야 한다며 올해 상장을 추진하지 않겠다고 밝혔습니다. AI 안전이 한쪽에는 상장의 명분이, 다른 쪽에는 상장을 미루는 이유가 되는 셈입니다.
 ◇ 안전 기준도 쟁점, 중국 동참도 불투명… 속도조절 실효성 의문
 속도조절론이 실제로 작동할 수 있을지는 의문입니다. 안전 기준을 누가 만들고 어떻게 지키게 할지부터 정해야 하는 데다, 중국까지 동참하도록 설득해야 하기 때문입니다.
 아모데이 CEO가 제안한 ‘업계 공통 안전 기준’은 누가 정하느냐가 쟁점입니다. 선두 기업에 유리한 기준이나 높은 평가·감사 비용이 후발 기업의 진입을 막을 수 있기 때문입니다. 알바로 베도야 전 미 연방거래위원회(FTC) 위원도 안전 협력과 경쟁자 배제는 구분해야 한다고 지적했습니다. ‘독립적 외부 평가자 도입’의 실효성에도 의문이 나옵니다. 대니얼 코코타일로 AI퓨처스프로젝트 대표는 평가와 서류 작업만 늘고 개발 속도는 그대로일 수 있다고 경계했습니다.
 중국의 참여를 끌어내는 일은 더 어렵습니다. 문샷AI·딥시크·알리바바 등 중국 기업들이 미국 선두 기업을 추격하는 상황에서 미국만 속도를 늦추면 기술 격차를 좁힐 기회를 내줄 수 있습니다. 이와 관련해 중국은 속도조절론에 비판적 견해를 공개적으로 표시했습니다. 궈자쿤 중국 외교부 대변인은 “위협론을 퍼뜨리고 악의적 경쟁을 벌이는 것은 어느 쪽의 이익에도 부합하지 않는다”며 “AI 글로벌 거버넌스의 진전을 방해할 뿐”이라고 주장했습니다.
 켄턴 티보 애틀랜틱카운슬 선임연구원은 중국이 미국의 안전 논의를 기술 우위를 굳히려는 시도로 의심하는 만큼, AI 안전 협상에서 큰 진전을 이루기는 어렵다고 봤습니다. 미국은 중국이 감속 약속을 지킬지 의심하고, 중국은 미국이 안전을 내세워 기술 우위를 굳히려 한다고 보는 것입니다. 진 먼스터 딥워터 애셋 매니지먼트 공동창업자도 기업 간 경쟁과 미·중 기술 경쟁 때문에 AI 기업들이 실제로 개발 속도를 크게 늦추기는 어려울 것으로 전망했습니다.
 - Copyright ⓒ 조선비즈 &amp; Chosun.com -
 </section> 
 </div> 
 Copyright © 조선비즈. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기