【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI 속도조절론 불붙자… ‘AI 대부’ 벤지오 “핵무기급 국제 통제 필요”

온카뱅크관리자

2026-09-17 11:47:25

<div id="layerTranslateNotice" style="display:none;"></div> 자율 AI 에이전트 해킹·인간 설득 위험 경고 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="UAtgZ5Tslz">
 <figure class="figure_frm origin_fig" contents-hash="5af1ccc28781589622b5c96c2b6ed0947d6322bc23929b18a577b0f6c97deb0d" dmcf-pid="ucFa51yOl7" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/17/552796-pzfp7fF/20260917114628606imzd.jpg" data-org-width="557" dmcf-mid="p2n1dJ6bWq" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/17/552796-pzfp7fF/20260917114628606imzd.jpg" width="658">
 </figure>
 [디지털데일리 구아현기자] ‘인공지능(AI) 대부’ 요슈아 벤지오 캐나다 몬트리올대 교수가 인공지능(AI) 발전 속도가 인간의 통제 능력을 앞지르고 있다며 핵무기 통제에 준하는 국제 안전체계를 마련해야 한다고 촉구했다. 
 최근 앤트로픽과 구글 딥마인드 연구자들이 AI가 인류 생존까지 위협할 수 있다고 잇따라 경고한 데 이어 다리오 아모데이 앤트로픽 CEO와 샘 알트만 오픈AI CEO, 일론 머스크 등 AI 기업 수장들까지 개발 속도 조절 필요성을 공개적으로 언급하면서 ‘AI 속도조절론’ 논쟁이 거세지고 있다.
 16일(현지시간) AFP통신에 따르면 벤지오 교수는 캐나다 몬트리올에 있는 비영리 AI 안전 연구기관 ‘로제로(LawZero)’ 사무실에서 진행한 인터뷰에서 “기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있다”며 “AI 위험을 막으려면 개별 기업의 자율 규제만으로는 부족하다며 핵무기를 통제하는 것과 비슷한 수준의 국제 안전장치가 필요하다”고 주장했다.
 ◆ “AI 에이전트, 스스로 침투하고 인간 설득할 수도”
 벤지오가 가장 경계한 것은 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트다. 그는 AI 에이전트가 사이버 보안 장벽을 뚫고 기업 시스템에 침투할 수 있는 수준까지 발전할 가능성을 거론했다. 사람을 설득해 AI 자신에게 유리한 방향으로 행동하도록 만들 가능성도 위험 요인으로 꼽았다.
 장기적으로는 인간의 도움 없이 물리적 세계에서 실제 행동을 수행하는 단계까지 발전할 수 있다고 봤다. 벤지오는 가장 극단적인 경우 인류 멸망으로 이어질 가능성도 언급했다. 다만 이를 극단적인 시나리오라고 전제했다. 인류 멸망까지 가지 않더라도 AI로 인해 은행 시스템이 마비되는 수준의 사고만 발생해도 피해가 막대할 수 있다는 설명이다.
 벤지오는 AI 자율성이 빠르게 확대되는 상황을 경계해야 한다고 강조한다. 그는 “사람이 지속적으로 지시하거나 감독하지 않아도 AI가 스스로 계획을 세우고 외부 시스템과 상호작용하는 능력이 커질수록 통제가 어려워질 수 있다”고 경고했다.
 벤지오의 발언에 무게가 실리는 이유는 그가 현대 AI 기술의 기반을 만든 대표 연구자이기 때문이다. 벤지오는 제프리 힌턴, 얀 르쿤과 함께 ‘AI 3대 대부’로 불린다. 세 사람은 딥러닝 발전에 기여한 공로로 2018년 컴퓨터과학계 최고 권위인 튜링상을 공동 수상했다. AI 상용화 경쟁이 본격화한 2023년부터 프런티어 AI의 통제 상실과 재앙적 위험을 공개적으로 경고해온 대표적인 AI 안전론자이기도 하다. 이후 연구의 무게중심을 AI 안전으로 옮겼고 지난해에는 상업적 이해관계에서 독립해 안전한 AI를 연구하는 비영리기관 로제로를 설립했다.
 ◆ 앤트로픽·딥마인드도 경고…다시 불붙은 AI 위험론
 최근 프런티어 AI 기업 내부에서도 비슷한 경고가 잇따르고 있다. 연구자들은 기업들이 경쟁적으로 모델 성능을 끌어올리는 속도를 낮춰 사회가 새로운 위험에 대응할 시간을 확보해야 한다고 입을 모으고 있다.
 앤트로픽 연구원 제이콥 콕슨은 최근 회사를 떠나면서 AI 기업들이 자기개선형 초지능 개발을 향해 빠르게 경쟁하고 있다고 비판했다. 앤트로픽 연구자 에번 허빙거도 향후 10년 안에 AI가 모든 인간을 죽일 가능성을 개인적으로 10% 이상으로 보고 있다고 밝혔다.
 구글 딥마인드에서 범용인공지능(AGI) 안전과 AI 정렬 기술을 연구했던 빌랄 축타이도 공개 경고에 나섰다. 그는 지난 7월 딥마인드를 떠난 뒤 이달 “AI가 우리 모두를 죽일 잠재력이 있다고 진지하게 믿는다”며 대응할 시간이 부족할 수 있다고 주장했다.
 세계 최고 수준의 프런티어 AI 연구소에서 모델 개발과 안전을 담당해온 연구자들이 잇따라 통제 상실 가능성을 공개적으로 제기하면서 AI 위험론이 다시 주요 쟁점으로 떠올랐다.
 ◆ ‘멸망론’ 넘어 ‘속도조절론’… AI 업계 찬반 갈려
 AI 위험을 둘러싼 경고는 실제 개발 속도를 늦춰야 하는지를 둘러싼 논쟁으로 번지고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 프런티어 AI의 능력 향상 속도를 늦출 필요가 있다고 주장했다. 독립 안전 평가자가 AI 기업의 모델을 검증하고 주요 AI 기업들이 안전 기준을 공동으로 마련하는 방안도 제안했다.
 샘 알트만 오픈AI CEO와 일론 머스크도 아모데이의 속도조절 필요성에 공개적으로 동조했다. 축타이 역시 AI 발전 속도를 사회가 감당할 수 있는 수준으로 낮춰 위험에 대응할 시간을 확보해야 한다고 강조했다.
 정부 차원의 논의도 시작됐다. 우르줄라 폰데어라이엔 유럽연합(EU) 집행위원장은 주요 프런티어 AI 연구소 관계자들과 위험 관리 방안을 논의하겠다는 입장을 밝혔다. 모델 평가와 검증, AI 보안 분야의 국제 협력도 주요 의제로 떠올랐다.
 반면 젠슨 황 엔비디아 CEO는 AI 기업들이 공동으로 개발 속도를 늦추거나 새로운 규제를 도입하는 데 반대하고 있다. 황 CEO는 AI 안전과 혁신 속도 가운데 하나를 선택해야 한다는 접근 자체가 잘못됐다고 보고 있다. 기업들이 제품 안전을 스스로 관리할 유인이 있는 만큼 새로운 미국 연방법이나 규제가 필요하지 않다는 입장이다.
 도널드 트럼프 미국 대통령도 속도조절론에 선을 긋고 있다. 트럼프 대통령은 최근 AI가 인류를 파괴할 수 있다는 경고를 ‘사기(HOAX)’로 규정하고 미국의 AI 개발에 의문을 제기하거나 규제를 강화하면 중국이 이익을 볼 것이라고 주장했다. 미국에는 이미 AI를 관리할 안전장치가 있다는 게 그의 입장이다.
 이에 따라 AI 업계에서는 위험 가능성을 이유로 프런티어 모델 개발 속도를 함께 낮추고 외부 통제를 강화해야 한다는 주장과, 기업별 안전조치는 필요하지만 산업 전체의 개발 속도를 늦추거나 새로운 규제를 만드는 것은 과도하다는 주장이 맞서고 있다.
 벤지오는 후자보다 강한 국제 규제가 필요하다는 입장이다. 핵무기가 특정 기업이나 한 국가만의 문제가 아닌 것처럼 고도화된 AI도 국제사회가 공동으로 관리해야 한다고 주장한다. 프런티어 AI 개발 속도를 어디까지 허용할지, 기업 외부의 독립 평가를 어디까지 받아들일지, 국제사회가 어떤 안전 기준을 만들지가 쟁점으로 떠오르고 있다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기