【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[실시간뉴스]"10년 내 인류 멸종 확률 10% 넘게 봤다"…AI 개발사 연구팀장의 경고(종합)

온카뱅크관리자

2026-09-10 11:17:36

<div id="layerTranslateNotice" style="display:none;"></div> 콕슨 사직 글 조회 1억1000만회 넘어…동료 팀장도 공개 동조 샌더스, 16일 상원 브리핑…초지능 금지 제안 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Uq0pdIiPYE">
 <figure class="figure_frm origin_fig" contents-hash="dbd1e9cf2178d33e00f950824c1dd28af699ef5ff2d461a6cf9ac8654245960c" dmcf-pid="uBpUJCnQGk" dmcf-ptype="figure">
 <img alt="[샌프란시스코=AP/뉴시스] 앤트로픽 CEO 겸 공동창업자 다리오 아모데이가 지난 2024년 11월(현지 시간) 미국 샌프란시스코에서 열린 국제 AI 안전 연구소 네트워크 회의에서 발언하고 있다. 한편, 아모데이의 아내 캐미 클라크가 과거 제프리 엡스타인에게 성인 콘텐츠 사업 투자를 제안한 사실이 공개됐다. 2024.11.20." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/10/newsis/20260910111255694ugtq.jpg" data-org-width="720" dmcf-mid="3xTSBLKp1r" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/10/newsis/20260910111255694ugtq.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [샌프란시스코=AP/뉴시스] 앤트로픽 CEO 겸 공동창업자 다리오 아모데이가 지난 2024년 11월(현지 시간) 미국 샌프란시스코에서 열린 국제 AI 안전 연구소 네트워크 회의에서 발언하고 있다. 한편, 아모데이의 아내 캐미 클라크가 과거 제프리 엡스타인에게 성인 콘텐츠 사업 투자를 제안한 사실이 공개됐다. 2024.11.20.
 </figcaption>
 </figure>
 [서울=뉴시스]박영환 기자 = 인공지능(AI)을 만드는 연구자들의 인류 멸종 경고가 공개되면서, 그런 위험을 감수하며 개발 경쟁을 계속해도 되느냐는 질문이 미국 사회에 확산하고 있다.
 미국 온라인 매체 액시오스와 월스트리트저널(WSJ) 등은 9일(현지시간) 미국 AI 기업 앤트로픽의 에번 휴빙거 팀장이 “우리는 AI가 인류 모두를 죽일 수 있다고 진심으로 믿는다”고 말했다고 보도했다. 휴빙거 팀장은 AI가 인간의 의도에 맞게 행동하도록 하는 방법을 연구하는 팀을 이끌고 있다.
 휴빙거 팀장은 AI로 인해 향후 10년 안에 인류가 멸종할 확률을 개인적으로 10% 넘게 본다고 했다. 인간의 지능을 뛰어넘는 AI인 ‘초지능’을 인간의 통제 아래 두기 위한 계획을 앤트로픽이 아직 갖고 있지 않다는 견해도 밝혔다.
 휴빙거 팀장의 발언은 오픈AI를 거쳐 앤트로픽에서 일한 제이컵 콕슨 연구원의 퇴사 글에 동조하는 과정에서 나왔다. 콕슨 연구원은 첨단 AI 개발사들이 “우리의 목숨을 걸고 도박하고 있다”고 비판했다. 액시오스 보도 당시 이 글의 엑스(X) 조회 수는 1억1000만회를 넘었다.
 AI 연구자들은 AI가 초래할 파국의 확률을 ‘p(doom)’이라고 부른다. 확률을 뜻하는 p와 파국을 뜻하는 doom을 합친 표현이다. 휴빙거 팀장의 ‘10% 초과’라는 수치는 실제 사고 발생률을 측정한 통계가 아니라, 앞으로 닥칠 위험에 대한 개인적 추정치다.
 이런 위험을 수치로 표현한 것은 휴빙거 팀장만이 아니다. 액시오스에 따르면 노벨상 수상자인 AI 연구자 제프리 힌턴도 AI가 인류 멸종을 초래할 가능성을 10~20%로 추정한 바 있다.
 <figure class="figure_frm origin_fig" contents-hash="dec88a1e53f45219f8a5452ccf6b5cda9fa2f7dacf4bec3e781da11ca867da82" dmcf-pid="93XZ6EQ9Go" dmcf-ptype="figure">
 <img alt="[보스턴=AP/뉴시스] 2023년 12월8일 미국 보스턴에서 챗GPT의 이미지 생성 모델 달리(DALL-E)가 만든 이미지가 컴퓨터 화면에 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2023.12.08." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/10/newsis/20260910111255833tsbx.jpg" data-org-width="720" dmcf-mid="0eF3Rsd8Xw" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/10/newsis/20260910111255833tsbx.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [보스턴=AP/뉴시스] 2023년 12월8일 미국 보스턴에서 챗GPT의 이미지 생성 모델 달리(DALL-E)가 만든 이미지가 컴퓨터 화면에 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2023.12.08.
 </figcaption>
 </figure>
 다리오 아모데이 앤트로픽 최고경영자(CEO)도 지난해 액시오스에 AI와 관련해 상황이 매우 나빠질 가능성을 25%로 본다고 말했다. 다만 인류 멸종 확률을 명시한 발언은 아니었다.
 액시오스는 지난 1년 사이 첨단 AI의 자율적 행동과 사이버 공격 능력, AI 연구를 더 빠르게 진행하도록 돕는 능력이 크게 발전했다고 짚었다.
 연구자들이 우려하는 재앙의 경로는 여러 가지다. 우선 사람이 강력한 AI를 악용해 생물학 무기를 설계하거나 대규모 사이버 공격을 벌이고, 핵심 기반시설을 마비시키기가 쉬워질 수 있다는 우려가 있다.
 AI 자체가 인간의 통제에서 벗어날 가능성도 거론된다. 스스로 판단하고 행동하는 능력이 충분히 발달한 AI가 감독자를 속이거나 자신을 복제하고, 안전장치를 피하면서 작동을 중단시키려는 시도에 저항할 수 있다는 것이다.
 연구자들은 특히 AI가 더 뛰어난 AI를 만들고, 그 AI가 다시 다음 AI를 개선하는 과정이 반복될 가능성을 우려한다. 성능 향상 속도가 인간이 변화를 이해하고 통제하는 속도를 앞지르면, 개발자조차 통제할 수 없는 시스템이 등장할 수 있다는 것이다.
 <figure class="figure_frm origin_fig" contents-hash="412d1685dc9753dc40266e40053a26a85d6ba23169491105a06356b6a8fc3e10" dmcf-pid="6z30eOJ6Ge" dmcf-ptype="figure">
 <img alt="[워싱턴=AP/뉴시스] 버니 샌더스 미국 연방 상원의원이 2024년 3월7일(현지시간) 워싱턴DC 연방의회 의사당에서 조 바이든 당시 대통령의 국정연설을 앞두고 하원 본회의장으로 이동하며 취재진과 이야기했다. 2024.03.07." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/10/newsis/20260910111255987fvhe.jpg" data-org-width="720" dmcf-mid="pAVfkXDgtD" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/10/newsis/20260910111255987fvhe.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [워싱턴=AP/뉴시스] 버니 샌더스 미국 연방 상원의원이 2024년 3월7일(현지시간) 워싱턴DC 연방의회 의사당에서 조 바이든 당시 대통령의 국정연설을 앞두고 하원 본회의장으로 이동하며 취재진과 이야기했다. 2024.03.07.
 </figcaption>
 </figure>
 오픈AI에서 AI 안전성 연구를 이끌었던 폴 크리스티아노 신임 이사도 경고에 가세했다. 9일 오픈AI 이사회와 안전위원회에 합류한 그는 AI가 인간의 의도대로 행동하도록 하는 방법을 충분히 확보하지 않은 채 초지능을 개발하면, 인간이 영구적으로 통제력을 잃을 것으로 본다고 했다. 이어 “그런 일이 벌어지면 대다수 사람이 목숨을 잃을 수 있다”고 썼다.
 휴빙거 팀장의 발언을 놓고는 회사에 미칠 영향과 발언 의도를 따지는 해석도 나왔다. 액시오스는 기업공개(IPO)를 앞둔 앤트로픽에 부담을 준 홍보상 실수라는 평가와, 공포심을 이용한 마케팅이라는 해석이 나왔다고 전했다.
 액시오스는 미국인들이 이미 일자리와 전기요금, 데이터센터 문제로 AI에 반감을 보여왔다고 지적했다. 여기에 인류 생존에 대한 불안까지 더해지는 상황이 AI 업계의 정치적 부담을 키울 수 있다는 분석이다.
 정치권에서는 규제 논의가 이어지고 있다. 초지능 금지를 제안한 버니 샌더스 미 상원의원은 오는 16일 AI의 위험성을 논의하는 초당적 상원 브리핑을 열 예정이다. 샌더스 의원은 브리핑 개최를 알리는 동료 의원 대상 서한에서 콕슨 연구원의 글도 언급한 것으로 전해졌다.
 <a href="https://www.newsis.com/?ref=chul" target="_blank">☞공감언론 뉴시스</a> yunghp@newsis.com 
 </section> 
 </div> 
 Copyright © 뉴시스. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기