【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][AI는 지금] "10년 내 인류 멸망" 경고한 앤트로픽 연구원 퇴사 vs 오픈AI, 전문가 영입

온카뱅크관리자

2026-09-10 09:47:25

<div id="layerTranslateNotice" style="display:none;"></div> AI 정렬 권위자 크리스티아노 오픈AI 이사회 합류…콕슨, 개발 위험 경고하며 앤트로픽 떠나 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="1fUZEZwajt">
 (지디넷코리아=장유미 기자)인공지능(AI) 개발 경쟁이 거세지는 가운데 오픈AI와 앤트로픽이 안전 문제를 두고 엇갈린 움직임을 보이고 있다. 오픈AI는 AI의 파국적 위험을 경고해 온 전문가를 이사회에 합류시키며 안전 감독을 강화한 반면, 앤트로픽에선 안전을 중시해 오픈AI에서 옮겨온 연구원이 AI 개발 경쟁에 우려를 나타내며 회사를 떠났기 때문이다.
 오픈AI는 지난 9일(현지시간) 공식 홈페이지를 통해 AI 정렬 연구자인 폴 크리스티아노를 오픈AI 재단 이사로 선임했다고 발표했다. 크리스티아노는 재단 이사회 산하 안전·보안위원회(SSC)에도 합류하며 영리법인 오픈AI 그룹 PBC 이사회에는 의결권이 없는 참관인으로 참여한다.
 크리스티아노는 2017년부터 2021년까지 오픈AI에서 정렬 연구를 이끌고 인간 피드백 기반 강화학습(RLHF)의 기초 연구에 기여했다. 이후 비영리 연구기관 정렬연구센터(ARC)를 설립했으며 현재 미국 국립표준기술연구소(NIST) 산하 AI표준혁신센터(CAISI)에서 시니어 테크 어드바이저를 맡고 있다.
 <figure class="figure_frm origin_fig" contents-hash="23b12c64e74ed7e3eab1c64d41a0ad7764f38bb706e6ac3e98ee65e218162440" dmcf-pid="06ztrtsAjX" dmcf-ptype="figure">
 <img alt="샘 알트먼 오픈AI CEO(왼쪽)과 다리오 아모데이 앤트로픽 CEO (사진=위키커먼스)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/10/ZDNetKorea/20260910093752448xzbw.jpg" data-org-width="638" dmcf-mid="5UqFmFOcjF" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/10/ZDNetKorea/20260910093752448xzbw.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 샘 알트먼 오픈AI CEO(왼쪽)과 다리오 아모데이 앤트로픽 CEO (사진=위키커먼스)
 </figcaption>
 </figure>
 CAISI에선 국가안보에 영향을 미칠 수 있는 프런티어 AI 모델의 능력을 평가하고 관련 안전·보안 위험과 대응 방안을 연구해 왔다. 크리스티아노는 이번 이사 선임에 따라 CAISI에서 오픈AI 관련 사안과 모든 모델 평가 업무에서 빠지기로 했다.
 오픈AI는 크리스티아노가 첨단 AI의 '재앙적 위험' 가능성을 심각하게 다뤄왔다는 점을 이번 인사의 주요 이유로 내세웠다. 업계의 안전장치가 충분한지를 독립적으로 문제 삼아온 인물을 회사의 안전 감독 체계에 직접 참여시킨 것이다.
 SSC는 오픈AI 재단뿐 아니라 영리법인인 오픈AI 그룹 PBC를 포함해 회사 전체의 안전·보안 정책을 감독한다. 오픈AI는 지난해 10월 자본구조 개편 이후에도 비영리 재단이 오픈AI 그룹 PBC를 지배하는 구조를 유지하고 있다.
 브렛 테일러 오픈AI 재단 및 오픈AI 그룹 PBC 이사회 의장은 "폴은 갈수록 강력해지는 시스템이 제기하는 가장 어려운 문제에 집중하며 AI 정렬 분야를 개척해 왔다"며 "정부에서 프런티어 AI 안전과 표준을 다룬 경험과 기술적 판단력이 이사회와 SSC의 감독을 강화할 것"이라고 말했다.
 반면 앤트로픽에선 반대 흐름이 나타났다. 올해 초 오픈AI에서 앤트로픽으로 이직한 연구원 제이컵 콕슨이 지난 8일(현지시간) 퇴사 사실을 공개하며 AI 개발 경쟁에 강한 우려를 제기한 것이다.
 콕슨은 대규모 데이터를 활용해 새로운 AI 모델을 학습하는 분야를 연구해 왔다. 오픈AI를 떠나 앤트로픽을 선택할 당시에는 AI 안전을 중시하는 기업 문화가 영향을 미쳤지만 앤트로픽에서도 개별 기업의 노력만으로 AI 위험을 통제하기 어렵다고 판단했다.
 특히 인간의 개입 없이 스스로 성능을 개선하는 AI 개발 경쟁을 우려했다. 이런 시스템이 빠르게 고도화되면 사이버 공격 능력을 갖추거나 인간의 통제를 벗어나 현실 세계에서 영향력을 행사할 가능성이 있다는 주장이다.
 콕슨은 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "머지않아 무엇이든 해킹하고 어떤 분야에서든 혁명을 일으키며 실질적인 권력과 자원을 확보하는 초인적 체계가 될 것"이라고 경고했다.
 앤트로픽 내부에서도 콕슨의 위험 인식에 동조하는 목소리가 나왔다. 에번 휴빙거 정렬과학 총괄은 AI가 인류 전체를 멸망시킬 가능성을 실제 위험으로 보고 있으며 개인적으로 향후 10년 내 발생 확률을 10% 이상으로 평가했다. 새뮤얼 마크스 확장감독 총괄도 AI 개발자들이 인류 멸종이나 이에 준하는 결과를 우려하면서도 상업적 이해와 경쟁 압력 때문에 개발을 이어가고 있다고 설명했다.
 콕슨은 앤트로픽뿐 아니라 과거 몸담았던 오픈AI에도 책임을 물었다. 두 회사가 스스로 성능을 높이는 초지능 개발 경쟁을 이어가면서 AI 위험에 충분히 대응하지 못하고 있다고 지적한 것이다. 또 개별 기업의 안전 대책만으로 대응하기 어려운 만큼 정부 규제와 AI 업계 차원의 공동 대응이 필요하다고 강조했다.
 업계에선 AI 모델의 성능이 빠르게 고도화될수록 개발 속도와 안전을 둘러싼 갈등도 향후 더 커질 것으로 보고 있다. 미국과 중국을 중심으로 프런티어 AI 경쟁이 거세지면서 개별 기업의 안전 대책을 넘어 정부 규제와 업계 공동 대응 필요성도 부각되고 있다.
 크리스티아노는 "지난해 AI 역량은 매우 빠르게 발전했지만 정렬은 여전히 해결하기 어려운 기술적 과제로 남아 있어 안전·보안위원회의 책임은 그 어느 때보다 중요하고 막중해졌다"며 "이 일에 힘을 보태기 위해 팀에 합류하게 돼 기쁘다"고 말했다.
 장유미 기자(sweet@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기