【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]AI 안전성 글로벌 논의 앞두고…오픈AI, `초정렬팀` 해체로 잡음

온카뱅크관리자

2024-05-19 16:45:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="9CydoYBWvR">
          <figure class="figure_frm origin_fig" dmcf-pid="2cmfQOtsvM" dmcf-ptype="figure">
           <p class="link_figure"><img alt="오픈AI 자콥 파초키(왼쪽부터) 신임 수석과학자, 그렉 브록먼 사장, 일리야 수츠케버 전임 수석과학자, 샘 올트먼 CEO, 미라 무라티 CTO. 일리야 수츠케버 X 캡처" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/19/dt/20240519164526476sulb.jpg" data-org-width="540" dmcf-mid="KybIv9LKCe" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/19/dt/20240519164526476sulb.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            오픈AI 자콥 파초키(왼쪽부터) 신임 수석과학자, 그렉 브록먼 사장, 일리야 수츠케버 전임 수석과학자, 샘 올트먼 CEO, 미라 무라티 CTO. 일리야 수츠케버 X 캡처
           </figcaption>
          </figure>
          <p dmcf-pid="Vks4xIFOCx" dmcf-ptype="general">인공지능(AI) 안전성을 논하는 두 번째 글로벌 정상회의를 앞두고 생성형AI 선두주자인 오픈AI에 또 한 번 잡음이 일고 있다.</p>
          <p dmcf-pid="fEO8MC3IhQ" dmcf-ptype="general">지난 17일(이하 현지시간) 블룸버그통신 등 주요 외신은 오픈AI가 초정렬(Super-alignment)팀을 사실상 해체, 해당 팀원들을 재배치하고 있다고 보도했다. 지난해 7월 발족한 초정렬팀은 초지능(Super-intelligent) AI시스템이 인간 의도를 따르도록 제어·관리 관련 핵심과제를 해결하는 게 목표였으며, 이를 위해 회사의 컴퓨팅자원 20%를 투입할 계획이었다.</p>
          <p dmcf-pid="4QJtUnIivP" dmcf-ptype="general">이 팀을 함께 이끌었던 일리야 수츠케버 공동창업자와 얀 라이카 정렬 총괄도 각각 오픈AI를 떠났다. 수석과학자를 역임해온 수츠케버는 지난해 11월 닷새 만에 해프닝으로 끝났던 샘 올트먼 CEO 축출 사태의 주역 중 하나였다. 당시 AI 안전성을 문제로 이 같은 결정을 했지만 이후 후회한다며 사태 수습에 나섰고, 지난 14일에도 "오픈AI가 올트먼 등 리더십 아래 안전하고 유익한 AGI를 구축할 것이라 믿는다"며 떠났다.</p>
          <p dmcf-pid="8xiFuLCnv6" dmcf-ptype="general">다만 라이카의 경우 자신의 X(옛 트위터)를 통해 직접 비판을 남겼다. 그는 "우리보다 똑독한 AI를 조정·제어하기 위한 연구를 하기에 가장 좋은 곳이라 여겨 오픈AI에 왔지만, 회사의 핵심 우선순위에 대해 경영진과 오랫동안 이견이 있었고 마침내 한계에 달했다"고 토로했다. "몇 달 동안 우리 팀은 바람을 거슬러 항해해왔다. 때때로 컴퓨팅 문제로 어려움을 겪었고 이 중요한 연구를 수행하는 게 점점 더 어려워졌다"며 "오픈AI에서 지난 몇 년 동안 안전 문화와 프로세스는 반짝이는 제품보다 뒷전으로 밀려났다"고 지적했다.</p>
          <p dmcf-pid="6Mn37ohLS8" dmcf-ptype="general">또한 "AGI의 영향에 대해 굉장히 진지하게 생각해야할 시기가 한참 지났다. 최선을 다해 이에 대비하는 것을 우선순위로 삼아야만이 AGI가 모든 인류에게 혜택을 줄 수 있다"며 "오픈AI는 안전성을 우선하는 AGI 회사가 돼야한다. 만들고 있는 것에 걸맞게 진중함을 갖고 행동하길 바란다"고 전했다.</p>
          <p dmcf-pid="PqVSY4NfW4" dmcf-ptype="general">이에 일각에서 오픈AI가 AI 안전성 문제를 경시한다는 의혹을 제기하자 샘 올트먼 CEO와 그렉 브록만 사장이 해명에 나섰다. 이들은 X를 통해 "우리는 전 세계가 더 잘 대비할 수 있도록 AGI의 위험과 기회에 대한 인식을 높여왔다. 점점 더 성능이 향상되는 시스템을 안전하게 배포하는 데 필요한 토대를 마련했다"면서도 "미래의 모든 가능한 시나리오를 상상할 수 없다는 것을 알고 있다. 따라서 매우 긴밀한 피드백 루프, 엄격한 테스트, 모든 단계에서의 신중한 고려, 세계 최고 수준의 보안, 안전과 기능의 조화가 필요하다"고 설명했다.</p>
          <p dmcf-pid="QBfvG8j4Tf" dmcf-ptype="general">이어 "AGI로 가는 길을 탐색하는 방법에 대한 검증된 플레이북은 없다. 경험적 이해가 앞으로 나아갈 방향을 제시하는 데 도움이 될 수 있다고 생각한다"면서 "우리는 긍정적인 측면을 제공하는 동시에 심각한 위험을 완화하기 위해 노력하고 있으며, 우리 역할을 매우 진지하게 받아들이고 우리 행동에 대한 피드백을 신중하게 검토하겠다"고 덧붙였다.</p>
          <p dmcf-pid="xb4TH6A8TV" dmcf-ptype="general">한편 오는 21일 개막 예정인 'AI 서울 정상회의(AI Seoul Summit)'와 'AI 글로벌 포럼'을 위해 오픈AI에서는 제이슨 권 CSO(최고전략책임자)가 방한할 예정이다. 한국계인 그는 지난해 올트먼 축출 사태뿐 아니라 올해 초 일론 머스크 테슬라 CEO가 오픈AI 설립 취지를 어겼다며 올트먼을 상대로 소송을 냈을 때도 반박을 펼치며 적극적으로 올트먼을 지지해온 것으로 알려졌다.팽동현기자 dhp@dt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p>