【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]'여배우 목소리 베끼고 AI안전팀 해체' 오픈AI, 자정 가능할까

온카뱅크관리자

2024-05-29 11:05:45

<div id="layerTranslateNotice" style="display:none;"></div> 영화 'Her' 속 스칼렛 요한슨 목소리 베낀 GPT-4o AI 안전팀 해체…수츠케버 떠나고 팀원은 앤스로픽 합류 이후 오픈AI, 이사회에 AI 안전대책 권고하는 안전보안위원회 신설 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="YpmVM7MU2f">
 <figure class="figure_frm origin_fig" dmcf-pid="GfYJj6j4fV" dmcf-ptype="figure">
 <img alt="[서울=뉴시스] 최동준 기자 = 9일 서울 영등포구 63스퀘어에서 열린 K-Startups meet OpenAI 행사에서 샘 알트만 오픈AI 최고경영자가 이영 중소벤처기업부 장관과 스타트업과 글로벌 AL 기업간 협업 등에 대해 간담회를 하고 있다. (공동취재사진) 2023.06.09. photo@newsis.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/29/newsis/20240529110545713hbdl.jpg" data-org-width="720" dmcf-mid="WFPWtItsV4" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/29/newsis/20240529110545713hbdl.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [서울=뉴시스] 최동준 기자 = 9일 서울 영등포구 63스퀘어에서 열린 K-Startups meet OpenAI 행사에서 샘 알트만 오픈AI 최고경영자가 이영 중소벤처기업부 장관과 스타트업과 글로벌 AL 기업간 협업 등에 대해 간담회를 하고 있다. (공동취재사진) 2023.06.09. photo@newsis.com
 </figcaption>
 </figure>
 [서울=뉴시스] 오동현 기자 = 미국 할리우드 여배우 스칼렛 요한슨의 목소리를 인공지능(AI) 음성 비서 서비스에 무단으로 갖다 썼다는 의혹으로 망신을 당한 오픈AI가 자정 기능을 강화한다.
 28일(현지시각) 미국 블룸버그 통신 등 외신에 따르면 오픈AI는 이사회에 AI 안전 대책을 권고하는 안전보안위원회를 신설했다. 최근 회사의 AI 안전 조치를 전문으로 하는 '슈퍼얼라인먼트' 팀이 해체된 것에 따른 후속 대책이기도 하다.
 오픈AI 이사회 산하에 신설된 안전보안위원회는 브렛 테일러 회장과 3명의 사외이사, 샘 올트먼 최고경영자(CEO), 내부 전문가들이 합류할 예정이다. 이들의 역할은 회사가 AI 안전과 관련된 중요한 결정을 할 때 전체 이사회에 권고 사항을 제시하는 것이다. 외부 전문가의 조언을 받을 수 있다. 
 위원회는 먼저 향후 90일 동안 회사의 기존 안전 조치 및 개발 프로세스를 검토하고 개선이 필요한 영역을 발굴할 예정이다.
 이날 오픈AI는 새로운 대규모 언어 모델(LLM) 개발에 착수했다고 밝혔다. 새 모델의 경우 최근 정확도를 높이기 위해 많은 양의 데이터 학습을 시작한 것으로 알려졌다. 차기 모델의 세부 사항은 공개되지 않았지만 'AGI(일반 인공 지능) 과정에서 한 단계 더 높은 수준의 역량을 선보일 것으로 기대한다"고 밝혔다.
 오픈AI는 지난 13일 기존의 AI 모델을 강화한 'GPT-4o'를 발표한 바 있다. 올트먼 CEO는 GPT-4o 발표 행사 이후 소셜미디어 X(옛 트위터)에 'her'라는 단어를 게시했다. GPT-4o가 영화 Her에 등장하는 인격형 AI '사만다'처럼 사람과 감정을 나눌 정도로 소통이 가능하다는 점을 강조한 것이다.
 하지만 GPT-4o 발표 이후 다섯 가지 음성 서비스 중 하나인 '스카이'의 음성이 할리우드 배우 스칼렛 요한슨의 목소리를 도용했다는 논란이 일었다. 공교롭게도 올트먼 CEO가 강조한 영화 'Her'에서 사만다의 목소리를 연기한 배우가 요한슨이다. 
 요한슨은 "지난해 9월 올트먼이 GPT-4o 시스템의 목소리를 내기 위해 나를 고용하고 싶다고 제안했었다"며 "그때 개인적인 이유로 제안을 거절했는데 (이번 출시된 음성은 내 목소리와) 무서울 정도로 유사해 충격과 분노가 일었고, 믿기지 않았다"고 밝혔다.
 이어 요한슨은 "해당 서비스가 출시되기 이틀 전에 올트먼은 제 에이전트에게 연락해 다시 생각해 달라고 요청하기도 했다"며 "(서비스가 공개된 이후) 변호사를 고용해 올트먼에게 편지를 보냈고, 오픈AI는 스카이 목소리를 삭제하는 데 마지 못해 동의했다"고 고발했다.
 이에 오픈AI 측은 처음엔 "다른 성우의 목소리"라며 의혹을 부인했지만, 지난 20일 올트먼 CEO가 요한슨에게 사과하고 관련 오디오 사용을 중단했다.
 GPT-4o 발표 다음 날에는 오픈AI 공동 창립자 중 한 명인 일리야 수츠케버와 함께 '슈퍼얼라이먼트' 팀을 이끌던 얀 라이히가 회사를 떠났다. 수츠케버는 AI의 위험성을 경고해온 제프리 힌튼 교수의 수제자다. '슈퍼얼라이먼트' 팀에서 AI의 위험성을 연구하던 얀 라이히는 오픈AI의 경쟁사인 미국의 앤스로픽(Anthropic)에 합류한다.
 앤스로픽은 생성형 AI의 안전성 향상을 강조하며, 지난 2021년 오픈AI에서 독립한 다리오 아모데이 등이 설립한 회사다. 오픈AI가 마이크로소프트로부터 130억 달러(약 17조 5000억원)의 투자를 받았는데, 앤스로픽은 아마존으로부터 총 40억 달러(약 5조4000억원), 구글로부터 총 20억 달러(약 2조7000억원)의 투자를 받아 AI 스타트업 시장에서 라이벌 구도를 형성하고 있다. 국내 기업인 SK텔레콤은 앤스로픽에 1억 달러를 투자했고, LG CNS도 LG테크놀로지벤처스를 통해 지분 투자를 했다.
 ☞공감언론 뉴시스 odong85@newsis.com 
 </section> 
 </div> 
 Copyright © 뉴시스. 무단전재 및 재배포 금지.