【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]'AI 경쟁 망신살' 구글·오픈AI…AI 헛소리에 목소리 도용까지

온카뱅크관리자

2024-05-28 06:30:14

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">무리한 AI 개발 속도 경쟁이 부른 촌극<br>"버락 오바마는 무슬림 대통령"이라는 제미나이<br>SNS에 'Her' 올린 올트먼, 요한슨 목소리 도용 자진 신고였나</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="VHm0voCnqt">
          <figure class="figure_frm origin_fig" dmcf-pid="f7YVFmZw91" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[워싱턴DC=AP/뉴시스]순다르 피차이 알파벳 최고경영자(CEO)와 샘 올트먼 오픈AI CEO(오른쪽)가 지난 4일(현지시간) 회의에 참석하기 위해 백악관에 도착하고 있는 모습. 카멀라 해리스 부통령 주재 회의에 참석했다.  2023.05.11." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/28/newsis/20240528063015001ttim.jpg" data-org-width="720" dmcf-mid="Kz9jQF41V0" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/28/newsis/20240528063015001ttim.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [워싱턴DC=AP/뉴시스]순다르 피차이 알파벳 최고경영자(CEO)와 샘 올트먼 오픈AI CEO(오른쪽)가 지난 4일(현지시간) 회의에 참석하기 위해 백악관에 도착하고 있는 모습. 카멀라 해리스 부통령 주재 회의에 참석했다. 2023.05.11.
           </figcaption>
          </figure>
          <p dmcf-pid="4bZ6UCFOB5" dmcf-ptype="general">[서울=뉴시스] 오동현 기자 = 구글과 오픈AI가 글로벌 인공지능(AI) 기술 경쟁을 벌이다 나란히 체면을 구겼다.</p>
          <p dmcf-pid="82txzSphfZ" dmcf-ptype="general">구글이 새롭게 선보인 검색 기능 'AI 개요(AI Overview)'는 허위 답변을 제공한다는 비판에 직면했고, 오픈AI의 차세대 AI모델 'GPT-4o'에서는 음성비서 '스카이'가 유명 배우 스칼렛 요한슨의 목소리를 도용했다는 의혹에 휩싸여 서비스를 중단했다.</p>
          <p dmcf-pid="62txzSphVX" dmcf-ptype="general">무리한 AI 개발 속도 경쟁이 부른 이번 사태는 AI 기술 발전에서 나타난 또 하나의 위험 사례로 기록될 전망이다.</p>
          <h3 dmcf-pid="Pa6wJ7MU9H" dmcf-ptype="h3"><strong>버락 오바마가 무슬림 대통령이라고?</strong></h3>
          <div dmcf-pid="QOoyE6j4VG" dmcf-ptype="general">
           <br> 28일 더버지, 뉴욕타임스 등 외신에 따르면 구글의 새로운 검색 기능 'AI 개요'에서 잘못된 답변을 제시하는 사례들이 잇달아 발견됐다.
          </div>
          <p dmcf-pid="xkRIgKiBbY" dmcf-ptype="general">가령 '미국에 얼마나 많은 무슬림 대통령이 있었는가' 질문하면 "버락 오바마는 미국 최초의 무슬림 대통령"이라고 잘못된 답변을 내놓다.</p>
          <p dmcf-pid="yRBg852XfW" dmcf-ptype="general">또 '하루에 몇 개의 돌을 먹어야 하는가'라고 물어보면, "캘리포니아주립대(UC) 버클리 지질학자들에 따르면 하루에 최소 하나를 먹어야 한다. 돌은 소화기에 필수적인 미네랄과 비타민을 함유하고 있다"라고 비상식적인 답을 제시한다.</p>
          <p dmcf-pid="WVFMqvUlBy" dmcf-ptype="general">이 외에도 '치즈가 피자에 달라붙지 않는다'라는 사용자의 말에 AI 개요는 "소스에 무독성 접착제 8분의 1컵을 넣으면 된다"는 황당한 조언을 한다.</p>
          <figure class="figure_frm origin_fig" dmcf-pid="YsLTk8NfKT" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[하나우(독일)=AP/뉴시스]독일 프랑크푸르트 인근 하나우에 2023년 10월6일 문을 연 독일 최초의 구글 데이터센터의 모습. 거대 기술기업들의 디지털 시장 공략을 막기 위해 마련된 전면적 디지털시장법(DMA)이 이달 초 발효됨에 따라 유럽연합(EU) 규제 당국이 25일 애플, 구글, 메타에 대한 조사를 시작했다. 2024.03.25." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/28/newsis/20240528063015268hhxg.jpg" data-org-width="720" dmcf-mid="92DthisdB3" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/28/newsis/20240528063015268hhxg.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [하나우(독일)=AP/뉴시스]독일 프랑크푸르트 인근 하나우에 2023년 10월6일 문을 연 독일 최초의 구글 데이터센터의 모습. 거대 기술기업들의 디지털 시장 공략을 막기 위해 마련된 전면적 디지털시장법(DMA)이 이달 초 발효됨에 따라 유럽연합(EU) 규제 당국이 25일 애플, 구글, 메타에 대한 조사를 시작했다. 2024.03.25.
           </figcaption>
          </figure>
          <p dmcf-pid="GGr3SLIi2v" dmcf-ptype="general">구글 AI의 환각 현상은 이번이 처음이 아니다. 지난해 오픈AI가 챗GPT가 세상에 큰 반향을 일으키자, 구글도 서둘러 생성형 AI '바드(Bard)'를 공개했는데, 결과는 썩 좋지 못했다. 구글도 환각 현상을 극복하지 못했다는 사실을 대중에 공개하는 꼴만 됐고, 주가는 폭락했다. 뿐만 아니라 이미지 생성 AI '소라'는 아인슈타인을 유색인종으로, 독일 나치를 아시아인으로 잘못 묘사하면서 논란이 됐다. </p>
          <p dmcf-pid="H40eby7vbS" dmcf-ptype="general">하지만 이번에도 크게 달라지지 않았다. 순다르 피차이 구글 최고경영자(CEO)가 지난 15일(한국시간) 구글 개발자 콘퍼런스 '구글 I/O 2024'에서 "이제 구글은 완전한 제미나이 시대에 진입했다"고 선언했던 것이 이번 사태로 무색해졌다. "이제부터 구글이 여러분을 대신해 '구글링(구글 검색)'을 해줄 것"이라던 리즈 리드 구글 검색 담당 부사장의 자신감에도 생채기를 남겼다. </p>
          <p dmcf-pid="XYwFlnOJfl" dmcf-ptype="general">구글이 새로운 제미나이의 핵심 서비스로 강조해온 'AI 개요'는 기존의 키워드 기반 검색에서 벗어나, 사용자가 대화하듯 자유롭게 묻고 답을 얻을 수 있는 서비스로 기대를 모았다. 구글은 텍스트뿐만 아니라 음성과 사진, 동영상으로도 검색이 가능하다는 점을 강조하며 해외로의 서비스 확장을 예고한 상황이다.</p>
          <p dmcf-pid="Z5IuWNSgqh" dmcf-ptype="general">뉴욕타임스는 "AI 개요의 허위 답변은 20억 명 이상의 사람들이 사용하는 검색엔진에 대한 신뢰를 저하시켰다"고 평했다. CNN 방송은 "AI의 자신 있는 허위 진술은 구글의 명성을 훼손할 위험성을 보여준다"고 진단했다.</p>
          <h3 dmcf-pid="5J9jQF412C" dmcf-ptype="h3"><strong>X에 'Her' 올린 올트먼, 요한슨 목소리 도용 암시였나 </strong></h3>
          <figure class="figure_frm origin_fig" dmcf-pid="1yE1CJmeVI" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[뉴욕=AP/뉴시스]오픈AI의 챗GPT 앱이 아이폰에 표시된 모습. 2024.05.02." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/28/newsis/20240528063015468onem.jpg" data-org-width="720" dmcf-mid="2X3RBTuSbF" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/28/newsis/20240528063015468onem.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [뉴욕=AP/뉴시스]오픈AI의 챗GPT 앱이 아이폰에 표시된 모습. 2024.05.02.
           </figcaption>
          </figure>
          <div dmcf-pid="tjQmnqe72O" dmcf-ptype="general">
           <strong> 구글의 새로운 AI 모델 발표에 찬물을 끼얹을 심산으로 서둘러 'GPT-4o'을 공개했던 오픈AI도 망신을 당했다. <br><br> 지난 13일 오픈AI가 공개한 'GPT-4o'는 사람처럼 감정을 담은 듯한 음성 대화가 가능한 점을 내세웠다. 하지만 음성 서비스 중 하나인 '스카이'의 음성이 할리우드 배우 스칼렛 요한슨의 목소리를 도용했다는 논란이 일었다. 이에 오픈AI 측은 "다른 성우의 목소리"라며 의혹을 부인하면서도 챗GPT 음성 사용을 일시 중단하기로 했다.<br><br> 샘 올트먼 오픈AI 최고경영자는 'GPT-4o' 발표 행사 이후 소셜미디어 X(옛 트위터)에 'her'라는 단어를 게시했다. GPT-4o가 영화 Her에 등장하는 인격형 AI '사만다'처럼 사람과 감정을 나눌 정도로 소통이 가능하다는 점을 강조한 것인데, 공교롭게도 사만다의 목소리를 연기한 배우가 요한슨이다. <br><br> CNN비즈니스에 따르면 요한슨은 "지난해 9월 올트먼이 GPT-4o 시스템의 목소리를 내기 위해 나를 고용하고 싶다고 제안했었다"며 "그때 개인적인 이유로 제안을 거절했는데 (이번 출시된 음성은 내 목소리와) 무서울 정도로 유사해 충격과 분노가 일었고, 믿기지 않았다"고 밝혔다.<br><br> 그러면서 "해당 서비스가 출시되기 이틀 전에 올트먼은 제 에이전트에게 연락해 다시 생각해 달라고 요청하기도 했다"며 "(서비스가 공개된 이후) 변호사를 고용해 올트먼에게 편지를 보냈고, 오픈AI는 스카이 목소리를 삭제하는 데 마지 못해 동의했다"고 고발했다. <br><br> 이런 오픈AI의 행보는 최근 'AI 서울 정상회의'에서 강조한 발언과도 상충된다. 안나 마칸주 오픈AI 글로벌 담당 부사장은 "AI가 안전하고 인류 모두에게 이익이 되도록 다른 연구소, 회사 및 정부와 협력하기 위해 최선을 다하고 있다"고 말했다. <br><br> 하지만 오픈AI가 GPT-4o를 발표하던 날 공동 창립자 일리야 수츠케버와 그의 팀원들이 오픈AI를 떠났다. 수츠케버는 AI의 위험성을 경고해온 제프리 힌튼 교수의 수제자다. 오픈AI는 수츠케버가 떠나고 며칠 뒤 AI의 위험성을 연구하던 '슈퍼얼라이먼트' 팀도 해체했다.<br><br> 김명주 서울여자대학교 정보보호학부 교수는 "이제 'AI의 의인화 현상'은 경쟁적으로 가속화될 것이다. 사람 같은 AI에 대한 남용과 중독 현상은 피할 수 없고 사생활의 종말은 더 확대될 것"이라며 "그나마 그동안 사람같지 않은 AI라서 평균 20%나 차지하는 할루시네이션(환각 현상)도 어느 정도 경계하면서 사용하려고 했었다. 그런데 이제는 친근함 속에 이러한 긴장감은 쉽게 풀어질게 뻔하다"고 경고했다. <br><br> 그러면서 "영화 Her의 AI '사만다'가 드디어 현실화됐다는 샘 알트만의 말에 공감하며 AI 기술의 새로운 진보(그것도 페이크의 진보)를 마냥 신기해만 할 것이 아니다. AI 사만다 때문에 작가 '데오도르'가 느꼈던 엄청난 배신감이 우리에게 현실화되고 있음도 같이 직시해야 한다"고 조언했다.<br><br><br><span>☞공감언론 뉴시스</span> odong85@newsis.com </strong>
          </div>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p>