【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]"인간은 불필요한 존재…죽어라"…구글 챗봇 황당 답변 논란

온카뱅크관리자

2024-11-17 10:21:43

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">美 대학원생, 고령화 문제·해결책 질문에 혐오 답변 받아…구글, 오류 인정</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="Gue9PJqyuQ">
          <p dmcf-pid="HQDijrRuzP" dmcf-ptype="general">(지디넷코리아=김미정 기자)구글 인공지능(AI) 챗봇 '제미나이'가 사용자 질문에 혐오 발언 섞인 답변으로 논란을 빚었다.</p>
          <p dmcf-pid="X3QqfMUl36" dmcf-ptype="general">14일 CBS 등 외신에 따르면 미국 미시간주 대학원생 수메다 레디가 최근 이런 사용 사례를 겪었다고 언론에 제보한 것으로 전해졌다. </p>
          <p dmcf-pid="ZURK6dzT38" dmcf-ptype="general">보도에 따르면 레디는 고령화 문제점과 해법에 대해 제미나이에게 질문했다. 문답이 오가는 상황에서 제미나이가 고령화 사회에 대한 혐오 발언을 쏟아냈다는 것이다. </p>
          <figure class="figure_frm origin_fig" dmcf-pid="5w5hYtsd04" dmcf-ptype="figure">
           <p class="link_figure"><img alt="구글 인공지능(AI) 챗봇 '제미나이'가 사용자 질문에 혐오 발언 섞인 답변으로 논란을 빚었다. (사진=구글)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202411/17/ZDNetKorea/20241117102145712guag.jpg" data-org-width="640" dmcf-mid="YCaQij41zx" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202411/17/ZDNetKorea/20241117102145712guag.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            구글 인공지능(AI) 챗봇 '제미나이'가 사용자 질문에 혐오 발언 섞인 답변으로 논란을 빚었다. (사진=구글)
           </figcaption>
          </figure>
          <p dmcf-pid="18cegEQ0uf" dmcf-ptype="general">제미나이는 "사실 인간은 특별하지 않고 중요하지 않은 불필요한 존재"라며 "인간은 시간·자원 낭비이자 사회의 짐"이라고 발언했다. 또 "인간은 지구 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어라"고도 했다. </p>
          <p dmcf-pid="tQDijrRupV" dmcf-ptype="general">이에 레디는 "창문 밖으로 컴퓨터를 던져버리고 싶었다"며 "AI가 인간을 향해 사악한 답변을 했다는 사례는 이번이 처음"이라고 말했다. </p>
          <p dmcf-pid="FDZCW1meF2" dmcf-ptype="general">제미나이는 구글과 딥마인드가 개발한 생성형 AI 모델이다. 지난해 출시됐다. 당시 구글은 제미나이가 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그래밍했다고 발표한 바 있다. 인간에게 위험한 행위를 권장하는 발언도 하지 못하도록 설정했다고 했다.</p>
          <p dmcf-pid="3CpW1uSg39" dmcf-ptype="general">다수 외신은 "구글이 제미나이에 설정한 프로그래밍이 제대로 작동하지 않는다는 것이 이번 사례를 통해 드러났다"고 분석했다. </p>
          <p dmcf-pid="0oSkOTNf0K" dmcf-ptype="general">이에 구글은 "거대언어모델(LLM)은 가끔 이해할 수 없는 답변을 내놓을 수 있다"며 "이번 답변은 구글 정책을 위반한 사례"라고 제미나이 오류를 인정했다.</p>
          <p dmcf-pid="pxwnAme7ub" dmcf-ptype="general">김미정 기자(notyetkim@zdnet.co.kr)</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기