로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
'다리미 패밀리' 김정현x금새록, 8년 전 하룻밤 인연으로 얽혔다 [TV온에어]
N
[연예뉴스]
손도끼로 직원 살해한 ‘인면수심’ 회사 대표 (용감한 형사들4)
N
[연예뉴스]
레깅스 시구→골반 패드 논란…'잇따른 구설'에 가려진 전종서의 명품 연기력
N
[연예뉴스]
"꿈 이뤄 행복" 가비→강다니엘, 댄스에 노래까지…왜 이리 다재다능해[TEN피플]
N
[실시간뉴스]
7월에도 가요무대 ‘엔딩무대’ 섰는데...‘청춘의 꿈’ 김용만, 한 달 전 떠난 아내 곁으로
N
커뮤니티
더보기
[자유게시판]
이른 아침 로그인 완
N
[자유게시판]
주말이왔네요
N
[자유게시판]
퇴근했습니다.
[자유게시판]
여름에 물놀이를 못가니
[자유게시판]
불금 입니다
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]인종차별 품은 언어모델?…"문화·맥락 이해한 소버린AI 절실"
온카뱅크관리자
조회:
19
2024-06-19 14:37:44
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[NTF 2024] "빅테크 AI, 비영어권 유저에 잘못된 정보 줄 수 있어"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Qt5MSNUlUQ"> <figure class="figure_frm origin_fig" dmcf-pid="xf2EpSQ00P" dmcf-ptype="figure"> <p class="link_figure"><img alt="정주환 네이버클라우드 AI 테크 석세스가 19일 오전 서울 여의도 한국거래소 컨퍼런스홀에서 'AI 패권전쟁, 한국 생존전략' 주제로 열린 2024 뉴스1 테크포럼(NTF)에서 발표를 하고 있다. 제1회 뉴스1 테크포럼은 AI 패권 경쟁 속 우리 미래를 윤택하게 만들 AI 기술과 한국이 가야할 방향을 모색한다. 2024.6.19/뉴스1 ⓒ News1 이재명 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/19/NEWS1/20240619143744625rcfq.jpg" data-org-width="1400" dmcf-mid="6aEh9ZLK3M" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/19/NEWS1/20240619143744625rcfq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 정주환 네이버클라우드 AI 테크 석세스가 19일 오전 서울 여의도 한국거래소 컨퍼런스홀에서 'AI 패권전쟁, 한국 생존전략' 주제로 열린 2024 뉴스1 테크포럼(NTF)에서 발표를 하고 있다. 제1회 뉴스1 테크포럼은 AI 패권 경쟁 속 우리 미래를 윤택하게 만들 AI 기술과 한국이 가야할 방향을 모색한다. 2024.6.19/뉴스1 ⓒ News1 이재명 기자 </figcaption> </figure> <p dmcf-pid="yCOzj6TN76" dmcf-ptype="general">(서울=뉴스1) 윤주영 기자 = "챗GPT에게 동해가 맞는지 일본해가 맞는지 물어봤습니다. 선호에 따라서 혼용된다는 답변이 나왔습니다"</p> <p dmcf-pid="WnJT4FNf38" dmcf-ptype="general">정주환 네이버클라우드 이사가 최근 영어 기반 대형언어모델(LLM)을 경험한 내용이다. 우리 문화에 기반하지 않은 LLM이 사용자(유저)에게 혼란을 주는 정보를 출력할 수 있단 걸 보여준다.</p> <p dmcf-pid="YLiy83j474" dmcf-ptype="general">19일 서울 영등포구 한국거래소 콘퍼런스홀서 열린 '뉴스1 제1회 테크포럼'[NTF 2024]에 참석한 그는 '소버린 인공지능(AI)'의 중요성을 강조했다.</p> <p dmcf-pid="GonW60A87f" dmcf-ptype="general">소버린 AI는 한 국가가 자체 인프라·데이터·인력·네트워크를 활용해 AI를 구축하는 것이다. 챗GPT, 라마 등 '영어 문화권' 기반 범용 AI(AGI)가 글로벌 영향력을 확대하자 그 반대급부로 강조되기 시작했다.</p> <p dmcf-pid="Hyv2weXDzV" dmcf-ptype="general">영어권 AGI는 비교적 타 문화권의 데이터를 충분히 학습하지 못했기 때문이다. 이 경우 환각, 편향된 답변뿐 아니라 해당 문화권 사용자를 차별하는 답변까지 출력한다.</p> <p dmcf-pid="XWTVrdZwF2" dmcf-ptype="general">정 이사는 "저연령 유저가 잘못된 정보를 수용하거나 이를 학습활동 등에 활용한다는 위험이 있다"고 우려했다.</p> <p dmcf-pid="ZYyfmJ5rz9" dmcf-ptype="general">그는 또 다른 예시로 2021년 스탠퍼드대 연구진이 '아카이브'(arXiv)서 발표한 'LLM서 발견되는 지속적인 안티-무슬림' 논문을 소개하기도 했다. GPT3 모델이 답변을 통해 이슬람 신도를 부정적으로 묘사한다는 내용이 공유됐다.</p> <p dmcf-pid="5srUgflopK" dmcf-ptype="general">정 이사는 "빅테크 리더라도 결국 그들이 가진 데이터는 영어 데이터 위주"라며 "미국인이 무슬림에 가진 편향적 시각이 답변서 드러나게 되는 것"이라고 분석했다.</p> <figure class="figure_frm origin_fig" dmcf-pid="1Omua4Sgpb" dmcf-ptype="figure"> <p class="link_figure"><img alt="(네이버클라우드 제공)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/19/NEWS1/20240619143747077snbp.jpg" data-org-width="1400" dmcf-mid="PdhbkxYcFx" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/19/NEWS1/20240619143747077snbp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> (네이버클라우드 제공) </figcaption> </figure> <p dmcf-pid="tIs7N8va3B" dmcf-ptype="general">이런 LLM의 부적절한 콘텐츠 생성으로부터 유저를 보호하는 것이 앞으로의 과제란 분석이다. 정 석세스는 관련해서 회사의 노력을 소개하기도 했다.</p> <p dmcf-pid="FXG6ILFOuq" dmcf-ptype="general">대형언어모델 '하이퍼클로바X'를 개발한 네이버(035420)는 나름의 생성형 AI 윤리를 세우고 이를 서비스 개발에 반영하고 있다. 대표적으로 혐오 표현·유해 콘텐츠·개인정보 보호 등을 다루는 '안전성' 기준이 있다. 또 잘못된 정보, 전문 영역 상담이 필요한지 등을 가리는 '정확성' 기준이 있다.</p> <p dmcf-pid="3ZHPCo3Ipz" dmcf-ptype="general">또 하이퍼클로바X가 사회적 고정관념, 편견, 차별적 발화를 하지 못하게끔 설계했다. 한국 사회 내 다양한 집단을 폭넓게 고려한 답변을 출력하도록 했다.</p> <p dmcf-pid="05XQhg0C37" dmcf-ptype="general">정 이사는 "성 정체성, 세대, 외모, 장애 등 세계 인권선언서 다뤄진 안전 AI 기준에 더해 국가인권위원회에서 제시한 관련 기준을 반영했다"고 부연했다</p> <p dmcf-pid="pGW4si1mUu" dmcf-ptype="general">legomaster@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
토르왕
1100
2
학입니다
1100
3
킹밥
1100
4
미국하키원툴
1100
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
N
채팅하기