로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
최다니엘, 연애 오래 쉰 탓? ♥日 여성과 소개팅에 소통 오류 “연애 토크 서툴러”(혼전연애)[어저께TV]
N
[실시간뉴스]
월급 적다…출근 2주 만에, 집 나간 필리핀 이모님
N
[실시간뉴스]
"정치적 조급증" 민주당도 선긋는다…2국가론 임종석의 처지 [who&why]
N
[실시간뉴스]
맑고 쾌청한 하늘…당분간 일교차 커 [날씨]
N
[실시간뉴스]
대권주자 가속페달… 김동연 국감 ‘쏠린 눈’ [국감 핫이슈]
N
커뮤니티
더보기
[자유게시판]
오늘도 하루가 다 지나가네요
N
[자유게시판]
월욜 힘들었다아 ㅎ
N
[자유게시판]
개바쁨니다
N
[자유게시판]
오후에 할일
N
[자유게시판]
소식하는게 좋은거같긴하네요
N
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]AI 학습도 어린아이 인성 교육처럼…네이버·카카오 "윤리적 학습데이터가 관건"
온카뱅크관리자
조회:
49
2024-04-12 16:29:45
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">네이버, 민감 질문·편견 데이터세트로 하이퍼클로바 고도화<br>카카오, 알고리즘 윤리헌장 제정…이미지 생성 '칼로'에 반영</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="369dLje7uA"> <figure class="figure_frm origin_fig" dmcf-pid="069dLje7uj" dmcf-ptype="figure"> <p class="link_figure"><img alt="12일 과학기술정보통신부는 '글로벌 AI 안전 콘퍼런스'를 열고 업계 의견을 청취했다. 하정우 네이버 퓨처AI센터장이 강연하는 모습./뉴스1 ⓒ News1 윤주영 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/12/NEWS1/20240412162946945blje.jpg" data-org-width="1400" dmcf-mid="trsNkmaV7k" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/12/NEWS1/20240412162946945blje.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 12일 과학기술정보통신부는 '글로벌 AI 안전 콘퍼런스'를 열고 업계 의견을 청취했다. 하정우 네이버 퓨처AI센터장이 강연하는 모습./뉴스1 ⓒ News1 윤주영 기자 </figcaption> </figure> <p dmcf-pid="pP2JoAdz3N" dmcf-ptype="general">(서울=뉴스1) 윤주영 기자 = 네이버(035420)·카카오(035720)는 안전한 인공지능(AI)을 구축하려면 도덕·법률 등을 반영한 정제된 학습 데이터가 필요하다고 강조했다. </p> <p dmcf-pid="bl7bVPBW3H" dmcf-ptype="general">어린아이들의 인성교육 데이터처럼 올바른 방향성을 가진 교보재 선택이 중요하다는 의미다. 올바른 학습방향 설정은 AI의 편향성 및 혐오 표현을 예방하는 유일한 방법이기도 하다.</p> <p dmcf-pid="uIDyHtTNUg" dmcf-ptype="general">12일 과학기술정보통신부는 '글로벌 AI 안전 콘퍼런스'를 열고 업계 의견을 청취했다.</p> <p dmcf-pid="7CwWXFyj3o" dmcf-ptype="general">하정우 네이버 퓨처AI센터장은 민감 질문·선입견 데이터 세트를 활용해 '하이퍼클로바' 시리즈를 고도화한 사례를 들었다.</p> <p dmcf-pid="zwjhTHCn3L" dmcf-ptype="general">지난해 네이버 연구진은 AI 답변 필터링 개선을 목표로 윤리·사회과학적 가치가 반영된 데이터 세트를 구축한 바 있다.</p> <p dmcf-pid="qrAlyXhL7n" dmcf-ptype="general">우선 258명의 인간 참여자 등을 동원해 민감 질문 데이터 세트(SQuARe)를 구축했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 데이터에 부착 후 AI에 학습시켰다.</p> <p dmcf-pid="BmcSWZlo0i" dmcf-ptype="general">이후 질문과 답변 적절성 평가를 반복하며 하이퍼클로바의 필터링을 개선했다.</p> <p dmcf-pid="bskvY5SgpJ" dmcf-ptype="general">하정우 센터장은 "민감 질문의 범위는 정치적 책임, 성 역할 등 사회적 맥락에 따라 달라질 수 있다"며 "네이버의 경우 각계 전문가가 참여해 민감질문을 정의하는 데만 1년 반 이상이 소요됐다"고 설명했다.</p> <p dmcf-pid="KIDyHtTN0d" dmcf-ptype="general">이어 "기본적인 사전 학습만 거친 언어모델은 지역별 민감 데이터 이해도가 낮기에 이런 작업이 필요했다"고 설명했다.</p> <p dmcf-pid="9CwWXFyj3e" dmcf-ptype="general">실제 이 데이터를 하이퍼클로바에 적용하자 부적절한 답변 비율은 45.1%에서 20.8%로 감소했다. GPT3에서도 수치는 22.4%에서 7.8%로 감소했다.</p> <p dmcf-pid="2hrYZ3WAFR" dmcf-ptype="general">편견 방지를 목적으로 한 데이터 세트(KoSBI) 구축도 비슷한 작업을 거쳤다. 네이버 연구진은 인구를 72개 집단으로 분류 후 데이터에 라벨링했다. 이 역시 반복 학습을 거쳐 AI의 편견 출력을 방지했다.</p> <figure class="figure_frm origin_fig" dmcf-pid="VkgOlWsdUM" dmcf-ptype="figure"> <p class="link_figure"><img alt="칼로에 적용된 NSFW 필터가 부적절한 이미지 출력을 방지한 결과(카카오 홈페이지 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/12/NEWS1/20240412162948278qzih.jpg" data-org-width="1277" dmcf-mid="FZkvY5Sguc" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/12/NEWS1/20240412162948278qzih.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 칼로에 적용된 NSFW 필터가 부적절한 이미지 출력을 방지한 결과(카카오 홈페이지 갈무리) </figcaption> </figure> <p dmcf-pid="fEaISYOJUx" dmcf-ptype="general">김경훈 카카오 AI 안전 리더 역시 학습 데이터로 인한 AI 편향성이 우려된다고 했다.</p> <p dmcf-pid="4DNCvGIipQ" dmcf-ptype="general">카카오는 이를 방지하고자 2018년부터 알고리즘 윤리 헌장을 제정 후 서비스에 반영 중이다. 학습 데이터 운용은 윤리에 기반하는 한편 아동·청소년 등 AI 이용자를 보호하겠다는 내용을 담았다.</p> <p dmcf-pid="8xfnakiB0P" dmcf-ptype="general">이는 카카오브레인의 이미지 생성 서비스 '칼로'에도 반영됐다. 칼로는 인간이 직접 선정성, 저작권 위반, 부적절한 표현 등 위험 요소를 제거한 데이터를 학습했다.</p> <p dmcf-pid="6M4LNEnbu6" dmcf-ptype="general">김 리더는 "기업 등 개별 이해관계자뿐 아니라 글로벌 협력을 통해 AI 안전 표준을 확립해야 한다"고 촉구했다.</p> <p dmcf-pid="PR8ojDLKF8" dmcf-ptype="general">legomaster@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
여수짱똥깨
500
2
학입니다
400
3
올나잇스머프
300
4
태산희님
300
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
N
채팅하기