로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[실시간뉴스]
대구 도시철도 1호선 하양 연장선 어떤 모습일까?···실제 개통처럼 시운전 시작
N
[실시간뉴스]
임대형 스마트팜 늘고 있지만···"창업의 문턱은 높아"
N
[실시간뉴스]
[앵커 브리핑] 더 뜨거워지는 대구 스포츠 열기···이젠 '농구'가 이어받을 수 있을까?
N
[실시간뉴스]
과방위, '직무정지' 이진숙 불러 공방‥"이틀 일하고 2천만 원 받아"
N
[실시간뉴스]
“내달 동래구 신청사 준공…지하에 유적전시관 조성”
N
커뮤니티
더보기
[자유게시판]
몸이 뻐근하네요
N
[자유게시판]
선선한가요?
N
[자유게시판]
슬슬 퇴근
N
[자유게시판]
내일하루하면 또 휴일
N
[자유게시판]
스근하게 갔다올께요
N
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]'통제력 상실, 악용' 막는다…네이버, AI 안정성 실천체계 공개
온카뱅크관리자
조회:
28
2024-06-17 09:56:28
<div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="VcA4o2WA9S"> <figure class="figure_frm origin_fig" dmcf-pid="f4fZbGNf2l" dmcf-ptype="figure"> <p class="link_figure"><img alt="경기 성남시 분당구 네이버 사옥 모습. 2024.05.13. /사진제공=뉴시스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/17/moneytoday/20240617095630764swjb.jpg" data-org-width="1024" dmcf-mid="23LbezhLVv" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/17/moneytoday/20240617095630764swjb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 경기 성남시 분당구 네이버 사옥 모습. 2024.05.13. /사진제공=뉴시스 </figcaption> </figure> <p dmcf-pid="4IOdDMFObh" dmcf-ptype="general"><br>네이버(NAVER)는 17일 자체 기술 채널인 '채널 테크'를 통해 '네이버 ASF(AI Safety Framework)'를 발표했다. </p> <p dmcf-pid="8BqTplJqfC" dmcf-ptype="general">네이버 ASF는 AI(인공지능) 시스템을 개발하고 배포하는 과정의 모든 단계에서 AI의 잠재적 위험을 인식·평가·관리하기 위한 대응 체계다. 네이버는 2021년 '네이버 AI 윤리 준칙', 2022년 'AI 윤리 자문 프로세스'에 ASF 마련으로 AI 안전성의 실천 체계를 한층 구체화했다.</p> <p dmcf-pid="6WyNhoqyfI" dmcf-ptype="general">네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 각각 '통제력 상실 위험'과 '악용 위험'으로 정의하고, 각각의 대응 방법을 설계했다. 먼저 인간이 AI 시스템에 영향을 미치지 못하게 되는 통제력 상실 위험의 완화를 위해 'AI 위험 평가 스케일'을 통해 AI 시스템의 위험을 주기적으로 평가·관리한다. 특히 현존 최고 성능의 AI 시스템을 '프런티어 AI'로 정의하고, 이 기술 수준의 AI 시스템에 대해서는 3개월마다 위험 평가를 수행한다. 또 시스템의 능력이 기존보다 6배 이상 급격히 증가한 경우에는 그 시점에 추가 평가가 이뤄진다.</p> <p dmcf-pid="PGYASabYVO" dmcf-ptype="general">악용 위험에는 AI 시스템의 사용 목적과 안전 조치 필요성 정도에 따라 각각 다른 방법을 적용하는 'AI 위험 평가 매트릭스'로 대응한다. 예컨대 생화학 물질 개발처럼 특수한 목적으로 사용되는 AI 시스템은 특별한 자격이 있는 사용자에게만 제공하고, 사용 목적과 관계없이 안전 조치의 필요성이 높은 AI 시스템이라면 추가적인 기술적·정책적 안전 조치를 통해 위험이 완화될 때까지는 배포하지 않는다.</p> <p dmcf-pid="Qqzv0hdz9s" dmcf-ptype="general">송대섭 네이버 아젠다 리서치 리더는 "해외 빅테크들 역시 각자의 기준과 방식으로 AI 안전성 프레임워크를 설계하고 실천하고 있다"면서도 "AI 안전성에서도 각 지역의 사회 기술적 맥락을 고려하거나, '매트릭스' 형태의 위험 평가 구조를 채택한 것은 네이버 ASF만의 특징"이라고 소개했다.</p> <p dmcf-pid="xRMp8FwMVm" dmcf-ptype="general">이에 따라 네이버는 문화적 다양성을 반영한 AI 안전성 체계로 네이버 ASF를 발전시켜나갈 계획이다. 한국 외 다른 지역의 정부 및 기업과 소버린(Sovereign) AI를 공동 개발하며 특정 문화권에서 성립될 수 있는 AI 시스템의 위험을 식별하고, 위험의 정도를 측정하는 벤치마크(benchmark)도 문화권의 특성을 반영해 고도화할 예정이다.</p> <p dmcf-pid="yt1rGE41Br" dmcf-ptype="general">실제로 네이버는 한국어 기준으로 구축한 AI 안전성 강화 학습 데이터셋을 글로벌로 확장한 경험이 있다. 네이버는 지난해 자연어처리 학회 'ACL 2023'에서 종교·도덕 등 이슈에 대해 AI가 편향적으로 발화하는 문제를 완화하기 위한 새로운 대량의 한국어 데이터셋을 제안했다. 이 연구에서는 문화권에 따라 사회적으로 민감한 문제가 달라질 수 있다는 점을 고려해 같은 종류의 데이터셋을 다른 언어 기반으로도 구축할 수 있도록 데이터 설계 프로토콜을 함께 제안했고, 글로벌 AI 커뮤니티에 기여했다는 평가와 함께 학계의 주목을 받았다.</p> <p dmcf-pid="WZXEyA2X9w" dmcf-ptype="general">최수연 네이버 대표이사는 "네이버는 한국에서 '하이퍼클로바X'라는 소버린 AI를 개발한 경험을 통해, 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다"며 "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속해서 개선해나갈 계획"이라고 말했다.</p> <p dmcf-pid="Yz7S3Ce7KD" dmcf-ptype="general">변휘 기자 hynews@mt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 머니투데이 & mt.co.kr, 무단 전재 및 재배포 금지</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
여수짱똥깨
400
2
우로스써보세요
300
3
풀카
300
4
사나존예보스
300
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
N
채팅하기