【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]"AI 모델 개발 과정서 '위험의 임계치' 찾아야"

온카뱅크관리자

2024-04-12 16:06:28

<div id="layerTranslateNotice" style="display:none;"></div> 프론티어모델포럼 의장, 콘퍼런스서 밝혀 스태빌리티AI 창업자는 '탈중앙화' 강조 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="yDG4NEnb7V">
 <figure class="figure_frm origin_fig" dmcf-pid="WwH8jDLKF2" dmcf-ptype="figure">
 <img alt="크리스 메세롤 프론티어모델포럼 의장 [촬영 오규진]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/12/yonhap/20240412160628275cuuz.jpg" data-org-width="1200" dmcf-mid="6CL36R2X06" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/12/yonhap/20240412160628275cuuz.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 크리스 메세롤 프론티어모델포럼 의장 [촬영 오규진]
 </figcaption>
 </figure>
 (서울=연합뉴스) 오규진 기자 = 크리스 메세롤 프론티어모델포럼 의장은 인공지능(AI) 모델을 개발하는 과정에서 '위험의 임계치'를 찾아야 한다고 조언했다.
 메세롤 의장은 12일 서울 강남구 코엑스(COEX)에서 열린 글로벌 AI 안전 콘퍼런스에 기조연설자로 나서 "(고도의 능력을 갖춘 AI인) 프론티어 AI를 설계하는 방법은 알지만, AI가 어떤 능력을 갖출지는 모른다"며 이같이 밝혔다.
 그는 "AI가 에이전트 형태로 변해갈수록, 여기에 따르는 문제를 해결하기는 어려워지고, 중요함은 더 도드라진다"면서 위험 경감 정책, 위험 책임에 대한 공시, 레드라인 설정 등을 방법론으로 제시했다.
 프론티어모델포럼은 구글과 마이크로소프트(MS), 오픈AI, 앤트로픽 등이 AI 모델의 안전 표준 개발을 위해 결성한 포럼이다.
 <figure class="figure_frm origin_fig" dmcf-pid="Z2Lyz90Cpq" dmcf-ptype="figure">
 <img alt="화상으로 참여한 댄 헨드릭스 AI 안전센터 디렉터 [촬영 오규진]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/12/yonhap/20240412160629034kfst.jpg" data-org-width="1200" dmcf-mid="Qtw36R2Xu4" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/12/yonhap/20240412160629034kfst.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 화상으로 참여한 댄 헨드릭스 AI 안전센터 디렉터 [촬영 오규진]
 </figcaption>
 </figure>
 화상으로 참여한 비영리기구 'AI 안전센터'의 댄 헨드릭스 디렉터도 AI 모델을 개발하는 과정에서 정보 제약의 중요성을 역설했다.
 일론 머스크 테슬라 최고경영자(CEO)가 오픈AI의 대항마로 설립한 AI 업체 'xAI'의 안전담당 고문을 맡고 있는 그는 "AI 모델이 특정 위험 정보를 보유하고 있을 때 (의도적으로) 학습하지 않는 방법을 연구하고 있다"고 소개했다.
 모델에 레이어를 추가해 전문 지식이 없는 '초보자'와 전문가가 질문했을 때의 답변을 다르게 하는 방식이라고 헨드릭스 디렉터는 설명했다.
 <figure class="figure_frm origin_fig" dmcf-pid="F4aGbfuSuU" dmcf-ptype="figure">
 <img alt="에마드 모스타크 스태빌리티AI 설립자 [촬영 오규진]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/12/yonhap/20240412160629627wqed.jpg" data-org-width="1200" dmcf-mid="xuMIFuXDzf" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/12/yonhap/20240412160629627wqed.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 에마드 모스타크 스태빌리티AI 설립자 [촬영 오규진]
 </figcaption>
 </figure>
 이미지 생성 AI '스테이블 디퓨전'을 만든 스태빌리티AI의 에마드 모스타크 설립자(전 CEO)는 '탈중앙화된 AI'을 대안으로 제시했다.
 그는 "하나의 인공범용지능(AGI)을 구축하기보다는 여러 개의 작은 모델이 협업하는 것이 (인류에게) 더 안전하다고 생각한다"라면서 각 문화의 특성을 반영한 데이터세트가 다양하게 등장해야 한다고 주장했다.
 과학기술정보통신부와 한국정보통신기술협회(TTA)는 11∼12일 거대언어모델(LLM)의 잠재적 위험 및 취약점을 찾는 '생성형 AI 레드팀 챌린지'를 열었다.
 11일에는 네이버와 SK텔레콤, 업스테이지 등이 참여하는 레드팀 챌린지가, 12일에는 국내·외 전문가들이 AI의 신뢰와 안전성을 논의하는 글로벌 AI 안전 콘퍼런스가 진행됐다.
 콘퍼런스에는 에이단 고메즈 코히어 대표와 하정우 네이버 퓨처AI센터장, 에릭 데이비스 SK텔레콤 부사장, 김경훈 카카오 AI 세이프티 리더, 오혜연 한국과학기술원(KAIST) 전산학부 교수, 김세엽 셀렉트스타 대표 등도 참석했다.
 acdc@yna.co.kr
 ▶제보는 카톡 okjebo
 </section> 
 </div> 
 Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지