로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[실시간뉴스]
'블록버스터부터 고전까지'…브뤼셀서 26일 한국영화제 개막
N
[실시간뉴스]
美 "이스라엘의 레바논 지상전 돌입 임박했다고 보지 않는다"
N
[실시간뉴스]
트럼프 "나를 공격하면 산산조각 난다고 이란에 경고해야"
N
[실시간뉴스]
英총리, 안보리서 "러 사상자 60만명…자국민 분쇄기에 던져"
N
[연예뉴스]
한소희 "개인사가 공적인 일 관여하면 안돼"..'재밌네 대첩'→모친 구설수 '종결' [종합]
N
커뮤니티
더보기
[유머★이슈]
바란 은퇴보다 더 소름돋는점
N
[유머★이슈]
오늘 국군의날 예행연습에 최초 공개된 장비들
N
[자유게시판]
해가 빨리 지네요
N
[자유게시판]
퇴근해보겠습니다
N
[자유게시판]
시간 빠르네요
N
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]딥마인드, AGI 경보 시스템 만든다…AI 서울 정상회의서 발표
온카뱅크관리자
조회:
26
2024-05-18 14:33:00
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">‘프런티어 세이프티 프레임워크’<br>초지능 AI 모델 출현 위험 대비<br>“모델 평가 주기적 재검토한다”<br>2025년부터 감시 도구 전면 실시</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="uRv5lOtsi7"> <figure class="figure_frm origin_fig" dmcf-pid="7uaroJsdJu" dmcf-ptype="figure"> <p class="link_figure"><img alt="14일(현지시간) 미국 캘리포니아주 마운틴뷰 본사에서 열린 연례 개발자 행사 ‘I/O 2024’에서 데미스 하사비스 구글 딥마인드 CEO가 제미나이에 대해서 설명하고 있다. <사진=구글>" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/18/mk/20240518143301909lpht.png" data-org-width="700" dmcf-mid="pNgwLdmeiq" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/18/mk/20240518143301909lpht.png" width="658"></p> <figcaption class="txt_caption default_figure"> 14일(현지시간) 미국 캘리포니아주 마운틴뷰 본사에서 열린 연례 개발자 행사 ‘I/O 2024’에서 데미스 하사비스 구글 딥마인드 CEO가 제미나이에 대해서 설명하고 있다. <사진=구글> </figcaption> </figure> <div dmcf-pid="zYPn82o9JU" dmcf-ptype="general"> 구글 딥마인드는 인공지능(AI) 모델이 사람들에게 심각하고 즉각적인 위협을 가할 수 있는 미래가 도래할 것에 대비해 새로운 프레임워크를 18일 발표했다. </div> <p dmcf-pid="qv8JfKnbLp" dmcf-ptype="general">딥마인드 블로그에 따르면, 딥마인드는 앞으로 모델 훈련에 사용되는 컴퓨팅 파워가 6배 증가하거나 모델이 3개월 동안 미세 조정될 때마다 모델을 재평가한다. 딥마인드는 다른 AI 기업, 연구자, 입법가와 협력해 해당 프레임워크를 개선하고, 2025년까지 감시 도구를 구현한다는 방침이다.</p> <p dmcf-pid="BFLEiRwMn0" dmcf-ptype="general">딥마인드 내에서는 현재 ‘레드 팀’이 수개월 동안 다양한 프롬프트를 사용해 모델의 안전 장치를 우회하려고 시도하는 테스트를 한다. 이 접근법은 현행 AI 모델이 충분히 강력하지 않아 적절히 작동하고 있지만, 연구자들은 모델의 능력이 향상함에 따라 더 강력한 프로세스가 필요하다고 믿고 있다.</p> <p dmcf-pid="bUNmgiOJM3" dmcf-ptype="general">딥마인드가 발표한 프론티어 안전 프레임워크는 이러한 문제를 해결하기 위한 방법 중 하나이다. 딥마인드는 “이러한 위험이 현재 모델의 범위를 넘어섰지만, 프레임워크를 구현하고 개선하는 것이 이러한 문제를 해결하는 데 도움이 되기를 바란다”고 밝혔다.</p> <p dmcf-pid="Klfe2BJqdF" dmcf-ptype="general">딥마인드는 AI 모델의 조기 경고 시스템을 1년 이상 연구해왔으며, 대부분의 회사들이 사용하는 방법을 훨씬 뛰어넘는 새로운 모델 평가 방법에 대한 논문을 발표했다. 프론티어 모델 프레임워크는 모델의 지속적인 평가와 연구자들이 ‘중요한 능력 수준’을 발견했을 때 취해야 할 완화 방법을 포함한 간결한 프로토콜 세트를 담고 있다. 여기서 중요한 능력 수준은 AI 연구 분야에서 인간을 조종할 수 있는 모델이나 정교한 악성 소프트웨어를 작성할 수 있는 능력을 가리킨다.</p> <p dmcf-pid="9qkCAgloMt" dmcf-ptype="general">딥마인드는 자율성, 생물 보안, 사이버 보안, 기계 학습 연구 및 개발의 네 가지 영역에서 특정 중요한 능력 수준을 설정했다. 딥마인드는 다음 주 서울에서 열리는 AI 안전 정상 회담에서 프레임워크에 대해 발표할 예정이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
여수짱똥깨
800
2
언더달아달아
700
3
학입니다
600
4
태산희님
600
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
N
채팅하기