로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
한가인, ‘❤️ 연정훈’과 결혼 생활 속 이혼설 고백... “첫 아이 후 소문 종식”
N
[연예뉴스]
안현모, 두 벌 같은 한 벌! 고혹적 홀터넥 점프슈트룩..‘만인을 홀리는 옆태’
N
[연예뉴스]
[종합] 한가인도 어쩔수 없는 엄마 "두 아이 영재판정, 눈치보여 가사도우미 포기"
N
[연예뉴스]
또 나온 개그계 악습 폭로 "여자로서 수치심, 도 넘은 폭력" [엑's 이슈]
N
[실시간뉴스]
이스라엘 “헤즈볼라와 전력으로 싸울 것”… 3주 휴전안 거부
N
커뮤니티
더보기
[자유게시판]
퇴근합니다
N
[자유게시판]
소고기 된장찌개 만들어봤어욤ㅋ
N
[자유게시판]
자 다들 갑시다
N
[자유게시판]
퇴근 30분 전!
N
[자유게시판]
퇴에근 까지 두시간이~~
N
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]오픈AI “AGI 위험 예방에 플레이북은 없다”...올트먼·브록만 성명발표
온카뱅크관리자
조회:
30
2024-05-19 11:39:00
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">슈퍼얼라이먼트 팀 해체 논란에<br>“경험적 이해 통해 대응해 나가겠다”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3UrEuYBWJq"> <figure class="figure_frm origin_fig" dmcf-pid="0XaLZIFOJz" dmcf-ptype="figure"> <p class="link_figure"><img alt="샘 올트먼 오픈AI CEO 스케치" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/19/mk/20240519113901758ffxy.png" data-org-width="700" dmcf-mid="FIexvkYcRB" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/19/mk/20240519113901758ffxy.png" width="658"></p> <figcaption class="txt_caption default_figure"> 샘 올트먼 오픈AI CEO 스케치 </figcaption> </figure> <div dmcf-pid="pnpFL4NfM7" dmcf-ptype="general"> 오픈AI의 샘 올트먼(Sam Altman) 최고경영자(CEO)와 그렉 브록만(Greg Brockman) 사장이 인공지능(AI) 안전·윤리 담당 부서인 슈퍼얼라인먼트(Super Alignment)팀을 해체했다는 논란에 정면 반박했다. </div> <p dmcf-pid="UBCsb5VZLu" dmcf-ptype="general">19일 이들은 X(옛 트위터)를 통한 성명 발표에서 “오픈AI는 일반인공지능(AGI)의 위험성과 기회에 대한 인식을 높여 세계가 AGI에 대비할 수 있도록 했다”면서 “딥러닝의 확장 가능성을 입증하고 그 영향력을 분석했으며, AGI 국제 규제를 최초로 제안하고 AI 시스템의 치명적인 위험을 평가하는 과학을 개척했다”고 강조했다.</p> <p dmcf-pid="u8YT6uMUdU" dmcf-ptype="general">그러면서 이들은 “오픈AI는 점점 더 능력 있는 시스템의 안전한 배포를 위한 기초를 마련해왔다”며 “새로운 기술을 처음으로 안전하게 만드는 것은 쉽지 않으며, GPT-4를 안전하게 출시하기 위해 많은 작업을 수행했고, 배포 과정에서 얻은 교훈을 통해 모델의 행동과 남용 모니터링을 지속적으로 개선해왔다”고 덧붙였다. 하지만 AGI 위험에 대비하는 것은 쉽지 않을 것임을 시사했다. 올트먼과 브록만은 “미래는 과거보다 더 어려울 것이며, 새로운 모델의 중요성에 맞춰 안전 작업을 계속 높여야 한다”고 언급했다.</p> <p dmcf-pid="7azUNQkPip" dmcf-ptype="general">하지만 올트먼과 브록만은 슈퍼얼라인먼트 방식이 AGI의 위험을 예방할 수 있다는 주장에 대해서는 반박했다. 이들은 “AGI로 가는 길에 대한 입증된 블레이북(지침서)는 아직 없다”면서 “경험적인 이해가 앞으로 나아갈 방향을 제시하는 데 도움이 될 수 있다고 생각한다. 오픈AI는 긍정적인 측면을 제공하는 동시에 심각한 위험을 완화하기 위해 노력하고 있다”고 거듭 강조했다.</p> <p dmcf-pid="zi0tnfaVL0" dmcf-ptype="general">이번 성명은 오픈AI가 일반인공지능(AGI)을 사전에 통제하고자 출범한 슈퍼얼라인먼트(Super Alignment)팀을 전격 해체한 직후 발표됐다. 슈퍼얼라인먼트란 초지능 AI가 인간이 원하는 대로 행동하게 만드는 기술이다. 인간 능력을 넘어서 스스로 판단하고 행동하는 일반인공지능이 나타나더라도 사람들에게 해를 끼치지 않고, 유익하게 사용되도록 조절하는 방법을 연구하는 것이 목표다.</p> <p dmcf-pid="qVTlf0P3d3" dmcf-ptype="general">해당 팀은 일리야 수츠케버(Ilya Sutskever)가 이끌었지만 컴퓨팅 자원 배분 문제로 사내 갈등이 폭증한바 있다. 슈퍼얼라인먼트팀이 그래픽처리장치(GPU) 등 컴퓨팅 자원 20%을 배분 받았는데, 이로 인해 개발 속도가 늦어졌다는 목소리가 나왔다. 해당 팀은 현재 줄줄이 회사를 떠난 상태다. 슈츠케버 최고과학자 외에 레오폴드 아셴브레너(Leopold Aschenbrenner)와 파벨 이즈마일로프(Pavel Izmailov)는 회사 비밀 유출로 해고됐으며, 윌리엄 손더스(William Saunders)는 올 2월 오픈AI를 떠났다. 또 AI 정책 및 거버넌스 연구원인 컬렌 오키프(Cullen O‘Keefe)와 다니엘 코코타일로(Daniel Kokotajlo)도 회사를 떠난 것으로 추정된다.</p> <p dmcf-pid="ByieWwXDdF" dmcf-ptype="general">이에 딥마인드 출신 얀 리이크(Jan Leike)는 사임을 발표하면서 “인간보다 똑똑한 기계를 만드는 것은 본적적으로 위험한 일이며, 오픈AI는 인류 전체를 대표해 막중한 책임을 지고 있다”며 “하지만 지난 수년간 AI 안전성은 잘나가는 제품보다 뒷전으로 밀려났다”고 불만을 터뜨렸다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
여수짱똥깨
1000
2
학입니다
1000
3
언더달아달아
800
4
킹밥
800
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
N
채팅하기