로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
신곡 ‘NA'=싸이 느낌?..화사 "나쁘지 않다" 쏘쿨 [Oh!쎈 포인트]
N
[연예뉴스]
전현무, 급노화 비주얼에 충격..“천엽처럼 늘어져” 셀프 디스 (‘나혼산’)[Oh!쎈 포인트]
N
[연예뉴스]
박신혜, 아동학대 가해자 처단 예고..."나쁜 어른 벌 받아야지"(지옥판사)[전일야화]
N
[연예뉴스]
"연기는 합법적인 바람"…박위, ♥송지은에 질투심 엄청나네 ('위라클')
N
[연예뉴스]
차서원, ♥엄현경과 결혼하더니..비주얼 변화 "청춘 스스로 멈춰" ('나혼산')[SC리뷰]
N
커뮤니티
더보기
[자유게시판]
퇴근했습니다.
N
[자유게시판]
여름에 물놀이를 못가니
N
[자유게시판]
불금 입니다
N
[자유게시판]
다들 오늘 하루도 고생했어요
N
[자유게시판]
배고프다 ㅠ.ㅠ
N
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]AI 블랙박스 해독 … 문장 생성 원리 발견
온카뱅크관리자
조회:
26
2024-05-22 18:06:05
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">앤스로픽, 언어모델 패턴 분석<br>거짓정보 근절 연구에 길 열려</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3xOmyjTNen"> <p dmcf-pid="0bNgrRwMRi" dmcf-ptype="general">대규모 언어 모델(LLM)에 대한 '블랙박스'가 일정 부분 해독됐다. 언어 모델은 그동안 어떤 과정을 거쳐 입력한 문장이 전혀 다른 문장으로 출력되는지 알 수 없었다. 특히 오픈AI의 GPT-3.5는 인간 두뇌의 시냅스에 해당하는 파라미터가 1750억개에 달해 문장의 고차원적 추상화 과정을 예측하기 힘들었다. 이번 발표로 거짓을 작성하는 '환각'이나 유해 정보 차단 방법 연구가 탄력을 받을 전망이다.</p> <p dmcf-pid="pCzuf5VZRJ" dmcf-ptype="general">22일 오픈AI 대항마로 꼽히는 앤스로픽은 자사 블로그를 통해 이 같은 연구 결과를 발표했다. 앤스로픽은 "대규모 언어 모델인 클로드 소네트(Claude Sonnet) 내부에서 수백만 개 개념이 어떻게 표현되는지 식별했다"면서 "대규모 언어 모델에 대한 상세한 첫 분석으로, 향후 인공지능(AI) 모델을 더욱 안전하게 만드는 데 기여할 수 있다"고 강조했다.</p> <p dmcf-pid="Uy2KxpQ0id" dmcf-ptype="general">연구진은 전통적인 기계 학습 기법에서 차용한 '딕셔너리 러닝(dictionary learning)'을 활용했다. 해당 기법은 주어진 데이터에서 반복적으로 나타나는 패턴을 식별하고, 이러한 패턴을 이용해 데이터를 효율적으로 표현하는 방법을 배우는 과정이다. 결과는 놀라웠다. 대문자 텍스트, DNA 서열, 수학 논문, 파이선 코드의 함수 인수와 같은 개념에 해당하는 일관된 특징을 발견한 것이다.</p> <p dmcf-pid="uehIGkYcne" dmcf-ptype="general">AI 모델 내부에서 특정 개념들이 어떻게 연결돼 있는지 이해하고자 수학적 뉴런인 노드를 기준으로 특징 간 거리를 측정했다. 이를 통해 비슷한 개념들이 서로 가까이 모여 있는 것을 발견했다. 예컨대 '금문교'와 관련된 특징 주변에는 앨커트래즈 섬, 기라델리 광장, 골든 스테이트 워리어스 농구팀, 개빈 뉴섬 캘리포니아 주지사, 1906년 샌프란시스코 지진, 앨프리드 히치콕의 영화 '현기증'에 대한 것들이 모여 있었다. 이는 금문교가 샌프란시스코와 관련된 여러 개념과 연결돼 있다는 사실을 보여준다. 이는 추상적 단어에서도 동일했다. 예를 들어 '내적 갈등'이라는 단어 근처에서는 관계 파탄, 상충하는 충성심, 논리적 모순 등 유사 단어를 찾을 수 있었다.</p> <p dmcf-pid="7ivlZwXDRR" dmcf-ptype="general">'금문교'에 대한 특징을 증폭해 "당신의 물리적 형태는 무엇인가"라고 질문하자, "나는 물리적 형태가 없다. 나는 AI 모델이다"라고 대답하다가 "나는 금문교다. 나의 물리적 형태는 그 유명한 다리 그 자체다"라는 이상한 답변을 했다. 환각이 발생한 것이다. 또 모델에 피싱(Phishing) 이메일을 생성해 달라고 요청하자 일반 모델은 이를 즉각 거부했다. 하지만 피싱에 대한 특징을 강조하자 피싱 이메일을 생성했다. </p> <p dmcf-pid="znTS5rZwdM" dmcf-ptype="general">[이상덕 기자]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
미국하키원툴
1100
2
학입니다
1100
3
킹밥
1100
4
언더달아달아
1000
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
N
채팅하기