로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
흑백요리사 백종원 "안대 벗고 X됐다 라고 생각했다"
N
[연예뉴스]
'컴백' 세븐틴, DJ 칼리드 손잡았다 "엄청나" 신곡 깜짝 스포[공식]
N
[실시간뉴스]
‘끄라톤’ 몰고 온 수증기…징검다리 연휴, 부산 지역 `물폭탄`
N
[실시간뉴스]
"제주 동북동쪽 바다서 규모 2.1 지진… 피해 없을 듯"
N
[실시간뉴스]
이시영·엔믹스·BTS까지…日 누리꾼 독도 악플에 "천박한 짓"
N
커뮤니티
더보기
[자유게시판]
행복한 시간 보내세요
[자유게시판]
벌써 밥먹을시간다가오네요
[자유게시판]
벌써 시간이
[자유게시판]
이른 아침 로그인 완
[자유게시판]
주말이왔네요
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]"AI 고질병 `환각문제` 풀겠다"…해결 뛰어든 빅테크
온카뱅크관리자
조회:
8
2024-10-01 10:35:11
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">MS AI 환각 문제 해결 위해 '수정' 기능 공개<br>구글 또한 버텍스 AI 통해 유사한 기능 도입<br>전문가들은 회의적…"100% 해결 어려워"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QS1xgVKGTx"> <figure class="figure_frm origin_fig" dmcf-pid="xvtMaf9HhQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="로이터 연합 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/01/dt/20241001103512189dqgy.jpg" data-org-width="540" dmcf-mid="6YI74tZwvR" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/01/dt/20241001103512189dqgy.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 로이터 연합 제공 </figcaption> </figure> <figure class="figure_frm origin_fig" dmcf-pid="yjI74tZwCP" dmcf-ptype="figure"> <p class="link_figure"><img alt="MS의 '수정' 기능을 적용한 자료 화면. MS 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/01/dt/20241001103513410wqod.jpg" data-org-width="540" dmcf-mid="P77LDMP3hM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/01/dt/20241001103513410wqod.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> MS의 '수정' 기능을 적용한 자료 화면. MS 제공 </figcaption> </figure> <p dmcf-pid="WACz8F5rW6" dmcf-ptype="general">생성형 인공지능(AI)의 본격적인 확산을 힘들게 하는 가장 큰 장애물은 AI의 신뢰성을 떨어뜨리는 '환각(hallucination)' 현상이다. 소설, 영화 같은 창작물을 만드는 것을 넘어서서 산업이나 사회 현장에서 핵심적인 문제를 푸는 데 AI를 규모 있게 투입하기 힘든 이유다. 마이크로소프트(MS), 구글 같은 글로벌 빅테크들이 속속 이 문제 해결에 도전하고 있다. AI 환각 현상의 인과관계 파악이 어려워 근본적인 문제 해결이 쉽지 않다는 분석이 나오는 가운데 기술 개발 진척 속도에 관심이 쏠린다. </p> <p dmcf-pid="Ychq631mv8" dmcf-ptype="general">◇계속되는 AI 환각 문제…빅테크들의 해결책은?=MS는 최근 AI 환각 현상을 해결하기 위해 '수정(Correction)' 기능을 개발했다고 발표했다. </p> <p dmcf-pid="GhZPL9BWy4" dmcf-ptype="general">AI 환각은 AI가 질문을 제대로 이해하지 못했거나 학습된 데이터로 답을 할 수 없는 경우 확률적으로 가장 그럴듯한 답변을 내놓으면서 발생한다. AI 검색 기술 플랫폼 벡타라(Vectara)에 따르면 AI 환각 현상은 모든 생성형 AI에서 나타날 수 있다. 생성형 AI가 할루시네이션으로 인해 잘못된 산출물을 생산할 확률은 평균 2.5~22%에 달하는 것으로 알려졌다. 질문이 복잡할수록, 기존에 많이 논의되지 않은 내용일수록 할루시네이션이 발생할 확률이 높다. 지난해 6월 미국의 맨해튼 지방법원은 뉴욕주 변호사 2명이 챗GPT를 이용해 작성한 법원 제출 서류에서 6건의 사실이 아닌 거짓 판례를 인용한 것에 대해 5000달러(약 665만원)의 벌금을 부과한 바 있다. </p> <p dmcf-pid="Hl5Qo2bYTf" dmcf-ptype="general">MS가 이번에 출시한 '수정' 기능은 AI의 안전성을 강화하기 위해 설계된 '애저 AI 콘텐츠 세이프티'의 일부로, 잘못된 내용을 자동으로 감지하고 이를 실시간으로 수정할 수 있는 도구다. 텍스트 출력물에서 오류 가능성이 있는 부분을 먼저 감지한 후, 이를 신뢰할 수 있는 자료와 비교해 수정한다. 예를 들어 기업 실적 발표 요약에서 잘못된 인용을 감지한 후 올바른 자료와 대조해 수정하는 식이다. </p> <p dmcf-pid="XS1xgVKGSV" dmcf-ptype="general">MS는 "소형언어모델(SLM)과 대형언어모델(LLM)을 활용해 생성된 출력물을 기반 문서와 일치시키는 프로세스를 기반으로 한다"며 "의료 분야와 같이 정확성이 중요한 산업에서 큰 도움이 될 것으로 기대된다"고 밝혔다. </p> <p dmcf-pid="ZiEtBYTNT2" dmcf-ptype="general">구글도 최근 AI 개발 플랫폼인 '버텍스 AI'에 유사한 기능을 도입한 바 있다. 사용자가 제3자 데이터 제공업체, 자체 데이터 세트, 또는 구글 검색을 활용해 AI 모델을 검증할 수 있게 한 것이다. </p> <p dmcf-pid="5nDFbGyjl9" dmcf-ptype="general">◇"100% 해결 못 해도 노력 이어가야"=다만 이런 기술적 노력에도 전문가들은 낙관적이지 않다. 오스 키에스 미국 워싱턴대학교 교수는 "생성형 AI에서 환각을 제거하려는 시도는 물에서 수소를 제거하려는 것과 같다"며 "환각 문제는 기술의 작동 방식에 본질적으로 내재된 문제"라고 강조했다. AI 모델은 실제 지식이 아닌, 통계적으로 훈련된 데이터에서 패턴을 예측하는 방식으로 작동하기 때문에 오류를 완전히 없애는 것은 불가능하다는 것이다. </p> <p dmcf-pid="1NOuf1XDyK" dmcf-ptype="general">오태준 우리금융연구소 수석연구원은 "(AI 환각 현상 때문에) 생성형 AI를 활용하는 산업계에서 실질적인 피해와 신뢰 저하 사례가 지속적으로 발생하고 있다"며 "생성형 AI는 작동 원리상 학습을 바탕으로 새로운 결과를 생성하고, 대규모 데이터를 압축해 프로세스 하며, 자연스러운 답변 생성을 위해 결과를 취사 선택하는 과정을 거치는 만큼 환각을 완전히 제거할 수 없다"고 말했다.</p> <p dmcf-pid="tjI74tZwSb" dmcf-ptype="general">다만 문제 해결 시도는 이어가야 한다는 지적이다. 기술이 발전할수록 AI 환각이 줄어들 가능성이 높기 때문이다. 최병호 고려대 인공지능연구소 교수는 "AI 환각 문제를 해결할 완벽한 방법은 아직 없지만 어느 정도 줄일 방법은 있다"며 "AI 환각이 발생하는 근본적인 문제는 데이터 부족인데, 예를 들어 과학 과목만 공부하고 사회 과목을 공부한 적 없는 AI에 사회과목에 대해서 물어보면 AI는 사회문제를 무조건 확률이 높은 것으로 추정해서 내보낸다. 이런 문제를 해결하기 위해 빅테크들이 추론 기능을 강화하는 것"이라고 설명했다. 이어 "최근 퍼플렉시티 등 AI가 출처를 표기하기 시작하면서 환각을 더욱 줄이는 방법들이 제시되고 있다. 100% 해결은 아직 불가능하지만 기술이 점차 진화하고 있다"고 덧붙였다. 유진아기자 gnyu4@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
노익스플로드
200
2
태산희님
100
3
그랑프리옥황상제
100
4
풀카
100
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기