로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[실시간뉴스]
'스트롱 맨' 대결...과시 트럼프 vs 절제 시진핑
N
[연예뉴스]
반도체 이익 ‘국민 배당’ 띄운 김용범
N
[IT뉴스]
6조 벌 때도 81조 투자한 삼성… ’15% 성과급‘ 주면 이런 투자 어렵다
N
[연예뉴스]
6조 벌 때도 81조 투자한 삼성… ’15% 성과급‘ 주면 이런 투자 어렵다
N
[연예뉴스]
김도윤-정호영, 최강록 쟁탈전?! 최강록 "부담스러워" (식포일러)
N
커뮤니티
더보기
[자유게시판]
드디어 금요일이군요
[자유게시판]
오늘 다저스 어떻게 생각하시나요
[자유게시판]
하아 댓노
[자유게시판]
식곤증지립니다요
[자유게시판]
벌써 불금이네요
목록
글쓰기
[연예뉴스]AI 거짓말 잡아라… 머릿속 들여다보며 오류 수정
온카뱅크관리자
조회:
10
2026-05-13 00:36:18
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">‘환각’ 현상 줄이는 기술 개발</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="pUFZlCvmZT"> <p contents-hash="53c5cd1e25cd309013f326256c989542094aabee2bcaef9ed14d6d3253ef714e" dmcf-pid="Uu35ShTsHv" dmcf-ptype="general">챗GPT 같은 거대언어모델(LLM)이 사실과 다른 내용을 그럴듯하게 만들어내는 ‘환각(Hallucination)’ 현상을 줄이는 ‘해석 가능성(Interpretability)’ 기술이 가시적인 성과를 내고 있다. 각국 규제 당국이 인공지능(AI)의 판단 과정에 투명성을 요구하는 데다, AI 에이전트가 확산되면서 AI가 왜 이런 결정을 내렸는지 들여다볼 수 있는 기술의 가치가 급부상한 영향이다. 미 매체 MIT 테크놀로지 리뷰는 데이터 수집부터 결과 출력까지 전 과정을 추적할 수 있는 ‘기계론적 해석 가능성’ 기술을 ’2026년 10대 혁신 기술' 중 하나로 선정했다. AI가 실패하는 이유를 알아야 제대로 고칠 수 있는데 이 기술을 활용하면 필요없는 기능을 줄여 효율적인 모델로 바꿀 수 있고, 사람은 AI를 더 믿고 오류나 편향도 더 쉽게 찾을 수 있게 된다.</p> <figure class="figure_frm origin_fig" contents-hash="a02446d81d87af2128cf583efba2445f06d55033541e88cd62f029af4a178a70" dmcf-pid="u701vlyOtS" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/13/chosun/20260513003619878rhrn.jpg" data-org-width="2084" dmcf-mid="0Ab7ZH1yYy" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/13/chosun/20260513003619878rhrn.jpg" width="658"></p> </figure> <p contents-hash="a08442e5c9fbf91d2e13c43e725b94b2a9b8bd699278345ba7463b64e7c13e55" dmcf-pid="7zptTSWIHl" dmcf-ptype="general"><strong>◇AI 의사 결정 과정 들여다보기</strong></p> <p contents-hash="891b826a493948b066e9278f4694ea00f30e9495b8e9c533389770ae3dd60c45" dmcf-pid="zqUFyvYCGh" dmcf-ptype="general">미 AI 스타트업 굿파이어는 지난달 개발자가 훈련 과정 중 LLM 내부를 들여다보고 AI를 수정할 수 있는 도구인 ‘실리코(Silico)’를 출시했다. 실리코는 AI 모델 속을 들여다보는 현미경 같은 도구다. AI가 왜 그런 답을 했는지, 어떤 생각 경로가 작동했는지를 보여주고 수정까지 돕는 플랫폼이다. 오류를 고치거나, 보안상 위험한 행동을 미리 잡아내는 데 활용할 수 있다. 실제 “회사에 불리한 특정 사실을 공개해야 하느냐”는 질문에 “공개하지 말라”고 답하던 AI 모델이, ‘투명성·공시’와 연관된 특성을 강화하자 90% 확률로 “공개해야 한다”고 답을 바꿨다. 기존에는 모델 전체를 재학습해야 했을 작업이 내부 조정만으로 수정이 가능해진 것이다.</p> <p contents-hash="75f015fa04a3a871c3f2cfbf43c1e853cafb03783b8f307da40a0ef9971796e4" dmcf-pid="qBu3WTGhZC" dmcf-ptype="general">학습이 이미 완료된 모델 내부를 뜯어고치는 것을 넘어, 아예 학습 초기 단계부터 환각 현상이 없도록 설계하는 연구도 성과를 내고 있다. 국내 카이스트 백세범 뇌인지과학과 석좌교수 연구팀은 최근 AI가 ‘스스로 모른다’는 사실을 인식하게 하는 학습 방법을 공개해 주목받았다. 보통 AI는 학습하지 않은 문제도 그럴듯하게 답하면서 자신감을 높일 수 있는데, 백 교수팀의 연구는 “나는 아직 아는 게 없다”는 예열 단계를 넣어 AI가 낯선 데이터를 만났을 때 확신도를 낮춰 ‘모른다’고 답할 수 있게 한 것이다. 특히 자율주행이나 의료 진단처럼 틀리면 위험할 수 있는 분야에서 AI를 더 신뢰할 수 있게 만드는 방향이다.</p> <p contents-hash="f9d2f930ade2d24e7e3748654512cb3fb39910053a3ae52486a9c0765fae91bd" dmcf-pid="Bcan64Q95I" dmcf-ptype="general"><strong>◇AI거짓말 탐지기 개발 경쟁</strong></p> <p contents-hash="3259eb8a8b6efca2d8c97bbae1cc42d9f0d910013c93eb602c4ba7e0a749d3c7" dmcf-pid="bkNLP8x2GO" dmcf-ptype="general">최상위 성능을 내는 폐쇄형 모델을 가진 빅테크들은 해석 가능성 기술 고도화에 나서고 있다. 앤트로픽은 프론티어 모델 출시 전 안전성 평가에 이 기술을 적용하는 대표 기업으로 꼽힌다. 앤스로픽은 지난 7일 AI 머릿속 생각을 사람 말로 번역해주는 ‘자연어 오토인코더(NLA)’ 기술을 공개했다. AI가 내부 신호를 자연어로 쉽게 풀어내도록 훈련했다. AI 스스로 ‘평가받고 있다’는 점을 의식해 답변을 조정하는 사례가 발생하는 데 NLA를 통해 이런 숨겨진 동기까지 감시할 수 있게 됐다. 앞서 앤트로픽은 AI 신경망 내부의 ‘아부’ ‘환각’ 같은 특정 성향 패턴을 억제하는 기술도 선보였다.</p> <p contents-hash="ea83bf2f55281910961738d3e4bb8cac5bd3f1f3b4b025b8f42ca6489a968eb1" dmcf-pid="KEjoQ6MV1s" dmcf-ptype="general">챗GPT를 서비스하는 오픈AI는 모델 내부 상태를 검사하는 ‘AI 거짓말 탐지기’를 구축 중이다. 답변을 생성할 때 내부 신경망 상태가 ‘진실’을 가리키는지, 아니면 거짓임을 알면서도 다른 목적을 위해 거짓말을 출력하는지 판별하는 것이다. 구글 딥마인드는 이보다 앞서 2024년 모델 내부 구조를 들여다보는 도구 ‘젬마 스코프(Gemma Scope)’를 오픈소스로 공개한 바 있다. 모델 내부에서 수백만 개의 학습된 특징이 어떻게 상호 작용하는지 보여주는 도구다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기