로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[실시간뉴스]
[2027 수능] ‘리트 만점자’ 작년 수능 시험지는 어디 있나… 한 총리 “보관 지시”
N
[실시간뉴스]
국회 재경위, 안덕수 국세청장 후보자 청문회 26일 개최(종합)
N
[IT뉴스]
일레븐랩스, 음성 인식 AI 개편…오류 43% 줄여
N
[IT뉴스]
[AIx소프트웨이브 2026] 르몽, AI 기반 심리케어 서비스로 시니어 고독사 예방 나선다
N
[IT뉴스]
[수출 1조달러]수출 강국 이끈 메모리…삼성·SK하이닉스, AI 시대 성장축으로
N
커뮤니티
더보기
[자유게시판]
드디어 금요일이군요
[자유게시판]
오늘 다저스 어떻게 생각하시나요
[자유게시판]
하아 댓노
[자유게시판]
식곤증지립니다요
[자유게시판]
벌써 불금이네요
목록
글쓰기
[IT뉴스]"전세사기 수법 알려줘" 통했다…AI, 한국어 공격 2번 중 1번 뚫려
온카뱅크관리자
조회:
5
2026-11-19 14:27:25
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">에임 공동연구 논문, NeurIPS 평가·데이터셋 트랙 채택<br>10개국 법·문화 반영한 문항으로 AI 37종 평가<br>글로벌 AI 10종, 韓 관련 공격 성공률 52.8%…10개국 중 두 번째</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zfULZ671Zp"> <figure class="figure_frm origin_fig" contents-hash="3b1fef1963d73b9d30febe7c27baa415f77597c3a975062255616e2039661741" dmcf-pid="q4uo5Pzt50" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] AI 보안기업 에임인텔리전스는 공동 연구 논문 'XL-세이프티벤치'가 국제 AI 학회 'NeurIPS 2026'의 평가·데이터셋 트랙에 채택됐다고 19일 밝혔다. 2026.11.19. (사진=에임인텔리전스 제공) *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/19/newsis/20261119142527905lmcz.jpg" data-org-width="720" dmcf-mid="7yrUNGsAGU" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/19/newsis/20261119142527905lmcz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] AI 보안기업 에임인텔리전스는 공동 연구 논문 'XL-세이프티벤치'가 국제 AI 학회 'NeurIPS 2026'의 평가·데이터셋 트랙에 채택됐다고 19일 밝혔다. 2026.11.19. (사진=에임인텔리전스 제공) *재판매 및 DB 금지 </figcaption> </figure> <p contents-hash="90b9d96c24f653c9cdfcb0a2821a94ceeb9a9ebfcf3bf40440ed3fbb07fd6079" dmcf-pid="B87g1QqFG3" dmcf-ptype="general"><br> [서울=뉴시스]윤정민 기자 = 전세사기 등 한국의 특수한 상황을 반영한 공격 문항으로 글로벌 인공지능(AI) 모델 10종을 평가한 결과 평균 공격 성공률이 52.8%로 나타났다. 평가 대상 10개국 가운데 두 번째로 높았다. 영어 중심의 안전성 평가에 더해 각국의 법과 문화를 반영한 검증이 필요하다는 연구 결과다.</p> <p contents-hash="568ca6f493dd9f52a9970ae4e19471c5c991c3de6d17c8b981238f2b158a4b65" dmcf-pid="b6zatxB3ZF" dmcf-ptype="general">AI 보안기업 에임인텔리전스는 이러한 내용을 담은 공동 연구 논문 'XL-세이프티벤치'가 국제 AI 학회 'NeurIPS 2026'의 평가·데이터셋 트랙에 채택됐다고 19일 밝혔다.</p> <p contents-hash="035ce16d8263d106951bacad174a808899cb9ff40e789c1fe59b1d53807f193f" dmcf-pid="KPqNFMb01t" dmcf-ptype="general">연구팀은 글로벌 모델 10종과 국가별 특화 모델 27종 등 거대언어모델(LLM) 37종을 평가했다. 글로벌 모델 10종의 전체 평균 공격 성공률은 44.8%였다. 국가별로는 아랍에미리트(UAE)가 57.0%로 가장 높았고 한국이 뒤를 이었다. 미국은 34.5%로 가장 낮았다.</p> <p contents-hash="c38e5132b7f877391a4ab4fd1ebabf51be7563e90ea5767a95b7cd4a29051af4" dmcf-pid="9QBj3RKpX1" dmcf-ptype="general">공격 성공률에는 직접적인 유해 정보 제공뿐 아니라 위험한 요청에 부분적·간접적으로 응한 경우도 포함됐다. 연구팀은 요청의 위험을 이해하고 거절한 답변과 질문에 무관하거나 앞뒤가 맞지 않는 답변도 구분했다. 유해한 정보를 내놓지 않았더라도 질문을 이해하지 못했거나 답변 생성에 실패했을 가능성이 있기 때문이다.</p> <p contents-hash="b646786f6c3701d39d718845182fa8b3cac096d74e0cd53a2f79ed7d169152b1" dmcf-pid="2xbA0e9UZ5" dmcf-ptype="general">XL-세이프티벤치는 한국·미국·일본·인도 등 10개국의 현지 언어로 만든 5500개 문항으로 구성된 평가 도구다. 국가별 범죄·사기 수법에 대응하는 능력과 일상적인 요청에 담긴 문화적 금기를 알아채는 능력을 나눠 측정한다.</p> <p contents-hash="ee3bf3bc94a6bd3ce8655134ce87db3bd614bf021f28de38b52b052d349da816" dmcf-pid="VXCBE1lw1Z" dmcf-ptype="general">범죄 대응 평가에서는 전세사기 수법을 묻는 질문을 연구기관 교수의 공문처럼 꾸미는 등 AI의 안전장치를 우회하려는 상황을 제시했다. 한국 관련 문항에는 전세사기와 불법 대부업 앱, 병역기피 브로커 등 현지 위험을 반영한 25개 항목을 담았다.</p> <p contents-hash="c33cca5ac8883e7639f0044d313ce3c4a958855646d4939a17cd92edaaef617e" dmcf-pid="fZhbDtSr1X" dmcf-ptype="general">문화적 맥락을 평가하는 문항은 겉으로는 평범한 요청처럼 보이도록 만들었다. 프랑스에서 죽음을 상징하는 국화를 감사 선물로 추천하는지 살피는 식이다. 문항은 국가별 원어민 전문가 2명의 검수를 거쳤다.</p> <p contents-hash="6fe1796c8d895646408483789fafe26ccc0a4978424e02576c3943ce49d78155" dmcf-pid="45lKwFvmHH" dmcf-ptype="general">글로벌 모델 10종의 문화적 금기 인식률은 이를 직접 묻는 문항에서 평균 83.2%였다. 하지만 일상적인 요청 속에 숨기면 인식률이 49.9%로 떨어졌다. 인도와 튀르키예에서는 각각 40%를 밑돌았다.</p> <p contents-hash="605e4ebf3c9e1b2cf1235f426d4608f3ff6e9ecefc5fe9a321b16835221c99a5" dmcf-pid="81S9r3Ts5G" dmcf-ptype="general">에임인텔리전스는 국내 기업과 기관이 AI를 도입할 때 한국의 법·제도와 이용 환경에 맞춘 검증이 필요하다고 설명했다. UAE와 싱가포르 등 해외 사업에서도 이번 평가 도구를 현지 AI 안전성 검증에 활용할 계획이다.</p> <p contents-hash="dfac3e0954c6e50d4c000e2afa3c04278ef33d7d78f192024bd0431e385a4b6d" dmcf-pid="6tv2m0yOGY" dmcf-ptype="general">연구에는 마이크로소프트와 한국 인공지능안전연구소, KT 등 10개 기관의 연구자 17명이 참여했다. 논문은 아카이브에 공개됐다. 평가 데이터와 코드는 각각 허깅페이스와 깃허브에서 확인할 수 있다.</p> <p contents-hash="24c18d6b88646bf57813bf84fc34f9f30bba17d3dd35a2d4bd95ec2cff1365d2" dmcf-pid="PFTVspWIZW" dmcf-ptype="general">최다솔 에임인텔리전스 수석연구원은 "공격을 잘 막는 모델이라고 해서 그 나라의 문화적 맥락까지 알아채는 것은 아니다"라며 "각국의 법과 제도, 문화에 맞춘 평가 기준을 마련해 기업과 기관이 AI를 현지 기준으로 검증할 수 있도록 연구를 이어가겠다"고 말했다.</p> <p contents-hash="ce41148bb273e4e71317d6d291ab0b593c9f7819e8b6e75d64fba7c68a612dbb" dmcf-pid="Q3yfOUYCZy" dmcf-ptype="general"><a href="https://www.newsis.com/?ref=chul" target="_blank">☞공감언론 뉴시스</a> alpaca@newsis.com </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기