【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]셀렉트스타, 금융 AI 안전성 평가 기술 국제학회 채택…금융보안원 샌드박스 활용

온카뱅크관리자

2026-11-05 08:57:26

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">금융 AI 위험 답변 검증 기술 ‘FinRED’ 개발<br>5805개 평가 데이터 구축<br>금융 전문가 판단 일치율 88.46%<br>금융권 AI 보안 검증에 활용</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="xKrNKyFYE4">
          <p contents-hash="5e6ef8dd7ca3bcc89f5ac14844bafe1fa8afe68c7f822b6313534ad6faa82837" dmcf-pid="ymb0mxgRwf" dmcf-ptype="general"> [이데일리 김현아 기자] AI(인공지능) 신뢰성 평가 전문기업 셀렉트스타가 금융 분야 생성형 AI의 안전성을 검증하는 기술로 국제 학계의 인정을 받았다. 금융 사기와 개인정보 유출, 규제 위반을 유발할 수 있는 AI 답변을 찾아내는 기술로, 향후 금융보안원의 규제 샌드박스에서 활용될 예정이다.</p>
          <p contents-hash="4bf2329e059b44007b112de1866ff8056cac4dcda4ff65c26524a7b362bd17b5" dmcf-pid="WsKpsMaeEV" dmcf-ptype="general">셀렉트스타는 금융 AI 안전성 평가 연구 논문이 데이터 마이닝 분야 국제학술대회인 ‘IEEE ICDM 2026’ 메인 컨퍼런스에 채택됐다고 5일 밝혔다.</p>
          <p contents-hash="28300c9b43d6f3fab370d8ba1b668b729bb624535496cc9f8ffa4567aa87749e" dmcf-pid="YO9UORNdr2" dmcf-ptype="general">이번 논문은 전체 투고 논문 1966편 가운데 392편(19.9%)에 포함됐다. 특히 174편(약 8.9%)에만 주어지는 구두 발표 논문으로 선정됐다. IEEE ICDM은 컴퓨터과학 국제학회 평가 지표인 ICORE에서 최고 등급인 A를 받은 학술대회다. 오는 12일부터 15일까지 중국 선양에서 열린다.</p>
          <p contents-hash="264c0793f1a22dbc7d5663adeef4cc6299b57d9006fc94a91967ccf935eb7612" dmcf-pid="GI2uIejJm9" dmcf-ptype="general">이번 연구는 셀렉트스타가 금융보안원, KAIST와 공동 수행했다. 논문 제목은 ‘FinRED: 금융 LLM 레드티밍을 위한 전문가 기반 벤치마크 생성 및 평가 프레임워크’다.</p>
          <figure class="figure_frm origin_fig" contents-hash="af548ebbb6a1993178e3c8c5d2a5e340e2080f8f5c936d1ac95974358e2eaf88" dmcf-pid="HCV7CdAiDK" dmcf-ptype="figure">
           <p class="link_figure"><img alt="셀렉트스타, 금융 AI 안전성 평가 기술 국제학회 채택…금융보안원 샌드박스 활용" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/05/Edaily/20261105084830504wcrf.jpg" data-org-width="1200" dmcf-mid="q24qlikLIL" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/05/Edaily/20261105084830504wcrf.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            셀렉트스타, 금융 AI 안전성 평가 기술 국제학회 채택…금융보안원 샌드박스 활용
           </figcaption>
          </figure>
          <div contents-hash="a986e7f8004ee7e2380bfccf54fb92d9d76a18cfc323ce851107f28a315f94b2" dmcf-pid="XqEoqS5Tsb" dmcf-ptype="general">
           <strong>금융 위험 26개 유형, 평가 데이터 5805개 구축</strong>
          </div>
          <p contents-hash="de2dfd2f75ec78462aa4fbe0509c8eb7d4d24418dbb664d56038d7926bde3b7c" dmcf-pid="ZBDgBv1yIB" dmcf-ptype="general">연구진이 개발한 ‘FinRED’는 금융 분야에서 AI가 위험한 답변을 내놓는지 검증하는 평가 기술이다.</p>
          <p contents-hash="8bdf52d9144832a5e9adfcee2e1a1a823ba423e2cd8a23bff4dd2a2a5fcaf1ab" dmcf-pid="5bwabTtWsq" dmcf-ptype="general">기존 범용 AI 안전성 평가는 금융업의 복잡한 규제와 업무 특성을 충분히 반영하기 어렵다는 한계가 있었다. 금융 상담 과정에서 개인정보를 노출하거나 금융 범죄를 돕고, 소비자 권익을 침해하는 답변을 제대로 걸러내기 어려웠다.</p>
          <p contents-hash="ab9f87bda7a5722a1030e6827fb111d4913c3112b6b997d4c40bb8556a9171c8" dmcf-pid="1KrNKyFYOz" dmcf-ptype="general">FinRED는 금융보안 전문가의 지식과 실제 금융 문서를 결합해 현실적인 위험 상황을 만들고, AI 답변이 유해하거나 위험한 행위를 지원하는지 평가한다.</p>
          <p contents-hash="3bc0da0b29b5c82d04f23dc1e27958bec7937868cf09fa582d5622f5214a556c" dmcf-pid="t9mj9W3Gm7" dmcf-ptype="general">연구진은 금융 분야 위험을 사이버 위협, 금융 범죄, 허위정보 및 기만, 소비자 권익 침해, 금융 ICT 규제 회피 등 5개 영역과 26개 세부 유형으로 분류했다. 이를 바탕으로 전문가 검증을 거친 평가 데이터 5805개를 구축했다. 금융 규제나 범죄 수법이 바뀌면 새로운 문서를 반영해 평가 시나리오를 확장할 수 있도록 설계했다.</p>
          <p contents-hash="def888f91e123e84c4b0189283aba4a6a1fa4aefb1d528ec090c9703253b72d1" dmcf-pid="F2sA2Y0Hwu" dmcf-ptype="general">평가 결과도 개선됐다. FinRED를 적용한 금융 특화 평가 기준과 금융보안 전문가의 판단 일치율은 88.46%로, 기존 범용 평가 방식의 76.92%보다 11.54%포인트 높았다. 위험한 AI 답변을 안전하다고 잘못 판단한 사례도 기존 방식보다 약 57% 감소했다.</p>
          <figure class="figure_frm origin_fig" contents-hash="719fb34750a18580b26952f19fd7c8d3dee02432d7fd10148fdf881401792451" dmcf-pid="3VOcVGpXOU" dmcf-ptype="figure">
           <p class="link_figure"><img alt="금융 AI 안전성 평가 프레임워크 'FinRED'의 기술 구성도. 출처=셀렉트스타" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/05/Edaily/20261105084831737ryah.jpg" data-org-width="1127" dmcf-mid="QgoMFrTsw8" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/05/Edaily/20261105084831737ryah.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            금융 AI 안전성 평가 프레임워크 'FinRED'의 기술 구성도. 출처=셀렉트스타
           </figcaption>
          </figure>
          <div contents-hash="eaf8187e4093862e4e1a7afb7e02efe62df708e19427aa7357be47c2cc3529d9" dmcf-pid="0fIkfHUZOp" dmcf-ptype="general">
           <strong>금융 AI 도입 전 위험 검증에 활용</strong>
          </div>
          <p contents-hash="680a05e91bd8ec5ff5e6141f323a1d57d80ffda230e461d55aebf2ef392821db" dmcf-pid="pyQ9ygrNm0" dmcf-ptype="general">FinRED는 향후 금융보안원의 규제 샌드박스에서 금융 서비스에 적용되는 생성형 AI의 안전성을 평가하는 데 활용될 예정이다.</p>
          <p contents-hash="2c3850689be37c3e7a3b966a699e22ad17a71e6ed8c708895643d2e5b229367e" dmcf-pid="UWx2Wamjm3" dmcf-ptype="general">금융보안원 규제 샌드박스는 금융위원회가 혁신금융서비스로 지정한 신기술을 금융회사가 시험할 수 있도록 보안 위험을 점검하고 안전대책 마련을 지원하는 체계다. 망분리 등 기존 금융 보안 규제로 도입이 어려웠던 클라우드와 생성형 AI 서비스도 일정한 조건 아래 시험할 수 있다. 금융보안원은 이 과정에서 정보 유출이나 사이버 공격 가능성을 점검하고 필요한 보안 조치를 확인한다.</p>
          <p contents-hash="b26cbea37ef2a60efb43a5654d891dcdd9222cebfbec4f1088cf9946c957d3fa" dmcf-pid="uYMVYNsAsF" dmcf-ptype="general">FinRED가 적용되면 은행·보험·증권사 등은 AI 챗봇이나 업무용 AI를 도입하기 전 자사 업무와 금융 규정에 맞춘 위험 시나리오로 취약점을 점검할 수 있다. AI 모델이나 안전장치를 변경했을 때 위험이 줄었는지도 비교 평가할 수 있다.</p>
          <p contents-hash="cc0b080c7334ca36b83984eb60a15ac6e565133c7fdc5ceda4b17fa627966f9c" dmcf-pid="7GRfGjOcDt" dmcf-ptype="general">논문의 교신저자인 김민우 셀렉트스타 AI Safety팀 리더는 “금융 범죄 수법과 규제는 끊임없이 바뀌기 때문에 한 번 만들어 둔 평가 데이터로 AI의 안전성을 판단하는 것은 작년 기출문제로 올해 시험을 치르는 것과 같다”며 “금융 전문가의 판단을 반영해 AI 답변의 위험성을 정교하게 평가하고, 새로운 위험과 규제 변화에 맞춰 시나리오를 확장할 수 있다는 점에서 의미가 있다”고 말했다.</p>
          <p contents-hash="fba3a58765b8e6d38cb97d378df679eb8f62a12b5b57087b749ca693cab05073" dmcf-pid="zHe4HAIks1" dmcf-ptype="general">한편 셀렉트스타는 AI 신뢰성 평가 자동화 플랫폼 ‘다투모 이밸(Datumo Eval)’을 통해 금융·공공·콘텐츠 등 다양한 산업에 AI 성능 및 안전성 평가 서비스를 제공하고 있다.</p>
          <p contents-hash="320010cebd787681839d1e4e2282be5f83421acdccc74c898153607a0f4a7df7" dmcf-pid="qXd8XcCEm5" dmcf-ptype="general">김현아 (chaos@edaily.co.kr) </p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기