【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]“어떤 AI 쓸지도 AI가 고른다”…KT 모델 라우팅 기술, 글로벌 평가 2위

온카뱅크관리자

2026-09-27 13:17:25

<div id="layerTranslateNotice" style="display:none;"></div> ‘KT-모델라우터’, 라우터 아레나 정확도·비용 종합지표 2위 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="9USQYVIkCS">
 <figure class="figure_frm origin_fig" contents-hash="c0ec36a7c59a33a6e971240a8486ae03995b034f191735cf4192fbda261e7e9d" dmcf-pid="2uvxGfCEvl" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/27/552796-pzfp7fF/20260927131142214jvda.jpg" data-org-width="640" dmcf-mid="Kx1gpdHlhv" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/27/552796-pzfp7fF/20260927131142214jvda.jpg" width="658">
 </figure>
 [디지털데일리 백지영기자] 번역은 저렴한 인공지능(AI) 모델에, 복잡한 분석은 고성능 모델에 맡긴다. 어떤 AI 모델을 사용할지 일일이 사람이 결정하는 대신 이용자의 요청을 분석해 적합한 모델을 자동으로 골라주는 기술이다.
 KT가 자체 개발한 AI 모델 라우팅 기술 ‘오토모델라우터(AutoModelRouter)’가 글로벌 공개 벤치마크에서 정확도와 비용을 함께 평가한 지표 기준 2위를 기록했다.
 KT는 오토모델라우터가 미국 라이스대학교 연구진이 개발한 대규모언어모델(LLM) 라우터 평가 플랫폼 ‘라우터아레나(RouterArena)’의 ‘Acc-Cost Arena’ 부문에서 2위에 올랐다고 27일 밝혔다.
 라우터아레나 공식 리더보드에는 KT 기술이 ‘KT-모델라우터’라는 이름으로 올라 있다. 현재 Acc-Cost Arena 점수는 76.28점으로 2위다. 정확도는 78.14%, 1000개 질의 처리 비용은 0.27달러로 평가됐다. 1위 ‘Paix2’의 Acc-Cost Arena 점수는 77.63점이다.
 마이크로소프트의 상용 기술인 ‘애저 모델 라우터(Azure Model Router)’도 같은 리더보드에서 평가되고 있다. 현재 Acc-Cost Arena 기준 70.42점으로 18위에 올라 있다.
 라우터아레나는 8400개 질의를 활용해 LLM 라우터의 정확도와 비용, 견고성 등을 평가하는 공개 플랫폼이다. 9개 지식 영역과 44개 세부 카테고리를 포함하며 관련 연구는 머신러닝 분야 국제학회 ICLR 2026에 정식 논문으로 게재됐다.
 AI 모델 라우팅은 이용자의 요청에 따라 여러 AI 모델 가운데 적합한 모델을 자동으로 선택해 연결하는 기술이다.
 생성형 AI 시장에서 모델이 빠르게 늘어나면서 같은 업무라도 모델별 성능과 이용 비용의 차이가 커지고 있다. 번역이나 단순 정보 확인에 고가의 고성능 모델을 사용할 필요가 없는 반면 복잡한 분석이나 추론 업무에서는 모델 성능이 중요하다.
 KT의 오토모델라우터는 이용자 요청의 업무 유형과 난이도, 지식 분야를 분석한 뒤 모델별 응답 품질과 이용 비용을 고려해 요청을 처리할 AI 모델을 결정한다.
 가령 비교적 간단한 번역이나 정보 확인에는 필요한 수준의 품질을 제공하면서 비용이 낮은 모델을 연결한다. 전문적인 분석이나 높은 수준의 추론이 필요한 업무에는 고성능 모델을 투입하는 식이다.
 이용자 입장에서는 하나의 AI 서비스를 이용하지만 뒤에서는 요청마다 서로 다른 AI 모델이 선택되는 구조다. 기업 역시 업무별로 AI 모델을 직접 비교하고 선택하는 부담을 줄일 수 있다.
 KT는 이 기술을 자사가 추진하는 ‘토큰 팩토리(Token Factory)’의 모델 라우팅 기능에도 적용한다. 토큰 팩토리는 다양한 AI 모델과 토큰 이용 환경을 통합해 운영하는 플랫폼이다.
 오토모델라우터가 이용자 요청에 맞는 모델을 골라 연결함으로써 기업이 요구하는 서비스 품질을 유지하면서 토큰 사용 비용을 줄이는 역할을 맡는다.
 KT는 향후 오토모델라우터를 고도화하는 한편 새로운 AI 모델을 유연하게 추가할 수 있는 멀티모델 운영 환경을 구축해 기업의 AI 전환(AX)을 지원할 계획이다.
 김준석 KT 에이전틱 AI 랩장(상무)은 “AI 시대에는 가장 뛰어난 단일 모델을 확보하는 것뿐 아니라 상황에 맞는 최적의 모델을 얼마나 지능적으로 활용하느냐가 중요하다”며 “오토모델라우터는 이러한 AI 오케스트레이션 역량을 구현한 기술”이라고 말했다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기