【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI비용관리가 기업 경쟁력…'모델 투 데이터' 전략 급부상

온카뱅크관리자

2026-11-04 16:17:26

<div id="layerTranslateNotice" style="display:none;"></div> 폴 사이모스 브로드컴 아시아 총괄부사장 인터뷰 업무 전반 인공지능 사용 늘며 기업 민감 정보 노출될 위험 쑥 AI 모델 무분별하게 도입하면 비용 급증 'AI사일로' 못피해 데이터 소유권 명확히 규정하고 자체 클라우드 활용 필요커져 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Pnvh0SRfSs">
 <figure class="figure_frm origin_fig" contents-hash="46cfbbb0345a1040d3bc90429a4fbb658c76104168ba5e088c744ec506bac323" dmcf-pid="QLTlpve4Wm" dmcf-ptype="figure">
 <img alt="지난 9월 8일 세계지식포럼 첫째날 열린 '기업 AI 전환 성공하려면' 세션에서 폴 사이모스 브로드컴 아시아 총괄부사장이 발언하고 있다. 김호영 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/04/mk/20261104161504455akbc.jpg" data-org-width="1000" dmcf-mid="6bx6AQHlSO" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/04/mk/20261104161504455akbc.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 지난 9월 8일 세계지식포럼 첫째날 열린 '기업 AI 전환 성공하려면' 세션에서 폴 사이모스 브로드컴 아시아 총괄부사장이 발언하고 있다. 김호영 기자
 </figcaption>
 </figure>
 "기업들이 인공지능(AI)에 자체 데이터를 활용하기 시작하면서 기존 데이터센터와 인프라스트럭처에 더 작은 모델을 구축하고 배포할 수 있게 됐습니다. 이는 기업이 AI 비용을 통제할 수 있는 방법입니다."
 세계지식포럼에 참석한 폴 사이모스 브로드컴 아시아 총괄부사장이 매일경제와의 인터뷰에서 기업의 AI 투자 전략 변화를 이렇게 짚어냈다. 생성형 AI 도입 초기에는 필요한 인프라와 모델이 갖춰진 퍼블릭 클라우드로 기업이 몰렸지만, AI가 실제 업무 전반으로 확산하면서 비용과 보안 문제가 불거지자 클라우드 대신 자체 인프라를 활용하려는 움직임이 커지고 있다는 설명이다.
 사이모스 부사장은 특히 기업의 AI 활용량이 급격히 증가하면서 이른바 '토큰 택스'가 새로운 비용 부담으로 떠오르고 있다고 진단했다. 생성형 AI는 정보 입력이나 답변 생성 과정에서 처리되는 토큰 양에 따라 비용이 늘어나는 경우가 많다.
 그는 "최근 고객이 우려하는 것 중 하나가 토큰 택스"라며 "기업들은 자신의 데이터를 어떻게 AI 모델에 넣을 것인지뿐 아니라 이를 비용 면에서 어떻게 가장 효율적으로 운영할지를 고민하고 있다"고 말했다.
 기업들이 AI를 범용적인 정보 검색이나 문서 작성에 활용하는 데서 실제 업무와 고객 서비스로 확대하면서 비용을 둘러싼 셈법도 달라지고 있다.
 사이모스 부사장은 "과거에는 효과적으로 AI를 구현하기 위해 막대한 연산량과 대규모 데이터를 활용하는 이른바 '골드 플레이트(gold-plated)' 모델이 필요하다고 여겼다"며 "하지만 기업들이 자체 데이터를 활용해 고객에게 서비스를 제공하기 시작하면서 기존 데이터센터와 인프라에 더 작은 모델을 구축하고 배포할 수 있게 됐다"고 말했다.
 그는 "현재 보유한 데이터센터와 기존 인프라에서 AI 모델을 운영하면 비용을 관리할 수 있다"며 "동시에 AI 모델을 빠르게 혁신할 수 있는 주기를 확보하고 데이터에 필요한 보안과 복원력도 갖출 수 있다"고 강조했다.
 이에 따라 AI 인프라를 구축하는 방식도 달라지고 있다. 대규모 데이터를 AI 모델이 있는 곳으로 보내는 대신 AI 모델 자체를 기업 데이터가 있는 곳으로 가져오는 방식이다.
 사이모스 부사장은 이를 '모델 투 데이터(model-to-data)' 전략이라고 설명했다. 그는 "선도적 기업들은 대규모 민감 데이터를 퍼블릭 클라우드로 이전하는 대신 경량 AI 모델을 데이터가 이미 존재하는 온프레미스(기업이 서버와 데이터 저장장치 등 정보기술(IT) 인프라를 자체적으로 만들고 이를 직접 운영하는 방식)와 에지 환경으로 가져오고 있다"며 "이를 통해 불필요한 데이터 이동을 줄이고 비용 예측 가능성을 높일 수 있다"고 말했다.
 다만 모든 AI를 자체 데이터센터에서 운영해야 한다는 의미는 아니다. 업무 성격과 데이터 민감도에 따라 퍼블릭 클라우드와 자체 인프라의 역할을 나눠야 한다는 게 그의 설명이다.
 기업이 내부 데이터를 AI에 학습시키는 단계로 넘어가면서 비용과 함께 '데이터 주권'도 부상하고 있다. 사이모스 부사장은 "AI가 일반적인 학습이나 정보 검색에 활용되던 단계에서는 글로벌 클라우드를 사용하는 데 비교적 부담이 작았다"며 "하지만 기업의 자체 지식재산(IP)이 모델에 들어가기 시작하면 주권이 매우 중요한 문제가 된다"고 말했다.
 특히 첨단 제조업, 통신 등 데이터와 IP가 경쟁력을 좌우하는 산업이 발달한 한국에서는 이 같은 문제가 더욱 중요하다고 봤다. 그는 "한국은 첨단 제조업과 통신 산업이 발달했고 기업들이 AI 모델을 통해 활용하려는 민감한 연구개발(R&amp;D) 데이터가 많다"며 "AI가 에이전틱 AI로 발전하고 기업 자체 데이터를 이용해 고객에게 실질적인 결과를 제공하는 단계로 넘어가면 기업의 IP까지 모델 안으로 들어가게 된다"고 말했다.
 그는 이때 간과해서는 안 될 문제로 데이터의 소유권 이슈를 지적했다. 그는 "모델을 소유한 사람이 데이터를 갖게 된다"며 "한국 기업들이 공유 모델을 사용하면 기업의 데이터가 다른 누군가의 저장소에 들어가게 되는 위험이 있다"고 설명했다.
 업무에 AI 모델을 무분별하게 도입하면서 생기는 'AI 사일로(silo)'도 새로운 문제로 지목했다. 사이모스 부사장은 "한 업무에 이 모델을 쓰고 다른 업무에는 또 다른 모델을 쓰면서 모든 것이 클라우드로 나갔다 돌아오는 구조가 만들어지고 있다"며 "이는 비용 증가뿐 아니라 보안 위험 확대로도 이어진다"고 했다.
 사이모스 부사장은 기업이 AI를 도입하면서 살펴봐야 할 3가지로 비용을 어떻게 관리할 것인지, 얼마나 빠르게 AI 모델을 혁신할 것인지, 데이터에 필요한 보안과 복원력을 어떻게 확보할 것인지를 꼽았다. 이어 그는 "클라우드와 온프레미스에서 AI를 운영하는 비용을 비교해 어떤 방식이 적절한지도 함께 따져야 한다"고 덧붙였다.
 모델 투 데이터
 AI 인프라 구축 시 대규모 데이터를 외부로 이동시키는 대신, AI 모델을 데이터가 저장된 곳으로 가져가 학습하거나 분석하는 방식.
 [변덕호 기자]
 </section> 
 </div> 
 Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기