【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]알고 봤더니 AI에이전트, ‘전력 먹는 하마’…생성형 AI보다 137배 더 소모

온카뱅크관리자

2026-07-05 13:47:28

<div id="layerTranslateNotice" style="display:none;"></div> KAIST, AI 에이전트 서비스 위한 전력·비용 정량적 분석 질문 한 건당 약 136.5배 전력 소비...데이터센터 수요도 더 늘어 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="YygrXeCEv1">
 <figure class="figure_frm origin_fig" contents-hash="ae2cbf06f7731963976e2e1f11d5c86da9bc2383583cf636e63d55a80a985e59" dmcf-pid="GWamZdhDW5" dmcf-ptype="figure">
 <img alt="AI 에이전트는 생성형 AI보다 질문 한 건당 최대 136.5배 더 많은 전력을 사용하는 것으로 분석됐다. KAIST 제공." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/05/dt/20260705134119858vjcd.jpg" data-org-width="640" dmcf-mid="WtyF4Iu5lt" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/05/dt/20260705134119858vjcd.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 AI 에이전트는 생성형 AI보다 질문 한 건당 최대 136.5배 더 많은 전력을 사용하는 것으로 분석됐다. KAIST 제공.
 </figcaption>
 </figure>
 인공지능(AI)이 스스로 생각하고 행동하는 ‘AI 에이전트’가 질의응답형 ‘생성형 AI’보다 질문 한 건당 최대 136배 더 많은 전력을 소비하는 것으로 나타났다.
 AI 모델을 보다 똑똑하게 구현하는 경쟁을 넘어 적은 전력과 비용을 들여 효율적으로 활용할 수 있는 AI 기술 개발이 앞으로 중요해질 것이라는 전망이다.
 KAIST는 유민수 전기및전자공학부 석좌교수 연구팀이 AI 에이전트가 실제 서비스 환경에서 얼마나 많은 계산 자원과 전력을 사용하는지 정량적으로 분석했다고 5일 밝혔다.
 최근 챗GPT와 같은 대형 언어모델(LLM)은 단순한 질문에 답하는 수준을 넘어 스스로 계획을 세우고 인터넷 검색이나 계산기, 코드 실행 등 다양한 외부 도구를 활용해 복잡한 문제를 해결하는 AI 에이전트로 빠르게 발전하고 있다.
 AI 에이전트는 기존 단일 질의 기반 LLM 추론과 달리 다수의 모델 호출과 도구 실행을 반복하기에 데이터센터 자원 사용량과 전력 수요가 크게 늘어날 수 밖에 없다.
 하지만 AI 에이전트 운영에 얼마나 많은 전력과 비용이 들어가는지는 거의 알려지지 않고 있다.
 연구팀은 AI 에이전트를 데이터센터 서버와 그래픽처리장치(GPU)가 처리해야 하는 새로운 형태의 작업인 ‘워크로드’로 정의하고 실제 실행 과정에서 발생하는 계산량과 에너지 소비를 분석했다.
 분석 결과, AI 에이전트는 LLM을 반복적으로 호출하면서 여러 외부 도구를 사용해 응답 시간이 크게 증가했다.
 AI 에이전트의 응답 시간은 최대 153.7배 증가했고 외부 도구가 작업을 수행하는 동안 GPU는 전체 실행 시간의 최대 54.5%를 연산하지 않은 채 대기하는 것으로 분석됐다.
 AI가 더 복잡한 작업을 수행할수록 고가의 GPU를 충분히 활용하지 못하는 비효율이 발생하고 있다는 게 연구팀의 설명이다.
 AI 에이전트가 사용한 전력도 데이터센터 규모에서 분석했다. 현재 상용 AI 서비스 수준인 700억 개의 매개변수를 갖춘 대형언어모델 기반 AI 에이전트는 질문 한 건을 처리하는 데 평균 348.41와트시(Wh)를 사용했다.
 이는 기존 생성형 AI보다 최대 136.5배 높은 수준이다.
 연구팀은 하루 137억 건의 AI 에이전트 요청이 발생하는 미래 환경을 가정해 데이터센터 전력 수요도 추산했다.
 그 결과 약 198.9기가와트(GW)에 이르는 것으로 추정됐다. 이는 미국 전체 전력 소비량의 절반에 해당한다.
 연구팀은 AI 시대 경쟁력이 ‘더 똑똑한 AI’에서 ‘더 효율적인 AI’로 옮겨가고 있듯이 AI 모델만 발전시키는 것이 아니라 AI반도체, 데이터센터, 전력 인프라 등을 함께 최적화는 ‘공동 설계’가 필수적으로 요구될 것이라고 전망했다.
 유민수 석좌교수는 “AI가 지능을 구현·유지하기 위해 얼마나 많은 전력과 비용이 필요한지 정량적으로 제시한 첫 사례”라며 “AI 에이전트 시대에서 최종 사용자가 AI 서비스 활용 비용을 대폭 절감하고 지속가능한 AI 인프라를 구축하기 위한 연구와 투자가 필수적”이라고 말했다.
 이준기 기자 bongchu@dt.co.kr
 </section> 
 </div> 
 Copyright © 디지털타임스. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기