'젠 AI 서울' 2025서 AX 실증 사례 공유…"선 적용-후 최적화" 전략 강조

[아이뉴스24 서효빈 기자] "이제 중요한 것은 단순한 'AI 경쟁력 확보'가 아니라 우리 조직에 최적화된 방식으로 AI를 신속하게 도입하고 실질적으로 정착시키는 ‘전략적 전환’입니다. 여기에 ‘은총알’과 같은 정답은 없습니다. 상용 솔루션을 활용해 우리 조직에 맞는 AX방안을 빠르게 찾아내야 합니다."

김훈동 KT AXD본부 상무(오른쪽)가 지난 10일 서울 용산 드래곤시티에서 열린 젠 AI 서울 2025 포럼에서 발언하고 있다. [사진=KT]

KT의 AX 전문 조직 AXD본부를 이끄는 김훈동 상무는 10일 서울 용산 드래곤시티에서 열린 '젠 AI 서울' 포럼에서 속도감 있는 AI 도입을 강조하며 이같이 밝혔다. 이날 포럼은 국내 주요 기업의 AX 책임자들이 참석해 실질적인 혁신 사례를 공유하고, 산업 전반의 AI 도입과 확산 전략을 논의하는 자리로 마련됐다.

김 상무는 KT가 내부 업무에 AX 혁신을 실현하고 있는 사례로 '통신 인프라 관리'와 '반복 보고 작업'에 도입된 AI 에이전트를 소개했다.

KT는 네트워크 운영 분야에 특화된 AI에이전트인 'AI 마이스터'를 활용 중이다. KT는 원활한 통신망 운영을 위해 24시간 상시 네트워크 운영 체계를 갖추고 있는데, 장애나 문제가 발생하면 전문 엔지니어인 '마이스터'가 현장에 투입된다. 이 과정에서 AI 마이스터는 대화형 인터페이스를 통해 장애 징후 감지, 문제 해결 매뉴얼 탐색 등을 자동화해준다. 마이스터의 초동 대응을 지원하는 것이다.

반복 보고 작업을 효율화하기 위한 '마켓 센싱 리포트 에이전트'는 시장 동향 분석 보고서 작성 업무를 100% 자동화했다. 아울러 일주일 단위로 갱신되던 분석 보고서를 이틀 간격으로 받아볼 수 있게 됐고 보고의 양도 10배 이상 증가했다. 이르거나 늦은 시간에도 시장 동향을 파악할 수 있게 됐다.

김 상무는 AI를 민첩하게 도입하기 위해선 상용 플랫폼 기반의 ‘퀵 윈’(Quick Win, 단기간 내 눈에 보이는 성과를 도출하는 방식) 이후 비용이나 속도 등을 고려해 최적의 하이브리드 환경 및 SLM을 활용하는 것이 현실적인 대안이라고 제안했다.

그는 "과거 '비용'과 '보안' 이슈 때문에 온프레미스(자체 서버를 구축하는 방식) 환경에서 AX를 시도했던 기업이 많지만, 온프레미스 환경은 빠르게 변화하는 AI 시장에서 기술의 발전 속도를 따라잡기에 역부족"이라고 설명했다.

KT는 현재 최신 최고 성능(SOTA)급 프런티어 모델을 기반으로 고객사의 문제를 빠르게 해결하고 실질적인 결과물을 도출하는 전략을 실행하고 있다. 상용 플랫폼과 SOTA 모델을 통한 빠른 프로토타이핑 이후, 비용(Cost), 응답 속도(Latency), 처리량(Throughput), 보안(Security), 규제(Regulation) 등의 요소를 복합적으로 고려해 최적화를 시도하는 ‘선 적용-후 최적화’ 모델이다. 이를 통해 기업들은 AI 도입의 효과성을 먼저 검증한 뒤, 좀 더 실질적인 혁신을 이뤄낼 수 있게 된다.

김훈동 상무는 토론 말미에 "KT의 축적된 경험을 기반으로 대한민국 산업계가 직면한 과제를 해결하는 데 기여하고, 나아가 글로벌 AI 프런티어로 도약하겠다"라는 포부를 밝혔다.

/서효빈 기자(x40805@inews24.com)

Copyright © 아이뉴스24. 무단전재 및 재배포 금지.