[제5회 K클라우드·AX프론티어 컨퍼런스]

산업 중심축 'AI'로 전환…이제는 전략과 실행이 경쟁력

부제 : [제5회 K클라우드·AX프론티어 컨퍼런스] 산업 전반 'AI 전환' 가속

강호병 머니투데이 대표가 10일 서울 중구 프레스센터에서 열린 머니투데이 주최 '제5회 K클라우드·AX 프론티어 컨퍼런스'에서 인사말을 하고 있다. /사진=김창현 기자

챗GPT의 전 세계적 공개 이후 국내 디지털 산업의 중심축이 빠르게 AI(인공지능)로 이동하고 있다.

지난해까지만 해도 AI는 '클라우드를 통해 가장 잘 활용할 수 있는 기술'로 여겨지며, 클라우드의 확장성과 유연성에 무게가 실렸다. 그러나 올해 들어 흐름은 급변했다. 이제는 AI가 전략의 중심에 서고, 클라우드·데이터·보안 등 인프라는 이를 뒷받침하는 수단으로 재정의된다. 기술 간 주종 관계가 사실상 뒤바뀐 셈이다.

이 같은 변화의 중심에는 '전략'과 '생태계'라는 키워드가 있다. 생성형 AI를 도입한 기업들은 단순한 API(응용프로그램 인터페이스) 연동이나 챗봇 도입을 넘어, 전사 업무 프로세스 재설계와 자체 모델 학습, RAG(검색증강생성) 기반 QA(질의응답), 에이전틱 AI 등 실행형 시스템 구축에 나서고 있다. 산업 간 기술 격차는 이제 'AI를 어떻게 전략화했는가'에 따라 갈리고 있다.

업계의 기대는 정부 정책과도 맞물린다. 새 정부는 AI 반도체 및 초거대 AI 모델 개발을 핵심 국가 전략으로 설정하고, 대규모 예산을 투입한 AI 육성 정책을 본격화하고 있다. 이는 기술 기반 스타트업뿐 아니라 중견·대기업의 AI 전략을 가속화하는 동력으로 작용하고 있다.

강호병 머니투데이 대표는 10일 '제5회 K클라우드·AX 프론티어 컨퍼런스' 인사말에서 "AI는 이제 산업과 조직, 일하는 방식을 근본적으로 바꾸는 트랜스포메이션의 시대에 접어들었다"며 "AI 도입에 있어 클라우드 아키텍처, 보안, 운영 전략 등 현실적인 고민이 많지만, 이제는 반드시 활용해야 할 도구가 됐다"고 강조했다.

━

"AI는 민간이, 정부는 마중물 역할"…GPU 1.8만장 공급 예정

부제 : [제5회 K클라우드·AX프론티어 컨퍼런스] 장기철 과학기술정보통신부 인터넷진흥과장

장기철 과학기술정보통신부 인터넷진흥과장이 10일 서울 중구 프레스센터에서 열린 머니투데이 주최 '제5회 K클라우드·AX 프론티어 컨퍼런스'에서 'AI컴퓨팅인프라로 구현할 AI 정책'에 대해 강연을 하고 있다. /사진=김창현

"AI(인공지능) 산업은 민간 중심으로 활성화돼야 합니다. 정부는 마중물 역할을 하겠습니다."

장기철 과학기술정보통신부 인터넷진흥과장이 10일 서울 태평로 프레스센터에서 열린 '제5회 K클라우드·AX프론티어 컨퍼런스' 조찬 강연에서 국가 AI 산업 활성화 방안에 대해 이같이 말했다.

장 과장은 미국, 중국, 유럽 등에 비해 한국내 클라우드 투자가 부족하다고 우려했다. 장 과장은 "오픈AI가 최근 전 세계에 데이터센터를 지어주겠다는 '오픈AI 포 컨트리(for country)' 프로젝트를 발표했는데, 이는 대규모 데이터 센터를 지은 뒤, 챗 GPT와 같은 LLM(거대언어모델)을 배포하며 우리 시장을 선점하겠다는 것"이라고 말했다.

이어 "EU에는 'AI GIGA 팩토리'가 있고, 중국에는 딥시크가 있다"며 "반면 이를 따라가기에 우리나라의 AI 기술 인력 수준은 낮고 클라우드 지출은 부족한 수준"이라고 강조했다.

장기철 과학기술정보통신부 인터넷진흥과장이 10일 서울 중구 프레스센터에서 열린 머니투데이 주최 '제5회 K클라우드·AX 프론티어 컨퍼런스'에서 'AI컴퓨팅인프라로 구현할 AI 정책'에 대해 강연을 하고 있다. /사진=김창현

우리나라 정부는 △즉시 △단기 △중장기 목표로 구분된 '국가 AI컴퓨팅 인프라 확충 마스터 플랜'을 가동중이다. 2026년까지 첨단 GPU(엔비디아 B200) 1만8000장을 확보하는 내용 등이 포함돼있다.

장 과장은 "지난달 통과된 추경으로 1조4600억원을 받아 첨단 GPU(엔비디아 B200) 1만장을 확충했다"며 "내년 상반기까지 슈퍼컴 6호기를 구축하기 위해 GPU 8800장을 추가 확보할 예정"이라고 말했다. 이번 추경으로 확보한 GPU는 정부가 소유권을 보유한채 민간 클라우드 기업이 이를 활용해 대외 서비스를 제공하는 방식으로 운영된다.

이를 위한 국가AI컴퓨팅센터 구축 사업 공모를 오는 13일까지 받는다. 장 과장은 "국가적으로 부족한 GPU를 정부가 투자해 구매하고 산학연에 공급하겠다는 게 목표"라며 "NPU(Neural Processing Unit) 같은 국산 반도체를 확산하겠다는 내용도 담겨있다"고 말했다.

정부는 지난 2월 'WBL(World Best LLM)' 프로젝트를 발표하는 등 국산 AI 모델 구축을 위해 노력하고 있다. 장 과장은 "챗GPT, 제미나이, 그록3 등 해외 AI는 10만장 이상의 GPU로 만든 거대 모델인데 반해 하이퍼클로바X나 카나나, 엑사원 등 한국 기업이 만든 AI는 몇백~몇천 장으로 만든 작은 모델"이라며 "경쟁이 어려우니 국가가 GPU를 구매해 공급하겠다는 것"이라고 프로젝트를 설명했다.

장 과장은 "전 세계가 챗 GPT가 유료로 전환될 경우 대안으로 사용할 국산 AI 모델이 필요하다"며 "특히 우리나라 주권과 관련된 국방·안보 분야에서는 국산 모델을 사용해야 한다. 국방부, 국정원, 중앙부처 간에 컨센서스(의견일치)도 있기 때문에 투자를 늘릴 것"이라고 말했다. 이어 "글로벌 모델 95% 수준의 독자 AI 파운데이션 모델을 만드는 것이 목표"라며 "GPU 투자 규모에서 경쟁이 안 된다면 경량 모델이라도 각 분야에서 최고 수준이어야 한다"고 강조했다.

━

AI도입, 탐색에서 내재화로…"고객이 직접 과제 정의해야"

부제 : [제5회 K클라우드·AX프런티어 컨퍼런스] 김은주 NIA 지능기술인프라본부장

김은주 한국지능정보사회진흥원(NIA) 지능기술인프라본부장이 10일 서울 중구 프레스센터에서 머니투데이 주최로 열린 '제5회 K클라우드·AX 프런티어 컨퍼런스'에서 'AI도입 전략-목표설정, 최적구조, 비용효율화'에 대해 기조강연을 하고 있다. /사진=김창현 기자 chmt@

"업무가 요구하는 AI 기능이 무엇인지 고객이 정의해야만 합니다."

김은주 한국지능정보사회진흥원(NIA) 지능기술인프라본부장이 10일 '제5회 K클라우드·AX프런티어 컨퍼런스' 기조강연에서 명확한 인공지능(AI) 도입전략 수립의 중요성을 강조하며 이같이 밝혔다. NIA는 국내 공공 정보화사업 추진·컨설팅을 주도하는 기관이다.

김 본부장은 "대형기관도 '일단 AI를 도입하는 게 좋지 않겠냐'며 비용산출부터 요청하는데, 성공적인 AI 전환(AX)을 위해선 기업·기관이 AI로 개선할 업무를 직접 선정해야 한다"면서 전략적인 AI 모델 선정과 하이브리드 환경 구축을 강조했다.

올 4~5월 AI업계에선 GPT-4o, 제미나이 2.5 프로, 라마4 등 신규 멀티모달(다매체) 모델이 줄줄이 출시됐지만, 다국어·코딩 등 모델의 고급기능들이 모든 AI 서비스에 필요한 것은 아니라고 김 본부장은 설명했다.

AI 서비스 구축 실무에선 모델의 구조·소스코드·가중치·학습데이터 개방성과 데이터 관리가 중요한 고려요소로 떠올랐다. 특히 공공 분야에선 모델의 편향성과 설명 가능성에 대한 관심도가 높다.

AI가 외부 데이터·서비스를 활용할 수 있도록 돕는 '모델콘텍스트프로토콜(MCP)', AI간 소통규격 '에이전트투에이전트(A2A) 프로토콜'을 활용할 수 있는지도 AI 도입의 변수로 떠올랐다.

김 본부장은 이날 급변하는 AI 환경에 맞서 언제든 AI 모델을 교체할 수 있도록 호환성을 유지하고 데이터 관리를 강화해야 한다고 강조했다. 미 국방성은 가시성·접근성·이해성·연결성·신뢰성·교환성·보안성을 핵심전략으로 선정했다는 사례도 들었다.

이어 "AI를 2023~2024년 대다수가 사용해보면서 탐색기는 끝났다"며 "이제는 AI로 업무를 고치려는 현업 내재화 시기다. 2027년 이후부턴 업무 고도화를 지나 AI가 산업 자체를 처리하는 단계로 진입할 것"이라고 전망했다.

━

AI 도입, 기술 넘어 전략으로…클라우드·조직 전방위 재편 나선다

부제 : [제5회 K클라우드·AX프론티어 컨퍼런스] '목표·비용·구조' 중심 AI 도입 방향성 재정립

박승호 베스핀글로벌 AI코어실장, 김민종 LG CNS GenAI 사업팀장, 이원동 메가존클라우드 AIR 부문 유닛장이 10일 서울 중구 프레스센터에서 열린 머니투데이 주최 '제5회 K클라우드·AX 프론티어 컨퍼런스'에서 참석자들의 질문에 답하고 있다. /사진=김창현 기자

기업들이 생성형 AI 도입을 본격화하면서 단순한 기술 확보를 넘어 전사적 전략 재편에 나서고 있다. 기술의 빠른 채택보다 '목표 설정' '비용 구조화' '운영 구조 최적화'가 더 중요한 전략 요소로 부상하고 있다.

10일 서울 중구 프레스센터에서 열린 '제5회 K클라우드·AX(인공지능 전환) 프론티어 컨퍼런스'에 참가한 국내 ICT(정보통신기술) 주요 기업들은 AI 도입의 방향성을 공유하고 실질적인 전략 수립의 필요성을 강조했다.

우선 메가존클라우드는 AI 도입의 성패를 좌우하는 요소로 '데이터 파운데이션'과 '조직 변화관리'를 꼽았다. 비정형 데이터를 구조화하고 프롬프트 최적화를 거쳐 RAG(검색증강생성) 기반 QA(질의응답) 시스템을 구축하거나, 생성형 AI 전사 확산을 위한 변화관리 프로그램 제미나이를 통해 실행력을 확보하고 있다. 이원동 메가존클라우드 AIR(에어)부문 유닛장은 "기술보다 중요한 것은 목적과 활용 방식을 명확히 설계하는 일"이라고 말했다.

이원동 메가존클라우드 AIR 부문 유닛장이 10일 서울 중구 프레스센터에서 열린 머니투데이 주최 '제5회 K클라우드·AX 프론티어 컨퍼런스'에서 '효과적인 생성형AI 도입 전략'에 대해 강연을 하고 있다. /사진=김창현 chmt@

LG CNS(LG씨엔에스)는 AI 기술이 단순 '생성'에서 '실행'으로 전환되고 있다고 진단하며 '에이전틱 AI' 개념을 소개했다. 이는 AI가 스스로 인지→판단→실행→평가의 사이클을 반복하며 인간의 의사결정과 업무를 보조하는 구조다. 이를 실행에 옮기기 위한 프레임워크로 'AX 저니' 5단계 전략(Define-Discover-Design-Develop-Deploy)을 제시했으며 회로 설계, 고객 상담, 불량 예측 등 다양한 산업군에서 실증 사례를 확보하고 있다고 밝혔다.

베스핀글로벌은 AI 도입에 있어 무엇을, 어떻게, 어디에 적용할 것인가라는 질문이 핵심이라고 강조했다. 특히 산업별 AI 적용 목적이 분명해야 하며, ROI(투자대비수익률)와 TCO(총소유비용)에 대한 정량적 분석을 통해 설계된 구조가 필요하다고 진단했다. 베스핀글로벌은 AI 에이전트 플랫폼 '헬프나우'를 통해 MLOps(머신러닝운영) 등 다양한 워크플로우를 통합 지원한다. 박승호 베스핀글로벌 AI 코어실장은 "데이터 수집부터 모델 재학습, 현장 적용까지 일관된 운영체계를 갖추는 것이 핵심"이라고 했다.

삼성SDS(삼성에스디에스)는 생성형 AI 도입의 전제 조건으로 '보안성과 확장성을 겸비한 인프라'를 들었다. 자사 AI 플랫폼 '패브릭스'를 중심으로 전용 LLM(거대언어모델) 풀 구성, 사내 API(응용프로그램 인터페이스) 연동, RAG 기반 코파일럿 운영 등 통합형 서비스를 제공하며, 프라이빗·전용·엣지 클라우드까지 다양한 보안 수준을 커버하는 클라우드 아키텍처를 제시했다. 최정진 삼성SDS 그룹장은 "공공·금융기관 등 보안 민감 산업에서 실제 AI 구축 수요가 늘고 있다"며 "표준화된 아키텍처와 운영방식을 통해 빠른 도입과 안정적 운영을 동시에 추구해야 한다"고 말했다.

박승호 베스핀글로벌 AI코어실장이 10일 서울 중구 프레스센터에서 열린 머니투데이 주최 '제5회 K클라우드·AX 프론티어 컨퍼런스'에서 'Agentic AI Platform'에 대해 강연을 하고 있다. /사진=김창현 기자 chmt@

오라클은 데이터 중심 아키텍처를 앞세워 '브링 AI 투 데이터' 전략을 강조했다. 벡터DB, 그래프 등 다양한 데이터 타입을 단일 관계형 DB에서 지원하며, SQL 기반의 벡터 유사도 검색과 자연어 질의까지 통합된 플랫폼을 제시했다. '오라클 DB 23ai'는 관계형 데이터와 벡터 데이터를 함께 관리할 수 있어, LLM 기반의 유사도 검색을 일반 테이블 조인과 함께 실행할 수 있다는 점에서 차별성을 갖는다. 이와 함께 글로벌 분산 데이터베이스와 멀티클라우드 대응력을 바탕으로 대규모 AI 워크로드 환경을 지원한다는 설명이다.

KT는 '데이터 주권'을 AX 시대의 핵심 경쟁력으로 제시하며, 마이크로소프트와 공동 개발한 보안 특화 클라우드 서비스 'KT SPC(시큐어 퍼블릭 클라우드)'를 소개했다. 해당 서비스는 국내 데이터 상주, 국내 보안 규제 준수, 전 구간 암호화, 고객 자원 분리 관리 등 4대 원칙을 기반으로 설계됐다. 특히 연산 중 실시간 암호화 기술인 '컨피덴셜 컴퓨팅'과 고객 전용 키 관리 시스템을 적용해 보안성을 높였다. KT는 산업별 컴플라이언스 분석과 데이터 등급화 컨설팅도 병행하며 '한국형 소버린 클라우드'로 시장을 확대하고 있다.

이날 포럼에 참석한 발표자들은 공통적으로 "AI는 더 이상 기술 도입의 문제가 아니라, 조직이 경쟁력을 확보하는 방식"이라고 강조했다. 각 기업은 자사 내부 뿐만 아니라 고객의 산업적 특성에 맞춘 도입 전략을 고민하고 있으며 데이터 구조, 인프라 성능, 인력 역량, 변화관리 체계가 통합돼야 실질적인 전환이 가능하다고 역설했다.

한편 머니투데이가 주최하고 과학기술정보통신부와 한국지능정보사회진흥원(NIA)이 후원하는 'K-클라우드·AX 프론티어 컨퍼런스'는 민간과 공공 분야의 주요 기관 및 기업의 CIO(최고정보책임자), CISO(최고정보보호책임자) 등을 대상으로 클라우드와 AI 도입 전략을 공유하고, 관련 규제 환경과 기술 트렌드에 대한 이해를 높이기 위해 마련됐다.

최정진 삼성 SDS Evangelist 그룹장, 김태완 한국오라클 클라우드 기술사업부 상무, 정석종 KT 클라우드·전략컨설팅 팀장이 10일 서울 중구 프레스센터에서 열린 머니투데이 주최 '제5회 K클라우드·AX 프론티어 컨퍼런스'에서 참석자들의 질의에 답하고 있다. /사진=김창현 기자 chmt@

황국상 기자 gshwang@mt.co.kr 김승한 기자 winone@mt.co.kr 성시호 기자 shsung@mt.co.kr 이찬종 기자 coldbell@mt.co.kr

Copyright © 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.