“국내서 처리·보관”…서울 리전 기반 데이터 레지던시 충족
AI 인프라·모델·서비스까지 풀스택 제공…운영·비용 효율성↑

[아이뉴스24 윤소진 기자] 구글 클라우드가 최신 생성형 AI 모델 ‘제미나이 2.5’를 서울 리전에서 제공한다. 사용자의 데이터가 국외로 나가지 않고 프롬프트 처리와 응답까지 모두 국내 인프라에서 이뤄지는 구조다. 공공·금융 등 정보관리에 민감한 시장에 진출할 수 있는 기반이 마련된 셈이다.

지기성 구글 클라우드 코리아 사장이 8일 오전 서울 강남구 아셈타워에서 열린 미디어 브리핑에서 사업 전략을 발표하고 있다. [사진=윤소진 기자]

8일 구글 클라우드는 서울 강남구 아셈타워에서 연례행사 '구글 클라우드 데이 서울' 개최에 앞서 기자 간담회를 열고 이같은 전략을 공개했다. 지기성 구글 클라우드 코리아 사장은 "설립 5주년을 맞은 서울 리전에서 제미나이 2.5를 공식 제공하면서 국내 고객에게 데이터 레지던시(국내 데이터 보관·처리) 요건을 충족하는 AI 서비스를 제공할 수 있게 됐다“며 "클라우드서비스보안인증(CSAP)도 획득해 일부 고객과는 계약을 체결했으며, 조만간 관련 사업도 발표할 예정”이라고 밝혔다.

구글 클라우드는 공공과 금융처럼 데이터 주권 요구가 높은 산업에서도 활용할 수 있도록 서울 리전 내 데이터 바운더리와 '에어갭(망분리)' 기반 아키텍처를 적용했다. 프롬프트 처리와 추론 전 과정이 국내 인프라에서 이뤄져, 민감한 산업 분야에서도 생성형 AI의 본격 도입이 가능하다는 설명이다.

지 사장은 구글 클라우드의 강점으로 최신 AI인프라와 모델, 플랫폼을 하나돌 통합한 '풀스택 AI' 전략을 강조했다. ‘풀스택 AI’ 전략에는 AI 워크로드에 최적화된 텐서처리장치(TPU) ‘아이언우드’를 비롯해 생성형 AI 애플리케이션을 개발·운영할 수 있는 플랫폼 ‘버텍스AI(Vertex AI)’, 대규모 데이터 분석을 위한 ‘빅쿼리(BigQuery)’, 검색·챗봇·음성 인식 등을 위한 사전 학습 API가 모두 포함된다. 하드웨어부터 모델, 툴, 플랫폼까지 전 계층을 통합 제공함으로써 복잡한 에이전트형 AI 환경에서도 기업이 운영과 비용 측면에서 효율을 극대화하겠다는 전략이다.

지 사장은 "AI 도입이 단순 모델 실행을 넘어 수천, 수만 개의 에이전트가 상호작용하는 구조로 진화하고 있다”며 “복잡해진 AI 환경에서 엔터프라이즈 고객이 유연하게 대응할 수 있도록 자체 지식재산권(IP)으로 하드웨어부터 모델, 플랫폼까지 풀스택으로 제공할 수 있는 회사는 구글 클라우드가 유일하다"고 자신감을 드러냈다.

에이전트AI는 일반적인 LLM 실행보다 훨씬 더 많은 연산 리소스와 복잡한 워크플로우를 요구하며, 그에 따라 관리 비용도 기하급수적으로 증가한다. 모든 구성요소가 분리돼 있을 경우 운영 효율성이 떨어지고 총소유비용(TCO)이 급증할 수 있다. 따라서 복잡한 에이전트형 AI를 도입하는 데 있어 핵심은 운영 효율성과 비용 관리다.

전대일 IDC 수석연구원은 "아시아·태평양지역 950개 기업을 대상을 조사한 결과 AI 도입으로 투자대비수익(ROI)를 3배 이상 실현한 기업의 공통점은 단일 플랫폼 기반으로 인프라와 모델, 툴을 통합적으로 사용하는 점이다. 초기에는 비용이 들지만 전체적인 TCO는 오히려 낮아진다"고 설명했다.

그는 이어 "한국 기업은 리스크에 민감하고 선제적 도입보다는 검증된 후 채택하는 경향이 강하다. 통합 관리가 가능한 구조를 선택하는 것이 현실적"이라고 부연했다. 실제 조사 결과에서도 통합 AI 플랫폼을 쓰는 조직의 에이전트 도입 비율(52%)이 그렇지 않은 기업(23%)의 두배 이상인 것으로 나타났다.

구글 클라우드는 선택의 폭을 넓히는 운영 유연성과 비용 효율성을 실질적으로 활용하고 있는 대표 사례로 국내 AI 플랫폼 기업 뤼튼 테크놀로지스를 소개했다. 뤼튼은 창업 초기부터 대규모 데이터 분석에 ‘빅쿼리'를 활용했다. 최근에는 자사 서비스에 버텍스AI를 통해 제미나이2.5를 도입했다.

유영준 뤼튼 최고운영책임자(COO) "제미나이2.5는 성능과 안정성, 가격 측면에서 균형이 뛰어나 도입을 결정하게 됐다"며 "실제 응답 속도도 빨라 고객 경험 향상에 도움이 될 것이라 판단했다"고 말했다.

이날 '구글 클라우드 데이 서울'은 국내 비즈니스 리더, IT 전문가, 개발자 등을 대상으로 구글 클라우드의 AI 인프라, 생성형AI 모델, 통합형 개발 플랫폼 등 풀스택 AI 전략을 한 번에 체험할 수 있도록 구성됐다. AI 체험공간 제미나이 플레이그라운드에서는 LG CNS, 메가존클라우드, GS네오텍, 아이티센클로잇, 놀유니버스, 카카오모빌리티, NC AI 등이 부스를 마련하고 구글 클라우드 협력 사례와 자사 AI 솔루션을 소개했다.

(왼쪽부터) 전대일 IDC 수석연구원, 지기성 구글 클라우드 코리아 사장, 유영준 뤼튼테크놀로지스 COO가 8일 오전 서울 강남구 아셈타워에서 열린 미디어브리핑에서 기자들의 질문에 답하고 있다. [사진=윤소진 기자]/윤소진 기자(sojin@inews24.com)

Copyright © 아이뉴스24. 무단전재 및 재배포 금지.