AI 모델 제미나이, 서울 리전서 가동
최신 TPU 연산도 지원

구글클라우드가 최신 거대언어모델(LLM)인 제미나이 2.5의 연산작업을 국내 서버에서 처리한다. 자체 개발한 텐서처리장치(TPU)를 통해 민간과 공공 부문의 AI 전환(AX)도 지원한다.

구글클라우드는 8일 서울 강남구 코엑스(COEX) 컨벤션 센터에서 '구글 클라우드 데이 서울'을 개최하고 인공지능(AI) 비전을 소개했다.

지기성 구글클라우드 코리아 사장이 8일 서울 강남구 코엑스(COEX) 컨벤션 센터에서 진행된 '구글 클라우드 데이 서울' 미디어브리핑에서 발표하고 있다. 구글클라우드 제공

지기성 구글클라우드 코리아 사장은 "제미나이 2.5 모델을 서울 리전에서 출시했다"면서 "데이터만 서울 리전에 있는 게 아닌, 머신러닝 프로세스 자체를 서울 리전에 적용한 형태"라고 설명했다. 기존에는 제미나이 서비스를 위해 사용자가 입력한 데이터를 해외 리전(데이터센터)으로 보내 AI 연산을 진행했지만, 이제는 이 과정을 국내에서 처리한다는 의미다.

구글클라우드는 2020년 서울 리전을 설립했다. 대용량 인프라를 갖춘 서울리전은 서버, 실리콘 칩, 저장 장치, 네트워크 장비 등을 갖추고 있다. 200개국 이상이 국가와 연결된 구글의 프라이빗 네트워크와도 연결돼 있다.

AI 서비스 구동에 필수적인 TPU도 구글클라우드의 서비스를 통해 제공된다. TPU는 구글이 자체 개발한 연산장치로, 대규모 데이터 분석과 딥러닝에 특화돼 있다. 앞서 구글클라우드는 지난 4월 열린 구글클라우드 넥스트에서 구글의 7세대 텐서 처리장치(TPU)인 아이언우드를 공개했다. 대규모 AI 추론을 위해 설계된 아이언우드는 곧 정식 버전으로 출시될 예정이다.

지 사장은 아이언우드에 대해 "사람이 해석해야 할 정보를 실시간으로 제공하는 반응형 AI 모델에서 해석과 인사이트를 선제적으로 생성하는 모델로 전환되는 추론의 시대가 온 것"이며 "단순한 데이터를 넘어, AI 에이전트가 서로 협력해 인사이트가 담긴 답변을 먼저 검색하고 생성하는 시대가 왔다"고 진단했다.

구글의 LLM인 제미나이 2.5와 단백질 구조 예측 모델 '알파폴드'와 같은 모델들도 TPU 연산을 거쳤다. 그는 "아이언우드를 통해 국내 개발자를 비롯해 민간과 공공 부문 조직이 이뤄낼 혁신이 기대된다"고 말했다.

지 사장에 이어 발표에 나선 유영준 뤼튼테크놀로지스 최고운영책임자(COO)는 "새로운 서비스에 쓰일 LLM은 좋은 성능과 합리적인 가격, 높은 안정성 등 여러 기준을 만족해야 했다"면서 "제미나이 2.5 모델군은 뤼튼 자체 테스트 결과 그 기준을 충족했고, 현재 여러 LLM들과 함께 서비스 내 적재적소에서 활용되고 있다"라고 설명했다.

이날 행사 현장에는 놀유니버스, LG유플러스, NC AI, 카카오모빌리티 등이 제미나이 플레이그라운드에서 부스를 마련해 구글의 모델을 활용해 개발한 AI 기반 서비스를 전시했다.

이명환 기자 lifehwan@asiae.co.kr

Copyright © 아시아경제. 무단전재 및 재배포 금지.