【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][일잘러AI] “API 토큰 너무 비싼데”…‘나만의 AI 서버’ 구축한 과기정통부 사무관

온카뱅크관리자

2026-08-26 13:17:25

<div id="layerTranslateNotice" style="display:none;"></div> ‘SRS요구→코드 작성 요청→코드리뷰→추가 SRS 요구’…코덱스·클로드코드 모두 활용 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="QJY5CXe4SH">
 <div contents-hash="7e8f425e40f2bbd2b81bd384536e30284bb8f2ce14d8647f2bde45bdfa33f7e8" dmcf-pid="xLXFS1iPlG" dmcf-ptype="general">
 개발자가 아니라도 누구나 쉽게 인공지능(AI)을 접하고 업무에 적용시킬 수 있는 세상입니다. 한가지 유의할 점이 있습니다. AI는 이용자 명령어(프롬프팅)와 이용 환경에 따라 산출 결과가 천차만별이라는 점입니다. 누군가는 ‘내 AI는 왜 이렇게 바보같을까’하고 불평합니다. 하지만 앞서 AI를 업무 깊숙히 활용하고 있는 이들은 불평 대신 질문을 던집니다. ‘어떻게 AI를 잘 길들일까’ [일잘러AI]는 개발자부터 비개발자까지 다양한 분야 직종 사람들을 만나 그들만의 AI 비법을 훔쳐볼 수 있는 코너입니다. 정답은 없지만 해답이 주목 받는 시대, &lt;디지털데일리&gt;가 생생한 AI 삶의 체험 현장을 조명합니다.&lt;편집자&gt;
 </div>
 <figure class="figure_frm origin_fig" contents-hash="8ca5133a65b2bd20cbbe4565a0eadf09c06ff214829eb181c2e06a2e2c357515" dmcf-pid="y1Jg6LZvvY" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/26/552796-pzfp7fF/20260826131642612xxja.png" data-org-width="640" dmcf-mid="uYdo8nXSSB" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/26/552796-pzfp7fF/20260826131642612xxja.png" width="658">
 </figure>
 [디지털데일리 오병훈기자] “처음에는 AI 요약 기능을 응용프로그램 인터페이스(API)을 활용하는 것으로 개발 방향을 잡았는데 토큰이 너무 빨리 소진됐습니다. 이럴 바에는 집에 있는 RTX5080를 통해 구현하는 게 더 좋겠다고 생각했습니다.”
 신주환 과학기술정보통신부 사무관 집에 있는 엔비디아 ‘지포스 RTX 5080’에는 특별한 업무가 하나 있습니다. 양자·첨단바이오 등 국가전략기술과 관련된 해외 최신 연구정보를 인공지능(AI)으로 읽고 요약하는 일입니다. 상용 거대언어모델(LLM) API를 계속 호출하는 대신 개인 GPU에서 직접 AI 모델을 돌리는 방식을 택했습니다.
 신 사무관의 주된 업무는 과기정통부의 과학기술 연구 성과를 대외적으로 보다 쉽게 설명하고 홍보하는 것입니다. 그러기 위해서는 매일 쏟아지는 글로벌 연구개발(R&amp;D) 성과를 순간순간 포착하는 것이 중요합니다.
 그렇게 탄생한 것이 바로 신 사무관의 ‘전략기술 대시보드’입니다. 전략기술 대시보드는 ‘아카이브(arXiv)’ ‘바이오아카이브(bioRxiv)’ ‘MIT 테크놀로지 리뷰’ 등에서 최신 연구·기술 정보를 가져옵니다. 개별 자료를 선택하면 AI가 내용을 세 줄로 요약하고 핵심 키워드 5개를 뽑아줍니다. 한 페이지에 모인 자료를 한꺼번에 분석해 최근 연구 흐름을 파악하는 ‘페이지 트렌드’ 기능도 갖췄습니다.
 신 사무관은 “홍보 업무도 하고 있고, 주목할 만한 연구성과 기사가 있으면 내부에 공유해야 하기 때문에 아침에 일어나서 연구 동향을 전반적으로 살펴봐야 한다”며 “팀 내부에도 글로벌 R&amp;D 트렌드를 파악하는데 도움을 주고 싶었다”고 전했다.
 전략기술 대시보드는 과기정통부 연구개발정책실이 지난 3월부터 약 10주 동안 진행한 ‘AI 역량 강화 교육’을 계기로 만들어졌습니다. 과기정통부 소속 공무원 약 20명이 직접 LLM 기반 AI 에이전트를 기획·개발하면서 AI 활용 역량을 높이는 것이 교육 목표였습니다.
 커서AI 활용부터 검색증강생성(RAG), 화면 설계, 폐쇄망에서의 AI 에이전트 구현, 업무 자동화 등을 실습한 결과물 중 하나가 바로 신 사무관의 전략기술 대시보드입니다.
 ◆상용 API 대신 집 RTX 5080…“토큰 비용 비싸니 직접 돌리자”
 먼저 신 사무관 입장에서 대시보드를 실제 업무에 활용하려면 넘어야 할 벽이 있었습니다. 정부 업무환경 특성상 외부 프로그램을 자유롭게 설치하기 어렵고 외부 AI 서비스를 내부 업무 시스템과 연결하는 데도 제약이 있기 때문입니다.
 신 사무관은 “정부에서는 예민한 정보를 많이 다루기 보안상 때문에 섣불리 AI를 활용하기 어려운 점이 있다”며 “내부망을 사용하고 있고 내부망에 프로그램 하나를 설치하기 위해서는 고려해야 할 점이 많다”고 설명했습니다.
 이에 대시보드는 정부 내부자료나 민감한 정보를 외부 AI 서비스로 보내 처리하는 시스템이 아니라, 인터넷에 이미 공개된 해외 연구정보만 분석하는 도구로 만들어졌습니다. 앞서 언급된 아카이브와 바이오아카이브, MIT 테크놀로지 리뷰 등에서 공개된 콘텐츠만 수집하는 식입니다.
 내부 정보를 활용하지 않으니, 전략기술 대시보드를 개발하고 운영하는 PC 역시 업무망 PC에 국한될 필요가 없었습니다. 개발 환경 자체를 자신의 개인 컴퓨터로 옮겨서 개발을 진행하게 됐습니다.
 그는 “보안 규정을 준수하면서 내부 망과 구분된 개인 PC를 활용해서 개발을 진행했다”고 강조했습니다.
 내부 보안 규정 외에도 비용 문제도 중요한 고려 사항이었습니다.
 신 사무관은 대시보드에서 오픈AI의 GPT 등 상용 LLM API를 호출해 논문을 요약하는 방식을 생각했습니다. 하지만 일반적인 챗GPT 유료 구독과 달리 직접 만든 프로그램에서 GPT를 호출하려면 API 사용량에 따라 별도 비용을 지불해야 합니다.
 신 사무관은 “처음에는 AI 요약 기능을 크레딧을 넣어서 하는 것으로 개발 방향을 잡았다”며 “사용해 보니 너무 빨리 토큰을 소진하면서 비용 문제가 발생하더라. 이럴 바에는 개인적으로 소유 중인 RTX5080에서 구동시키는 것이 낫겠다고 생각해서 개발 방향을 바꿨다”고 설명했습니다.
 그 결과 신 사무관 집에 있던 RTX 5080이 개인용 AI 서버 역할을 맡았습니다.
 그는 “전략기술 대시보드 프로그램 자체는 개인 PC에서 운영된다”며 “대시보드 화면에서 진행되는 쿼리를 GPU로 보내고 연산 결과를 가져오는 것”이라고 말했습니다.
 개인 노트북에서 대시보드를 실행하다 AI 연산이 필요해지면 인터넷을 통해 자택 GPU에 요청을 보내고 결과를 다시 받아오는 구조입니다. 큰 틀은 일반적으로 사용하는 상용 LLM과 같습니다. 상용 LLM은 해당 회사가 자체적으로, 혹은 외부 계약을 통해 운영 되는 데이터센터를 통해 연산이 이뤄집니다. 신 사무관이 개발한 전략기술 대시보드의 경우 신주환 사무관 집에 있는 RTX5080이 작은 데이터센터 역할을 하는 것이죠.
 신 사무관은 개인 PC 환경에서 LLM을 실행하고 호출할 수 있도록 지원하는 ‘올라마(Ollama)’를 이용했습니다.
 신 사무관은 “모델 파일을 확보한 이후 이를 실제 서비스와 연결해주고 그 모델에 외부에서도 접속할 수 있도록 하는 개발 과정을 도와준다”고 설명했습니다.
 <div contents-hash="ef18a342606e42b278d02e1dc0b4c9cf2960ffb3e7cbb7000fb5cce10d62a2c9" dmcf-pid="91Jg6LZvla" dmcf-ptype="general">
 실제 RTX 5080에서 구동하는 모델은 구글이 공개한 ‘젬마4(Gemma 4)’입니다. 젬마4는 구글이 로컬·엣지 환경까지 고려해 개발한 오픈 가중치 모델입니다. 모델 규모에 따라 개인용 하드웨어에서도 직접 구동할 수 있다는 점이 특징입니다. 신 사무관 역시 RTX 5080 한 장에서 구동하기 위해 경량 젬마4 모델을 선택했습니다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="f954c38d025dfd5869411e05a0649975bda4b4e57e0772771b84d1bf1aef99d7" dmcf-pid="2tiaPo5TWg" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/26/552796-pzfp7fF/20260826131643879vomo.png" data-org-width="640" dmcf-mid="674xqPlwTZ" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/26/552796-pzfp7fF/20260826131643879vomo.png" width="658">
 </figure>
 <figure class="figure_frm origin_fig" contents-hash="3989a9b7f7e8eb14d36566908a76d799dcbc9cc9e4b5491d9b76017f7a189f26" dmcf-pid="VFnNQg1ylo" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/26/552796-pzfp7fF/20260826131645135wmsb.png" data-org-width="640" dmcf-mid="PwRnfJGhWX" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/26/552796-pzfp7fF/20260826131645135wmsb.png" width="658">
 </figure>
 ◆“클로드가 만들면 코덱스가 코드리뷰”…AI끼리 ‘경쟁’ 붙였다
 신 사무관은 대학교 시절 화학공학을 전공했습니다. 다만 코딩을 처음 접한 것은 아닙니다. 대학 시절 파이썬과 C++를 사용했고 직접 프로그램을 만들어 깃허브에 올린 경험도 있습니다.
 그는 “대학 시절 파이썬과 C++를 주력으로 했다”며 “C++에서 데이터를 가져와 그래프로 그려주는 프로그램 같은 것도 만든 경험이 있다”고 설명했습니다.
 문제는 웹 애플리케이션(앱)이었습니다. 과거 신 사무관이 접한 개발 환경은 주로 CLI(Command Line Interface) 기반이었습니다. CLI 검은 화면에 코딩 텍스트만 구현되는 개발자 특화 환경이라고 볼 수 있습니다. 전략기술 대시보드처럼 다른 사람들과 함께 가시성 좋은 서비스를 만들기에는 적합한 환경이 아닙니다.
 때문에 실제 사용자가 버튼을 누르고 결과를 확인하는 UI까지 직접 구현하려면 자바스크립트와 같은 UI 구현 코드를 다룰 줄 알아야 합니다.
 신 사무관은 “예전에 만들었던 것은 화면으로 띄워주는 게 아니라 모두 CLI 기반이었다”며 “클로드코드 등장 이후 질문을 주고 받는 것만으로도 UI 구축이 가능해졌기 때문에 쉽게 개발을 할 수 있었다”고 강조했습니다.
 그렇다고 신 사무관이 클로드 코드에 곧바로 “대시보드를 만들어달라”고 주문한 것은 아닙니다.
 먼저 GPT를 이용해 SRS(Software Requirements Specification·소프트웨어 요구사항 명세)를 작성해달라고 지시했습니다. 자신에게 어떤 기능이 필요한지 GPT에 설명하고 프로그램의 동작 조건과 요구 기능을 하나의 명세서로 정리한 것이죠.
 그는 “GPT한테 ‘나는 어떤 어떤 기능들이 필요하다. 이것에 대해서 구체적인 명세서를 작성해줘’라고 하니까 명세서를 쭉 써주더라”라며 “그 결과물을 보고 ‘이 부분은 아닌 것 같다’ 싶으면 빼고, 필요한 부분을 다시 넣었다”고 전했습니다.
 다음으로 만들어진 SRS를 클로드 코드에 입력합니다. 작성돼 있는 SRS를 기준으로 프로젝트를 완성해달라고 하는 식이죠. SRS를 먼저 만들어 놓고 개발시키는 방식이기 때문에 AI 입장에서도 불필요한 작업을 최소화할 수 있다는 설명입니다.
 그 과정에서 신 사무관은 모니터링 분야별 버튼이나 전체보기 등 UI 구성도 자연어로 하나씩 요구했습니다. 다크모드도 추가했고요.
 신 사무관은 “분야별로 쉽게 구분해 볼 수 있도록 해야 하기 때문에 버튼을 만드는 지시도 세밀하게 신경 썼다”고 강조했습니다.
 코드 작성이 마무리 되면 클로드 코드가 작성한 코드를 다시 오픈AI의 코딩 에이전트 ‘코덱스’에 전달하는 순서가 남습니다. 코덱스의 역할은 ‘코드 리뷰어’인 셈이죠.
 신 사무관은 “두 코딩 에이전트 모두 코드 완결성은 비슷하다고 보는데 UI는 클로드가 잘 만들기 때문에 클로드를 기준으로 일단 개발했다”며 “클로드로 만들어놓은 코드를 코덱스한테 검토시키고 수정하거나 다시 한번 검토해야 할 부분을 선정한다”고 전했습니다.
 ◆AI가 할 수 없는 영역은? “기술 수준 평가·판단 영역”
 당초 신 사무관은 전략기술 대시보드에 국가별 전략기술 수준을 실시간으로 평가하는 기능까지 넣는 것을 구상했습니다. 현재는 한국과학기술기획평가원(KISTEP)의 기존 기술수준 관련 자료를 참고할 수 있도록 했지만 AI가 각국 기술력을 실시간 점수화하는 기능은 구현하지 않았습니다.
 그는 “이걸 기술 수준으로 실시간 점수화한다는 게 사실 너무 난도가 높은 일”이라며 “기술 수준 점수를 어떻게 낼 것인가 하는 방법론을 넣어줘야 하지만 전문가들마다 다양한 해석의 차이가 있고 이를 통합할 수 있는 기준을 만들기가 무척 어렵고 조심스럽다”고 말했습니다.
 신 사무관의 전략기술 업데이트는 계속되고 있습니다. 다음 목표는 아침마다 대시보드를 여는 과정을 없애버리는 것이죠. 대시보드를 열람할 필요 조차 없이 메신저로 관련 내용을 전달받을 수 있도록 하는 것입니다.
 과기정통부가 이번에 내부 AI 역량 강화 교육에서 목표로 삼은 것도 생성형 AI에 단순히 질문하는 방법을 익히는 데 그치지 않고 직접 업무용 AI 에이전트를 기획·개발하는 것이었습니다. 신 사무관의 개발 작업 사례는 향후 내부 AI 전환(AX)의 단초가 될 수도 있는 셈이죠.
 신 사무관은 “사람이 직접 이 작업을 하려고 했다면 사실 불가능했을 것”이라며 “AI를 활용하니 개발시간을 굉장히 많이 단축할 수 있었다”고 설명했습니다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기