김진석 대표 "우리 SCA플랫(S-BOM)에 AI 모델 위협 요소 탐지 기능 추가"

(지디넷코리아=방은주 기자) 래브라도랩스(대표 김진석, 이희조)가 오픈소스 AI 모델로 인한 사이버 위협과 라이선스 이슈에 선제적으로 대응할 수 있는 AI공급망 강화 방안을 내놨다.

래브라도랩스는 7일 ‘래브라도 SCA(Software Composition Analysis) 플랫폼’에 AI 모델을 자동 탐지하고, 코드 위치와 모델 출처, 신뢰성 등을 점검하는 기능을 추가한다고 밝혔다.

'래브라도 SCA'는 허깅페이스에 등록한 욜로(YOLO) 기반 객체 탐지 모델 'Bingsu/Adetailer'를  공급망 공격 이력과 보안 경고를 근거로 악성 가능성 모델로 분류했다. 이 모델은 지난달에만 2150만 회이상 다운로드 되며 매우 널리 사용되고 있는 만큼 보안주의가 필요한 상황이다.

기업과 기관은 생성형AI 확산 후 오픈소스 AI모델 도입에 한창이다. AI플랫폼인 허깅페이스(Hugging Face)에 등록한  AI 모델 수는 150만 개 이상(2025년 기준)으로, 하루 평균 20만 회 이상 다운로드되고 있다. 래브라도랩스 자체 분석 결과 오픈소스 저장소에서 확인된 악용 가능한 AI모델이 1700건을 넘어섰다.

래브라도 AI 모델 분석 화면 이미지.

기존 SBOM 표준에 AI 모델 탐지 결과를 추가한 아미지.

악용 가능한 AI 모델에는 백도어나 악성 스크립트가 포함됐다.  또, 무단 라이선스 변경, 훈련 데이터 위변조 등의 위험 요소가 발견됐다. 기업이 백도어가 삽입된 AI 모델을 다운로드하면 내부 네트워크 접근 권한을 탈취해, 고객 정보, 영업 비밀 등 민감한 데이터를 외부로 유출할 수 있다. 악용 가능한 AI모델은 훈련 데이터를 위조하거나 파괴해 편향된 결과를 출력하거나, 중요 결정에 오류를 유발할 수 있다.

오픈소스 AI 모델 중에는 라이선스 위반 사례가 많다. 무단으로 사용된 데이터셋, 저작권 침해 등이 발생하면, 향후 소송이나 손해배상 리스크가 따른다. 실제로 깃허브(GitHub) 저장소에 업로드된 AI 모델에서 백도어가 발견됐다. 텍스트를 이미지로 생성하는 생성AI 모델인 스테이블 디퓨전(Stable Diffusion)과 함께 배포된 설치 스크립트에 악용 가능한 코드가 포함된 사례도 있다.

공개된 대규모언어모델(LLM)이 학습 중 개인정보를 포함한 데이터를 유출한 사례도 보고됐다. 이제 기업은 AI 모델 활용 전에 신뢰성과 안전성을 고려해 AI공급망 위협을 챙겨야 한다.

'래브라도 SCA플랫폼'은 AI 사전학습 모델의 사용 내역과 출처, 라이선스 상태, 악용 가능한 코드 포함 여부까지 자동 식별한다. AI 모델 관련 보안 위협을 SBOM(Software Bill of Materials)  수준에서 선제적으로 관리하게 돕는다.

또 '래브라도 SCA플랫폼'은 신뢰할 수 없는 AI 모델이나 코드 사전 탐지로 공급망 리스크를 사전에 차단한다. AI모델 라이선스 위반에 따른 법적 리스크를 예방하며, 보안 인증 및 컴플라이언스 대응 시 높은 수준의 투명성도 확보할 수 있다.내부 감사 및 외부 규제 대응 시 SBOM 자동화 자료로 활용할 수도 있다.

래브라도랩스는 AI BOM표준이 완전히 정립되지 않았지만, 기존 SBOM 체계를 기반으로 AI 모델 특성을 반영한 확장 기능을 선제적으로 구현했다고 밝혔다. 또 AI BOM이 향후 표준화되면, 즉시 반영할 수 있는 유연한 구조와 데이터 스키마 설계도 갖췄다.

김진석 래브라도랩스 대표는 “AI는 소프트웨어 공급망의 핵심 자산으로 자리잡고 있지만, 아직 보안성과 투명성을 갖춘 관리체계는 부족하다”며 “이번 기능 확장은 AI 모델을 도입 및 개발하는 모든 조직에 실질적인 보호장치를 제공할 것”이라고 강조했다.

한편 래브라도랩스는 2018년 고려대학교 소프트웨어 보안연구소(CSSA)에서 분사한 회사다.

방은주 기자(ejbang@zdnet.co.kr)

Copyright © 지디넷코리아. 무단전재 및 재배포 금지.