【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]에임인텔리전스, 'AI 레드티밍·가드레일'로 안전한 AI 생태계 구축

온카뱅크관리자

2026-09-17 21:57:26

<div id="layerTranslateNotice" style="display:none;"></div> 박하언 CTO 발표…AI 에이전트 실시간 통제 플랫폼 '스타포트'로 정책 기반 권한 제어 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Wc5JYx2uge">
 (지디넷코리아=김기찬 기자)인공지능(AI) 보안 전문 기업 에임인텔리전스가 AI 시스템을 공격해 취약점을 찾는 레드팀과 AI 행동을 실시간으로 통제하는 가드레일을 결합해 AI 생애주기 전체를 관리하는 플랫폼을 구축하겠다는 청사진을 제시했다.
 박하언 에임인텔리전스 최고기술책임자(CTO)는 지난 7일 삼성금융캠퍼스에서 열린 'AI 리스크 컨퍼런스 서울 2026'에서 AI 안전 전략을 소개했다.
 박 CTO는 이날 "이제 중요한 질문은 AI를 어디에 활용할 것인가가 아니다. 누가 AI를 통제하고, 어떻게 통제할 것인지를 고민해야 한다"고 강조했다.
 생성형 AI가 빠르게 발전하면서 위험도 함께 커지고 있다는 것이 박 CTO의 진단이다. 심지어 AI는 이제 스스로 행동하는 에이전트를 거쳐 실제 물리적 환경에서 움직이는 피지컬 AI 시대로 진입하고 있다.
 그는 "에임인텔리전스 레드티밍 결과 가장 안전하다고 평가받는 AI 모델조차 10분 안에 탈옥(Jailbreak)이나 인격 변조가 가능했다"며 "뿐만 아니라 새로운 AI 취약점은 계속 등장하기 때문에 단순히 취약점을 찾는 것이 아니라 국제 표준과 프레임워크를 기반으로 객관적으로 평가하는 것이 중요하다"고 말했다.
 <figure class="figure_frm origin_fig" contents-hash="ff2bbabe066f39f870bf347c2de2a12853617e0b1907949de371b572fc69752b" dmcf-pid="5mpa1iPKN6" dmcf-ptype="figure">
 <img alt="박하언 에임인텔리전스 CTO가 지난 7일 삼성금융캠퍼스에서 열린 'AI 리스크 컨퍼런스 서울 2026'에서 발표하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/17/ZDNetKorea/20260917215351830etdb.jpg" data-org-width="640" dmcf-mid="ylBEUNd8kd" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/17/ZDNetKorea/20260917215351830etdb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 박하언 에임인텔리전스 CTO가 지난 7일 삼성금융캠퍼스에서 열린 'AI 리스크 컨퍼런스 서울 2026'에서 발표하고 있다.
 </figcaption>
 </figure>
 이처럼 AI 모델의 취약점을 발굴하고 조치하는 것만으로는 AI를 안전하게 활용하는 데 한계가 있다는 것이 박 CTO의 판단이다. 이에 에임인텔리전스는 AI 레드티밍과 더불어 AI 통합 관리 플랫폼이자 가드레일인 '스타포트(Starport)'를 선보여 AI 모델과 챗봇, AI 에이전트를 실시간으로 통제하는 환경을 지원한다는 계획이다.
 스타포트는 AI 모델과 챗봇, AI 에이전트를 실시간으로 통제하는 플랫폼이다. 핵심에는 '가디언(Guardian)'이라 불리는 경량 AI 가드레일 모델이 탑재된다.
 이 모델은 기업 내부 또는 온프레미스 환경에 구축돼 AI 서비스 앞단과 뒷단에서 프롬프트와 응답을 실시간으로 검사한다. 개인정보나 민감정보가 외부 생성형 AI 서비스로 전송될 경우 자동으로 마스킹하거나 차단하며, 기업 정책에 맞게 AI 활용을 통제한다.
 특히 AI 에이전트는 다양한 하위 에이전트와 외부 도구, API를 활용해 작업을 수행하기 때문에 전체 실행 과정을 관리해야 한다. 이에 스타포트는 기업 내 AI 모델과 에이전트 현황을 파악하는 인벤토리 기능과 AI 간 데이터 이동 및 권한 사용을 분석하는 관측(Observation) 기능을 제공한다. 이후 정책 기반으로 허용과 차단, 권한 제어까지 하나의 플랫폼에서 수행하도록 구성했다.
 박 CTO는 이어 "현재 에임인텔리전스는 60개 이상의 AI 모델을 대상으로 레드팀 테스트를 수행했으며, 해외 20여 개 기업에 관련 솔루션을 공급하고 있다"며 "또한 58개 이상의 글로벌 보안 프레임워크와 매핑해 결과를 제공하고 있으며, 약 1200만 명이 사용하는 서비스에 가드레일 기술이 적용됐고, 10만 개 이상의 AI 에이전트를 관리하고 있다"고 소개했다.
 그는 "AI를 안전하게 활용하기 위해서는 공격과 방어, 탐지와 통제까지 연결된 전 주기 보안 체계가 필요하다"며 "한 기업만으로 해결할 수 있는 문제가 아닌 만큼 글로벌 기업과 연구기관, 산업계가 함께 AI 안전 생태계를 만들어가야 한다"고 당부했다.
 한편 지난 7일 개최한 'AI 리스크 컨퍼런스 서울 2026'은 에임인텔리전스가 개최하고, 삼성화재가 후원하는 컨퍼런스로, 100명 이상의 국내외 기업 관계자들이 참여했다. 현장에서는  AI 리스크를 정의하고, 효과적인 관리를 위한 논의와 강연이 이어졌다. 에임인텔리전스는 이번 컨퍼런스를 기점으로 주기적으로 AI 리스크 컨퍼런스를 개최할 예정이다.
 김기찬 기자(71chan@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기