산업리포트
인터뷰 / 시모네 감메리 팔로알토네트웍스 수석부사장
AI 시대 사이버 공격 급증세
AI 통제 여부가 보안의 출발점
"전세계 기업·기관 중 65%
데이터 통제권조차 확보 못해"
"사이버공격 세력 특정 어려워
AI활용 전과정 모니터링 필요"
“세계 기관 가운데 65%는 기본적인 데이터 통제권조차 갖추지 못한 것으로 나타났습니다. 기업과 기관에 배포된 인공지능(AI) 모델에서는 다수의 백도어와 허점이 발견됐죠. 그만큼 사이버 공격이 쉽고, 경로가 많다는 겁니다.”
시모네 감메리 팔로알토네트웍스 수석부사장(사진)은 지난 17일 서울 서초구 팔로알토네트웍스코리아 사무실에서 “AI 등장 이후 기업들이 ‘AI 공격’에 대비 태세를 갖추는 건 당연한 일이 됐다”며 이렇게 말했다. AI를 활용해 이뤄지는 차세대 사이버 공격을 막는 것은 물론 AI를 직접 보안에 이용할 방법을 찾아야 살아남을 수 있다는 것이다. 팔로알토네트웍스는 글로벌 1위 사이버 보안 기업이다.
감메리 부사장은 최근 자사에서 조사한 사이버 보안 통계 이야기를 먼저 꺼냈다. 그는 “AI 등장 이후 사이버 공격도 자동화됐다”며 “과거에는 공격하기 위해 44일 걸렸다면, 이제는 5시간 만에 똑같은 해킹이 가능하다”고 말했다. 이어 “2014년과 비교했을 때 매일 이뤄지는 사이버 공격도 230만 건에서 900만 건으로 세 배 이상 증가했다”고 말했다. 사이버 공격이 쉬워지는 만큼 그 수도 기하급수적으로 늘고 있다는 것이다.
그는 “AI를 구동하기 위해서는 무조건 데이터가 있어야 하는데, 데이터는 클라우드 규모의 인프라가 필요하다”며 “데이터와 클라우드 등 인프라 공격에 대응하는 것이 무엇보다 중요한 시대가 됐다”고 말했다.
감메리 부사장은 AI가 발전하는 만큼 기업들이 ‘AI 통제권’에 대해 고민해야 한다고 강조했다. 그는 “에이전틱 AI는 이제 단순한 챗봇의 역할을 넘어 스스로 행동을 결정하는 ‘자율적 존재’가 됐다”며 “에이전틱 AI가 행동하고 예측할 때 기업이 얼마나 AI를 통제할 수 있는지가 보안의 출발점”이라고 강조했다.
외부 공격 세력도 다양해지고 있다. 그는 “이전에는 국가 주도나 조직적인 공격이 대부분이었지만 ‘AI의 민주화’가 이뤄지면서 개인화된 공격이 늘어났다”며 “기업 및 기관이 아주 조금만 취약점을 보여도 수십만 개의 봇이 공격 태세를 갖추는 셈”이라고 말했다.
최근 보안업계 최대 행사인 RSA 콘퍼런스에 참석한 감메리 부사장은 기업 최고정보보호책임자(CISO)와 최고투자책임자(CIO)들의 태도가 1년 만에 완전히 변했다고 설명했다. 그는 “지난해에는 AI를 통제할 수 있는 방법을 고민했다면 올해는 AI를 어떻게 잘 이용할 수 있는가에 대해 고민하는 것으로 바뀌었다”며 “보안에 AI를 활용할 방법을 본격적으로 고민하는 것”이라고 분석했다.
그는 “CIO들이 염두에 둬야 하는 것은 인프라 수준의 보안”이라며 “클라우드 단계에서부터 생성형 AI를 다운로드하는 과정, 데이터를 연결하는 단계 등 전체 생애주기에 걸쳐 보안에 신경 써야 한다”고 말했다. 이어 “이후 사용자가 AI 모델을 사용하는 동안 악성 코드, 콘텐츠가 침범하는지도 계속 모니터링해야 한다”고 강조했다.
감메리 부사장은 최근 국내에서 일어난 SK텔레콤과 예스24 해킹 사례를 언급하며 공격 세력을 특정하기 어렵다는 점을 지적했다. 그는 “한 개의 기업에 평균 80개가 넘는 보안 툴이 쓰인다”며 “기업들이 공격자를 특정하기 어려운 이유는 여러 종류의 보안 툴을 파편적으로 모니터링하기 때문”이라고 말했다. 이어 “무조건 처음부터 끝까지 툴이 구동하는 맥락을 다 봐야만 그 행위자를 식별할 수 있다”며 “파편적으로 보면 문제가 없어 보이기 때문에 전체적인 맥락에서 생기는 취약점을 놓칠 때가 많다”고 말했다.
그는 AI 시대 ‘제로 트러스트 보안’의 의미도 변해야 한다고 강조했다. 감메리 부사장은 “생성 AI가 끊임없이 데이터를 교환하며 모델을 훈련한다”며 “내가 제공하는 데이터를 타인이 또 쓰는 셈”이라고 말했다. 생성 AI도 하나의 보안 위협 주체로 인식해야 한다는 것이다. 이어 “에이전틱 AI는 이제 인간처럼 행동할 수 있어 더욱 위험하다”며 “완벽한 보안을 위해서는 에이전틱 AI에 허가권을 부여하는 것이 중요하게 됐다”고 말했다.
최지희 기자 mymasaki@hankyung.com
Copyright © 한국경제. 무단전재 및 재배포 금지.
매주 일요일 밤 0시에 랭킹을 초기화합니다.