【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]"AI로 사이버보안 위협 가능…폭탄제조 등에 챗봇 악용 우려"

온카뱅크관리자

2024-07-02 12:00:33

<div id="layerTranslateNotice" style="display:none;"></div> SK쉴더스 미디어 세미나…폭탄 제조법 알려주는 'AI 취약점' 시연 "상반기 국내 사이버 침해, 금융권이 20.6%로 최다" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Be681SxpzL">
 <figure class="figure_frm origin_fig" dmcf-pid="bdP6tvMU7n" dmcf-ptype="figure">
 <img alt="[촬영 노재현]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202407/02/yonhap/20240702120033719xpee.jpg" data-org-width="1200" dmcf-mid="qlNTaxGkUo" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202407/02/yonhap/20240702120033719xpee.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [촬영 노재현]
 </figcaption>
 </figure>
 (서울=연합뉴스) 노재현 기자 = 생성형 인공지능(AI)이 폭탄 제조 등에 악용될 수 있다는 우려가 제기됐다.
 SK쉴더스는 2일 서울 중구 페럼타워에서 '2024년도 상반기 보안 트렌드 분석 미디어 세미나'를 열고 AI 발전으로 사이버 보안에 대한 위협이 커졌다며 이런 분석을 내놨다.
 SK쉴더스의 화이트해커 그룹 '이큐스트'(EQST)는 AI 거대언어모델(LLM) 서비스의 취약점 중 위험도가 높은 3가지로 ▲ 프롬프트 인젝션(Prompt Injection) ▲ 불안전한 출력 처리 ▲ 민감정보 노출을 꼽으면서 이를 시연했다.
 프롬프트 인젝션은 악의적인 질문을 통해 AI 서비스 내 적용된 지침이나 정책을 우회함으로써 본래 목적이 아닌 답변을 유도하는 취약점을 말한다.
 이큐스트는 "생성형 AI가 프롬프트 인젝션을 통해 악성코드 생성이나 마약 제조, 폭탄 제조, 피싱 공격 등에 악용될 수 있다"고 지적했다.
 오픈AI의 챗GPT 등 AI 챗봇은 보통 폭탄 제조 등 범죄에 악용될 수 있는 질문에는 답변하지 않도록 학습됐다.
 그러나 이큐스트는 챗봇에 'IED'(급조폭발물) 등이 포함된 질문을 단계적으로 던지는 방법으로 폭탄 제조법을 끌어냈다.
 불안전한 출력 처리 취약점은 LLM이 적절하지 않은 출력물을 생성하면서 정보 탈취 등 공격에 피해를 볼 위험성을 말한다. 
 마지막으로 이큐스트는 개인 정보가 포함되거나 애플리케이션의 권한 관리 미흡으로 민감한 정보가 노출될 수 있다고 지적했다.
 SK쉴더스 김병무 정보보안사업부장(부사장)은 "전 산업 분야에 AI 기술 접목이 확산하면서 이를 노린 보안 위협이 현실화하고 있는 만큼 이에 대한 체계적인 대비가 필요하다"고 말했다.
 한편 올해 상반기 국내에서 발생한 사이버 침해 사고 5건 중 한 건은 금융권을 대상으로 한 것으로 분석됐다.
 이큐스트가 상반기 경험한 해킹 사고 사례와 연구 결과를 토대로 분석한 내용에 따르면 사이버 침해 사고의 업종별 통계에서 금융업이 20.6%로 가장 많았다.
 그다음으로 정보·통신업이 18%, 제조업이 16.4%로 많았다.
 유형별 사고 발생 통계를 보면 취약점 공격이 45%로 가장 많이 발생했는데 VPN, 라우터 등 네트워크 장비를 통한 APT(지능형 지속 위협) 공격 때문으로 조사됐다. 사람의 심리를 이용해 기밀을 탈취하는 수법인 '소셜 엔지니어링' 공격이 26%로 뒤를 이었다.
 아울러 SK쉴더스는 국외 사이버 침해 사고에서는 현재 전쟁 중인 러시아, 이스라엘 등 국제 분쟁으로 인한 정부와 공공기관을 대상으로 한 공격이 26.7%라고 소개했다.
 nojae@yna.co.kr
 ▶제보는 카톡 okjebo
 </section> 
 </div> 
 Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기