로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
故박지아 유작 '살롱 드 홈즈' 감독 "투병 말하지 않아..불꽃처럼 자신 태운 배우" (인터뷰) [단독]
N
[연예뉴스]
박탐희 이혼설 언급 "남편이 나 떄문에 영향받는 게 싫어서.."(4인용 식탁)
N
[연예뉴스]
류진 "고2 아들, 연예인 제안 여러 번 거절..의사가 꿈"('4인용식탁')
N
[연예뉴스]
‘조립식 가족’ 배현성, 인간 이온 음료
N
[연예뉴스]
'전동스쿠터 음주운전' BTS 슈가, 벌금 1500만원 약식 명령
N
커뮤니티
더보기
[자유게시판]
행복한 시간 보내세요
N
[자유게시판]
벌써 밥먹을시간다가오네요
N
[자유게시판]
벌써 시간이
[자유게시판]
이른 아침 로그인 완
[자유게시판]
주말이왔네요
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]해커들이 ‘LLM’을 노린다… “프롬프트 강화·악용 대비 훈련 필요”
온카뱅크관리자
조회:
58
2024-05-29 15:19:18
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">“LLM도 기존 보안 문제 그대로 겪을 수 있어”<br>실시간 모니터링, 액세스 제어, 해킹 모의 훈련 필요</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2cVBXy7v0E"> <figure class="figure_frm origin_fig" dmcf-pid="VpsEePA8Fk" dmcf-ptype="figure"> <p class="link_figure"><img alt="일러스트=챗GPT 달리3" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/29/chosunbiz/20240529151922400euvd.jpg" data-org-width="1362" dmcf-mid="96Ao4KiB7D" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/29/chosunbiz/20240529151922400euvd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 일러스트=챗GPT 달리3 </figcaption> </figure> <p dmcf-pid="fMFXsEYc0c" dmcf-ptype="general">글로벌 기업들이 자사 업무에 대규모언어모델(LLM)을 속속 도입하는 가운데 보안 사고에 주의해야 한다는 지적이 제기되고 있다. LLM은 편리한 신기술이지만 보안 관점에서는 다른 신기술과 비교해 특별한 점이 없다는 것이다. 직접 LLM을 공격해보는 테스트를 주기적으로 해야 하고, 업무 목적에 맞게 LLM을 재훈련해야 성능은 물론 보안도 개선된다는 이야기가 나온다.</p> <p dmcf-pid="44HTkalozA" dmcf-ptype="general">29일 영국 보안매체 다크리딩은 미국 보안업체 클라우드플레어의 바이바브 말릭(Vaibhav Malik) 솔루션 아키텍트의 기고문을 통해 이같이 전했다. 말릭은 대규모 전자상거래 플랫폼을 제공하는 업체의 사례를 공유했다. 해당 업체는 오픈소스 플랫폼인 ‘챗터봇(ChatterBot)’을 기반으로 한 챗봇을 자사 플랫폼에 구축했고, 신속하고 개인화된 응답을 제공하며 고객 만족도를 향상시켰다.</p> <p dmcf-pid="8n73SO1m0j" dmcf-ptype="general">하지만 해커가 챗봇을 통해 민감한 고객정보를 공개하도록 유도하는 방법을 알아내면서 상황이 급변했다. 공격자는 겉보기에는 무해한 대화에 챗봇을 참여시켜 고객과 친밀감을 쌓기 시작했다. 정보를 이끌어내기 위해 더 민감한 주제로 대화를 서서히 유도했다. 챗봇은 사람에 비해 상황 이해 능력이 부족하고 조작 전술을 식별하는 훈련을 받지 않았기 때문에, 고객의 이메일 주소, 전화번호, 신용카드 번호 일부를 유출하기 시작했다.</p> <p dmcf-pid="6w62tHbYuN" dmcf-ptype="general">다행히 회사의 보안 모니터링이 비정상적인 챗봇의 행동을 감지했다. 정상적인 상호 작용 패턴을 학습하는 인공지능(AI) 기반 위협 탐지 시스템이 챗봇의 비정상적인 응답 양과 내용을 경고했다는 것이다. 이에 더 큰 피해가 발생하기 전에 해킹된 챗봇을 종료할 수 있었다고 한다.</p> <p dmcf-pid="P4HTkalo3a" dmcf-ptype="general">이처럼 LLM은 보안에 있어서 완벽한 기술이 아니다. 소프트웨어 애플리케이션과 웹 보안 개선을 위한 글로벌 비영리 단체 ‘OWASP(Open Web Application Security Project)’도 LLM 취약점 10가지를 지적한 바 있다. OWASP는 데이터 유출, 무단 코드 실행, LLM 생성 콘텐츠에 대한 과도한 의존 등을 꼽았다.</p> <p dmcf-pid="Q6ZWDjvaUg" dmcf-ptype="general">클라우드플레어는 이 같은 상황을 방지하기 위해 실시간 모니터링이 필수라고 지적했다. 기존 보안 모니터링은 LLM 공격의 미묘하고 대화적인 특성을 포착하지 못하는 경우가 많기 때문에 언어의 뉘앙스를 이해하고 비정상적인 행동을 포착할 수 있는 전문화된 AI 기반 모니터링이 필요하다는 것이다.</p> <p dmcf-pid="xMFXsEYcUo" dmcf-ptype="general">프롬프트(명령어) 설계가 부실하면 LLM에서 문제가 생긴다는 지적이 나온다. 특히 자유로운 형태의 상호작용을 가능하게 하는 ‘오픈엔드’ 방식의 LLM이 위험하다. 따라서 모델의 응답 범위를 제한하는 고도로 구조화된 상황별 프롬프트를 사용하는 것을 권장한다고 클라우드플레어는 전했다.</p> <p dmcf-pid="y8XyENSguL" dmcf-ptype="general">구매한 상태로 곧바로 사용할 수 있는 LLM들은 보편화된 데이터들을 가지고 훈련이 된 상태인데, 모델을 미세 조정하면 성능을 개선하면서도 보안 위협을 줄일 수 있다. 또 조직의 모든 구성원이 LLM에 대한 전체 액세스 권한이 필요한 것은 아니기 때문에 최소 권한 원칙에 따라 세분화된 액세스 제어를 구현하는 것이 보안에 유리하다.</p> <p dmcf-pid="WA2qHTuSFn" dmcf-ptype="general">아울러 정기적인 테스트를 통해 LLM의 취약점이 악용되기 전에 이를 식별하고 패치를 적용할 수 있도록 해야 한다. 공격자가 사용할 수 있는 기술들을 적용해 자체 모델을 깨뜨리는 시도를 해야 한다는 것이다. 클라우드플레어는 “LLM 보안은 지속적인 과제이며 모든 사람에게 적합한 단일 솔루션은 존재하지 않는다”며 “기술적 제어와 강력한 프로세스 및 보안 인식 문화를 결합한 사전 예방적이고 다층적인 접근 방식이 필요하다”고 밝혔다.</p> <p dmcf-pid="YCePuF413i" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
노익스플로드
200
2
태산희님
100
3
그랑프리옥황상제
100
4
풀카
100
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
N
채팅하기