로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
결혼 13년차 선예 "넷째 출산? 남편 문 닫았다"
N
[연예뉴스]
‘나는 솔로’ 22기 옥순, 영숙에게 먹던 커피 건넨 경수에 분노…“나 무시하나”
N
[연예뉴스]
'이혼' 수현 과감노출→블랙스완 박보영..레드카펫도 '흑백대전'(Oh!쎈 이슈) [29th BIFF]
N
[실시간뉴스]
한미 확장억제, '물음표' 줄이고 '느낌표' 늘리려면
N
[연예뉴스]
설인아, 결국 병원行 "살려주세요"…'무쇠소녀단' 어쩌나
N
커뮤니티
더보기
[자유게시판]
식사들은
N
[자유게시판]
맛점들 하세요
N
[자유게시판]
행복한 시간 보내세요
[자유게시판]
벌써 밥먹을시간다가오네요
[자유게시판]
벌써 시간이
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]해킹당한 챗GPT, 마약·폭탄 제조법 줄줄이 토해내
온카뱅크관리자
조회:
34
2024-06-03 18:35:03
<div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7mr8Ey7v67"> <figure class="figure_frm origin_fig" dmcf-pid="zXHaWuxp4u" dmcf-ptype="figure"> <p class="link_figure"><img alt="게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/03/etimesi/20240603183504852gmxf.png" data-org-width="612" dmcf-mid="upgznmZw6z" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/03/etimesi/20240603183504852gmxf.png" width="658"></p> <figcaption class="txt_caption default_figure"> 게티이미지뱅크 </figcaption> </figure> <p dmcf-pid="qKblzxkPQU" dmcf-ptype="general">오픈AI의 생성형 인공지능(AI) '챗GPT'가 탈옥 모드로 해킹당했다. 이에 챗GPT는 필로폰 제조·핵무기 제조법 등 금지한 콘텐츠를 줄줄이 생성했다.</p> <p dmcf-pid="BKblzxkP4p" dmcf-ptype="general">3일 플리니 프롬프터(Pliny the Prompter)라는 해커는 X(옛 트위터)를 통해 자신을 'AI 레드 팀' 멤버라고 소개하면서, 챗GPT에 탈옥(Jail breaking)을 단행한 사례를 공유했다. 정보기술(IT) 업계에서 탈옥은 온갖 필터를 우회해, 나타나서는 안 될 기능을 노출하는 행위를 가리킨다.</p> <p dmcf-pid="bp0wt2LKQ0" dmcf-ptype="general">플리니 프롬터는 GPT스토어에 '갓모드 GPT(GODMODE GPT)'라는 GPTs를 공유했다. GPT는 거짓을 생성하는 환각, 인종과 성별 종교에 대한 편향, 인류에게 위험을 주는 위험한 정보를 자동 차단하는 필터를 갖고 있다. 때문에 이와 관련된 질문을 하면 챗GPT가 자동 차단한다. 하지만 갓모드 GPT를 사용하면, 이런 모든 필터를 우회할 수 있다.</p> <p dmcf-pid="KcAKaCFO83" dmcf-ptype="general">플리니 프롬터는 오픈AI 커스텀 GPT 편집기를 사용, 새로운 GPT-4o 모델의 모든 제한을 우회하는 방법을 찾아냈다. 그 결과 AI 챗봇이 욕설을 내뱉게 하고, 자동차 탈취 방법을 생성하게 하고, 심지어 폭탄을 제조하는 방법을 안내하도록 했다. 또 챗GPT가 필로폰 약물에 해당하는 메스암페타민을 만드는 방법을 시연했다.</p> <p dmcf-pid="984Y2isd4F" dmcf-ptype="general">하지만 해당 GPTs는 몇 시간 유지되지 못했다. IT 매체인 퓨처리즘에 해당 GPTs가 소개됐고 수많은 사람이 몰리자, 이를 인지한 오픈AI가 해당 GPTs를 삭제한 것이다. 플리니 프롬터는 릿스피크(leetspeak)라는 고어 인터넷 슬랭을 활용해 탈옥시킨 것으로 보인다. 릿스피크는 해커 커뮤니티에서 유행하는 글자 작성 방법이다. 숫자나 문자를 다른 숫자와 문자로 대체하는 것이 특징이다. 예를 들어, “cool”을 “kewl”로 작성한다.</p> <p dmcf-pid="2deFxATN8t" dmcf-ptype="general">챗GPT의 근간이 되는 GPT는 온라인상에 있는 무료 정보 상당수를 학습했다. 다만 사용자가 악성 정보를 생성하지 못하는 것은 오픈AI가 GPT에 수많은 차단 필터를 부착했기 때문이다. 하지만 릿스피크(leetspeak)에 대한 필터는 없었던 것으로 추정된다.</p> <p dmcf-pid="VwDfcvUl61" dmcf-ptype="general">현대인 기자 modernman@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
정배만거는데왜
200
2
노익스플로드
200
3
학입니다
100
4
그랑프리옥황상제
100
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
N
채팅하기