로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[실시간뉴스]
[단독]민주 지도부 “국회의장 선거에 당원 참여” “안된다” 설전
N
[연예뉴스]
‘2024 춘천영화제’ 개막식 사회자 강소라·개막작은 ‘빛과 몸’···6월 20일 공지천 청소년푸른쉼터서 개막식
N
[실시간뉴스]
러, 휘발유 수출금지 6월 말까지 일시 해제
N
[실시간뉴스]
대통령 사망에 이란 충격…테헤란에 추모객 인산인해(종합)
N
[스포츠뉴스]
내년 부산 전국체전 10월 17일 개막 7일간 열전
N
커뮤니티
더보기
[자유게시판]
날씨 정말덥네요
N
[자유게시판]
점심시간이네요~맛점
N
[자유게시판]
궁모닝 입니다~
N
[자유게시판]
좋은 아침이예요
N
[자유게시판]
맛점하세요~
목록
글쓰기
[IT뉴스]AI가 인간을 속이고 조정하고 있다 [알송달송과학]
온카뱅크관리자
조회:
22
2024-05-10 23:01:43
<div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="f7PTpVEQzw"> <figure class="figure_frm origin_fig" dmcf-pid="4bRGz6mepD" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능. 게티이미지 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/10/fnnewsi/20240510230144378cwro.jpg" data-org-width="727" dmcf-mid="2VyMchBWpm" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/10/fnnewsi/20240510230144378cwro.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능. 게티이미지 제공 </figcaption> </figure> <div dmcf-pid="8YukTFe7FE" dmcf-ptype="general"> [파이낸셜뉴스] 2022년 11월 30일, 오픈AI가 생성형AI '챗GPT'를 세상에 공개 이후 우리의 생활이 많이 변하고 있습니다. 친구나 선생님, 직장 상사와 채팅하듯이 챗GPT에게 묻고 답을 듣고 있죠. 이제는 회사의 업무에도 상당부분 생성형 AI를 이용하고 있습니다. </div> <p dmcf-pid="60fhtbj4uk" dmcf-ptype="general">그런데 생성형 AI가 어떤 질문에는 이상한 답을 내놓는 경우가 있습니다. 생성형 AI에게 요청한 질문에 거짓말을 하듯 잘못된 정보를 제공하는 오류가 일어나기도 합니다. 이를 두고 환각현상이라고 하죠. </p> <p dmcf-pid="PVi5KMCnpc" dmcf-ptype="general">최근에 출시하고 있는 생성형 AI 서비스는 이러한 환각현상을 많이 줄이고 있는데요. 환각현상에 의해 생성형 AI가 제공하는 잘못된 정보를 우리가 그대로 받아들일 경우엔 의사 결정 과정에 문제가 발생할 수 있어 조심해야 합니다. </p> <p dmcf-pid="QNC4orph7A" dmcf-ptype="general">그런데 AI가 환각현상이 아니라 의도적으로 거짓말을 하는 경우도 있다고 합니다. </p> <p dmcf-pid="xqxWu4wM0j" dmcf-ptype="general">미국 매사추세츠공과대(MIT)의 피터 박 박사후연구원은 10일(한국시간) 국제학술지 '패턴'에 AI의 속임수와 관련된 논문을 발표했습니다. 그러면서 AI 시스템에 의한 속임수의 위험성을 설명하고 정부가 이 문제를 가능한 한 빨리 해결하기 위한 강력한 규정을 마련할 것을 촉구했습니다. </p> <p dmcf-pid="yzQyUfDxUN" dmcf-ptype="general">연구진은 AI의 거짓말과 속임수를 쓰는 대표적인 예로 메타가 온라인 게임을 학습시킨 AI '시세로(Cicero)'를 언급했습니다. </p> <p dmcf-pid="WzQyUfDxpa" dmcf-ptype="general">메타가 지난 2022년 11월 온라인게임 '디플로머시'에서 인간에 필적하는 성능을 달성한 시세로를 공개했습니다. 디플로머시는 20세기 초 유럽 7대 열강의 대전을 배경으로 하는 전략게임입니다. 2명에서 7명의 플레이어가 승리를 위해 정견 발표, 외교 협상, 작전명령 등을 펼치는 고난이도 게임이죠. </p> <p dmcf-pid="YaIfLw0C7g" dmcf-ptype="general">메타는 시세로가 게임에서 이기도록 훈련시켜 인간 플레이어 중 상위 10%에 들게 만들었습니다. 피터 박 박사후연구원은 "우리는 메타의 AI가 속임수의 달인이 되도록 학습됐다는 것을 발견했다"고 말했습니다. </p> <p dmcf-pid="GiwbeA5r7o" dmcf-ptype="general">메타는 시세로를 '대체로 정직하고 도움이 되는' 인물로 훈련시키고 게임을 하는 동안 인간 동맹을 '의도적으로 배신하지 않도록' 훈련시켰다고 주장했습니다. 하지만, 메타가 사이언스지 논문과 함께 발표한 데이터에 따르면 시세로는 공정하게 플레이하지 않았습니다. </p> <p dmcf-pid="H8oFVdSg0L" dmcf-ptype="general">다른 AI는 전문적인 인간 플레이어를 상대로 텍사스 홀덤 포커 게임에서 블러핑하는 능력을 보여주었습니다. 또 스타크래프트2에서 상대를 이기기 위해 공격을 위장하거나 경제적 협상에서 우위를 차지하기 위해 자신의 선호도를 왜곡했습니다. </p> <p dmcf-pid="XC5LsY41pn" dmcf-ptype="general">피터 박 박사후연구원은 "게임에서 AI가 속임수를 쓰는 것이 무해해 보일지 모르지만, 이는 미래에 더 진보된 형태의 AI 속임수로 이어질 수 있는 '기만적인 AI 능력의 돌파구'로 이어질 수 있다"고 경고했습니다. </p> <figure class="figure_frm origin_fig" dmcf-pid="Zp4lFKA8Ui" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI가 웹사이트 로그인이나 양식 제출 시 '로봇이 아닙니다'와 같은 문구가 나타나는 캡차(CAPTCHA) 시스템을 시스템을 속이고 통과한다. 피터 박 박사후연구원 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/10/fnnewsi/20240510230144568rnxi.jpg" data-org-width="800" dmcf-mid="VrdXBQOJ3r" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/10/fnnewsi/20240510230144568rnxi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI가 웹사이트 로그인이나 양식 제출 시 '로봇이 아닙니다'와 같은 문구가 나타나는 캡차(CAPTCHA) 시스템을 시스템을 속이고 통과한다. 피터 박 박사후연구원 제공 </figcaption> </figure> <div dmcf-pid="5qxWu4wM0J" dmcf-ptype="general"> 또 웹사이트 로그인이나 양식 제출 시 '로봇이 아닙니다'와 같은 문구가 나타나는 캡차(CAPTCHA) 시스템을 접하죠. 그런데 AI가 인간이 아님에도 시스템을 속이고 이를 통과하기도 합니다. </div> <p dmcf-pid="1QNp8nyjud" dmcf-ptype="general">피터 박 박사후연구원은 "인간 개발자와 규제 기관에서 부과한 안전 테스트를 체계적으로 속임으로써, 기만적인 AI는 우리 인간에게 잘못된 보안 감각으로 이끌 수 있다"고 우려했습니다. </p> <p dmcf-pid="tZBrGUnbze" dmcf-ptype="general">특히 기만적인 AI의 주요 단기 위험으로 적대적인 행위자가 사기를 쉽게 저지르고, 선거를 조작할 수도 있다는 거죠. 결국 인간은 이러한 AI에 대한 통제력을 잃을 수도 있다고 경고했습니다. </p> <p dmcf-pid="F3VC1BNfpR" dmcf-ptype="general">그러면서 "AI 시스템의 속임수 능력이 더욱 발전함에 따라, AI가 사회에 미치는 위험은 점점 더 심각해질 것"이라며, "미래의 AI 제품과 오픈 소스 모델의 더 진화된 속임수에 대비할 수 있는 시간을 최대한 확보해야 한다"고 지적했습니다. </p> <p dmcf-pid="3nrKdc1m7M" dmcf-ptype="general">박 박사와 그의 동료들은 사회가 아직 AI 기만을 해결할 적절한 조치를 갖추지 못했다고 생각하고 있습니다. </p> <p dmcf-pid="0C5LsY41Ux" dmcf-ptype="general">연구진은 EU AI법과 미국의 AI 행정 명령과 같은 조치를 통해 정책 입안자들이 이 문제를 심각하게 받아들이기 시작하고 있다며 긍정적이라고 말했습니다. </p> <p dmcf-pid="pXqwYpiBuQ" dmcf-ptype="general">그러나 "AI 개발자가 이러한 시스템을 통제하기 위한 기술을 아직 갖추지 못한 상황에서, AI 정책을 엄격하게 시행할 수 있을지에 대해서는 두고 볼 일"이라고 말했습니다. <br>#인공지능 #AI #거짓말 #기만 #속임수 </p> <p dmcf-pid="UDyMchBW0P" dmcf-ptype="general">monarch@fnnews.com 김만기 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
환도우
0
2
로이킴
0
3
좀비지존
0
업체홍보/구인
더보기
[제작업체홍보]
h5웹미니게임개발제작 라이브스코어제작 커뮤니티제작 스포츠솔루션제작임대
[제작업체홍보]
h5웹미니게임개발제작 포유소프트 텔레그램 @fusoft001 스포츠 토토 솔루션제작임대분양
[제작업체홍보]
h5웹미니게임개발제작 포유소프트 텔레그램 @fusoft001 스포츠 토토 솔루션제작임대분양
[제작업체홍보]
h5웹미니게임개발제작 라이브스코어제작 커뮤니티제작 스포츠솔루션제작임대
[구인]
커뮤니티 사이트 운영자 모집
지식/노하우
더보기
[카지노 노하우]
바카라 노하우와 전략 따위는 크게 중요하지 않습니다
N
[카지노 노하우]
오프라인 카지노에 가서 게임할 때 지켜야 할 필수 팁
N
[카지노 노하우]
룰렛 초보자들은 3 가지 배팅만 사용하세요
[카지노 노하우]
바카라의 수익은 금액 조절을 이용한 줄타기에서 나옵니다
[카지노 노하우]
카지노 게임하기 전에 컨디션 체크부터 하세요
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
N
채팅하기