로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
기특한 열일 통했다…샤이니 키, 데뷔 17년차에도 커리어하이[차트오피스]
N
[연예뉴스]
[2024 BIFF] '청설' 김민주 "첫 영화, 첫 부국제 참여 너무 뜻깊다"
N
[연예뉴스]
박성광♥이솔이, 20억 펜트하우스 이사 결국 연기…"현실 타협할 것 많아"
N
[실시간뉴스]
"아저씨가 혼밥하는 드라마 누가 좋아할까 했는데 12년"...'고독한 미식가' 고로상, 부산 왔다
N
[연예뉴스]
'고독한 미식가' 고로상이 봉준호 감독에게 편지 쓴 이유 [종합][29th BIFF]
N
커뮤니티
더보기
[자유게시판]
식사들은
[자유게시판]
맛점들 하세요
[자유게시판]
행복한 시간 보내세요
[자유게시판]
벌써 밥먹을시간다가오네요
[자유게시판]
벌써 시간이
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]마커스 “AI 아무리 많이 학습해도 인과적 사고 불가능”
온카뱅크관리자
조회:
42
2024-06-04 18:15:12
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">사람과디지털포럼 기조연사 게리 마커스 인터뷰<br> <br> “딥러닝 환각 여전…허위정보 탐지기술 필요”<br> 딥러닝용 데이터 공개 안돼<br> 단순암기인지 실제 이해인지<br> 외부에서 알기 어려운 문제<br> <br> AI콘텐츠에 라벨 붙이고<br> 허위정보에 ‘큰 불이익’ 줘야<br> <br> 게리 마커스 뉴욕대 명예교수가 오는 12일 열릴 제3회 한겨레 사람과디지털포럼에서 ‘더 강한 인공지능을 넘어 더 인간다운 인공지능을 위해’를 주제로 기조연설과 토론을 할 예정이다.</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="W2E9fQc68p"> <figure class="figure_frm origin_fig" dmcf-pid="YyfTY52XP0" dmcf-ptype="figure"> <p class="link_figure"><img alt="게리 마커스 뉴욕대 명예교수가 오는 12일 열릴 제3회 한겨레 사람과디지털포럼에서 ‘더 강한 인공지능을 넘어 더 인간다운 인공지능을 위해’를 주제로 기조연설과 토론을 할 예정이다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/04/hani/20240604181513990deiu.jpg" data-org-width="802" dmcf-mid="QE3NcrXD67" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/04/hani/20240604181513990deiu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 게리 마커스 뉴욕대 명예교수가 오는 12일 열릴 제3회 한겨레 사람과디지털포럼에서 ‘더 강한 인공지능을 넘어 더 인간다운 인공지능을 위해’를 주제로 기조연설과 토론을 할 예정이다. </figcaption> </figure> <p dmcf-pid="GHPGZ38t83" dmcf-ptype="general">“인공지능(AI)이 아무리 많은 데이터를 학습한다고 해도 인간처럼 세계 모델을 구축하고 인과적 사고를 할 수는 없다.”<br><br> 게리 마커스 뉴욕대 명예교수는 인간 인지와 기계 인지의 차이점에 기반해 인공지능을 비평하는 저명한 인지과학자다. 인간 고유의 인지능력을 강조하는 게리 마커스는 오는 12일 제3회 한겨레 사람과디지털포럼에서 ‘더 강한 인공지능을 넘어 더 인간다운 인공지능을 위해’를 주제로 기조연설과 토론에 나선다. 마커스를 전자우편으로 인터뷰했다.<br><br><strong> ―인공지능은 딥러닝으로 빠르게 발전하고 있는데, 한계는?</strong><br><br> “현재의 딥러닝은 신뢰성, 진실성, 추론에 큰 어려움을 겪고 있으며, 종종 ‘환각'을 일으킨다. 해석하거나 고치기 어려운 ‘블랙박스'다. 방대한 데이터에 의존하며 여러 종류의 편견도 개입된다. 이러한 모든 문제는 오랫동안 존재해왔지만 해결되지 않고 있다.”<br><br><strong> ―당신은 인공지능 개발이 매우 어렵고 상당한 시간이 필요하다면서도 지난해엔 인공지능 개발 유예 공개서한에 서명했는데?</strong><br><br> “일반적인 오해다. 서한은 모든 인공지능에 대한 개발 유예를 요구한 게 아니라, 위험이 알려져 있고 그 해결을 위한 명확한 접근법이 없는 특정 프로젝트(GPT-5 유형 모델)에 대한 일시 중단을 요구한 것이다.”<br><br></p> <figure class="figure_frm origin_fig" dmcf-pid="HRlMdoCn8F" dmcf-ptype="figure"> <p class="link_figure"><img alt="강연하고 있는 게리 마커스 뉴욕대 명예교수. 테드(TED) 영상 갈무리" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/04/hani/20240604181515932omwi.jpg" data-org-width="970" dmcf-mid="x4a7BVo9xu" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/04/hani/20240604181515932omwi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 강연하고 있는 게리 마커스 뉴욕대 명예교수. 테드(TED) 영상 갈무리 </figcaption> </figure> <p dmcf-pid="XD0ErCFO6t" dmcf-ptype="general"><strong> ―인공지능에 대한 측정과 평가의 문제가 제기되고 있다. 튜링 테스트처럼 보편적으로 인정되는 인공지능 테스트는?</strong><br><br> “튜링 테스트는 좋은 테스트가 아니며, 나는 10년 전부터 이를 바꿔야 한다고 말해왔다. 벤치마킹 테스트가 어려운 이유는 현재 모델이 너무 많은 데이터로 학습하고 있고 그 데이터가 공개되지 않기 때문이다. 외부에서는 무엇이 단순 암기이고 무엇이 실제 이해인지 알기 어렵다.”<br><br><strong> ―인공지능이 사람 의도를 벗어나지 않도록 하는 초정렬(슈퍼얼라인먼트) 인공지능 개발 시도는 효과적일까?</strong><br><br> “거대언어모델(LLM)은 세상에 대한 확고한 개념적 이해를 가진 체계적인 사고자가 아니기 때문에 이러한 접근이 성공할 수 있을지 회의적이다. 일부 효과가 있어도 테스트 항목이 학습 데이터와 미묘하면서 중요한 차이가 있는 경우 실패할 가능성이 높다. 더 나은 데이터라고 해서 본질적으로 잘못된 접근 방식을 고칠 수는 없다.”<br><br><strong> ―당신은 질문을 이해하지 못한 채 오답을 내놓는 인공지능을 지적하며 인간 지능과의 차이점을 강조했다. 그러나 이러한 오류 사례도 보고되면 수정된다. 기하급수적으로 발전하는 인공지능 특성상 한계는 시간문제라는 견해가 있는데?</strong><br><br> “하지만 현실은 지난 14개월 동안 큰 진전이 없었다. 2020년부터 2023년까지 기하급수적 발전이 있었다고는 하지만, 수십억달러가 투자되고 최고 인재들이 대거 투입되었음에도 불구하고 지피티4보다 눈에 띄게 나아진 게 없는, 수익 감소 시기에 접어든 게 분명하다. 갖은 노력에도 오답은 끝없이 나타나고 있으며, 두더지 잡기 게임처럼 하나가 수정되면 또다른 오류가 나타나고 있다.”<br><br><strong> ―사람만이 지닌 지능의 특성은?</strong><br><br> “지금까지 어떤 기계도 새로운 상황에 대한 유연성이나 시간, 공간, 인과관계 같은 기본 개념에 대한 인간의 이해를 따라잡지 못했다.”<br><br></p> <figure class="figure_frm origin_fig" dmcf-pid="Zv2SyXKGQ1" dmcf-ptype="figure"> <p class="link_figure"><img alt="게리 마커스는 다수의 베스트셀러를 출간한 세계적 인지과학자로, 국내에도 여러 권이 번역 출판돼 있다. 게리 마커스의 저서들." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/04/hani/20240604181517734vyyy.jpg" data-org-width="970" dmcf-mid="yMfTY52XxU" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/04/hani/20240604181517734vyyy.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 게리 마커스는 다수의 베스트셀러를 출간한 세계적 인지과학자로, 국내에도 여러 권이 번역 출판돼 있다. 게리 마커스의 저서들. </figcaption> </figure> <p dmcf-pid="5aXgjDGk45" dmcf-ptype="general"><strong> ―당신은 저서 ‘2029 기계가 멈추는 날'에서 “인과관계에 대한 명확한 이해가 인간 인지의 핵심”이라는 주디아 펄의 주장을 인용하며 인과관계 파악 능력을 강조했다. 인간의 인과적이고 추상적 사고는 완벽하지 않아도 학습·발견을 통해 계속 발전하는데, 기계는 왜 비슷하게 진화할 수 없는가?</strong><br><br> “세상을 인과적으로 이해하는 기계는 분명 만들어질 수 있다고 생각하지만, 단순히 데이터를 더 많이 쌓는다고 해서 등장하는 것은 아니다. 물론 지금까지는 엄청난 데이터에도 불구하고 그런 기계가 등장하지 않았다. 최신의 인공지능도 질문을 전혀 이해하지 못한 채 상황과 관련이 없는 텍스트만 만들어낸다.”<br><br><strong> ―당신은 저서 ‘클루지'에서 사람들이 노력을 기울여야 하는 이성적 인지를 선호하지 않고 주먹구구식, 즉 임시변통 사고에 의존하는 경우가 많다고 지적했다. 인공지능은 너무 똑똑해져서 인간의 인지를 악용하지만, 인간은 취약한 인지를 가지고 있지 않은가?</strong><br><br> “인공지능은 (아직) 그다지 똑똑하지 않지만 인간의 속임수를 이용할 수 있다. 이미 1965년 엠아이티(MIT)의 일라이자가 그걸 보여줬다.”<br><br><strong> ―당신은 인간은 언어를 사용하여 상대 의도를 이해하고 세계 모델을 구축하지만 인공지능은 세계 모델을 만들 수 없다고 주장했다. 하지만 많은 사람이 세계 모델 없이 살아왔고, 비합리적 모델을 갖고도 살아오지 않았나?</strong><br><br> “인간에게 항상 완벽한 모델이 있는 것은 아니지만, 모델이 없는 (정상적이고 장애 없는) 인간을 본 적이 없다. 세계 모델을 실시간으로 구축하고 업데이트할 수 없다면 아무도 영화를 이해할 수 없을 것이다.”<br><br><strong>―인공지능이 가져올 사회 양극화와 딥페이크 제작 비용의 제로화 문제에 대해 지적했다. 어떤 사회적·기술적 노력이 필요한가?</strong><br><br> “인공지능이 생성한 모든 콘텐츠에 라벨을 붙이게 하고, 허위 정보 유포자에게 큰 불이익을 줘야 한다. 허위 정보를 탐지하고 라벨을 붙일 수 있는 새로운 기술을 개발해야 한다.”<br><br> 구본권 사람과디지털연구소장 starry9@hani.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 한겨레. All rights reserved. 무단 전재, 재배포 및 크롤링 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
정배만거는데왜
200
2
노익스플로드
200
3
학입니다
100
4
그랑프리옥황상제
100
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기