【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]KAIST, 멀티모달 대형언어모델 '깃허브' 공개…GPT-4V 시각성능 "제꼈다"

온카뱅크관리자

2024-06-20 14:27:03

<div id="layerTranslateNotice" style="display:none;"></div> 콜라보·모아이, 최대 10% 더 우수…"학위 뒤 창업 고민할 것" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="8CFapQWA3Q">
 (지디넷코리아=박희범 기자)국내 연구진이 오픈AI의 GPT-4V와 구글 제미나이-프로(Gemini-Pro)의 시각 성능을 능가하는 멀티모달 대형언어모델을 개발, 오픈소스 커뮤니티 깃허브(Github)에 공개했다.
 최근 주목받는 생성형 AI 트랜드가 멀티모달화로 진화 중이어서 귀추가 주목됐다.
 KAIST는 전기및전자공학부 노용만 교수 연구팀이 GPT-4V 등 비공개 상업 모델의 시각 성능을 넘어서는 공개형 멀티모달 대형언어모델을 선보였다고 20일 밝혔다.
 연구팀은 멀티모달 대형언어모델 시각 성능을 개선하기 위해 '콜라보(CoLLaVO)'와 '모아이(MoAI)' 2가지 기술을 자체 개발했다.
 <figure class="figure_frm origin_fig" dmcf-pid="yMEqrZLKzf" dmcf-ptype="figure">
 <img alt="KAIST 노용만 교수, 이병관 박사과정, 박범찬 석박사통합과정, 김채원 박사과정.(왼쪽부터)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/20/ZDNetKorea/20240620142705925nlca.jpg" data-org-width="640" dmcf-mid="2cRZLC8tue" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/20/ZDNetKorea/20240620142705925nlca.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 KAIST 노용만 교수, 이병관 박사과정, 박범찬 석박사통합과정, 김채원 박사과정.(왼쪽부터)
 </figcaption>
 </figure>
 이병관 연구원(박사과정,제1저자)은 "GPT-4V나 제미나이-프로 등과 시각성능 만을 비교하면 점수나 정확도 면에서 최대 10% 더 우수하다"고 말했다.
 인지추론성도 함께 따져봐야 하지만, 이는 이번 연구 주제에서 벗어나 나중에 생각할 부분이라는 것이 이 연구원 얘기다. 사실 인지추론성도 개별 검토한 결과 오픈AI나 구글 모델 대비 결코 뒤지진 않는다는 것이 이 연구원의 귀뜸이다.
 연구팀은 ‘콜라보’를 개발하기 전 기존 공개형 멀티모달 대형언어모델 성능이 비공개형에 비해 떨어지는 이유를 1차적으로 물체 수준에 대한 이미지 이해 능력 저하에서 찾았다.
 연구팀은 이를 개선하기 위해 이미지 내 정보를 배경과 물체 단위로 분할하고 각 배경 및 물체에 대한 정보를 멀티모달 대형언어모델에 직접 넣어주는 ‘크레용 프롬프트(Crayon Prompt)’라는 시각적 프롬프트를 새로 설계했다.
 또 시각적 지시 조정 단계에서 크레용 프롬프트로 학습한 정보를 잃어버리지 않기 위해 물체 수준 이미지 이해 능력과 시각-언어 태스크 처리 능력을 서로 다른 파라미터로 학습시키는 획기적인 학습전략인 ‘듀얼 큐로라(Dual QLoRA)’를 제안했다.
 <figure class="figure_frm origin_fig" dmcf-pid="Z1VC8juSFB" dmcf-ptype="figure">
 <img alt="KAIST '콜라보'의 멀티모달 대형언어모델 성능을 기존 모델과 비교했다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/20/ZDNetKorea/20240620142707136gups.jpg" data-org-width="639" dmcf-mid="VTs4SUkP3R" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/20/ZDNetKorea/20240620142707136gups.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 KAIST '콜라보'의 멀티모달 대형언어모델 성능을 기존 모델과 비교했다.
 </figcaption>
 </figure>
 이병관 연구원은 "이로 인해 이미지 내에서 배경 및 물체를 1차원적으로 구분하는 능력이 크게 향상됐다"고 덧붙였다.
 대형언어모델인 모아이(MoAI)’도 개발했다. 인간이 사물을 판단하는 인지과학적 요소(물체 존재나 상태, 상호작용, 배경, 텍스트 등)에서 영감을 얻었다는 것이 연구팀 설명이다.
 연구팀은 "기존 멀티모달 대형언어모델은 텍스트에 의미적으로 정렬된 시각 인코더(vision encoder)만을 사용하기 때문에, 이미지 픽셀 수준에서의 상세하고 종합적인 실세계 장면에 대한 이해가 모자란다고 판단했다"고 말했다.
 연구팀은 △전체적 분할 △한계가 없는 물체 검출기 △상황 그래프 생성 △글자 인식 등 4가지 컴퓨터 비전 모델을 언어로 변환한 뒤 멀티모달 대형언어모델에 입력했다.
 이를 연구팀이 실제 검증한 결과 '콜라보'는 Math Vista(대학수준 수학 및 물리문제)나 MM-벤치(영어 객관식 문제), MMB-CN(중국어 객관식 문제), AI2D(어학문제) 등의 풀이에서 기존 모델 대비 최대 10%까지 점수와 정확도가 우수했다.
 또 '모아이'는 기존 공개형 및 비공개형 LLVMs(멀티모달 대형언어)와 비교한 결과 각 질문에 따라 점수가 20포인트 이상 우수하게 답변한 경우도 나타났다.
 <figure class="figure_frm origin_fig" dmcf-pid="pLIflpc6p0" dmcf-ptype="figure">
 <img alt="KAIST '모아이' 멀티모달 대형언어모델 성능비교. 공개형 및" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/20/ZDNetKorea/20240620142708560hzyv.jpg" data-org-width="638" dmcf-mid="fgydZ2CnUM" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/20/ZDNetKorea/20240620142708560hzyv.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 KAIST '모아이' 멀티모달 대형언어모델 성능비교. 공개형 및
 </figcaption>
 </figure>
 이병관 연구원은 "3개월전 깃허브에 올려놓은 '콜라보'(https://github.com/ByungKwanLee/CoLLaVO)와 '모아이'(https://github.com/ByungKwanLee/MoAI)에 관심을 가져달라"며 "박사학위가 마무리되면 멀티모달 대형언어를 아이템으로 창업할 생각도 있다"고 말했다.
 박사과정 5년차인 이 연구원은 또 "개인적으로 향후 기회가 닿는다면, 핸드폰에 들어가는 사이즈로 현재 성능을 유지하는 멀티모달 대형언어모델을 만들어 볼 것"이라고 덧붙였다.
 노용만 교수는 “연구팀에서 개발한 공개형 멀티모달 대형언어모델이 허깅페이스 일간 화제의 논문(Huggingface Daily Papers)에 추천됐다"며 "SNS 등을 통해 전세계에 점차 알려지는 등 관련분야 발전에 기여할 것"으로 기대했다.
 연구에는 논문 제1저자 이병관 박사과정 연구원 외에도 박범찬 석박사통합과정, 김채원 박사과정이 공동 저자로 참여했다.
 연구결과는 '콜라보'의 경우 자연어 처리(NLP) 분야 국제 학회 'ACL Findings 2024’(5월16일자)에 게재됐다. '모아이(MoAI)'는 컴퓨터 비전 국제 학회인 ‘ECCV 2024’에 논문을 제출하고 결과를 기다리고 있다.
 한편 이 연구는 KAIST 미래국방 인공지능 특화연구센터 및 전기및전자공학부 지원을 받아 수행했다.
 <figure class="figure_frm origin_fig" dmcf-pid="bSpA7RHE0X" dmcf-ptype="figure">
 <img alt="KAIST '콜라보' 데모 영상 장면. (사진=KAIST)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/20/ZDNetKorea/20240620142709858tcmb.jpg" data-org-width="638" dmcf-mid="4ktg0Pyj3x" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/20/ZDNetKorea/20240620142709858tcmb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 KAIST '콜라보' 데모 영상 장면. (사진=KAIST)
 </figcaption>
 </figure>
 박희범 기자(hbpark@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.