로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
'다리미 패밀리' 김정현x금새록, 8년 전 하룻밤 인연으로 얽혔다 [TV온에어]
N
[연예뉴스]
손도끼로 직원 살해한 ‘인면수심’ 회사 대표 (용감한 형사들4)
N
[연예뉴스]
레깅스 시구→골반 패드 논란…'잇따른 구설'에 가려진 전종서의 명품 연기력
N
[연예뉴스]
"꿈 이뤄 행복" 가비→강다니엘, 댄스에 노래까지…왜 이리 다재다능해[TEN피플]
N
[실시간뉴스]
[단독]직원보다 돈 못버는 사장님…전국에 23만명 있다
N
커뮤니티
더보기
[자유게시판]
이른 아침 로그인 완
N
[자유게시판]
주말이왔네요
N
[자유게시판]
퇴근했습니다.
[자유게시판]
여름에 물놀이를 못가니
[자유게시판]
불금 입니다
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[IT뉴스]네카오, AI 생성물 감지 도구 개발 중…"실효성은 숙제"
온카뱅크관리자
조회:
34
2024-05-24 05:30:14
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">韓, 연내 AI 생성물에 워터마크 의무화 추진<br>AI 도움받은 결과물 '가짜 낙인' 우려…"안전성 강화에 의문"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="H32F8QkPU9"> <figure class="figure_frm origin_fig" dmcf-pid="XXzHKVg2zK" dmcf-ptype="figure"> <p class="link_figure"><img alt="한덕수 국무총리가 22일 서울 성북구 한국과학기술연구원(KIST)에서 열린 2024 인공지능(AI) 글로벌 포럼 개회식에 참석해 이종호 과학기술정보통신부 장관, 조태열 외교부 장관, 주요 참가기업 관계자들과 함께 서울 인공지능(AI) 기업 서약을 마치고 기념촬영하고 있다. 2024.5.22/뉴스1 ⓒ News1 이승배 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/24/NEWS1/20240524053014597dwlj.jpg" data-org-width="1400" dmcf-mid="G4xqdnIiz2" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/24/NEWS1/20240524053014597dwlj.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 한덕수 국무총리가 22일 서울 성북구 한국과학기술연구원(KIST)에서 열린 2024 인공지능(AI) 글로벌 포럼 개회식에 참석해 이종호 과학기술정보통신부 장관, 조태열 외교부 장관, 주요 참가기업 관계자들과 함께 서울 인공지능(AI) 기업 서약을 마치고 기념촬영하고 있다. 2024.5.22/뉴스1 ⓒ News1 이승배 기자 </figcaption> </figure> <p dmcf-pid="ZzP7RJsdUb" dmcf-ptype="general">(서울=뉴스1) 손엄지 기자 = 오픈AI, 구글에 이어 국내 인공지능(AI) 기업 네이버(035420)와 카카오(035720)도 AI 생성물을 감지할 수 있는 도구를 개발 중이다. AI 안전성을 강화하려는 조치다. 다만 AI 생성물 탐지 기술이 얼마나 실효성이 있는지는 의문이라는 의견도 나온다.</p> <p dmcf-pid="5qQzeiOJuB" dmcf-ptype="general">24일 정보기술(IT)업계에 따르면 네이버는 자사의 초거대언어모델(LLM) '하이퍼클로바X'가 생성한 콘텐츠를 탐지하는 도구를 개발하고 있다.</p> <p dmcf-pid="1BxqdnIipq" dmcf-ptype="general">카카오는 최근 생성 AI 이미지 서비스인 '칼로(Karlo) AI 프로필'에 비가시성 워터마크를 도입했다. '칼로'가 만든 AI 이미지를 탐지하기 위해서다.</p> <p dmcf-pid="txNQkwXDpz" dmcf-ptype="general">앞서 22일 국내외 AI 기업 14곳은 '서울 AI 기업 서약'에 참여해 워터마크 등 AI 생성 콘텐츠를 식별할 수 있는 도구를 개발할 것을 약속했다.</p> <p dmcf-pid="FMjxErZw37" dmcf-ptype="general">정부는 연내 딥페이크(deep learning+fake)를 활용한 가짜 뉴스에 대응하기 위해 AI 생성물에 워터마크 의무화를 추진할 예정이다.</p> <p dmcf-pid="3RAMDm5rzu" dmcf-ptype="general">이처럼 AI 기술 안전성을 강화하는 대안으로 '워터마크' 삽입과 '생성 AI 탐지 기술'이 주목받고 있지만 실효성이 없다는 지적도 나온다.</p> <p dmcf-pid="0tK1f6A8zU" dmcf-ptype="general">가령 딥페이크가 확산하는 게 문제라면 비가시성(눈에 안 보이는) 워터마크를 넣는다고 해서 확산을 막을 수 없다. 워터마크가 눈에 보인다면 잘라내면 그만이다.</p> <p dmcf-pid="pF9t4Pc6Up" dmcf-ptype="general">생성 AI가 만든 이미지에 워터마크를 넣으면 해상도가 낮아지거나 이미지를 확대하면 감지가 안 되는 사례도 나타나고 있다.</p> <p dmcf-pid="U32F8QkP00" dmcf-ptype="general">구글은 생성 AI 답변에도 비가시성 워터마크를 붙여 AI 답변임을 감지할 수 있는 '신스(synth) ID 디텍터(detector)'를 공개할 계획이지만, '어디까지 가짜로 낙인찍을 것인지'도 합의가 이뤄지지 않았다.</p> <p dmcf-pid="upf0PMDxF3" dmcf-ptype="general">IT업계 관계자는 "AI를 유용한 업무용 도구로 활용해야 하는 데 AI를 활용했다고 '가짜'라거나 'AI가 만든 것'이라는 낙인을 찍는 것도 바람직하지 않다"면서 "생성 AI가 만들 부작용을 막기 위해서라면 워터마크와 탐지 기술이 아직 제대로 된 해결책을 제시하지 못하고 있다"고 말했다.</p> <p dmcf-pid="7U4pQRwM7F" dmcf-ptype="general">eom@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
토르왕
1100
2
학입니다
1100
3
킹밥
1100
4
미국하키원툴
1100
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
N
채팅하기