로그인
보증업체
스포츠중계
스포츠분석
먹튀사이트
지식/노하우
판매의뢰
업체홍보/구인
뉴스
커뮤니티
포토
포인트
보증카지노
보증토토
보증홀덤
스포츠 중계
기타
축구
야구
농구
배구
하키
미식축구
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
제작판매
제작의뢰
게임
구인
구직
총판
제작업체홍보
실시간뉴스
스포츠뉴스
연예뉴스
IT뉴스
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
김병만, 4년 만의 정글 귀환…"고향에 온 느낌"
N
[연예뉴스]
김병만, '생존왕'으로 4년 만에 정글 귀환 "고향에 온 느낌"
N
[연예뉴스]
유아인→김성철 바뀐 ‘지옥2’, 10월 25일 공개[공식]
N
[실시간뉴스]
“266억원 로또 당첨된 장 모씨”...잭팟 터뜨린 주인공 한인이라는데
N
[실시간뉴스]
해리스-트럼프 전국 지지율 47% ‘동률’…경합주 박빙 승부
N
커뮤니티
더보기
[자유게시판]
비오고 후덥지근하고..
N
[자유게시판]
오늘 금요일인데
N
[자유게시판]
오늘 국야 비오는데 할까요?
N
[자유게시판]
습한날 메뉴 고르셨습니까
N
[자유게시판]
추석 끝나니 겁나 바쁘네요.
N
제휴문의 @spostar
제휴문의 @spostar
목록
글쓰기
[실시간뉴스][경제용어사전] 구글, 엔비디아가 운영하는 AI 레드팀의 실체
온카뱅크관리자
조회:
78
2024-04-01 10:09:34
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">Econopedia<br>주목 받는 AI 레드팀<br>단점 일부러 공격해<br>AI 시스템 결함 식별<br>윤리성 향상 연구도<br>국내외 빅테크 기업들<br>앞다퉈 AI 레드팀 구축</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xvXjLgJqxn"> <figure class="figure_frm origin_fig" dmcf-pid="yjr62fbYPi" dmcf-ptype="figure"> <p class="link_figure"><img alt="국내외 빅테크 기업은 앞다퉈 AI 레드팀을 구축·운영하고 있다.[사진=뉴시스]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/01/thescoop1/20240401085501208cxpo.jpg" data-org-width="805" dmcf-mid="6vNYSTCn6g" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/01/thescoop1/20240401085501208cxpo.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 국내외 빅테크 기업은 앞다퉈 AI 레드팀을 구축·운영하고 있다.[사진=뉴시스] </figcaption> </figure> <p dmcf-pid="WIyLeJxp4J" dmcf-ptype="general"><strong>■ AI 레드팀(Red Team) =</strong> 최근 인공지능(AI) 레드팀이 AI 안전과 신뢰성을 확보할 수 있는 핵심적인 방법으로 주목받고 있다. '레드팀'의 명칭은 냉전 시기 미군의 모의 군사 훈련 과정에서 유래했다. 아군인 블루팀의 취약점을 파악하기 위해 편성한 가상의 적군을 레드팀으로 지칭한 것이다.</p> <p dmcf-pid="YRoz0Uts6d" dmcf-ptype="general">레드팀은 조직의 기술이나 서비스 취약점을 발견·검증하기 위해 의도적으로 공격하는 역할을 맡는다. 통상 테크기업에서 레드팀은 소프트웨어(SW)의 보안을 강화하는 역할을 담당한다. 실제 사이버 공격처럼 자사 SW를 직접 해킹해 취약점을 분석하는 식이다. 얻어낸 결과는 SW 개발자에게 전달해 보안 강화 작업을 돕는다.</p> <p dmcf-pid="GdaBU73I8e" dmcf-ptype="general">AI 레드팀은 AI 기술의 확산과 함께 등장한 레드팀의 업그레이드 버전이다. AI 레드팀은 AI 시스템의 결함과 취약성을 식별하기 위해 단점을 일부러 공격하는 역할을 수행한다. 가령, 특정한 명령어를 통해 생성형 AI가 제공하지 말아야 하는 부적절한 답변을 이끌어내 AI의 약점을 제시한다. 아울러 AI 제품의 윤리성과 신뢰성을 향상하기 위한 연구도 진행한다.</p> <p dmcf-pid="HokVBK7v4R" dmcf-ptype="general">마이크로소프트, 구글, 엔비디아, 네이버클라우드 등 국내외 빅테크 기업은 앞다퉈 AI 레드팀을 구축·운영하고 있다. AI 모델의 성능만큼이나 정보의 정확성과 신뢰성, 안전성도 중요해졌기 때문이다.</p> <figure class="figure_frm origin_fig" dmcf-pid="Xu9TClsd6M" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202404/01/thescoop1/20240401085502478ltnx.jpg" data-org-width="692" dmcf-mid="QmCR6Qf54L" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202404/01/thescoop1/20240401085502478ltnx.jpg" width="658"></p> </figure> <p dmcf-pid="ZCWodiMU8x" dmcf-ptype="general">이런 흐름에 발맞춰 과학기술정보통신부는 4월 11~12일 강남구 코엑스에서 '생성형 인공지능(AI) 레드팀 챌린지'를 연다. 1000여명의 참가자가 네이버클라우드, SK텔레콤, 업스테이지 등 국내를 대표하는 AI 기업의 모델을 대상으로 AI 레드팀의 역할을 하는 챌린지다. </p> <p dmcf-pid="5K6XyYSg8Q" dmcf-ptype="general">과기정통부는 이번 레드팀 챌린지 결과를 분석해 생성형 AI 분야의 공통 위험을 도출하고 '생성형 AI 레드팀 수행가이드라인'을 마련하는 등 표준화한 AI 위험 대응체계를 구축해 나갈 계획이다.</p> <p dmcf-pid="13qhmODx6P" dmcf-ptype="general">홍승주 더스쿠프 기자<br>hongsam@thescoop.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 더스쿠프. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
1
여수짱똥깨
600
2
토르왕
600
3
풀카
600
4
혈마
600
업체홍보/구인
더보기
[구인]
온카 정싸에서 유튜브 방송 BJ 구인중입니다
[구인]
클릭계열 빙고 최상부 카지노1.2% 동행파워볼2% 양방가능 부본사 파트너 모십니다.
[구인]
해외에서 업무 가능 하신 분 구인 합니다
[구인]
★★재택근무 장기적으로 함께하실팀원 모십니다★★
[구인]
다양한 경험의 개발자 구직 합니다. 안정적인 업체 원합니다.
지식/노하우
더보기
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
[카지노 노하우]
바카라 노하우
[카지노 노하우]
룰렛 시스템 가장 큰 팁!
[카지노 노하우]
기회가 온다면 잡으세요.
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
N
N
N
N
N
채팅하기