【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]‘AI 만난 아기상어’ 말조심 교육…셀렉트스타, 1만개 질문으로 AI 안전성 점검

온카뱅크관리자

2026-09-11 13:47:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="2t0ByKGhWF">
          <figure class="figure_frm origin_fig" contents-hash="2ee80acdcfc81d1afb3ac5d77c510befae94e967972c5dd8e069e36c6a426348" dmcf-pid="VFpbW9Hlvt" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/11/552796-pzfp7fF/20260911133727985yvpa.jpg" data-org-width="640" dmcf-mid="9ngEPwMVl3" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/11/552796-pzfp7fF/20260911133727985yvpa.jpg" width="658"></p>
          </figure>
          <p contents-hash="fbbae4d670f9cdc9f6ae051e01082f27b91dbdfd3792537e3b9eb9b7375eda73" dmcf-pid="fjkOdCnQT1" dmcf-ptype="general">[디지털데일리 오병훈기자] 전 세계 어린이에게 익숙한 아기상어가 이제 관람객과 직접 대화하는 인공지능(AI) 캐릭터로 변신했다.</p>
          <p contents-hash="d91c5e500758ba87b237685e9b8758401ee703e7d6538a1e10a2553dba01ca07" dmcf-pid="4AEIJhLxW5" dmcf-ptype="general">다만 어린이도 만나는 캐릭터인 만큼 AI가 예상 밖 질문에 부적절한 답변을 내놓지 않도록 1만개에 달하는 안전성 평가 시나리오와 ‘레드티밍’ 검증 과정도 함께 거쳤다.</p>
          <p contents-hash="99eeef2d0daa13aa3a3865305223238ef1bbe16089f6f0628c726c568115ad4f" dmcf-pid="8cDCiloMlZ" dmcf-ptype="general">AI 데이터·신뢰성 평가 전문기업 셀렉트스타는 지난 10일 서울 동대문디자인플라자(DDP)에서 열린 글로벌 스타트업 축제 ‘트라이 에브리띵2026’에서 더핑크퐁컴퍼니와 함께 아기상어 지식재산권(IP)에 AI를 결합한 콘텐츠 제작 및 안전성 검증 사례를 공개했다고 11일 밝혔다.</p>
          <p contents-hash="ce0f780f1f857e70d0b4427245cf015ae21f4d2b5699dd2f67cea1fa5c92e6ba" dmcf-pid="6kwhnSgRWX" dmcf-ptype="general">양사는 ‘AI를 만난 아기상어: IP 기업과 AI 기업이 만든 새로운 콘텐츠 경험’을 주제로 현재 DDP에서 운영 중인 AI 인터랙티브 체험 전시 ‘아기상어 비밀 초대장: 비커밍 샤크’의 개발 과정을 소개했다.</p>
          <p contents-hash="39cabac6d14ba0ebb632ac2aae6dd3b0603d024fe63b0d76d6574a01afa53f3d" dmcf-pid="PErlLvaeyH" dmcf-ptype="general">기존 영상 콘텐츠에서는 이용자가 제작자가 완성한 이야기를 일방적으로 소비했다면 이번 전시에서는 관람객이 AI 캐릭터와 대화하면서 실시간으로 다른 경험을 만들 수 있도록 한 것이 특징이다.</p>
          <p contents-hash="376b6b3eb1ea8b46e627d213998e068cedd45c59b7cb10a1d13fe6d1d9bfdc9c" dmcf-pid="QDmSoTNdyG" dmcf-ptype="general">문제는 생성형 AI 특성상 관람객이 어떤 말을 건넬지, AI가 어떤 답변을 내놓을지 모두 사전에 예측하기 어렵다는 점이다. 특히 어린이를 포함한 불특정 다수가 이용하는 캐릭터형 AI에서는 콘텐츠 완성도뿐 아니라 유해 발언이나 세계관을 벗어난 응답을 얼마나 차단할 수 있는지가 중요하다.</p>
          <p contents-hash="d673f47a2ee6caf60b6b0e11d45184c8bacc86830c02bbd258335e151cc81af3" dmcf-pid="xwsvgyjJvY" dmcf-ptype="general">셀렉트스타는 AI 신뢰성 평가 플랫폼 ‘다투모 플랫폼(Datumo Platform)’을 활용해 아기상어 AI 캐릭터의 대화 안전성과 세계관 일관성, 다국어 대화 품질 등을 검증했다.</p>
          <p contents-hash="e93d731e9333c780b9f406566699d4ae36b24fe06bfb7031a82652b11a624539" dmcf-pid="yB9PFxpXWW" dmcf-ptype="general">한국어·영어·일본어·중국어 등 4개 언어를 대상으로 총 1만개 안전성 평가 시나리오를 구축했으며, 실제 관람객 연령과 발화 성향을 반영한 AI 사용자를 만들어 캐릭터와 여러 차례 대화를 주고받도록 하는 방식으로 테스트했다.</p>
          <p contents-hash="7d0d41c86b40bb279d62b48aec4ce89b84ddc3d57712206544a502740b5d0b8a" dmcf-pid="W9fMpe71ly" dmcf-ptype="general">단순히 위험한 질문을 직접 던지는 데 그치지 않고 AI 안전장치를 우회하는 공격도 점검했다. 공격자 관점에서 AI 취약점을 의도적으로 찾아내는 ‘레드티밍’ 방식이다.</p>
          <p contents-hash="e696641a8800630d74c38612bc2fe98c633b6ad4ecc00ffad7b75255b6116b14" dmcf-pid="Y24RUdztST" dmcf-ptype="general">양사는 이날 좌담회를 통해 AI 기반 IP 콘텐츠에서 전시가 갖는 장점과 콘텐츠 제작 과정에서 IP 기업과 AI 기업이 함께 정해야 할 기준, 향후 AI와 IP 산업의 결합 방향 등에 대해서도 논의했다.</p>
          <p contents-hash="453566d9f9e885da7b7f16ce6f57f387ed507e190c387852fe567ffe58d687a5" dmcf-pid="GV8euJqFlv" dmcf-ptype="general">한편 셀렉트스타는 콘텐츠 분야 외에도 정부 AI 사업에서 데이터 구축과 신뢰성 평가 사업을 확대하고 있다. 셀렉트스타가 참여한 SK텔레콤 컨소시엄은 과학기술정보통신부 ‘독자 AI 파운데이션 모델’ 프로젝트 2차 평가를 통과했으며, ‘모두의 AI’ 사업에서도 데이터 구축과 품질 검증을 담당하고 있다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기