【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]서울시, AI 안면인식으로 아동·청소년 성착취물 검출·삭제

온카뱅크관리자

2024-05-22 11:17:41

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="qg5KDUxp4o">
          <figure class="figure_frm origin_fig" dmcf-pid="B2rGxlph8L" dmcf-ptype="figure">
           <p class="link_figure"><img alt="지난해 3월 열린 서울 디지털성범죄 안심지원센터'1주년 기념식 모습. 사진 가운데 오세훈 서울시장." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/22/etimesi/20240522111743935irrp.jpg" data-org-width="700" dmcf-mid="7eC1JWqy6a" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/22/etimesi/20240522111743935irrp.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            지난해 3월 열린 서울 디지털성범죄 안심지원센터'1주년 기념식 모습. 사진 가운데 오세훈 서울시장.
           </figcaption>
          </figure>
          <p dmcf-pid="btirzjTN4n" dmcf-ptype="general">서울시가 인공지능(AI) 안면인식 기술로 아동·청소년 성착취물을 24시간 자동 추적·감시한다.</p>
          <p dmcf-pid="K6C1JWqy6i" dmcf-ptype="general">시는 서울연구원과 서울 디지털성범죄안심지원센터를 중심으로 지난해 전국 최초로 '디지털 성범죄 AI 삭제지원 프로그램'을 개발한 데 이어, 올해는 '아동·청소년 대상 디지털 성범죄 AI 감시 시스템'을 구축했다. 내년에는 'AI 자동신고 시스템'을 구축할 계획이다.</p>
          <p dmcf-pid="99wYQh0CxJ" dmcf-ptype="general">서울시는 아동·청소년은 디지털 성범죄 피해를 입더라도 부모님에게 말하지 못해 신고가 이뤄지지 않고, 피해 영상물이나 사진이 유포·재유포되는 경우가 많아 이번 기술 개발에 나섰다.</p>
          <p dmcf-pid="2eyUa5VZxd" dmcf-ptype="general">아동·청소년은 관련 법에 따라 당사자나 부모 신고 없이도 피해 영상물 삭제가 가능한 만큼, AI를 통해 관련 성착취물을 빠르게 찾아내고 삭제해 피해에 신속 대응할 방침이다.</p>
          <p dmcf-pid="Vc04OBJq6e" dmcf-ptype="general">'아동·청소년 디지털 성범죄 AI 감시 시스템'은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있는 시스템이다.</p>
          <p dmcf-pid="f9wYQh0CPR" dmcf-ptype="general">특히 영상물에 얼굴이 직접 나오지 않더라도 아동·청소년 피해 영상물 여부를 찾아낼 수 있다. AI가 피해 영상물에 자주 등장하는 책, 교복, 인형 등 주변 사물은 물론, 이미지 속 텍스트, 청소년들이 주로 사용하는 언어까지 함께 인식해 최종적으로 피해 영상물 여부를 판별하게 된다.</p>
          <p dmcf-pid="4VmHMSUl6M" dmcf-ptype="general">키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않기 때문에 기존 삭제지원관이 관련 키워드로 피해 영상물을 검색해서 수작업으로 찾아낼 때(2시간)와 비교하면 검출 속도가 80분의1로 크게 개선되고, 정확도도 300% 이상 향상된다.<br></p>
          <figure class="figure_frm origin_fig" dmcf-pid="86C1JWqyPx" dmcf-ptype="figure">
           <p class="link_figure"><img alt="서울시 디지털 성범죄 AI 삭제지원 시스템 구축 로드맵. 자료=서울시" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202405/22/etimesi/20240522111745741zrdc.jpg" data-org-width="700" dmcf-mid="zgyUa5VZPg" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202405/22/etimesi/20240522111745741zrdc.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            서울시 디지털 성범죄 AI 삭제지원 시스템 구축 로드맵. 자료=서울시
           </figcaption>
          </figure>
          <p dmcf-pid="6IKdW6A84Q" dmcf-ptype="general">지난해 수작업으로 이뤄진 모니터링 건수(15만건)의 2배인 30만건까지 모니터링이 가능해지고, AI 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상될 것으로 기대된다.</p>
          <p dmcf-pid="P3LsBcWAQP" dmcf-ptype="general">아울러 검색 영역도 확장했다. AI를 통해 국내와 미국뿐만 아니라 중국, 러시아 등 해외에 유포된 피해 영상물 검색도 가능해진다.</p>
          <p dmcf-pid="Q9wYQh0C46" dmcf-ptype="general">김선순 서울시 여성가족정책실장은 “우리 사회를 충격에 빠트린 'n번방 사건' 이후 4년이 흘렀지만 여전히 아동·청소년을 대상으로 한 디지털 성범죄는 사라지지 않고, 그 피해도 심각하다”며 “AI 기술을 통해 선제적 감시·삭제에 나서 아동·청소년이 안전한 서울을 만들어나가겠다”고 말했다.</p>
          <p dmcf-pid="x2rGxlph88" dmcf-ptype="general">김명희 기자 noprint@etnews.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p>