【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]인종차별하고 의사결정 내리는 AI…"해결법은 데이터에 있다"

온카뱅크관리자

2026-09-29 15:37:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="ZCIMXucnWf">
          <figure class="figure_frm origin_fig" contents-hash="47c8a05e8282bf22e150927560a8576d79b57e8dea2022334d0d114cc6341cc7" dmcf-pid="5hCRZ7kLCV" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/29/552796-pzfp7fF/20260929153300277awrc.jpg" data-org-width="640" dmcf-mid="Y0yL09sAlP" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/29/552796-pzfp7fF/20260929153300277awrc.jpg" width="658"></p>
          </figure>
          <p contents-hash="f2bc2880493b56e107b0aa39206876f2dc2c7ab951eafb108909d3d03ce9c0b4" dmcf-pid="1lhe5zEoC2" dmcf-ptype="general">[디지털데일리 김보민기자] 인공지능(AI) 일상화로 프라이버시 침해 우려가 커지는 가운데 데이터 수집 및 활용 방식을 개편해야 한다라는 전문가 의견이 나왔다.</p>
          <p contents-hash="0824dedad06a98339f7cbed2c0aec2ac67fc851be3635b8ea08821803843af5b" dmcf-pid="tSld1qDgT9" dmcf-ptype="general">개인정보보호위원회는 29일 '글로벌 AI 프라이버시 포럼'을 개최했다. 기조연설자로 나선 김현우 엔비디아-KAIST AI 공동연구소 소장과 앨리스 샹 소니그룹 AI 거버넌스 부문 글로벌 책임자는 프라이버시 보호와 데이터 공정성 확보 방안을 제시했다.</p>
          <p contents-hash="66281926d16033c14a4efdfbb3fc8095716b2ddca1307b0b78aec484c65f7657" dmcf-pid="FV2ydAUZWK" dmcf-ptype="general">김 소장은 AI 에이전트가 캘린더 일정과 회의 노트에 접근하고 사용자를 대신해 의사결정을 내리는 상황을 언급하며 맥락적 프라이버시 개념을 짚었다. 송신자와 수신자, 정보, 사회적 규범이라는 네 가지 구성 요소를 통해 정보 흐름을 제어해야 한다는 취지였다.</p>
          <p contents-hash="bc51660d8f4e25867866c26bb9bdeadb5bf645188d7efd7d5cc984c744c5d9ef" dmcf-pid="3fVWJcu5Wb" dmcf-ptype="general">김 소장은 "기존 데이터 무해화나 차분 프라이버시 기술은 정보 유출 문제를 해결하지 못한다"며 "핵심은 누가 무엇을 알아야 하고 알지 말아야 하는지 파악하는 맥락적 프라이버시"라고 말했다.</p>
          <p contents-hash="93583853614999f45084e822571d5fcb44f9bea3a487c404faee24b327c2b0d2" dmcf-pid="04fYik71TB" dmcf-ptype="general">이어 거대언어모델(LLM)이 사용자 비밀을 유출하는 취약점을 지적했다. 대안으로는 합성 데이터 '프라이버시스(Privasis)'를 소개했다. 프라이버시스는 시드 데이터를 활용해 프로필, 문서 유형, 배경 맥락을 샘플링하여 구축한 대규모 합성 문서 데이터베이스다.</p>
          <p contents-hash="f40770b16e5d3310b89be837eac5408a75411c55fe59f1c73266ed5240a2b9ca" dmcf-pid="p84GnEztvq" dmcf-ptype="general">김 소장은 "합성 데이터를 확장(스케일링)하는 것이 프라이버시를 지키는 길"이라며 "실제 인물 정보가 없는 대규모 합성 데이터로 소형 로컬 에이전트를 훈련하면 정보 유출을 원천 차단할 수 있다"고 설명했다. 아울러 실제 인물과 일치하는 프로필이 없음을 검색 도구를 통해 검증했다고 덧붙였다.</p>
          <p contents-hash="db9d2b4d589bd7d1df8685e0a611973ddfe8acb70526b2a9d79b73315354a4e7" dmcf-pid="U68HLDqFTz" dmcf-ptype="general">앨리스 샹 책임자는 인간 중심 컴퓨터 비전 기술이 일으키는 인종차별이나 직업 편견 문제를 데이터 구조화(큐레이션) 관점을 조명했다. 특히 자율주행 보행자 인식 성능 차이가 안전에 미치는 영향과 안면 인식 모델 편향성 사례를 거론했다.</p>
          <p contents-hash="9abd075beb5e63bf27925bff2df1f5d75524076df858a9914f3ab76afdd8e628" dmcf-pid="uP6XowB3v7" dmcf-ptype="general">샹 책임자는 "AI 모델 편향 상당 부분은 훈련 데이터 선택에서 비롯된다"며 "웹 스크래핑 방식은 프라이버시 침해와 저작권 문제를 동반하며 스톡 이미지나 순수 합성 이미지 역시 도메인 격차와 모델 편향성 한계를 지닌다"고 지적했다. 맞춤형 데이터 수집도 확장성 측면에서 한계가 있음을 언급했다.</p>
          <p contents-hash="5eabcbf71403c22c295afad294f436a71cc490e6eb11c008b73bb4120bc189ea" dmcf-pid="7QPZgrb0Tu" dmcf-ptype="general">해결책으로는 소니 연구실에서 개발한 공정성 평가 데이터셋 '피비(FHIBE)'를 제시했다. 피비는 80개 국가 및 지역에서 참가한 피험자 2000명에게 사전 동의를 받고 수집한 이미지로 구성한 벤치마크다.</p>
          <p contents-hash="1ee8f5bf469422d9ee636122f682f8c90da41035ea61b7b79ed81af3fb4e77f7" dmcf-pid="zxQ5amKpWU" dmcf-ptype="general">샹 책임자는 "피비는 피험자 사전 동의와 공정한 보상에 중점을 두고 일반개인정보보호법(GDPR)을 준수해 설계한 최초 인간 중심 컴퓨터 비전 데이터셋"이라고 소개했다. 이어 성별 대명사와 호감도, 혈통과 직업 간 상관관계를 학습한 파운데이션 모델 편향성 사례를 공유했다. 아프리카계 혈통 사람들에게 복서나 마약상 직업을 연관 짓거나, 여성을 전업주부로 묘사하는 문제를 꼬집었다.</p>
          <div contents-hash="34f741c5a4f6618265e2a42e357156c24e5b35cd7763ac652aadf73d5a35c156" dmcf-pid="qMx1Ns9Ulp" dmcf-ptype="general">
           샹 책임자는 "피비는 AI를 위해 데이터를 윤리적으로 수집하는 방법을 보여주는 개념 증명이다"라며 "AI 커뮤니티가 합의된 데이터를 윤리적으로 수집할 확장 가능한 방법을 고안해야 한다"고 강조했다.
          </div>
          <figure class="figure_frm origin_fig" contents-hash="256b6cdc461dc104019319a7d714e4b2778ffddc0559965fa927cab862759310" dmcf-pid="BRMtjO2uh0" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/29/552796-pzfp7fF/20260929153301600jzgp.jpg" data-org-width="640" dmcf-mid="XH9TejpXC4" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/29/552796-pzfp7fF/20260929153301600jzgp.jpg" width="658"></p>
          </figure>
          <p contents-hash="f29b0596d0aed625e490ce827d079bd656f6b101e933a3a35c717e9404999689" dmcf-pid="beRFAIV7T3" dmcf-ptype="general">한편 개인정보위 주최로 열린 이번 포럼은 '개인정보보호가 이끄는 혁신, 협력으로 높이는 대응 역량'을 주제로 개최됐다.</p>
          <p contents-hash="97bf8e1da5332e51b82e53eeac4a48c5305f4dbc30e60d4cd53e94d10d45b058" dmcf-pid="KV2ydAUZTF" dmcf-ptype="general">주요국 개인정보 감독기구를 비롯해 세계은행, 마이크로소프트, 메타 등 글로벌 기관 및 기업 전문가들이 참석했다. 포럼은 기조연설을 시작으로 인공지능 혁신과 프라이버시의 조화, 대응 역량 강화를 위한 글로벌 협력, 아동·청소년 권리 보호 등을 논의하는 세션으로 이어졌다.</p>
          <p contents-hash="58f5a4dc95a7df90e8da559fa65fefbafe39be2b18b17b673d2976e9f99c7859" dmcf-pid="9fVWJcu5ht" dmcf-ptype="general">송경희 개인정보위 위원장은 "개인정보 보호는 AI 혁신을 가로막는 장벽이 아니라, 신뢰를 바탕으로 혁신을 지속할 수 있게 하는 기반"이라며 "이번 포럼을 통해 각국 개인정보 감독기구·국제기구·산업계·학계 전문가들과 협력을 강화하고, AI 혁신과 개인정보 보호가 함께 발전할 수 있는 글로벌 프라이버시 규범과 협력체계를 주도하겠다"고 강조했다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기