【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]"호주 정부는 1조원 대가 치렀다"…UN, 책임 있는 공공 AI 강조

온카뱅크관리자

2024-10-31 18:16:48

<div id="layerTranslateNotice" style="display:none;"></div> 공공 행정 혁신 열쇠인가 위험인가…전문가들 "책임 있는 AI 활용·국제 협력 필수" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="977LvVrRF2">
 (지디넷코리아=조이환 기자)"인공지능(AI)은 공공 행정을 혁신할 수 있는 강력한 도구입니다. 이러한 AI가 책임감 없이 활용된다면 막대한 비용과 사회적 문제를 초래할 수 있습니다. 이 교훈을 얻기까지 호주 정부는 약 10억 달러(한화 약 1조2천억원)의 대가를 치러야 했습니다."
 켈리 포브스 AI 아시아태평양기구(AIAPI) 대표는 지난 30일 인천 송도 컨벤시아에서 열린 '제8회 UN 리저널 심포지엄'에서 이렇게 강조했다. 이번 심포지엄은 '효과적인 거버넌스와 인공지능(AI) 전환을 통한 2030 아젠다 달성'을 주제로 개최돼 아시아태평양 및 동아프리카 등 48개국에서 약 300여 명의 정부 관계자와 전문가가 참석했다.
 31일 업계에 따르면 최근 AI 기술의 급속한 발전과 함께 공공 행정 분야에서도 AI 도입이 활발하게 이뤄지고 있다. 이와 함께 딥페이크·가짜 뉴스 등 AI 기술의 오남용이나 책임성 결여로 인한 부작용에 대한 우려도 커지고 있다. 이러한 상황 속에서 포브스 대표는 공공 부문에서의 AI 활용에 대한 경각심을 일깨우기 위해 행사에 참가했다.
 <figure class="figure_frm origin_fig" dmcf-pid="477LvVrRuB" dmcf-ptype="figure">
 <img alt="켈리 포브스 AI 아시아태평양기구 대표 (사진=조이환 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/31/ZDNetKorea/20241031181650815npjn.jpg" data-org-width="638" dmcf-mid="q4uD1eTNp8" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/31/ZDNetKorea/20241031181650815npjn.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 켈리 포브스 AI 아시아태평양기구 대표 (사진=조이환 기자)
 </figcaption>
 </figure>
 포브스 대표는 호주 정부의 '로보 데트(Robo-debt)' 사례를 언급하며 책임 없는 AI 사용이 시민들에게 어떤 결과를 초래할 수 있는지 설명했다. '로보 데트'는 지난 2016년 호주 정부가 복지 수급자의 부채를 자동으로 산정하기 위해 출시했던 AI 시스템으로, 부정확한 데이터와 알고리즘 편향으로 인해 수많은 오류와 부당 청구가 발생한 바 있다. 그 결과 호주 정부는 약 10억 달러(한화 약 1조2천억원) 이상의 소송 비용을 부담해야 했다.
 그는 "'로보 데트' 사례는 AI 시스템이 시민의 권리를 침해할 수 있는 위험성을 경고한다"며 "AI의 의사결정 과정에 대한 투명성과 설명 가능성을 높여야 한다"고 강조했다.
 이를 위해서는 책임 있는 AI 사용을 위해 정부·민간·학계·시민 사회가 뜻을 모아 협력할 필요가 있다. 이는 AI가 사회적 의사결정 과정에서 점점 중요한 역할을 맡고 있는 상황에서 편향과 투명성 부족 같은 문제를 효과적으로 해결하기 위함이다.
 <figure class="figure_frm origin_fig" dmcf-pid="Qkk1PIbY7u" dmcf-ptype="figure">
 <img alt="포브스 AIAPI 대표는 호주 정부의 '로보 데트(Robo-debt)' 사례를 언급하며 책임 없는 AI 사용의 해악을 설명했다. (사진=조이환 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/31/ZDNetKorea/20241031181652153olst.jpg" data-org-width="640" dmcf-mid="BwNuJy8tF4" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/31/ZDNetKorea/20241031181652153olst.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 포브스 AIAPI 대표는 호주 정부의 '로보 데트(Robo-debt)' 사례를 언급하며 책임 없는 AI 사용의 해악을 설명했다. (사진=조이환 기자)
 </figcaption>
 </figure>
 특히 정부는 AI 사용의 기본 원칙과 규제를 마련하고 민간은 기술 개발을 통해 책임 있는 AI 사례를 제시해야 한다는 것이 포브스 대표의 주장이다. 또 학계와 시민 사회는 연구와 감시 역할을 맡아 AI가 시민 권리를 침해하지 않도록 보완할 필요가 있다.
 그는 "이러한 다각적인 협력을 통해서만 AI가 진정한 공공의 이익을 실현할 수 있다"며 "이를 전 세계적으로 확장하기 위해서 지역 간 협력을 촉진하기 위한 기술 지원 센터(AI Technical Facility)를 설립하는 것도 하나의 방안"이라고 강조했다.
 이어서 발제한 세르주 스틴크위치 유엔대학교 마카오 연구소 소장은 AI가 모든 계층의 목소리를 반영하게 지원할 포용적인 정책이 중요하다고 강조했다. AI 기술은 근본적으로 발전하고 확장될수록 특정 계층이나 그룹의 소외 가능성을 높인다. 이를 방지하기 위해서는 정책적 조치가 핵심적이다. 
 <figure class="figure_frm origin_fig" dmcf-pid="YffE5RvaF3" dmcf-ptype="figure">
 <img alt="세르주 스틴크위치 유엔대학교 마카오 연구소 소장 (사진=조이환 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/31/ZDNetKorea/20241031181653416quff.jpg" data-org-width="640" dmcf-mid="bwd56OBWuf" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/31/ZDNetKorea/20241031181653416quff.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 세르주 스틴크위치 유엔대학교 마카오 연구소 소장 (사진=조이환 기자)
 </figcaption>
 </figure>
 스틴크위치 소장은 "모든 나라의 정부는 AI가 공공 서비스와 정책 결정에 사용될 때 소외된 이들을 혹시나 더욱 소외시킬 가능성이 없는지를 고려해야 한다"고 강조했다.
 또 스틴크위치 소장은 개인정보 보호를 위한 방안으로 합성 데이터(Synthetic Data) 기술의 활용이 중요하다고 언급했다. 합성 데이터는 실제 데이터를 사용하지 않고도 데이터 분석에 필요한 통계적 특징을 구현할 수 있는 인공 데이터로, 개인정보 보호와 데이터 편향 문제를 해결하는 데 기여할 수 있다.
 그는 "합성 데이터를 통해 개인을 보호하면서도 유의미한 분석을 수행할 수 있다"며 "이로써 각국은 개방형 소스 AI를 활용해 주권을 유지하면서도 서로의 상황에 맞는 AI 솔루션을 개발할 수 있다"고 말했다.
 <figure class="figure_frm origin_fig" dmcf-pid="Z66rFJWA05" dmcf-ptype="figure">
 <img alt="'제8회 UN 리저널 심포지엄' 패널 (사진=조이환 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/31/ZDNetKorea/20241031181654669dtdc.jpg" data-org-width="639" dmcf-mid="KTw3Ml2X0V" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/31/ZDNetKorea/20241031181654669dtdc.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 '제8회 UN 리저널 심포지엄' 패널 (사진=조이환 기자)
 </figcaption>
 </figure>
 이어서 발제한 권헌영 고려대 정보보호대학원 교수는 한국의 디지털 플랫폼 정부 사례를 소개하며 데이터 기반 정책 결정과 AI 통합을 위한 국가적 데이터 거버넌스의 중요성에 대해 설명했다.
 그는 "한국은 세계 최고 수준의 디지털 인프라를 바탕으로 공공 행정에서 AI를 효과적으로 활용하고 있다"며 "공공 부문 인력의 AI 활용 역량을 강화해 더욱 효율적인 행정 서비스를 제공해야 한다"고 강조했다.
 조이환 기자(ianyhcho@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.