【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[실시간뉴스]인공지능 대항해 시대, ‘AI 기본법’ 없는 한국은?

온카뱅크관리자

2024-06-12 06:36:00

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">올해는 AI 주도권 경쟁이 본격화될 것이다. 각국에서 안전한 AI 규범을 만들기 위해 발 빠르게 움직이고 있다. 한국 역시 이 경쟁에 뛰어들려 하지만 중요한 것이 없다. ‘AI 기본법’이다.</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="blLop3rRX1">
          <figure class="figure_frm origin_fig" data-idxno="99744" data-type="photo" dmcf-pid="K0ICP8XDZ5" dmcf-ptype="figure">
           <p class="link_figure"><img alt="윤석열 대통령이 5월21일 청와대 영빈관에서 화상으로 ‘AI 서울 정상회의’에 참석했다.ⓒ대통령실 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/12/sisain/20240612062655455yapg.jpg" data-org-width="1280" dmcf-mid="7CHXon7vZ0" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/12/sisain/20240612062655455yapg.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            윤석열 대통령이 5월21일 청와대 영빈관에서 화상으로 ‘AI 서울 정상회의’에 참석했다.ⓒ대통령실 제공
           </figcaption>
          </figure>
          <div dmcf-pid="9WjAq7CnXZ" dmcf-ptype="general">
           <p>2024년은 전 세계 인공지능(AI) 주도권 경쟁이 본격화된 한 해로 기록될 것이다. 이미 전 세계인은 자의든 타의든 모두 ‘인공지능이 바꿀 세상’이라는 게임에 로그인했다. 그런데 아직 없는 게 있다. 게임의 규칙이다. 이제 누가, 먼저 이 게임에 적용할 ‘사회적 약속’을 마련할 것인가가 주요한 의제가 됐다.</p> 
          </div>
          <div dmcf-pid="2YAcBzhLYX" dmcf-ptype="general">
           <p>이전에는 AI의 ‘신뢰성’이 화두였다. ‘자율주행차를 타도 안전할까’ ‘기업 채용 과정에 AI를 활용해도 공정한 결과가 나올까’ ‘AI가 생성한 정보를 믿어도 될까’ 같은 것들이다. 이제는 여기에 더해 ‘안전성’에 대한 구체적 논의가 국제무대에서 급물살을 타기 시작했다.</p> 
          </div>
          <div dmcf-pid="VGckbqloZH" dmcf-ptype="general">
           <p>이유가 있다. 가장 큰 이유는 AI 기술이 예상 가능한 범위를 넘어설 만큼 빠르게 진화하고 있기 때문이다. ‘멀티모달(MultiModal)’ 기술이 그 중심에 있다. 텍스트·이미지·오디오·비디오 등 다양한 형태로 주어지는 데이터 정보를 동시에 이해해 사용자의 감정, 행동의 맥락, 주변 환경 등에 정확하게 반응하는 기술이다. 기술이 고도화될수록 사용자와 ‘지적인’ 상호작용이 가능해진다.</p> 
          </div>
          <div dmcf-pid="fByWJe0CGG" dmcf-ptype="general">
           <p>지난 5월13일, 오픈AI가 발표한 ‘GPT-4o(지티피 포오)’와 다음 날 마이크로소프트가 발표한 ‘프로젝트 아스트라’가 이러한 멀티모달 기술을 활용한 고기능 AI다. 협소한 분야에서만 사용되지 않는다는 의미로 범용 AI라고도 불린다. 예컨대 이전에는 ‘증거자료 중 특정 정보를 추출하는 데 AI를 어떻게 활용할 수 있을까’라는 식으로 구체적인 활용 사례에 맞춰 AI의 활용법을 개발했다. 특정 조건에서만 지능의 효율성이 극대화되는 것이 한계였기 때문이다. 아무리 뛰어난 AI도 복합적인 정보를 결합해 이해하지 못했다.</p> 
          </div>
          <div dmcf-pid="4bWYidphZY" dmcf-ptype="general">
           <p>반면 앞으로 AI는 거대언어모델과 이미지 인식 기능 등이 결합돼 사람처럼 추론하고 학습할 수 있게 됐다. 대중이 이러한 진화된 범용 AI 모델을 활용할 수 있게 되는 올해를 기점으로, ‘AI 뉴노멀’이라는 말이 비로소 구체화되고 있다. ‘AI는 인간을 돕는 도구에 그치는 것이 아니라 인류가 당면한 문제를 함께 해결하고, 문명을 함께 이루는 파트너가 된다’는 것이다.</p> 
          </div>
          <div dmcf-pid="8KYGnJUl5W" dmcf-ptype="general">
           <p>동시에 너무나 빠른 기술의 발전·확산 속도를 제도가 따라가지 못해 생기는 불균형도 커지고 있다. AI가 학습하는 방대한 데이터의 저작권 및 개인정보를 어떻게 보호할지, AI 알고리즘의 편향성에 따른 차별은 어떻게 구제할지 등 세부적인 안전 규정을 마련하는 것이 시급한 현안이 됐다. 제도의 빈틈 사이에서 AI 관련 기업들이 의도적으로 기술을 오용하는 사례도 발생하고 있다.</p> 
          </div>
          <div dmcf-pid="6GckbqloZy" dmcf-ptype="general">
           <p>오픈AI는 ‘GPT-4o’ 모델을 공개한 이후 목소리 도용 논란에 휩싸였다. 미국 배우 스칼릿 조핸슨이 GPT-4o 음성 중 대표 격인 ’스카이’의 목소리가 자신의 목소리와 유사하다며 법적 대응을 시사했다. 그는 샘 올트먼 오픈AI 최고경영자가 자신의 목소리를 AI에 사용하고 싶다고 몇 차례 허락을 구해왔지만 이를 모두 거절했다며, “공개된 (AI의) 음성을 듣고 가족이나 친구들조차 구분하지 못할 정도로 내 목소리와 흡사해 충격과 분노를 느꼈다”라고 말했다. 해당 논란이 발생한 시기, 오픈AI가 사내 AI 안전조치를 마련하는 ‘슈퍼얼라이먼트팀(안전팀)’을 해체한 사실까지 드러나 의혹을 키웠다.</p> 
          </div>
          <div dmcf-pid="PHkEKBSgZT" dmcf-ptype="general">
           <p>국내에서는 지난 3월, 개인정보보호위원회가 AI 관련 주요 AI 서비스 기업들의 실태를 점검한 후 개인정보 보호조치가 취약하다며 개선을 권고했다. 오픈AI·구글·메타 등 6개 기업이 한국인의 주민등록번호, 신용카드번호, 여권번호 같은 개인정보를 AI 학습 데이터로 사용했을 여지가 있다는 것이었다.</p> 
          </div>
          <figure class="figure_frm origin_fig" data-idxno="99745" data-type="photo" dmcf-pid="QXED9bvaXv" dmcf-ptype="figure">
           <p class="link_figure"><img alt="최근 새로운 인공지능 모델 GPT-4o를 발표한 오픈AI가 목소리 도용 논란에 휩싸였다. ⓒAP Photo" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/12/sisain/20240612062655733jdew.jpg" data-org-width="1280" dmcf-mid="zhSvRxtsY3" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/12/sisain/20240612062655733jdew.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            최근 새로운 인공지능 모델 GPT-4o를 발표한 오픈AI가 목소리 도용 논란에 휩싸였다. ⓒAP Photo
           </figcaption>
          </figure>
          <h3 dmcf-pid="x81tjabYYS" dmcf-ptype="h3"><strong>본격화된 AI 규범 주도권 경쟁</strong></h3>
          <div dmcf-pid="ylLop3rRGl" dmcf-ptype="general">
           <p>안전 규범의 선두에는 유럽연합(EU)이 있다. 지난 3월13일 유럽의회는 세계 최초로 마련된 ‘AI 규제법(AI Act)’을 최종 승인했다. 2021년 초안이 발의된 이후 범용 AI가 등장한 최근의 흐름까지 반영해 민간과 정부를 아우르는 포괄적인 형태로 법안을 마련했다. 다음 달부터 EU 27개 회원국에 정식 발효되며, 이후 단계적으로 도입돼 2026년 중반에 전면 시행된다.</p> 
          </div>
          <div dmcf-pid="WSogU0meHh" dmcf-ptype="general">
           <p>EU가 승인한 AI 규제법의 핵심 내용은 인공지능 시스템을 위험도에 따라 크게 4등급으로 나눠 차등 규제한다는 것이다. 특히 AI 제공자와 배포자, 유통업자, 운영자들에 대한 규제와 의무에 방점을 뒀다. AI를 정해진 규범 안에서 사용한다면 인간이 AI의 영향력을 통제할 수 있다는 메시지를 담은 것이다. AI 서비스 기업이 해당 법안의 규제를 위반할 경우 전 세계 매출의 최대 7%에 해당하는 과징금을 내야 한다. AI로 피해를 본 시민은 해당 법에 근거를 두고 설립되는 ‘유럽 AI사무소’에 불만을 제기하고, AI 시스템이 왜 그런 결정을 내렸는지에 관한 설명도 들을 수 있게 했다. ‘영향을 받는 사람의 권리’를 보장했다는 점 역시 해당 법안에서 눈에 띄는 점이다.</p> 
          </div>
          <div dmcf-pid="YEPQGWg2YC" dmcf-ptype="general">
           <p>전창배 국제인공지능윤리협회(IAAE) 이사장은 이러한 EU의 움직임을 ‘미국에 기술 주도권이 밀린 유럽의 생존 전략’이라고 평가했다. “AI 기술 개발에 대한 지식은 오픈소스로 공개돼 전 세계적으로 공유되고 있다. 기술을 개발하고 적용하는 일은 이제 ‘모두의 것’이다. 이런 상황에서 압도적 성과를 내는 글로벌 빅테크도 모두 미국에 있다. 이미 기술 주도권에서 밀린 유럽이 선택할 수 있는 일은 법과 제도의 주도권을 갖는 것이다. 법과 제도가 없으면 기술은 시행할 수 없다. 로봇을 개발해도 안전 규정이 없으면 사람들이 사용할 수 없는 것과 같다.”</p> 
          </div>
          <div dmcf-pid="GDQxHYaVHI" dmcf-ptype="general">
           <p>한국 역시 이러한 주도권 경쟁에 뛰어들 준비를 하고 있다. 5월21~22일 열린 ‘AI 서울 정상회의’는 그 시작을 알린 행사였다. AI 서울 정상회의는 지난해 영국에서 개최된 ‘AI 안전성 정상회의’의 후속회의다. 당시 영국에서 열린 회의에서는 미국·중국·EU를 포함한 28개 정부가 AI가 불러올 위험을 예방하기 위해 세계적으로 협력하자는 ‘블레츨리 선언’에 서명했다. 정상회의에서 나온 선언문은 구속력이 없지만 AI의 위험성에 대한 인식을 공유하고 안전성 인증 규범 등이 필요하다는 데 뜻을 모았다는 의의가 있다. 올해 AI 서울 정상회의에서 채택된 ‘서울선언’에도 AI 안전연구소 및 안전 감독기관을 육성하고 인간 중심의 AI 활용을 위해 국제협력을 강화하자는 내용이 담겼다.</p> 
          </div>
          <figure class="figure_frm origin_fig" data-idxno="99746" data-type="photo" dmcf-pid="HwxMXGNfXO" dmcf-ptype="figure">
           <p class="link_figure"><img alt="5월14일 시민사회단체들이 국회소통관에서 ‘과방위 계류 AI 법안 폐기 촉구 및 제22대 국회에서 시민안전, 인권 보호할 AI법 마련하라’ 기자회견을 개최하고 있다. ⓒ진보네트워크센터 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/12/sisain/20240612062656055oumm.jpg" data-org-width="1280" dmcf-mid="q6ogU0meZF" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/12/sisain/20240612062656055oumm.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            5월14일 시민사회단체들이 국회소통관에서 ‘과방위 계류 AI 법안 폐기 촉구 및 제22대 국회에서 시민안전, 인권 보호할 AI법 마련하라’ 기자회견을 개최하고 있다. ⓒ진보네트워크센터 제공
           </figcaption>
          </figure>
          <div dmcf-pid="XyNjzuIiYs" dmcf-ptype="general">
           <p>그간 한국은 국가인권위원회와 과학기술정보통신부(과기부), 국가정보원 등에서 AI 개발·활용에 관한 인권 및 보안 가이드라인을 발표해왔다. 최근에는 윤석열 대통령의 디지털 구상을 담은 ‘디지털 권리장전’을 구체적인 정책으로 구현하기 위해 ‘새로운 디지털 질서 정립 추진 계획’을 공개하기도 했다. 그런데 한국에는 정작 인공지능에 대해 법적 정의를 내리고 발전 방향을 담은 기본법이 없다. 정확히는 제21대 국회 과학기술정보방송통신위원회(과방위) 법안2소위를 통과하고도 상임위 전체회의에 상정되지 못한 채 1년 3개월간 표류하다 폐기됐다.</p> 
          </div>
          <div dmcf-pid="ZWjAq7CnHm" dmcf-ptype="general">
           <p>5월21일로 다시 돌아가보자. 이날은 AI 서울 정상회의가 개최된 날이기도 했지만 제21대 국회 임기 내에 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 법률안(AI 기본법)’을 논의할 수 있는 마지막 날이기도 했다. 이날 예정된 과방위 전체회의는 막판에 무산됐는데, 그 배경을 두고 여야 의견이 엇갈린다. 국민의힘은 제정이 시급한 AI 기본법을 처리하자고 요구했으나, 야당인 더불어민주당이 ‘여당이 라인야후 문제나 방송통신심의위원회 언론 장악 논란 등에 대한 질의를 막으려고 보완이 필요한 AI 기본법을 꺼내든다’며 거부하면서 의견 조율이 되지 않았다고 전해진다. 이날 조승래 과방위 간사(더불어민주당)는 기자회견 후 기자들을 만나 “준비되지 않은 미완의 법안을 (서울 AI 정상회의 당일에) 용산의 사은품으로 쓰려는 퍼포먼스”라고 비판하기도 했다. 결국 공은 제22대 국회로 넘어갔다. AI 기본법은 이제 법안 발의부터 모든 것을 원점에서 논의해야 하는 상황이 됐다.</p> 
          </div>
          <div dmcf-pid="5k6PYyo9Gr" dmcf-ptype="general">
           <p>제21대 국회에서 제안한 AI 기본법에 찬성하든 반대하든 전문가와 시민사회가 모두 동의하는 점이 있다. ‘시급히 제정해야 한다’는 것이다. 김경필 카이스트 기술경영학부 교수는 AI 기술을 사회와 연결시키기 위해서 AI 기본법이 필요하다고 말한다. “자동차 한 대가 등장했다고 당장 쓸 수는 없다. 도로가 있고 주유소가 있어야 한다. ‘생태계’가 만들어져야 기술이 흐른다는 의미다. AI 기본법은 AI와 인간이 상호작용하는 과정에 필요한 사회·기술 시스템 구축을 위한 토대다.” 다만 김 교수는 AI 기본법이 만능이 아닌 만큼 해당 법과 함께 개인정보보호법, 데이터 지식재산권 등 관련 법망을 상호적으로 보완해야 한다고 말했다.</p> 
          </div>
          <h3 dmcf-pid="1EPQGWg2Hw" dmcf-ptype="h3"><strong>‘가이드’와 ‘계획’만 있고 법은 없다?</strong></h3>
          <div dmcf-pid="ta2VShdzHD" dmcf-ptype="general">
           <p>시민사회에선 법안의 필요성과 시급성에는 동의하지만, 제21대 국회의 법안 내용과 논의 과정에 문제를 제기한다. 오병일 진보네트워크센터 대표는 법안에 크게 두 가지 문제가 있다고 말했다. 첫째는 ‘우선 허용·사후 규제’ 원칙이다. AI 기술 허용을 원칙으로 하되 국민의 생명과 안전에 위해가 되거나 공공의 안전보장 등을 현저히 저해할 경우 이를 제한한다는 내용이다. 국가인권위원회는 지난해 8월21일 해당 법안이 산업 육성에만 초점을 맞춘 채 인권과 안보에 대한 규제를 충분히 다루지 않았다며, ‘우선 허용·사후 규제’ 원칙을 삭제하고 인권영향평가를 도입할 필요가 있다는 의견을 표명했다.</p> 
          </div>
          <figure class="figure_frm origin_fig" data-idxno="99747" data-type="photo" dmcf-pid="FNVfvlJqtE" dmcf-ptype="figure">
           <p class="link_figure"><img alt="미국 배우 스칼릿 조핸슨은 ‘GPT-4o’의 음성과 자신의 목소리가 유사하다는 사실에 “충격과 분노를 느끼며” 법적 소송을 예고했다. ⓒREUTERS" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202406/12/sisain/20240612062656288ofta.jpg" data-org-width="1280" dmcf-mid="BybKCOMUZt" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202406/12/sisain/20240612062656288ofta.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            미국 배우 스칼릿 조핸슨은 ‘GPT-4o’의 음성과 자신의 목소리가 유사하다는 사실에 “충격과 분노를 느끼며” 법적 소송을 예고했다. ⓒREUTERS
           </figcaption>
          </figure>
          <div dmcf-pid="3jf4TSiBGk" dmcf-ptype="general">
           <p>두 번째 문제는 기술의 위험성에 따른 차등적 규제 조항이 빠져 있다는 점이다. 오병일 대표는 “EU의 ‘AI 규제법’을 살펴보면, 사용이 금지되는 AI부터 고위험 AI, 중·저위험 AI, 범용 AI 등에 대한 규제가 각각 구분되어 있다. 하지만 한국의 AI 기본법은 고위험 AI에 대해서만 규정하고 있다. 게다가 모니터링 의무·사후 추적을 위한 기록관리·훈련 데이터 구축 같은 위험을 방지하기 위한 예방 의무와 위반 시 처벌 조항도 빠져 있어서 유명무실하다”라고 말했다.</p> 
          </div>
          <div dmcf-pid="0c86WTLKGc" dmcf-ptype="general">
           <p>EU의 AI 규제법은 세계에서 가장 강도 높은 규제 법안이다. 이를 기준으로 한국의 법안을 제정해야 한다는 것은 무리한 요구가 아닐까? 이에 오병일 대표는 기술의 위험성에 따라 유연하게 규제하고 대응하는 ‘위험 기반 접근’이 국제적 추세라는 점을 강조했다. 미국 역시 규제법을 시행하고 있지는 않지만, 지난해 바이든 대통령이 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’을 발동했다. 기업들이 AI에 대한 안전 테스트 결과 및 주요 정보를 정부와 공유하도록 한 것이다. 또한 미국 연방정부 및 연방 기관들이 업무에 AI를 사용할 경우 그 내용을 공개하고 영향 평가 및 모니터링을 하도록 하는 신규 정책을 발표했다.</p> 
          </div>
          <div dmcf-pid="pk6PYyo9YA" dmcf-ptype="general">
           <p>오병일 대표는 논의의 ‘투명성’ 또한 확보되어야 한다고 지적한다. 과방위 전체회의에 상정될 예정이던 AI 기본법(소위 대안)의 최종안이 아직까지 공식적으로 공개되지 않았다는 점도 문제라는 것이다. “최종안에 대해서는 시민사회의 목소리를 듣는 공청회도 진행되지 않았고 의안정보시스템에도 공개되어 있지 않다. 최소한 법안의 내용을 투명하게 공개하고 시민들의 목소리도 듣고 숙고하며 법안을 만드는 게 당연한 과정 아닌가? 22대 국회에서 AI 기본법이 논의된다면 이런 과정이라도 거치길 바란다.”</p> 
          </div>
          <p dmcf-pid="UEPQGWg2Yj" dmcf-ptype="general">김다은 기자 midnightblue@sisain.co.kr</p>
          <div dmcf-pid="unBbIsxpHN" dmcf-ptype="general">
           ▶읽기근육을 키우는 가장 좋은 습관 [시사IN <span>구독</span>] 
           <br> ▶좋은 뉴스는 독자가 만듭니다 [시사IN <span>후원</span>]
           <br>©시사IN, 무단전재 및 재배포 금지
          </div>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 시사IN. 무단전재 및 재배포 금지.</p>