AI 업계 “AI 기본법 규제 추상적이고 모호” 비판

챗GPT 달리3

그간 산업계에서는 인공지능(AI) 기본법 내 규제 기준이 모호해 AI 산업 성장의 발목을 잡을 수 있다는 우려가 나왔다. 최근에는 황정아 더불어민주당 의원이 AI 기본법으로 신설된 규제를 3년 유예하는 법안을 발의하면서 내년 법 시행을 앞두고 진통이 예상된다.

18일 업계에 따르면 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)은 지난해 12월 국회 본회의를 통과해 내년 1월 22일 전면 시행된다. 유럽연합(EU)의 AI 법(AI Act)에 이어 전 세계 두 번째로 제정된 AI 관련 법률이다. 제정은 EU가 먼저였지만 시행은 우리나라가 세계 최초가 될 전망이다. EU의 AI 법은 내년 8월 시행된다.

AI 기본법은 크게 산업 육성과 신뢰 기반 조성(위험 관리)을 골자로 한다. AI 기본법은 AI를 생명, 안전, 기본권에 큰 영향을 미치는 ‘고영향 AI’와 ‘일반 AI’로 구분하고 고영향 AI 사업자에게는 사전 고지와 검·인증 의무를 부여한다. 사업자가 생성형 AI를 이용해 만든 딥페이크와 같은 결과물에는 출처 표시(워터마크)를 통해 이를 고지해야 한다는 규제도 담고 있다.

황 의원이 발의한 개정안은 이 같은 규제를 3년 뒤인 2029년 1월까지 유예하는 내용이다. 황 의원은 “글로벌 AI 패권 경쟁이 심화되고 있는 가운데, 설익은 규제 정책으로 AI 강국 도약의 골든타임을 놓치는 것이 아니냐는 우려가 나온다”라고 했다.

그동안 AI 업계는 AI 기본법 중 모호하거나 국내 AI 생태계가 처한 현실에 맞지 않는 규제 조항을 보완해줄 것을 촉구해왔다. 과학기술정보통신부는 연초 AI 기본법 하위법령 정비단을 꾸리고 시행령 초안을 마련하고 있다. 법 시행이 얼마 남지 않은 시점에서 세심하고 실효성 있는 시행령 마련이 가능할 지에 대한 우려도 나온다.

그래픽=손민균

업계가 주목하고 있는 AI 기본법 시행령 관련 핵심 쟁점은 ①고영향 AI의 정의 ②워터마크 표시 의무화 ③정부의 조사 권한 등이다.

고영향 AI의 기준이 지나치게 추상적이고 광범위하다는 지적이 대표적이다. 법은 에너지, 의료, 교통, 대출 등의 산업을 중심으로 “신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템”을 고영향으로 분류했지만, 구체적으로 어떤 AI가 이에 해당하는지 명확하지 않다는 것이다.

마이크로소프트(MS), 오픈AI, 아마존웹서비스(AWS) 등 주요 IT 기업을 회원사로 둔 비즈니스 소프트웨어 연합(BSA)은 지난달 과기부에 제출한 의견서에서 “고영향 AI를 시스템이나 산업 분야에 따라 분류하기보다 어떻게 사용하는 지에 따라 분류해야 한다”고 주장했다. 일례로 AI가 단순히 신용 점수 산출에만 사용된다면 분야가 대출이더라도 ‘고영향’이라고 보기 어렵다는 설명이다.

AI 생성물의 표시 의무 규제도 논란이다. 현재 영화, 웹툰, 애니메이션 등 제작 과정에서 AI가 배경 이미지를 만드는 등 단순 보조 도구로 활용되는 경우가 많은데, 이런 경우에도 워터마크를 일일이 부착하면 콘텐츠 품질과 창작 활동을 저하시킬 수 있다고 업계는 지적한다.

또 정부가 사업자의 고영향 AI 관련 사업이나 제품을 사전 검·인증하는 과정에서 개인·민감 정보 유출, 사이버 보안 위협 등의 부작용이 나타날 수 있어, 과도한 사실 조사와 검·인증이 이뤄지지 않도록 기준 마련이 시급하다는 의견도 나온다.

스타트업 단체인 스타트업얼라이언스 관계자는 “스타트업 업계는 AI 기본법 하위 법령 정비단에는 실제 AI 모델이나 서비스를 운영하는 기업 인사나 산업 현장의 기술 전문가가 포함되지 않아 현장의 목소리가 충분히 반영되지 못할 수 있다고 걱정한다”고 했다.

최병호 고려대 인공지능연구소 교수는 “지금 AI 산업은 기술이 가속 팽창하는 상황인데 법이 기술 발전의 속도를 따라가지 못하고 뒤처질 위험이 크다”라며 “AI 기본법이 산업 육성이라는 취지에 맞게 시기 적절하게 계속 업데이트될 수 있도록 하위 법령을 마련할 필요가 있다”고 말했다.

과기부는 업계 의견을 수렴한 뒤 예정대로 내년 1월에 AI 기본법을 시행하겠다는 입장이다. 이르면 오는 6월 AI 기본법 최종안을 마련하고 7~8월 세부 규정을 담은 시행령을 공포할 계획이다. 과기부 관계자는 “산업계 의견을 최대한 폭넓게 수렴해 규제는 최소화하고 진흥에 방점을 둔 시행령을 준비 중”이라고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -

Copyright © 조선비즈. 무단전재 및 재배포 금지.