【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI법 난립…‘책임 공백·과잉 규제’ 딜레마, 해법은 신뢰 생태계 [특별기획 ⑤] AI

온카뱅크관리자

2026-11-13 17:07:25

<div id="layerTranslateNotice" style="display:none;"></div> AI 시대, 건강한 미래 공존의 지혜를 찾다 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="x19sPufzWF">
 생성형 AI가 일상 깊숙이 스며들면서 딥페이크를 앞세운 사이버 폭력, 선거와 금융시장을 흔드는 허위조작정보, 에이전트 AI의 악용 등 기술의 그늘도 빠르게 짙어지고 있다. 최근 동시다발적 AI 기반 해킹에서 보여주듯 AI의 진화 속도는 이미 사회의 대응 능력을 앞지르고 있으며, 이는 특정 국가가 아닌 글로벌 공통의 과제가 됐다.
 <div contents-hash="12377905b408c9c2b0acb77abd5c28d79758f7d83bad95522f4169aa746ea14f" dmcf-pid="WcvPXsWIT1" dmcf-ptype="general">
 &lt;디지털데일리&gt;는 2026년 한국언론진흥재단이 진행하는 공익 목적 콘텐츠 기획 프로그램의 일환으로, 총 5회에 걸쳐 AI가 공동체에 던지는 위협의 실체를 진단한다. 아울러 해외 주요국의 대응 사례와 함께 'AI 기본법' 등 국내 법·제도가 보강해야 할 과제를 통해 건강한 공존의 해법을 모색한다. &lt;편집자&gt;
 </div>
 <figure class="figure_frm origin_fig" contents-hash="c415737edd9974bd3bd103ce7c85df23d637012817275f8af1468e87ccba0fbe" dmcf-pid="YkTQZOYCW5" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/13/552796-pzfp7fF/20261113170015531xotg.jpg" data-org-width="640" dmcf-mid="6uRfWDSrhp" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/13/552796-pzfp7fF/20261113170015531xotg.jpg" width="658">
 </figure>
 - AI 시대, 건강한 온라인 생태계 구축, 무엇을 서둘러야 하나
 [디지털데일리 오병훈기자] 인공지능(AI)의 안전성과 신뢰성을 확보하기 위한 입법이 잇따르고 있다. AI 모델 개발부터 서비스 제공, 생성 콘텐츠 유통에 이르기까지 규율 대상도 점차 확대되는 추세다.
 그러나 법률이 늘어난다고 반드시 안전한 AI 환경이 조성되는 것은 아니라는 지적이 나온다.
 AI 기술은 모델 개발사와 서비스 운영사, 플랫폼, 최종 이용자가 복잡하게 연결된 구조에서 작동한다. 이 과정에서 일부 위험은 법적 책임 주체가 불분명한 반면 다른 영역에서는 여러 의무가 중첩될 가능성도 존재한다. 안전을 강화하려는 규제가 정당한 표현과 기술 혁신까지 위축시킬 수 있다는 우려도 제기된다.
 전문가들은 개별 위험에 대응하는 사후 규제만으로는 한계가 있다고 봤다. AI 개발 단계의 위험관리부터 생성물 출처 증명, 플랫폼의 유통 관리, 피해 구제까지 연결하는 종합적인 ‘신뢰 생태계’가 필요하다는 설명이다.
 ◆AI 안전 법안 쏟아지는데…개발·유통·이용 책임 제각각
 지난 1월22일 시행된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’은 국내 AI 안전·신뢰 규율의 기본적인 틀을 마련했다.
 핵심은 AI 사업자의 투명성 확보와 안전성 관리 의무다. 대표적으로 제31조는 생성형 AI 결과물의 표시의무를 규정한다. 제32조는 일정 규모 이상의 연산량으로 학습한 AI 시스템에 위험 식별·평가·완화와 안전사고 대응체계 구축을 요구한다. 제34조는 고영향 AI 사업자에게 위험관리와 이용자 보호, 사람의 감독 등의 조치를 이행하도록 규정하고 있다.
 다만 안전성 확보 의무는 대상과 적용 조건이 구분된다. 모든 AI 시스템에 동일한 위험관리 의무가 부과되는 것은 아니다. 고영향 AI에 관한 규율 역시 개별 AI 서비스의 사회적 영향과 사업자의 역할을 고려한다.
 AI 기본법 시행 이후 국회에서는 규율 범위를 보완하거나 확대하려는 움직임이 이어지고 있다.
 지난 6월22일 조인철 의원(더불어민주당)이 대표발의한 이른바 ‘우리아이 AI 안심 패키지법’은 아동·청소년의 AI 이용 안전에 초점을 맞췄다. AI 기본법 개정안은 아동·청소년을 AI 취약계층에 포함하고 국가와 지방자치단체가 안전한 이용환경 조성과 피해 예방·보호 시책을 마련하도록 하는 내용을 담고 있다.
 함께 발의한 정보통신망법 개정안은 생성형 AI 챗봇 등 대화형 AI 서비스를 이용하는 아동·청소년에 대한 보호조치 강화를 추진한다. AI 서비스가 단순한 정보 검색을 넘어 일상적인 대화와 상담의 수단으로 확장되면서 부적절한 정보 노출과 과도한 의존 등 새로운 위험에 대응하려는 취지다.
 안철수 의원(국민의힘) 등이 발의한 AI 기본법 개정안은 AI 생성물 표시의무를 세분화하는 데 초점을 맞췄다. AI 모델 개발사업자와 최종 서비스 제공사업자의 역할에 따라 표시 책임을 구분해 중복 비용과 법적 불확실성을 줄이자는 취지다.
 <div contents-hash="5c99ed2423c5d70de67f598767e3b2fcf57338b48b141faa1b7bf094a1761372" dmcf-pid="7jl8GrTslI" dmcf-ptype="general">
 각 법안이 겨냥하는 위험은 다르다. 그러나 규율이 확대될수록 개발사와 서비스사, 플랫폼 중 누가 무엇을 책임져야 하는지, 기존 안전 조치와 새 의무가 어떻게 연결되는지 등 제도 간 정합성도 중요해진 시점이다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="268a05a0e3f301cf1c90b6dedf63a43529e65ff887260db9ceef3f798d3273b5" dmcf-pid="zAS6HmyOTO" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/13/552796-pzfp7fF/20261113170016847lvxr.png" data-org-width="640" dmcf-mid="PBs9vcCEv0" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/13/552796-pzfp7fF/20261113170016847lvxr.png" width="658">
 </figure>
 ◆AI 표시 떼고 재유통하면?…‘책임 공백’ 메우다 과잉 규제 우려도
 현재 국회 내 법안 쟁점은 AI 유통 과정과 허위조작정보 차단에 집중된 분위기다.
 현재 정보통신망법은 허위·조작이라는 사실을 알면서 손해를 끼칠 의도나 부당한 이익을 얻을 목적으로 타인의 인격권·재산권 또는 공공의 이익을 침해하는 허위조작정보의 유통을 금지한다. 지난 7월7일 시행된 개정 정보통신망법은 구독자 10만명 이상 등 일정 요건을 갖춘 게재자에게 손해액의 최대 5배까지 가중배상할 수 있도록 했다.
 AI 기본법이 생성 단계의 투명성을 다룬다면 정보통신망법은 유통행위와 피해에 초점을 맞춘 셈이다. 하지만 생성된 콘텐츠가 재가공되고 반복적으로 유포되는 중간 과정에서는 책임을 추적하기 어려울 수 있다는 것이 전문가 진단이다.
 최경진 가천대학교 법학과 교수는 “두 법은 서로 보완적으로 설계된 것이 아니라 각각 다른 목적으로 다른 단계의 다른 주체를 겨냥해 따로 만들어진 법”이라며 “문제는 두 법 사이에 연결고리가 없다는 점”이라고 지적했다.
 가령 AI로 제작한 정치인 합성 영상에 생성물 표시가 붙어 있더라도 다른 이용자가 화면을 캡처하거나 재편집하면 최초 표시가 사라질 수 있다. 이후 실제 상황을 촬영한 영상처럼 유통된다면 누구에게 어느 정도의 책임을 물어야 할지 책임소재 공백이 있다는 지적이다.
 최 교수는 AI 생성 표시를 제거하는 행위 자체와 이를 악의적으로 유통하는 행위를 구분해야 한다고 강조했다. 현행법으로도 표시를 제거한 영상을 실제 사건처럼 유통하는 행위에 일정한 책임을 물을 여지는 있지만 표시를 누가 제거했는지 추적하는 것은 별개의 문제라는 설명이다.
 김도승 전북대학교 법학전문대학원 교수는 “책임은 기여도와 위험 창출 정도에 따라 정밀하게 비례 분배돼야 한다”며 “유포자는 단순 오인인지 이익 등을 노리고 허위성을 알고도 적극적으로 확산을 주도했는지를 따져 차등화된 책임을 물어야 한다”고 설명했다.
 그렇다고 모든 플랫폼과 이용자에게 콘텐츠 진위를 사전에 판정하도록 요구하는 것도 해결책이 되기는 어렵다는 것이 전문가 시각이다.
 플랫폼이 불분명한 기준에 따라 삭제 책임을 부담하면 법적 위험을 피하기 위해 논란이 있는 콘텐츠를 먼저 차단할 유인이 생긴다. 풍자와 패러디, 정치적 비판, 공익적 폭로까지 영향을 받을 수 있다는 의미다.
 김 교수는 “국가가 개별 콘텐츠의 참과 거짓을 모두 직접 판정하려고 나서면 사상의 자유 시장을 정면으로 위축시키는 결과를 낳을 것”이라고 지적했다.
 최 교수 역시 “플랫폼의 ‘내용 판단’을 넓히는 것이 아니라 ‘절차와 시스템에 대한 의무’를 넓혀야 한다”고 강조했다.
 플랫폼이 콘텐츠 진실을 일일이 결정하도록 하기보다 출처 확인, 위험한 확산 행태의 관리, 이의신청과 잘못된 조치의 복원 절차 등을 갖추도록 해야 한다는 취지다.
 AI 생성물 표시의 효과에도 한계가 있다는 연구 결과도 있다.
 2024년 국제학술지 ‘파나스 넥서스(PNAS Nexus)’에 발표된 스위스 취리히대 사샤 알타이·파브리치오 질라르디 연구진의 논문에서는 미국과 영국의 실험 참가자 4976명을 대상으로 AI 생성 표시가 뉴스에 대한 판단에 미치는 영향을 분석했다.
 연구 결과 AI가 생성했다고 표시한 뉴스 제목은 실제 내용이 참인지 거짓인지와 관계없이 정확성 평가와 공유 의향이 낮아졌다. 특히 이용자들은 AI 생성 표시를 사람의 감독 없이 AI가 콘텐츠 전체를 작성했다는 의미로 받아들이는 경향을 보였다.
 표시 자체가 이용자 판단에 영향을 미칠 수 있는 만큼 표시의 의미와 적용 기준을 명확히 해야 한다는 시사점이다.
 ◆인간이 원하는 대로 움직일까…‘AI 정렬·블랙박스’ 해결도 과제
 AI 안전성을 확보하기 위한 또 다른 난제는 모델 자체의 작동 원리에 있다. AI가 생성한 콘텐츠의 유통을 규제하는 것과 별개로 AI가 인간이 의도하지 않은 행동을 하지 않도록 만드는 기술적 안전성이 뒷받침돼야 한다는 의미다.
 대표적인 문제가 ‘AI 정렬(Alignment)’이다. AI가 인간이 설정한 목표와 가치, 안전 기준에 부합하도록 작동하게 만드는 기술적 과제를 뜻한다. 인간 지시를 충실히 수행하는 것처럼 보이더라도 실제로는 의도와 다른 방식으로 목표를 달성하거나 안전장치를 우회하는 문제가 발생할 수 있다.
 스튜어트 러셀 미국 캘리포니아대학교 버클리캠퍼스(UC버클리) 컴퓨터과학과 교수는 UC버클리 공식 뉴스(Berkeley News) 인터뷰에서 “AI 시스템이 추구하는 목표가 인간이 원하는 것과 완벽하게 일치하지 않는다면 인간은 원하는 결과를 얻지 못하고 기계가 원하는 결과를 얻게 될 것”이라고 경고했다.
 정렬 문제를 해결하기 어려운 이유 중 하나는 AI 내부 의사결정 과정을 완전히 파악하기 어렵다는 이른바 ‘블랙박스’ 특성 때문이다. 기존 소프트웨어는 개발자가 작성한 명령에 따라 작동하지만 거대언어모델(LLM)은 방대한 학습 과정에서 스스로 형성한 내부 계산 구조를 통해 결과물을 생성한다.
 개발자조차 AI가 왜 특정 답변을 선택했는지, 안전장치를 어떤 이유로 우회했는지 충분히 설명하지 못하는 경우가 있다. 겉으로 드러나는 답변만 검증해서는 내부에 잠재한 위험을 발견하기 어려울 수 있다는 것이다.
 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난해 4월 발표한 ‘해석가능성의 시급성(The Urgency of Interpretability)’이라는 글에서 “우리가 만든 AI가 어떻게 작동하는지 이해하지 못한다”고 털어놨다.
 그는 이러한 문제를 해결하기 위해 AI 내부를 정밀하게 들여다볼 수 있는 일종의 ‘AI 자기공명영상(MRI)’ 기술이 필요하다고 강조했다. AI가 어떤 개념을 처리하고 어떠한 계산 경로를 거쳐 결과를 내놓는지 추적하는 ‘기계적 해석가능성(Mechanistic Interpretability)’ 연구를 확대해야 한다는 주장이다.
 AI 작동 원리를 일정 부분 설명하기 위한 기술도 아직 초기 단계다. 일부 계산 경로를 해석할 수 있게 됐다고 해서 모델의 전체 작동 원리를 설명하거나 모든 위험한 행동을 예측할 수 있는 것은 아니라는 의미다.
 이 때문에 모델 출시 전 위험한 질문과 공격 상황을 의도적으로 시험하는 ‘레드팀 테스트’, 실제 운영 과정의 이상행동 감시, 위험 발견 시 인간이 개입할 수 있는 통제장치 등 다층적 안전관리의 필요성이 제기된다.
 <div contents-hash="a174e318251d6bd27e98aeed0687e695af1beb4f12e52d0ccf651e6f31225bac" dmcf-pid="pNh4Ywvmv4" dmcf-ptype="general">
 샘 올트먼 오픈AI CEO도 지난 9월23일 유엔 안전보장이사회 연설에서 “정렬은 추상적인 연구 문제가 아니다”라며 “AI 시스템이 인간의 통제 아래 안정적으로 머물고 인간의 가치를 반영하도록 하는 일”이라고 강조했다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="e4fa9e50ce9950b5da3390dd5d5a4bec7d709c77b29b3dc338d6cfad51e7caba" dmcf-pid="Ujl8GrTsCf" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/13/552796-pzfp7fF/20261113170018113rdrn.png" data-org-width="640" dmcf-mid="Qwn5AxgRS3" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/13/552796-pzfp7fF/20261113170018113rdrn.png" width="658">
 </figure>
 ◆정부, ‘신뢰의 설계자’ 역할할 필요…AI 안전 생태계로 전환
 해외에서도 AI 안전성을 단순한 유해정보 차단이 아닌 종합적인 위험관리 문제로 접근하고 있다.
 미국 국립표준기술연구소(NIST)가 지난 2024년7월 발표한 ‘AI 위험관리 프레임워크(AI RMF) 생성형 AI 프로파일(NIST AI 600-1)’에서 AI 개발과 운영 전반의 위험을 식별하고 평가·완화하는 관리체계를 제안했다.
 AI 허위정보 생산, 부정확한 출력, 정보보안 등 다양한 위험을 개별 서비스 특성에 맞춰 관리하도록 하는 접근이다.
 유럽연합(EU)의 AI법 역시 위험에 따른 차등 규율을 채택했다. 특히 시스템 위험을 수반하는 범용 AI 모델 제공자에게 모델 평가, 적대적 시험, 위험 완화, 중대한 사고 보고, 사이버보안 확보 등의 의무를 부과한다.
 국내에서도 이러한 사전 안전관리와 사후 피해구제 체계를 연결할 필요가 있다는 지적이 나온다.
 기술적으로는 콘텐츠의 생성·수정 이력을 확인할 수 있는 출처 증명 기술이 대안으로 거론된다. 콘텐츠 출처 증명 표준인 ‘C2PA’를 비롯해 워터마크와 메타데이터 등을 활용하는 방식이다.
 다만 출처가 확인됐다고 콘텐츠 내용이 반드시 사실인 것은 아니다. 캡처나 재인코딩 과정에서 식별 정보가 사라질 수도 있다. 기술적 검증과 사실관계 확인, 독립적인 이의제기 절차가 함께 작동해야 하는 이유다.
 최 교수는 “콘텐츠 자체를 보고 진위를 판별하는 탐지 방식은 생성 기술과의 군비경쟁에서 구조적으로 불리하다”며 “반대로 출처와 이력을 증명하는 방식은 부담 방향을 바꾼다”고 설명했다.
 피해 발생 이후의 회복 체계도 중요하다. 생산자나 플랫폼에 책임을 부과한다고 해서 유해 AI 콘텐츠 혹은 거짓 정보에 따른 잘못된 인식과 피해가 사라지는 것은 아니기 때문이다.
 AI 모델 내부의 위험을 검증하는 기술적 안전성 확보와 생성 콘텐츠의 책임 있는 유통, 이용자 피해 구제가 하나의 체계로 연결돼야 한다는 것이 전문가들의 생각이다.
 정부 역시 개별 위험을 규제하는 데 그치지 않고 기업과 시민사회가 함께 검증하고 책임을 이행할 수 있는 신뢰 생태계를 설계하는 역할을 강화할 필요가 있다는 제언도 이어진다.
 이종관 법무법인 세종 수석전문위원은 “현행 정부·규제기관 중심 거버넌스 체제는 효과적이지 않고 오히려 표현의 자유를 제한할 가능성이 우려된다”며 “민·관 공동의 거버넌스 체제를 구축하는 것도 목표가 돼야 할 것”이라고 제안했다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기