【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]강장묵 박사, 美 럿거스대서 형사사법 AI 판단 검증 과제 제시

온카뱅크관리자

2026-11-13 10:27:25

<div id="layerTranslateNotice" style="display:none;"></div> 범죄론 수업서 관계망 분석의 한계와 오분류 가능성 짚어…데이터 편향·증거 무결성·사람의 검토 강조 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Vz0r3BPKrZ">
 인공지능(AI) 보안 전문가인 강장묵 동국대 국제정보보호대학원 교수가 지난 10일(현지시간) 미국 럿거스대 뉴어크 캠퍼스 범죄론 수업에서 범죄정보 분석에 쓰이는 AI의 판단을 어떻게 검증할 것인지 논의했다.
 강 교수는 범죄론 수업을 담당하는 박형아 럿거스대 교수의 초청으로 대학을 방문했다. 수업을 참관한 뒤 보충 발제를 통해 범죄정보를 해석할 때 주의할 점과 관계망 분석의 한계, AI의 오분류 가능성을 설명했다.
 관계망의 연결만으로 범죄 연루 판단할 수 없어 수업에서는 1996~2012년 미국 청소년 갱 조사(NYGS)를 토대로 지역별 범죄집단의 발생과 지속 양상, 사회경제적 배경을 다룬 교안을 활용했다. 강 교수는 지역 단위에서 관찰한 통계를 개인의 범죄 가능성이나 특정 집단 소속 여부로 곧바로 해석하면 오류가 생길 수 있다고 지적했다. AI가 같은 자료를 분석할 때도 어떤 단위에서 수집한 정보인지 먼저 확인해야 한다는 설명이다.
 강 교수는 참석자 한 사람 한 사람을 관계망의 '노드'에, 서로 다른 집단을 이어준 박 교수를 '허브'에 비유해 관계망 분석의 개념을 설명했다. 관계망에서 두 사람이 연결돼 있다는 사실과 그 연결이 무엇을 뜻하는지는 구분해야 한다. 친분이나 온라인 게시물만으로 실제 범죄행위나 공모 관계를 단정하면 관찰된 정보가 잘못된 판단 근거로 쓰일 수 있다고 짚었다. 
 <figure class="figure_frm origin_fig" contents-hash="9c8f4115ba96078de0b54bfa1c52e94e154990641febe10d53304fad4f4d71b6" dmcf-pid="PnRFMowaDW" dmcf-ptype="figure">
 <img alt="강장묵 교수와 럿거스대 뉴어크 캠퍼스 수업 참가자들 [사진=강장묵 교수]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/13/etimesi/20261113102032317rwoz.jpg" data-org-width="700" dmcf-mid="95peCY0HD1" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/13/etimesi/20261113102032317rwoz.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 강장묵 교수와 럿거스대 뉴어크 캠퍼스 수업 참가자들 [사진=강장묵 교수]
 </figcaption>
 </figure>
 학습 데이터 편향과 오경보 가능성 점검 범죄 관련 자료를 AI에 학습시킬 때는 어떤 정보를 정답으로 분류했는지부터 검토해야 한다. 기호와 복장, 문신, 친분은 조사 과정에서 참고할 수 있지만 맥락이 확인되지 않으면 오분류로 이어질 수 있다. 소셜미디어의 추모 글이나 인용·풍자 표현을 실제 위협과 같은 범주로 처리하는 경우도 마찬가지다. 학습 데이터에 붙인 분류 표지인 '라벨'의 출처와 작성 기준을 확인하고, 잘못된 라벨을 정정할 절차를 마련해야 하는 이유다.
 경찰 기록이 많은 지역을 실제 범죄가 더 자주 발생하는 곳으로 단정하는 것도 주의해야 한다. 경찰 활동이 집중되면 관측·단속 기록이 더 많이 쌓일 수 있다. AI가 이를 학습해 같은 지역을 고위험으로 분류하고, 그 결과 해당 지역의 단속과 기록이 다시 늘어나면 기존 편향이 강화될 수 있다. 자료 수집 방식과 지역별 관측 강도, 수집 시점에 따른 차이를 살피고 독립적인 자료로 결과를 검증할 필요가 있다. 
 <figure class="figure_frm origin_fig" contents-hash="0912fb4571b06ed64ce622a87e283a10612b5c6c4ff6341155eb3a27d112ad6b" dmcf-pid="ytHNG3Kpsv" dmcf-ptype="figure">
 <img alt="럿거스대 범죄론 수업에서 학생들과 대화하는 강장묵 교수 [사진=강장묵 교수]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/13/etimesi/20261113102033559ttvq.jpg" data-org-width="700" dmcf-mid="2TCRIW3GD5" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/13/etimesi/20261113102033559ttvq.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 럿거스대 범죄론 수업에서 학생들과 대화하는 강장묵 교수 [사진=강장묵 교수]
 </figcaption>
 </figure>
 이 같은 문제는 AI 성능지표를 해석할 때도 드러난다. 별도로 작성된 수업 교안 검토자료의 교육용 모의계산에서는 기록 1만 건 중 탐지 대상 사건의 비율을 1%, 민감도를 90%, 위양성률을 5%로 가정했다. 이 경우 전체 정확도는 94.95%였지만, AI가 경고한 585건 가운데 실제 탐지 대상에 해당하는 기록은 90건이었다. 경고 중 실제 사건이 차지하는 비율인 정밀도는 15.38%다.
 이 수치는 실제 범죄예측 모델을 검증하거나 럿거스대 현장에서 시연한 결과가 아니다. 탐지하려는 사건 자체가 드문 환경에서는 전체 정확도가 높아도 경고의 상당수가 오경보일 수 있음을 보여주는 예시다.
 디지털 증거의 무결성과 내용의 진위는 별개 디지털 증거를 검증할 때도 파일이 변경됐는지와 파일에 담긴 내용이 사실인지는 따로 판단해야 한다. 암호학적 해시값을 기준 파일과 비교하면 데이터의 변경 여부를 점검할 수 있다. 다만 해시값이 일치하더라도 영상에 담긴 장면이나 음성의 내용이 사실임을 보증하지는 않는다. 생성형 AI로 합성된 음성·영상 등이 형사사법 절차에 쓰일 경우에는 원본과 수집 경로, 생성·편집 이력, 내용을 뒷받침할 별도의 증거를 함께 확인할 필요가 있다.
 수사를 보조하는 AI 자체의 보안도 과제다. 외부 문서나 게시물에 숨겨진 악의적 명령이 AI의 요약·분석 결과에 영향을 미치는 '간접 프롬프트 주입'이 대표적이다. 대응 방안으로는 외부 자료를 읽는 기능과 시스템에서 작업을 실행할 권한을 분리하고, AI가 생성한 요약을 원문과 대조하는 방법이 있다. 중요한 판단에는 독립적인 사람의 검토를 거치는 절차도 고려할 수 있다.
 후속 연구·교육 과제로는 AI 분석 결과에서 원본 증거를 추적하는 방법, 여러 언어와 문화권의 표현을 맥락에 맞게 분류하는지 검증하는 방법, 수사 보조 AI에 대한 공격 입력을 격리하고 시험하는 절차 등이 제시됐다. 오류가 있는 학습 라벨을 바로잡고 해당 데이터가 모델에 미친 영향을 제거하는 '머신 언러닝'도 검토 과제에 포함됐다. 이들 과제는 현장에서 도입을 확정했거나 공동연구로 성과를 낸 기술이 아니라 추가 검증이 필요한 연구 방향이다.
 강 교수는 허위정보 판별과 디지털 증거 무결성, AI 시스템 보안을 연구해 왔다. 강 교수 연구팀은 2017년 과학기술정보통신부가 주관한 '인공지능 연구개발(R&amp;D) 챌린지'의 가짜뉴스 판별 과제에서 과기정통부 장관상을 받았다.
 이번 발제는 이런 연구를 범죄정보 해석과 형사사법 분야의 AI 검증 문제로 확장한 자리였다. AI는 많은 자료를 신속하게 정리하는 데 도움이 될 수 있다. 다만 분석 결과가 개인에게 영향을 미치는 판단으로 이어진다면, 어떤 자료를 근거로 삼았는지, 다른 해석은 가능한지, 오류가 발견되면 누가 바로잡을 수 있는지 설명할 수 있어야 한다.
 임민지 기자 minzi56@etnews.com
 </section> 
 </div> 
 Copyright © 전자신문. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기