SNS·AI 활용한 아동 범죄 급증
메타·카카오 등 청소년 보호 기능 도입
전문가들 “과도한 규제는 오히려 부작용”

생성형 AI가 생성한 이미지. 챗GPT 제공

인공지능(AI) 기술 발전으로 음란물 협박과 성적 유인 수법이 고도화되자 전 세계가 미성년자 보호를 위해 소셜미디어(SNS) 이용 제한 수위를 높이고 있다. 각국 정부는 규제와 처벌을 강화하고 있고 글로벌 기업은 물론 국내 플랫폼 기업들도 청소년 SNS 이용 문턱을 잇따라 높이고 있다.

21일 미국 퓨리서치센터 보고서에 따르면 미국 10대가 지난해 SNS가 또래에게 '대체로 부정적인 영향'을 준다고 응답한 비율은 48%로 2년 전 같은 조사 대비 16%포인트 증가했다. 또래의 외모나 생활 수준과 비교하며 위축되거나 모르는 사람에게서 부적절한 메시지를 받는 등의 경험이 영향을 미친 것으로 분석됐다.

SNS는 청소년 온라인 범죄의 주요 통로로 지목된다. 익명성과 접근성이 높아 아동을 겨냥한 범죄에 악용되기 쉽기 때문이다. 여성가족부가 발표한 '2024 성착취 피해아동·청소년 지원센터 연차보고서'에 따르면 지난해 성착취 피해로 전국 17개 지원센터에서 상담·의료·법률 지원을 받은 아동·청소년은 총 1187명으로 전년도(952명)보다 24.7% 늘었다. 피해 경로 중 가장 많은 비중을 차지한 것은 채팅(42.4%)이었고 SNS는 38.7%로 뒤를 이었다.

특히 최근에는 생성형 AI 기술까지 더해지며 수법이 더욱 정교해졌다. 가짜 신분으로 접근하거나 실제 사진을 성착취 이미지로 합성해 협박하는 방식이 대표적이다. 실제로 미국 실종·착취아동센터(NCMEC)에 따르면 지난해 AI 기반 아동 성착취 이미지 관련 신고 건수가 전년 대비 1325% 증가한 것으로 나타났다.

비판이 이어지자 플랫폼 기업들도 청소년 규제를 도입하며 대응에 나섰다. 메타는 지난해 인스타그램 청소년 계정에 민감 콘텐츠 제한, 야간 사용 제한, 보호자 승인 기능 등을 적용한 데 이어 최근에는 이 기능을 페이스북과 메신저로 확대 도입했다. 유튜브 역시 청소년 사용자 보호를 위해 '가족 센터 허브'를 개편하고 신규 기능을 공개했다. 해당 기능은 부모가 자녀 계정과 연결해 자녀의 동영상 업로드 수, 구독 현황, 댓글 등 활동 내역을 실시간으로 확인할 수 있도록 설계됐다.

국내에서도 대응이 강화되고 있다. 카카오는 다음 달부터 카카오톡 운영 정책을 개정해 아동·청소년 간 대화에서도 성적 암시, 과도한 친밀감 표현, 개인정보 요청 등을 금지 행위로 명시하고 적발 시 카카오톡 전체 이용을 제한하기로 했다. 최근에는 법정대리인의 요청만으로 미성년자의 오픈 채팅 참여를 제한할 수 있는 기능도 도입했다.

아만다 서드 웨스턴 시드니 대학 교수는 "아이들을 온라인 그루밍으로부터 안전하게 지키려면 정부, 플랫폼, 교사, 보호자 모두가 함께 책임을 져야 한다"며 "아이들 자신도 정책 설계에 적극 참여할 수 있어야 한다"고 말했다.

일부 국가는 한발 더 나아가 아예 미성년자의 SNS 이용 자체를 차단하는 법안을 추진 중이다. 호주는 16세 미만 청소년의 SNS 사용을 전면 금지하는 법을 통과시켰으며 이를 위반한 플랫폼에는 최대 442억원의 벌금을 부과할 수 있도록 했다. 미국 텍사스주는 18세 미만 청소년의 SNS 계정 생성을 금지하고 부모가 기존 계정 삭제를 요청할 수 있도록 하는 법안을 발의했다.

그러나 위협을 받을 수 있다는 이유만으로 접근 자체를 막는 방식은 과도한 규제라는 우려도 제기된다. 유병준 서울대 경영전문대학원 교수는 "디지털 미디어는 이제 삶의 일부가 됐는데 청소년 보호를 이유로 이를 통째로 막는 건 비현실적"이라면서 "사고가 난다고 해서 자동차를 못 타게 하거나 사람을 만나지 말라고 하지 않는 것처럼, 부작용이 있다고 해서 SNS를 금지하는 건 논리적으로 맞지 않는다"고 말했다.

그러면서 "문제가 되는 콘텐츠나 사용 형태에 대해서는 일부 제한이 필요할 수 있지만 디지털 소통의 순기능을 무시하고 전체를 차단하는 건 편파적인 접근"이라며 "청소년의 표현의 자유와 자율성, 디지털 사회에서의 회복력을 키우는 방향으로 논의가 이뤄져야 한다"고 덧붙였다.

유진아기자 gnyu4@dt.co.kr

Copyright © 디지털타임스. 무단전재 및 재배포 금지.