'성적 착취·나체·계정 무결성 커뮤니티 규정 위반 사유
메타 '성적 콘텐츠 제한강화 알고리즘' 적용 여파 추정

인스타그램 계정 강제 비활성화를 당했다고 알리는 커뮤니티 글. 일부 증명되지 않은 내용들도 포함돼 있다.(FM코리아 갈무리)

(서울=뉴스1) 김민석 김민재 김정현 기자 = 최근 한국의 2030세대 남성들을 중심으로 인스타그램 계정 다수가 '성적 착취' 등의 사유로 영구 정지되자 '메타의 인공지능(AI)이 오류를 일으켰다'는 주장이 나오고 있다.

다만 메타가 콘텐츠 조정(제한) 정책을 강화하면서 성적 발언 등에 자동화 알고리즘을 적극 도입한 점과 이준석 후보가 대선 후보 TV토론회에서 이재명 대통령의 아들을 겨냥한 '젓가락 발언'으로 파장을 일으켜 이에 동조하는 이들도 많았던 점 등을 고려했을 때 계정 정지에 이른 이용자 상당 수는 정책을 위반했을 가능성에 무게가 실린다.

5일 업계에 따르면 전날 오후 9시 20분쯤 '인스타그램 무고한 계정 영구정지 남발 중'이라는 게시글이 올랐다.

게시자는 "5월말부터 현재까지 일부 이용자의 계정들이 아동대상 성적 착취 및 나체 이미지 또는 계정 무결성 관련 커뮤니티 규정을 위반했다며 계정이 강제로 비활성화 된 뒤 180일 이내 재고 요청하지 않으면 계정이 삭제된다는 안내를 받았다"며 "팔로가 수천 명이 넘는 계정들도 삭제되고 있다. 재고 요청을 해도 계정이 영구적으로 비활성화된 사람들이 많다"고 적었다.

이어 "6월 3일~4일엔 갑자기 대규모로 인스타그램 계정이 정지되고 있다"며 "한국에서만 발생하는 일이 아니라 전 세계적으로 계정이 정지된 사람들이 늘고 있다. 원인은 현재까지 알 수 없고 메타에서 운영하는 검열용 AI의 오류로 사람들의 계정이 정지되고 있는 것으로 추측된다"고 설명했다.

해당 글에는 "나만 정지된게 아니었네" "친구 정지당했는데 이런 이유였네" "사용하지도 않는 부계정이 영구정지돼 재고 요청했더니 비활성화됐다" "오늘 저녁 갑자기 정지 당함" 등의 댓글이 달렸다.

실제 해외에서도 레딧의 인스타그램 서브레딧에 이달 4일 게시된 글에 따르면 △미국 △브라질 △인도 등 주요국에서 수많은 이용자가 6월 들어 '아동 성 착취 및 학대' 사유 등으로 계정이 정지된 것으로 나타났다.

메타는 올해 1월 미국에서 사실 확인 프로그램을 종료하고 커뮤니티 노트 시스템을 도입해 규칙을 완화한다고 발표했다. 그러면서도 테러와 아동 착취 등 심각한 위반 사항에는 자동화 알고리즘을 적용한다고 명시했다.

한 번 정지된 계정은 연결된 △페이스북 △스레드 △메타 퀘스트 등 모든 메타 서비스에서 차단되며 동일한 전화번호나 이메일로는 새 계정 생성도 불가능한 상황이다.

메타 측에 자동화 알고리즘 오류 가능성을 포함한 입장을 요청했지만, 답변을 듣지 못했다. 일각에선 아동 착취 등 자동화 시스템이 정상적인 이용자 활동인지, 정책 위반인지 구분하지 못할 수 있다는 지적도 나온다.

ideaed@news1.kr

Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.