[2024 국감] 네이버 치지직, 유해 콘텐츠 모니터링 미흡…AI 필터링 효과 없나

출범 이후 신고받은 채널 중 ‘이용 제한’ 조치 0건

[SRT(에스알 타임스) 윤서연 기자] 네이버가 운영하는 인터넷 방송 플랫폼 ‘치지직 (CHZZK)’에서 로그인이나 성인 인증 등 아무런 제재 없이도 유해 콘텐츠에 접근 가능한 것으로 나타났다. 네이버 치지직은 인공지능(AI)으로 음란물 필터링을 강화했다고 밝혔으나 이에 대한 모니터링과 필터링도 미흡하게 운영되고 있는 것으로 밝혀졌다. 

8일 국회 과학기술정보방송통신위원회 소속 이정헌 더불어민주당 의원에 따르면, 로그인을 따로 하지 않고 치지직 사이트에 접속해 특정 스트리머 이름을 검색하면 노출이 심한 옷을 입고 춤을 추거나 성적으로 해석 가능한 다소 민망한 행위를 하는 영상을 아무런 제한 없이 시청할 수 있었다.

이 의원은 함께 선정성을 띠는 영상이어도 어떤 영상은 19금이 설정돼 섬네일이 제한됐지만, 제재가 전혀 없이 게재된 영상들도 있는 점을 들어 치지직의 연령 제한 설정이 모호하게 이뤄지고 있는 점도 지적했다.

치지직은 연초 선정적인 방송을 하는 스트리머의 영상이 청소년에게 그대로 노출되는 문제가 발생해 이후 24 시간 모니터링을 시행하고, AI 기술인 ‘그린아이 (Green-eye)’를 적용하는 등 음란물 필터링을 강화한 바 있다.

이 의원실이 네이버에서 제공받은 자료에 따르면, 네이버는 AI 기술을 이용해 적발한 선정적 콘텐츠 수치에 대해 “그린아이만을 이용한 선정적 콘텐츠 적발 건수를 따로 산출하기에는 현실적으로 어려움이 있다” 고 답변했다.

한편, 이 의원실에 따르면 네이버는 자체 음란물 신고 창구에서 문제 되는 라이브 방송과 VOD 콘텐츠를 신고할 수 있도록 하고 있는데 치지직이 정식 출범한 지난 5월 이후 신고 창구를 통해 신고받은 영상을 게재한 채널 중 ‘채널 이용 제한’ 조치를 받은 채널은 없는 것으로 드러났다.

치지직에서 실시간으로 유해 콘텐츠를 송출한 뒤 이러한 영상을 게시하지 않고 삭제 처리를 하는 스트리머도 있었는데, 네이버는 이러한 상황에 대비해 조치 방안을 마련하지 않아 아무런 제재를 가할 수 없는 상황이다.

이정헌 의원은 “네이버가 운영하는 플랫폼인 치지직에서 로그인, 성인 인증 등 아무런 제재 없이 불건전한 콘텐츠에 접근할 수 있다는 게 굉장히 충격적” 이라며, “가이드라인과 모니터링 체계가 있는데도 이런 사태가 일어나고 있는 것은 치지직의 방만한 운영 실태를 적나라하게 보여주는 것” 이라고 꼬집었다.

그러면서 이 의원은 “네이버는 특히 청소년에게 해당 콘텐츠가 무방비하게 노출되고 있는 심각성을 인지해 지금이라도 철저한 모니터링을 실시하고, 사회적 물의를 일으키는 등 가이드라인에 어긋나는 콘텐츠와 채널에 대해 엄격한 제한 조치를 해야 한다” 고 지적했다.