“AI로 잡는다”…네카오, ‘딥페이크’ 단속 강화 나서

네이버 '클로바 그린아이'·카카오 '페이크 시그널'…AI 활용 탐지 및 판별

허위영상물 범죄 검거율 49.5% 불과

[SRT(에스알 타임스) 윤서연 기자] 최근 딥페이크 기술을 악용한 디지털 성범죄가 연예계와 청소년들 사이에서 급속히 퍼지며 사회적 문제로 부각되고 있다. 이에 정부도 단속 강화에 나섰다. 정부의 대응 기조에 맞춰 네이버와 카카오(네카오) 또한 신고 채널을 오픈하고, 자체 AI 기술을 활용해 딥페이크 제작물 단속에 나서고 있다. 

2일 업계에 따르면 네이버는 지난달 28일 ‘딥페이크 신고 채널’을 오픈했다. 고객센터를 통해 “딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상 발견 시 신고 채널을 통해 접수해 주시기 바란다”며 신고 링크를 함께 게재했다.

다음날 카카오도 공지를 통해 “카카오 서비스 내 딥페이크 영상물, 이미지 등 관련 콘텐츠를 발견한 경우 즉시 신고해 주시기 바란다”며 신고 채널을 오픈했다.

앞서 양사는 지난 4월 총선을 앞두고 ‘가짜뉴스’와 ‘댓글 조작’을 방지하기 위해 딥페이크 방지책 마련에 나선 바 있다. 허위 정보 신고 센터를 신설하고 자체 AI 기술을 활용해 실시간으로 허위 콘텐츠를 식별하는 것이다. 양사는 해당 기술을 기반으로 최근 논란이 되고 있는 딥페이크 음란물에 대한 단속도 강화할 방침이다. 

네이버의 경우 ‘클로바 그린아이’ 시스템을 통해 딥페이크 불법 합성물을 실시간으로 탐지하고 삭제하고 있다. 네이버가 올해 상반기 동안 제한한 콘텐츠는 869만여 건으로, 그중 96%가 클로바 그린아이로 걸러졌다.

네이버는 지난 2017년 24시간 실시간 음란 이미지 필터링 기술인 ‘엑스아이’를 선보인 바 있다. 네이버에 축적된 이미지를 학습하고 부적절한 이미지나 영상을 감지해 검색 노출을 차단하는 방식이다. 이를 토대로 지난 2022년 말 엑스아이를 ‘클로바 그린아이’로 리브랜딩하며 오픈 API 형태로 기술을 개방했다. 네이버에 따르면 그린아이는 99.5%의 적중률로 높은 정확도를 보이고 있다. 

카카오 역시 딥페이크 콘텐츠 유통을 차단하기 위해 다양한 조치를 시행 중이다. 지난 1월 한국인터넷자율정책기구(KISO)와 딥페이크 관련 검색어를 청소년 보호 검색어로 지정했으며, 카카오톡 오픈채팅과 포털 다음 등에서 딥페이크 모니터링을 하고 있다.

최근에는 카카오의 '안티어뷰징 시스템'에 AI와 머신러닝 기술을 결합한 '페이크 시그널'을 신규 도입했다. 사칭 사기와 피싱 수법이 다양해짐에 따라 페이크 시그널을 도입하고, 허위 조작 정보에 대한 경고 메시지를 전달함으로써 이용자 보호에 나서고 있다. 이를 통해 허위 영상물 배포 및 제공 행위가 발각되면 카카오톡 전체 서비스가 영구 제한된다. 

딥페이크를 악용한 디지털 성범죄가 늘어난 것은 최근 일이 아니다. 미국 사이버 보안 업체 ‘시큐리티 히어로’에 따르면 지난해 7~8월 동안 분석된 딥페이크 음란물의 53%가 한국인을 대상으로 한 것으로 나타났다. 특히 딥페이크 음란물 피해자의 99%는 여성이었으며 94%는 가수, 배우 등 연예계 종사자였다. 

하지만 허위영상물 범죄 검거율은 절반도 못 미치는 것으로 나타났다. 경찰청 통계에 따르면 허위영상물 범죄의 검거율은 2021년 47.4%, 2022년 46.9%, 2023년 51.7%로 절반에 불과했다. 올해 1∼7월 기준 검거율은 49.5%에 그쳐 딥페이크 범죄의 심각성을 여실히 드러냈다.

업계 관계자는 "딥페이크 음란물은 인터넷에 한번 퍼지면 지우는 데 적게는 수개월, 길게는 수년이 걸려 신속한 삭제가 무엇보다 중요하다"며 "업계에서는 이미 자체 기술로 유해 정보 차단에 주력해 왔고 이제는 단속 강화에 더해 관련 범죄를 강력 처벌하는 것이 더 필요할 것"이라고 말했다. 

한편 정부는 네이버와 카카오 같은 국내 플랫폼 기업들과 협의체를 구성해 딥페이크 음란물의 신속한 삭제와 차단 조치를 진행한다는 계획이다. 아울러 구글, 인스타, 유튜브 등 글로벌 플랫폼 사업자들과 협력해 딥페이크 범죄 단속을 위한 국제적 공조를 추진할 방침이다.