7일 업계에 따르면 네이버는 오는 12일부터 자사의 AI 기반 음란물 검열 기술 ‘엑스아이(X-eye)’를 동영상 분야에도 적용한다. 네이버 카페나 블로그 등 온라인상에 동영상이 올라오면 장면마다 엑스아이가 음란물 여부를 확인해 차단 여부를 결정하는 구조다. 동영상에 처음 등장하는 인물들이 정상적으로 옷을 입고 있으면 정상 콘텐츠로 판단할 수 있지만 뒤로 갈수록 노출 강도가 심해지면 최종적으로 이를 음란물로 분류해 5분 안에 접근을 차단시킨다. 엑스아이는 지난 7월 이미지 감시 시스템으로 처음 도입됐다. 네이버에 하루 평균 800만장 가량 등록되는 이미지 데이터의 유해 여부를 일차적으로 걸러내는 역할을 한다.
신체 일부가 드러나도 수영복을 입은 사진이거나 예술작품인 경우 음란물로 분류하기 어려워서 개발팀은 1년 동안 이미지 400만장 이상을 등록해 반복 학습을 거쳐 차단 콘텐츠를 41가지 유형별로 쪼갰다. 이를 통해 엑스아이의 음란물 분류 정확도는 98%까지 올라갔다는 것이 네이버 측의 설명이다.
네이버는 앞으로 엑스아이 서비스를 자사의 소셜네트워크서비스(SNS)인 ‘밴드’와 모바일 메신저 ‘라인’에도 확대 적용할 계획이다. 불법 유해 음란물을 SNS나 모바일 메신저로 무분별하게 공유하는 것을 차단하려는 취지다. 또한 네이버 플랫폼에서 이뤄지는 인터넷 ‘1인 방송’ 등에도 엑스아이 시스템이 도입될 예정이다.
