연중 24시간 음란 이미지가 등록될 경우 네이버는 이를 실시간으로 감지해 검색 노출을 막아주는 '엑스아이(X-eye) 2.0' 시스템을 7월부터 적용한다.
2017년 '엑스아이'는 네이버에 축적된 방대한 4백여만 장의 이미지를 형태별로 분류한 AI 학습을 통해 나왔다.
예전에는 이미지 모니터링 담당자들이 조치를 취할 때까지 유해물이 노출되는 단점이 있었다. 음란물 필터링 AI 시스템인 '엑스아이'를 도입한 이후로는 98.1%라는 높은 적중률로 유해한 사진과 동영상이 실시간으로 걸러지게 된다.
7월에 새롭게 선보일 '엑스아이 2.0'은 네이버 AI랩과 클로바가 진행한 ▲렉스넷(ReXNet) ▲컷믹스(CutMix) ▲AdamP 등 다양한 AI 선행 이미지인식 기술 연구결과들을 활용해 더욱 고도화했다.
'렉스넷'(ReXNet)은 속도와 정확도를 높인 고성능 이미지인식 모델이며, '컷믹스'(CutMix)는 AI 모델을 학습시킬 때 데이터 부족시 사용되는 데이터증강기법을 말한다. 'AdamP'는 더욱 안정적으로 모델이 학습하고 인할 수 있도록 정확도를 향상시키는 최적화 기법이다.
이를 통해 기존 정상과 음란으로만 구분하던 '엑스아이 1.0'이 정상, 음란, 성인, 선정 4가지 등급으로 커버리지를 확대해 더 높아진 정확도인 99.5%를 보였다.
음란, 성인성 이미지 판독뿐 아니라 선정적 표현을 판단하는 데도 정확도가 뛰어나서 다양한 서비스에 활용될 것으로 보인다.
아울러 문제되는 부분이 지나치게 작게 나오거나 희미한 경우 잘못 탐지할 가능성이 높은 사례들에 대해 보완했다. 또한, 극히 일부인 놓친 이미지에 대해서도 보다 고도화된 AI 모델이 빠르게 자동학습이 가능하도록 설계했다. 이를 통해 최신 데이터를 지속적으로 반영할 수 있게 해 탐지 정확도는 더욱 높아질 전망이다.
유봉석 네이버 서비스운영총괄은 "건전한 인터넷 이용 환경 조성을 위해 네이버는 음란물, 성인물은 물론 불법촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다"면서 "추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정"이라고 밝혔다.
아울러 정석근 네이버 클로바 CIC 대표는 "네이버 클로바에서 진행 중인 다양한 선행 연구 결과물이 서비스나 비즈니스를 넘어 사회 문제 해결에 성공적으로 기여한 중요한 사례"라고 말하며 "앞으로도 자체 개발한 고도화된 AI 기술이 실생활에 도움이 되도록 협업하겠다"고 전했다.
한편, 네이버는 작년 발생한 N번방 사건 등 아동·청소년 관련 성범죄, 성착취물 관련 성적 표현에 대한 관리 강화를 위해 지난 1월 29일부터 업그레이드된 'AI클린봇 2.5'를 적용해왔다.