[뉴스토마토 박현준 기자] 정부와 기업들이 불법촬영물을 적발하기 위한 인공지능(AI) 기술 고도화에 나섰다. 최근 텔레그램 메신저를 활용한 디지털 성범죄 'n번방' 사건에 대해 국민적 공분이 일어난 가운데 불법촬영물은 사람이 걸러내는 데 한계가 있어 AI의 도입이 필요하다는 지적도 이어지고 있다.
26일 업계에 따르면 과학기술정보통신부와 여성가족부는 지난해 7월 개발한 '웹하드 불법촬영물 삭제지원 시스템'을 같은 해 하반기까지 총 42개의 웹하드에 적용했다. 기존에 여가부의 성범죄 피해자 지원센터가 신고받은 불법촬영물이 웹하드 사이트에 게시됐는지 확인하려면 사람이 직접 피해촬영물에서 검색용 이미지를 추출해 각 사이트를 검색해야 했다. 이를 개선하기 위해 과기정통부·여가부·한국전자통신연구원(ETRI)는 불법촬영물 삭제지원 시스템을 개발했다.
이 시스템은 AI를 활용해 피해자가 신고한 불법촬영물에서 이미지를 추출해 웹하드 사이트에서 피해촬영물과 유사한 영상물을 자동으로 선별해 수집한다. 시스템이 영상물을 수집하면 사람이 이를 확인하고 피해촬영물이라고 확인되면 해당 웹하드 사이트에 삭제 요청을 한다. 과기정통부와 여가부는 이 시스템의 개선 및 고도화 방향에 대해 협의 중이다.
각종 영상 콘텐츠의 불법성 여부를 심의하는 방송통신심의위원회 관계자는 "현재는 사람이 직접 영상물들을 확인하다보니 선제적으로 대응하기 어려운 부분이 있다"며 "AI 모니터링으로 불법성이 보이는 콘텐츠를 확보하고 사람이 최종 확인하는 상호 보완 시스템이 갖춰진다면 기존보다 더 효율적인 모니터링이 가능할 것"이라고 말했다.
정부와 IT 기업들이 불법촬영물을 근절하기 위한 AI 기술 고도화에 나서고 있다. 사진은 지난 25일 텔레그램에서 성착취물을 제작·유포한 혐의를 받는 조주빈씨가 탄 차량으 서울 종로경찰서를 나와 검찰 유치장으로 향하자 시민들이 조씨의 강력처벌을 요구하며 피켓 시위를 벌이는 모습. 사진/뉴시스
불법촬영물의 인터넷 게시를 막기 위해 국내 대표 인터넷 기업 네이버와 카카오도 AI를 활용하고 있다. 네이버는 음란물 필터링 AI기술 '엑스아이(X-eye)'를 자사의 서비스에 적용 중이다. 음란물지수가 특정 수준 이상으로 높은 프레임이 포함된 영상은 임시 재생 중지 상태가 된다. 이후 10분 이내에 검수자의 검토를 거쳐 정상 영상은 복구되고 음란 동영상은 삭제 및 이용제한 조치된다. 네이버에 등록되는 모든 동영상은 엑스아이를 통해 자동으로 필터링된다.
카카오는 '딥러닝 기반의 성인 이미지 추천시스템'을 다음·카카오TV·블로그·티스토리 등 자사의 서비스에 적용하고 있다. 카카오는 지난 2014년 7월 성인 이미지 필터링에 딥러닝기술을 적용했고 매년 최신 기술로 업데이트 중이다. 회사 관계자는 "AI 기술을 활용해 음란물 등 불법 유해 정보 유포를 방지하고 있다"며 "효율성을 더 높일 수 있는 성능 좋은 다양한 모델을 개발할 것"이라고 말했다.
박현준 기자 pama8@etomato.com
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지