서울시가 아동·청소년 성착취물을 특정할 수 있는 AI 감시 기술을 전국 최초로 도입해 24시간 감시에 나선다고 오늘(22일) 밝혔습니다.

이번에 개발된 '아동·청소년 디지털 성범죄 AI 감시 시스템'은 아동·청소년의 성별과 나이를 예측할 수 있는 안면 인식 기술입니다.

얼굴이 나오지 않더라도 영상물에 등장하는 책, 교복, 인형 등 주변 사물과 이미지 속 텍스트, 청소년이 주로 사용하는 언어를 분석해 피해 영상물 여부를 판별합니다.

키워드 입력부터 영상물 검출까지 걸리는 시간은 약 90초로 수작업을 할 때 걸리는 시간인 2시간보다 속도가 크게 개선됐습니다.

지난해 수작업으로 이뤄진 모니터링 건수(15만 건)의 2배인 30만 건까지 모니터링이 가능할 것으로 기대됩니다.

시는 아동·청소년들은 디지털 성범죄 피해를 입어도 제때 신고하지 못해 피해 영상물이 유포되는 경우가 많아 이번 기술 개발에 나섰다고 밝혔습니다.

피해자 긴급상담부터 수사·법률지원, 피해 영상물 삭제 지원, 심리치료·의료지원 등이 지원될 방침입니다.

특히 아동·청소년의 경우 당사자나 부모의 신고 없이도 피해 영상물 삭제가 가능한 만큼, AI 기술을 통해 피해에 신속 대응한다는 계획입니다.

AI 감시 시스템은 다음 달부터 현장에서 활용됩니다.