디지털 성범죄 AI 자동 삭제신고 시스템 결과 화면 예시(제공=서울시)

서울시가 온라인 성착취 영상을 자동으로 모니터링한 뒤 삭제 신고까지 하는 인공지능 기술을 도입합니다.

지난 2023년부터 전국 최초로 온라인에 유포된 디지털 성범죄 영상을 24시간 모니터링하는 AI를 가동 중인데, 앞으로는 검출된 영상의 삭제 신고까지 자동으로 이뤄지는 겁니다.

AI가 피해 영상물을 검출하면 자동으로 채증해 보고서를 만든 후 해당 사이트에 삭제 요청하는 이메일을 자동으로 작성하는 방식입니다. 완성된 신고 이메일은 삭제지원관이 최종 확인 후 발송합니다.

기존에 삭제지원관이 수작업으로 진행하던 작업을 모두 자동화한 겁니다. 자동화 시스템을 도입하면 수작업으로 약 3시간 가까이 걸리던 처리 시간이 6분으로 줄어듭니다.

또, 최근 증가하는 해외 서버 사이트 내 피해 영상물의 경우 AI가 자동으로 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성합니다.

한편 서울 디지털 성범죄 안심지원센터 삭제지원 건수는 AI 도입 전인 2022년 2509건에서 지난해 1만 4256건으로 468% 증가했습니다.