AI로 성착취영상 찾고 신고까지 단 ‘6분’
디지털 성범죄 AI 자동 삭제신고 시스템 결과 화면 예시(제공=서울시)
지난 2023년부터 전국 최초로 온라인에 유포된 디지털 성범죄 영상을 24시간 모니터링하는 AI를 가동 중인데, 앞으로는 검출된 영상의 삭제 신고까지 자동으로 이뤄지는 겁니다.
AI가 피해 영상물을 검출하면 자동으로 채증해 보고서를 만든 후 해당 사이트에 삭제 요청하는 이메일을 자동으로 작성하는 방식입니다. 완성된 신고 이메일은 삭제지원관이 최종 확인 후 발송합니다.
기존에 삭제지원관이 수작업으로 진행하던 작업을 모두 자동화한 겁니다. 자동화 시스템을 도입하면 수작업으로 약 3시간 가까이 걸리던 처리 시간이 6분으로 줄어듭니다.
또, 최근 증가하는 해외 서버 사이트 내 피해 영상물의 경우 AI가 자동으로 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성합니다.
한편 서울 디지털 성범죄 안심지원센터 삭제지원 건수는 AI 도입 전인 2022년 2509건에서 지난해 1만 4256건으로 468% 증가했습니다.
김승희 기자sooni@ichannela.com