SNS와 랜덤채팅앱 등에 있는 아동·청소년 성착취물 및 유인정보를 인공지능 기술로 24시간 자동 수집·분석하고 자동 신고와 삭제요청까지 할 수 있게 됩니다. 성평등가족부는 디지털성범죄 피해자 보호를 위해 삭제요청 자동화, AI 기반 아동·청소년 온라인 성착취 선제 대응, AI 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 도입한다고 밝혔습니다.
이번 도입으로 기존의 수동적이고 사후적인 피해자 보호 한계를 보완하는 대응체계가 구축되었습니다. 피해자 중심의 신속·선제 대응 체계를 위해 대응 속도와 정확도를 높이는 방식으로 자동화와 지능화가 진행되었습니다.
사건의 구체적 전개
피해영상물 삭제요청 자동화로 약 2만 개 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정이 자동화되었습니다. 건당 처리 시간은 1분 이내로 단축되었습니다.
아동·청소년 온라인 성착취 선제적 대응 시스템은 국내 최초로 랜덤채팅앱 데이터 자동 수집 기술을 탑재했습니다. 이 시스템은 중앙디지털성범죄피해자지원센터의 중앙 디성센터 삭제지원시스템과 연계되어 성인사이트 유포 현황 탐지와 자동 삭제요청이 가능해집니다.
시스템에 적용된 AI 모델은 키워드 탐지, 이미지 내 텍스트 추출, 신체 노출도 판단, 아동·청소년 여부 추정, 유사 이미지 대조를 거쳐 아동·청소년 성착취물 여부를 판단합니다. 이 다단계 분석 구조를 통해 수집과 판별 과정이 함께 운영됩니다.
중앙 디성센터의 삭제지원시스템은 미국 국립실종학대아동방지센터와 글로벌 CDN 사업자 클라우드플레어와 API로 연계되었습니다. 이 연계로 우회 접속 URL에 대해서도 대량 자동 삭제요청이 가능해졌습니다.
구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식은 자동 작성·발송 방식으로 개선되었습니다. 종사자의 정신적 소진 예방을 위해 미국 NCMEC의 선진 사례를 참고한 촬영물 필터 기능도 도입되었습니다.
관련 인물·단체의 조치 및 현재 상황
AI 기반 딥페이크 탐지 솔루션 도입으로 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 되었습니다. 이 조치로 피해자의 불안을 줄이고 추가 삭제지원도 가능해졌습니다.
선제적 삭제지원을 위한 온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견되면 딥페이크 탐지 솔루션이 적용됩니다. 이를 통해 피해자가 인지하지 못한 합성물도 찾아내고 추가 유포를 사전에 차단할 수 있게 되었습니다.
시스템 구축 이후 25일 동안의 시범운영 결과 종사자 1인당 일평균 수집 건수는 아동·청소년 성착취물이 2.7배 이상, 성착취 유인정보가 80배 이상 증가했습니다. 수집 규모는 시범운영 단계에서 이미 크게 확대되었습니다.
성평등가족부는 향후 시스템 본격 운영을 통해 아동·청소년 성착취물에 대한 선제적 삭제지원을 신속하게 진행할 방침입니다. 성착취 유인정보에 대해서는 신고와 전문 상담원이 개입하는 온라인 아웃리치를 병행해 맞춤형 통합지원을 강화합니다.
원민경 성평등가족부 장관은 기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점이라고 밝혔습니다. 이어 AI 기술의 현장 본격 도입으로 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 앞장서겠다고 밝혔습니다.
댓글을 불러오는 중...