성평등가족부, AI 기반 아동·청소년 온라인성착취 대응시스템 구축

서론

정부는 진화하는 디지털성범죄에 대응하기 위해 AI 기반 지원시스템을 구축하는 등 피해 지원체계를 강화하고 있습니다.

성평등가족부는 'AI 기반 아동·청소년 온라인성착취 선제적 대응 시스템'을 구축했다고 밝혔습니다.

성평등가족부는 과기정통부가 주관한 <디지털 기반 사회현안 프로젝트> 공모에 참여해 해당 시스템을 구축했다고 밝혔습니다.

이 시스템은 AI를 활용해 랜덤채팅앱과 SNS에서 아동·청소년 온라인성착취 유인 행위 및 성착취물을 자동 탐지·분석·신고하도록 설계되었습니다.

시스템은 크롤링 알고리즘을 이용해 소셜미디어, 채팅앱, 오픈채팅방 등에서 아동·청소년 대상 성착취 정보를 24시간 365일 모니터링합니다.

AI 기반 유해성 분석으로 선별한 게시물을 중심으로 검토하고, 문제가 있는 게시글은 플랫폼 등에 신고·삭제 요청 조치를 합니다.

기존에 직원들이 검색으로 진행했던 모니터링은 AI를 이용한 자동 모니터링 체계로 전환되며, 이를 통해 온라인 성착취 징후를 신속하게 탐지해 선제적 대응을 강화하는 방식으로 운영됩니다.

중앙디지털성범죄피해자지원센터(이하 '중앙 디성센터') 삭제기술팀 박성혜 팀장은 최근 아동·청소년 대상 온라인성착취 범죄가 빠르게 확산되고 있어 AI를 활용한 사전 대응 시스템을 개발했다고 설명했습니다.

박성혜 팀장은 랜덤채팅앱 자동 탐지가 국내 최초였던 만큼 개발·적용이 쉽지 않았다고 밝혔으며, 아동·청소년 성착취물 특성상 데이터 확보와 활용에 있어 엄격한 법적·윤리적 기준을 충족해야 했다고 말했습니다.

이번 시스템은 현재 시범운영 중이며, 안정성과 정확성을 보완한 후 향후 업무에 본격적으로 활용될 예정입니다.

성평등가족부는 2025년 5월 추경으로 예산 10억 9000만 원을 확보해 2026년 3월 완료를 목표로 '디지털성범죄 피해영상물 삭제지원시스템 고도화'를 추진하고 있습니다.

이 삭제지원시스템은 중앙 디성센터 내 업무 프로그램으로, 피해영상물의 DNA를 자동 검출하고 310여 개 성인사이트를 크롤링해 유포 현황을 파악하는 기능 등을 갖추고 있습니다.

고도화에서는 직원들이 수동으로 했던 삭제 요청과 삭제 완료 여부 모니터링 작업을 자동화해 업무 부담을 경감하고 삭제지원 속도를 대폭 제고하는 방향으로 추진됩니다.

성평등가족부는 생성형 AI 등을 이용한 딥페이크 성범죄물 확산에 대응하기 위해, 딥페이크 이미지 여부를 판별하고 생성 도구와 유포 이력 등의 정보를 제공하는 AI 기반 딥페이크 탐지 솔루션을 도입해 삭제지원에 활용할 계획입니다.

박성혜 팀장은 성평등가족부와 중앙 디성센터가 기술과 제도를 보완해 안전한 온라인 환경을 만들기 위해 최선을 다하고 있으며, 의심되는 콘텐츠를 접했을 경우 적극적으로 신고해달라고 당부했습니다.

성평등가족부는 2026년 1월 23일 방송미디어통신위원회와 안전한 디지털 사회 실현을 위한 업무협약을 체결했습니다.

양 기관은 불법촬영물등의 유통방지 및 피해보호를 위한 지원을 강화하고, 인공지능 환경 변화에 대응한 법·제도 마련에 적극 협력하기로 했습니다.

또한 AI를 악용한 딥페이크 성범죄물 생성 및 유통을 차단하기 위한 기술적·관리적 보호조치와 함께 관련 피해지원이 가능하도록 법·제도를 구축하는 데 협력할 방침입니다.

성평등가족부는 AI를 활용한 아동·청소년 온라인성착취 선제적 대응 시스템을 시범운영 중이며, 보완 후 업무에 본격 활용할 예정입니다.

중앙 디성센터의 삭제지원시스템 고도화는 2026년 3월 완료를 목표로 추진되고 있으며, 삭제 요청과 모니터링 자동화 및 딥페이크 탐지 솔루션 도입 계획이 함께 제시되었습니다.

성평등가족부와 방송미디어통신위원회는 2026년 1월 23일 업무협약을 통해 불법촬영물등 유통방지와 피해보호 지원 강화, 딥페이크 성범죄물 차단을 위한 법·제도 협력을 추진하고 있습니다.