아동 청소년 성착취물 삭제 요청 자동화, AI가 건당 1분 이내 처리
성평등가족부가 AI 기반 디지털 성범죄 대응 시스템 3종을 도입해, 아동·청소년 성착취물 삭제요청부터 딥페이크 탐지까지 자동화합니다. 약 2만 개 사이트에 대한 삭제요청을 건당 1분 이내로 처리하며, 랜덤채팅앱 데이터 자동 수집 기술을 국내 최초로 탑재했습니다.
어떤 시스템이 도입되나요?
성평등가족부는 디지털 성범죄 피해자 보호를 위해 다음 3대 핵심 기술 시스템을 도입했습니다.
| 시스템 | 주요 기능 | 핵심 성과 |
|---|---|---|
| 삭제요청 자동화 | 약 2만 개 사이트 대상 삭제요청~처리 이력 관리 전 과정 자동화 | 건당 처리 시간 1분 이내 |
| 아동·청소년 온라인 성착취 선제 대응 | SNS·랜덤채팅앱 성착취물·유인정보 24시간 자동 수집·분석·신고 | 국내 최초 랜덤채팅앱 데이터 자동 수집 |
| AI 딥페이크 탐지 | 육안 판별 어려운 합성물 식별, 추가 유포 사전 차단 | 피해자 미인지 합성물까지 탐지 |
삭제요청 자동화는 어떻게 작동하나요?
기존에는 디지털 성범죄 피해 영상물의 삭제를 수동으로 요청해야 했습니다. 새로 도입된 자동화 시스템은 중앙디지털성범죄피해자지원센터(중앙 디성센터)의 삭제지원시스템과 연계해 작동합니다.
자동 삭제요청 범위
- 약 2만 개 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정 자동화
- 미국 국립실종학대아동방지센터(NCMEC) 및 글로벌 CDN 사업자 클라우드플레어와 API 연계
- 우회 접속 URL에 대한 대량 자동 삭제요청 가능
- 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송
종사자 보호 기능
삭제지원 업무 종사자의 정신적 소진 예방을 위해, 미국 NCMEC의 선진 사례를 참고한 촬영물 필터 기능도 함께 도입되었습니다.
AI는 성착취물을 어떻게 판별하나요?
시스템에 적용된 AI 모델은 다단계 분석을 거쳐 아동·청소년 성착취물 여부를 판단합니다.
- 키워드 탐지 — 텍스트 기반 1차 필터링
- 이미지 내 텍스트 추출 — OCR 기술 활용
- 신체 노출도 판단 — 이미지 분석
- 아동·청소년 여부 추정 — 연령 추정 기술
- 유사 이미지 대조 — 기존 데이터베이스 비교
딥페이크 탐지는 어떻게 활용되나요?
AI 기반 딥페이크 탐지 솔루션 도입으로, 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 되었습니다. 특히 온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견되면, 딥페이크 탐지 솔루션을 적용해 피해자가 인지하지 못한 합성물까지 찾아내고 추가 유포를 사전에 차단합니다.
시범운영 결과는 어떤가요?
성평등가족부 발표에 따르면, 시스템 구축 이후 25일간 시범운영 결과 다음과 같은 성과가 나타났습니다.
| 항목 | 증가 수준 |
|---|---|
| 종사자 1인당 일평균 아동·청소년 성착취물 수집 건수 | 2.7배 이상 증가 |
| 종사자 1인당 일평균 성착취 유인정보 수집 건수 | 80배 이상 증가 |
앞으로의 운영 계획은?
성평등가족부는 시스템 본격 운영을 통해 다음 두 가지 방향으로 대응을 강화할 방침입니다.
- 아동·청소년 성착취물 — 신속한 선제적 삭제지원
- 성착취 유인정보 — 신고 및 전문 상담원이 개입하는 '온라인 아웃리치'를 병행해 맞춤형 통합지원 강화
원민경 성평등가족부 장관은 "AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 밝혔습니다.
자주 묻는 질문
아동·청소년 성착취물 삭제 요청은 어디에서 할 수 있나요?
중앙디지털성범죄피해자지원센터(중앙 디성센터)를 통해 삭제지원을 받을 수 있습니다. 자세한 사항은 성평등가족부 디지털성범죄방지과(02-2100-6407)로 문의하시기 바랍니다.
삭제요청 자동화 시스템은 어떤 사이트를 대상으로 하나요?
약 2만 개의 사이트를 대상으로 삭제요청이 가능하며, 미국 NCMEC 및 클라우드플레어와 API 연계를 통해 우회 접속 URL에 대한 대량 삭제요청도 지원합니다.
AI가 랜덤채팅앱도 모니터링하나요?
네, 국내 최초로 랜덤채팅앱에 대한 데이터 자동 수집 기술이 탑재되었습니다. SNS와 랜덤채팅앱 등에서 아동·청소년 성착취물 및 유인정보를 24시간 자동으로 수집·분석합니다.
딥페이크 피해도 도움받을 수 있나요?
AI 딥페이크 탐지 솔루션이 도입되어 육안으로 판별이 어려운 합성물도 식별할 수 있습니다. 피해자가 인지하지 못한 합성물도 모니터링 과정에서 발견해 추가 유포를 사전에 차단합니다.
건당 처리 시간은 얼마나 걸리나요?
삭제요청 자동화를 통해 건당 처리 시간이 1분 이내로 단축되었습니다. 삭제요청부터 처리 이력 관리까지 전 과정이 자동화됩니다.
시스템 도입으로 얼마나 효과가 있나요?
25일간 시범운영 결과, 종사자 1인당 일평균 아동·청소년 성착취물 수집 건수가 2.7배 이상, 성착취 유인정보 수집 건수가 80배 이상 증가한 것으로 나타났습니다.
디지털 성범죄 피해를 입었을 때 어디에 연락하나요?
중앙디지털성범죄피해자지원센터에서 삭제지원 등 피해자 지원을 받을 수 있습니다. 성평등가족부 디지털성범죄방지과(02-2100-6407)로 문의하시기 바랍니다.
관련 키워드
이 기사가 도움이 되었나요?
관련 정책 가이드
댓글 개
댓글을 불러오는 중...