검색범위
검색방법
검색기간
go.kr 주소를 사용하는 누리집은 대한민국 정부기관이 관리하는 누리집입니다.
이밖에 or.kr 또는 .kr등 다른 도메인 주소를 사용하고 있다면 아래 URL에서 도메인 주소를 확인해 보세요
| ‘디지털 성범죄‘ 이제 인공지능(AI)으로 24시간 자동 탐지-분석-신고한다. | ||||
|---|---|---|---|---|
| 담당부서 | 디지털성범죄방지과 | |||
| 전화번호 | 02-2100-6566 | 작성일 | 2026-04-01 | |
|
‘디지털 성범죄‘ 이제 인공지능(AI)으로 24시간 자동 탐지-분석-신고한다. 성평등가족부, 삭제요청 자동화·AI 성착취 탐지·딥페이크 식별 시스템 도입 성평등가족부(장관 원민경)는 디지털성범죄 피해자 보호를 위해 ➊삭제요청 자동화, ➋AI 기반 아동·청소년 온라인 성착취 선제 대응, ➌AI 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 도입합니다. 기존 수동·사후 대응의 한계를 보완하고, 피해자 중심의 신속·선제 대응 체계를 구축했다고 밝혔습니다. 이번 시스템 도입으로 기존의 수동적이고 사후적인 피해자 보호의 한계를 보완하고, 디지털 성범죄 대응체계를 자동화·지능화하여 대응 속도와 정확도를 대폭 높였습니다. 우선, 피해영상물 삭제요청 자동화를 통해 약 2만 개의 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정을 자동화하고, 건당 처리 시간을 1분 이내로 단축하였습니다. 특히 중앙디지털성범죄피해자지원센터(이하 중앙 디성센터)의 삭제지원시스템을 美 국립실종학대아동방지센터(NCMEC) 및 글로벌 CDN 사업자 클라우드플레어(Cloudflare)와 API로 연계하여, 우회 접속 URL도 대량 자동 삭제요청이 가능해졌습니다. 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송하도록 개선했으며, 종사자의 정신적 소진 예방을 위해 美 NCMEC의 선진 사례를 참고한 촬영물 필터(회색조 처리) 기능도 도입했습니다.
‘아동·청소년 온라인 성착취 선제적 대응 시스템’은 인공지능(AI) 기술을 활용하여 SNS, 랜덤채팅앱 등에서 아동·청소년 성착취물 및 유인정보를 24시간 자동 수집·분석하고 자동 신고 및 삭제요청을 합니다. 특히 국내 최초로 ‘랜덤채팅앱’에 대한 데이터 자동 수집 기술을 탑재하였으며, 기존 중앙 디성센터의 삭제지원시스템과 연계하여 성인사이트에 대한 유포 현황 탐지와 자동 삭제요청이 가능해집니다. 시스템에 적용된 AI 모델은 ➊키워드 탐지, ➋이미지 내 텍스트 추출, ➌신체 노출도 판단, ❹아동·청소년 여부 추정, ❺유사 이미지 대조 등 다단계 분석을 거쳐 아동·청소년 성착취물 여부를 판단합니다. 시스템 구축 이후 25일 동안의 시범운영 결과, 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 대폭 증가하였습니다. 향후 시스템 본격 운영을 통해 아동·청소년 성착취물은 신속하게 선제적 삭제지원하고, 성착취 유인정보는 신고 및 전문 상담원이 개입하는 ‘온라인 아웃리치’를 병행하여 맞춤형 통합지원을 강화할 예정입니다. 마지막으로, AI 기반 딥페이크 탐지 솔루션 도입을 통해 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 되어, 피해자의 불안을 해소하고 추가 삭제지원도 가능해졌습니다. 특히 선제적 삭제지원을 위한 온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견된 경우, 딥페이크 탐지 솔루션을 적용하여 피해자가 인지하지 못한 합성물도 찾아내며 추가 유포를 사전에 차단할 수 있게 됐습니다.
원민경 성평등가족부 장관은 “기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점”이라며 “AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축하여 피해자의 신속한 일상 회복을 위해 앞장설 것”이라고 밝혔습니다. |
||||
본 저작물은 “공공누리 제4유형(출처표시+상업적 이용금지+변경금지)” 조건에 따라 이용할 수 있습니다.
|
||||
| 이전글 | 세계로 나가는 K-청소년, 미래를 설계하다 |
|---|---|
| 다음글 | 「청소년지도자의 처우 및 지위 향상을 위한 법률」 제정안 국회 본회의 통과 |
초기화
