프로젝트명: 불법 유포 영상 AI 모니터링 서비스
<aside>
🔍 AI 기술을 활용하여 불법으로 유포된 피해자의 영상 URL 주소를 수집해주는 서비스를 기획하였습니다.
</aside>
프로젝트 개발배경 및 목적
영상 재생산에 피해받는 사람들을 위한, 지속 가능한 무료 서비스 개발
○ 개발 배경
- 방송통신심의위원회 자료에 따르면 디지털 성범죄 심의 건수는 2016년 대비 2020년에 5배 증가하였으며, 특히, 웰컴투비디오 사건 32개국의 약 128만명 회원(유료회원 4천여명)이 아동 성착취 영상물을 거래한 사건이다. 알려진 다운로드 횟수는 36만 건이고 해당 사이트를 만들었던 손정우는 1년 6개월 형을 수감하고 출소한 상태이다.
, 텔레그램 성착취 방 사건 피해자들을 유인한 뒤 협박해 성착취물을 찍게 하고 이를 유포한 디지털 성범죄, 성 착취 사건이다. 피해자는 중학생 등 미성년자를 대거 포함되어 있고 대표 주범으로 조주빈은 42년 형을 받았다. 하지만 피고인 378명, 평균 징역 13.2개월 · 벌금 653만원이고 집행유예 비율이 74%이다.
과 같은 불법 영상 유포범죄는 매년 과반수를 차지하고 있습니다.
- 우리나라는 아직 가해자에게 영상 삭제 의무를 부과하지 않고 있으며, 처벌만 받으면 가해자들은 자유의 몸이 되지만 피해자들은 끊임없이 재유포되는 영상 때문에 고통 속에서 살아갑니다.
- 디지털장의사 업체 조사 결과 월 200만원 정도이고 보통 3-6개월 계약하고 유포된 영상이 사이트에서 인기 게시물로 올라갈 경우 12개월이상 연장 계약하는 실정입니다.
- 피해자 상당수가 사회 경험이 많지 않은 미성년자임을 감안하면 유포범죄에 이용된 영상물에 대한 처리 방안이 시급하다고 생각하였습니다.
○ 개발 목적
- 영상이 유포된 사이트의 URL을 수집해주는, 즉 모니터링 무료 웹 서비스를 만들어 피해자들의 고통을 조금이나마 덜어주고 그들의 인권을 강화하는 데 목적을 두고 있습니다.
프로젝트 개발 계획
<aside>
🧐 크롤링, OpenCV을 이용하여 웹 상에 딥러닝 모니터링 솔루션을 구현
</aside>
- 불법 음란물 유포 사이트 순회 모듈 제작
- 크로미늄 기반 웹 브라우저 사용(크롬)
- VPN 우회 사용
- 키워드 등을 활용, 불법 음란물 유포 사이트 정보 수집(URL)
- 수집된 URL을 차례로 순회
- 불법 음란물 영상 및 사진에서 피해자 검출 모듈 제작
- 두 종류를 입력(필수 : 피해자의 다각도 얼굴 사진 10장 내외, 선택 : 유출 피해 원본 영상)
- 원본 영상을 소지한 경우, 영상을 대조하여 같은 영상들을 검색(Video Search)
- OpenCV 기반 영상/사진 내 얼굴 인식(Face Detection/Tracking)
- 피해자의 사진을 통해 피해자의 얼굴 정보 특징 추출(Feature Extraction)
- 딥페이크 등의 합성 및 악성 도용 사례까지 검출할 수 있을 정도의 신뢰도를 목표
- 불법 유포 음란물 영상/사진 내에서 인식된 얼굴과 피해자의 얼굴 정보 특징을 대조,
- 피해자의 얼굴과 동일한지 검사(Face Identification)
- 피해자의 얼굴이라고 판단된 경우, 해당 URL 정보를 추출 -> 리스트에 저장
- 모듈 간 결합(SI)
- 입력 이후 사이트를 순회하며 2번 계획의 모듈이 작동할 수 있도록 흐름도에 따라 결합
- 웹 개발
- 서비스 제공을 위한 웹 페이지 개발
- 회원제로 운영(민감한 개인정보 취급을 위함)
- 모듈 실행 전, 이미지(필수), 영상(선택) 업로드 페이지 구성
- 웹 서비스와 연동
- 휘발성 메모리를 이용하여 사용자가 업로드한 이미지, 영상 자료는 모듈 실행 후 삭제
- 서비스 배포