저희 사이트는 성인 콘텐츠의 제공을 중단했습니다.
우리는 더 많은 사람들에게 안전하고 편안한 온라인 경험을 제공하기 위해 성적 콘텐츠 (성적 및 혐오스러운 표현 포함)의 제공을 중단했습니다.
일정
-
이용 약관 개정
2024년 4월 25일 완료
-
새 게시물 중지
2024년 4월 25일 완료
-
일러스트 목록 표시 중지
2024년 5월 1일 완료
-
서버에서 이미지 데이터 삭제 및 프롬프트 페이지 전달 중지
2024년 5월 8일 완료
성인 콘텐츠 제공 중단에 이르게 된 경위
성인 콘텐츠 제공 중단에 이르게 된 경위는 주로 법적 규제와 윤리적 고려사항입니다.
음란물 유포 등의 범죄 (일본 형법 제175조)
형법 제175조에 의한 법률 규제는 성적 질서를 유지하고 최소한의 성도덕을 유지하거나 성생활의 질서 및 건전한 사회 분위기를 유지하기 위한 것입니다. 이는 성적 콘텐츠의 적절한 관리와 배포에 대한 사회적 책임을 강조합니다.
당사 웹사이트에서는 게시 중에 모자이크 도구를 사용하여 성적 콘텐츠가 포함된 이미지에 자율 규제를 시행하여 서버로 전송하지 않고 게시할 수 있었습니다. 그러나 모든 게시된 이미지에 대해 자율 규제가 적용되지 않았습니다.
아동 성적인 이미지
해당 사이트에는 AI로 생성된 다수의 아동 성적인 이미지(이하 CSAM)가 게재되어 불특정 다수가 열람할 수 있는 상황이었습니다. 일본에서는 AI가 생성한 CSAM은 아동포르노 금지법의 규제 대상이 아니지만, 해외에서는 실존 아동과 무관한 표현물도 규제 대상입니다. 우리는 법적 규제와 더불어 윤리적 책임도 충분히 인식하고 있으며, 아동포르노금지법의 규제 범위를 넘어설 수 있는 콘텐츠를 제공하는 것은 사회적으로나 윤리적으로 용납될 수 없다는 인식을 가지고 있습니다
.
그동안 국내 대형 일러스트 게시 사이트와 동일한 정책을 가지고 CSAM 규제에 힘써왔지만, 대형 서비스와는 상황이 달라서 중재에 투입할 수 있는 인적 비용이 제한적이었습니다. 또한, AI 생성 이미지의 특성상 피사체의 나이를 판단하기 어려운 경우가 있어 규제 판단이 어려운 경우가 있었다.
감독 비용 증가
이 사이트는 각 페이지에 신고 양식을 설치하고 사용자의 협력을 통해 부적절한 콘텐츠를 감독하고 있습니다. 그러나 이 작업에는 많은 비용과 노력이 필요하며 실수의 가능성도 배제할 수 없었습니다.
우리는 새로운 서비스 개발을 진행함에 따라 성적 콘텐츠를 계속해서 제공하는 것이 비용적으로 어려운 것으로 결정했습니다.
부적절한 콘텐츠 대응
이러한 상황을 개선하고 부적절한 콘텐츠의 유통을 방지하기 위해 기존 대응을 강화하여 CSAM을 포함한 성적인 콘텐츠의 유통을 중단했습니다.
이번 성적인 콘텐츠에 대한 일률적인 규제로 인해 심의 비용이 크게 절감되었다. 기존에는 규제 판단에 인력이 필요했지만, 이미지 인식 등 자동화 기술을 활용해 인적 비용을 절감할 수 있게 되었습니다.
네이버는 앞으로도 CSAM 등 부적절한 콘텐츠 근절을 위해 더욱 강화된 모니터링과 대책을 시행할 예정입니다. 부적절한 콘텐츠의 조기 발견 및 삭제에 힘쓰는 한편, AI 기술 및 중재 강화를 통해 부적절한 콘텐츠가 확산되는 것을 방지할 것입니다.
이용자들의 피드백과 요청에 성실하게 대응하여 서비스 개선에 힘쓰겠습니다. 이용자들의 의견을 반영하여 보다 편리하고 안심하고 이용할 수 있는 사이트를 목표로 하고 있습니다.
앞으로도 많은 관심과 사랑 부탁드리며, 앞으로도 많은 이용 부탁 드립니다.
날짜
- 2024년 4월 24일 공개
- 2024년 4월 25일 업데이트
- 2024년 5월 8일 업데이트