当サイトは性的コンテンツの配信を停止しました。
私たちはより多くの人々に安全で快適なオンライン体験を提供することを目指しており、性的コンテンツ(性的な表現およびグロテスクな表現)の配信を停止しました。
スケジュール
-
利用規約の改定
2024年4月25日に完了
-
新規投稿の停止
2024年4月25日に完了
-
イラスト一覧の表示の停止
2024年5月1日に完了
-
サーバーからの画像データの削除およびプロンプトページの配信停止
2024年5月8日に完了
性的コンテンツの配信を停止するに至った経緯
性的コンテンツの配信を停止するに至った経緯については、法律による規制や倫理的な配慮が最大の要因です。
わいせつ物頒布等の罪(刑法175条)
刑法175条による法律の規制は、性的秩序を守り、最小限度の性道徳を維持すること、あるいは性生活に関する秩序及び健全な風俗を維持することを目的としています。これは、性的コンテンツの適切な管理や配信に対する社会的な責任を強調しています。
当サイトでは、投稿時にモザイクをかけられるツールによって画像に自主規制を施し、サーバーに送信することなく性的な表現を含む作品を投稿することができました。しかしながら、投稿されるすべての画像に対して自主規制が施されていたわけではありませんでした。
子どもの性的な画像
当サイトには、AIで生成された多くの子どもの性的な画像(以下、CSAM)が掲載され、不特定対数の人が閲覧できる状況になっていました。日本では、生成AIによるCSAMは児童ポルノ禁止法の規制対象とはなっていませんが、海外では実在児童と無関係の表現物も規制対象となっています。我々は法的な規制に加えて、倫理的な責任も十分に認識しており、児童ポルノ禁止法の規制範囲を超える可能性のあるコンテンツを提供することが、社会的にも倫理的にも許容できないとの認識を持っています。
これまで、国内の大手イラスト投稿サイトと同じ方針をとり、CSAMの規制に取り組んできましたが、大手サービスとは状況が異なりモデレーションにかけられる人的コストが限られていました。加えて、AI生成画像の特性上、被写体の年齢を判別しづらい場合があり、規制の判断が難しい場合がありました。
モデレーションコストの増大
当サイトでは、各ページに通報フォームを設置しており、ユーザーの協力も得ながら不適切なコンテンツのモデレーションに取り組んできました。しかし、その作業には膨大な費用と労力が必要であり、また見落としの可能性も否定できませんでした。
今後の新規サービス展開を進める上で、性的コンテンツの配信を継続することはコスト面で困難であると判断しました。
不適切なコンテンツへの取り組み
このような状況を改善し、不適切なコンテンツの配信を防ぐために、これまでの対応を強化し、CSAMを含む性的コンテンツの配信を停止しました。
今回の性的コンテンツの一律規制によって、モデレーションのコストは大幅に削減されました。これまでは規制の判断に人手が必要でしたが、画像認識などの自動化技術を活用し、人的コストを削減できました。
当サイトは、これからもCSAMなどの不適切なコンテンツの撲滅に向けた強化された監視と対策を実施します。不適切なコンテンツの早期発見と削除に努めるとともに、AI技術やモデレーションの強化を通じて、不適切なコンテンツの拡散を防止します。
利用者からのフィードバックや要望に真摯に対応し、サービスの改善に努めます。利用者の声を活かして、より使いやすく、より安心して利用できるサイトを目指します。
今後とも、当サイトをご愛顧いただけますよう、何卒よろしくお願い申し上げます。
日付
- 2024年4月24日 公開
- 2024年4月25日 更新
- 2024年5月8日 更新