バージョン 2026-10-31
これは、イギリスにいる人がここで違法なコンテンツに触れるリスクについて、Online Safety Act 2023 のために、規制機関が公表したリスク評価のガイダンスに従って KinkEU が行った評価の全文です。ガイダンスが挙げる違法コンテンツの種類ごとに、それがここで起こる可能性、それが及ぼしうる害の大きさ、現在私たちがそれに対して行っていること、そして今後行う予定のことを記しています。より短い概要は、「イギリスにおける違法コンテンツのリスク評価:概要」という文書として、法的事項のページで公開されています。
この評価の進め方
ガイダンスは四つの段階を求めており、この文書はそれに従っています。
- 評価すべき違法コンテンツの種類を理解すること:ガイダンスが挙げる18種類の優先的な違法コンテンツと、そのほかの違法コンテンツ
- それぞれの種類のリスクを、その可能性と及ぼしうる害の大きさによって、それを防ぐためにすでに行っていることを考慮して評価すること
- 対策を決め、導入し、記録を残すこと
- 評価を報告し、見直し、更新すること
それぞれの種類には、無視できる、低、中、高の四つの水準のうち一つをつけます。水準は、私たちが望む姿ではなく、この版の日付時点でのサービスのありのままの姿を表します。予定していてまだ行っていないことがある場合、この文書はそのことを記し、それについての日付は示しません。
イギリスでサービスが提供されているか
地域としてイギリスを選んだ人には、そこではサービスが提供されていないことが伝えられます。これはその人自身による地域の選択に基づくため、イギリスにいてほかの国を選んだ人は、引き続きサービスを利用できます。そのため、この評価はイギリスにいる人が KinkEU を利用しているものとして書かれています。
この評価における KinkEU とは
KinkEU は、21歳以上の大人のためのサービスです。共有されるものの多くは成人向けの性的な内容で、それを公開するメンバーによって作られています。違法コンテンツのリスクにとって最も重要な部分は次のとおりです。
- メンバーは画像、名前、年齢のあるプロフィールを持ち、互いにフォローしたり友達になったりできます
- メンバーは画像や動画をアップロードし、コメントし、ほかの人が共有したものを転送できます
- メンバーは、一対一でもグループでも、互いに非公開でメッセージを送ることができ、非常に大きなグループもあります
- メンバーはライブ配信や通話ができます。大きなライブルームの映像と音声は、私たちが見ることができないように暗号化されており、配信の内容は何も保存されません
- メンバーは、プロフィールが審査された後は検索で見つけてもらえ、地図上や距離によっては、本人がそれをオンにした場合にのみ見つけてもらえます
- メンバーは、コンテンツ、サブスクリプション、ショップの商品、サービスについて Keys で互いに支払い、獲得した Keys はスタッフによる審査の後に引き出すことができます
- 承認された提供者は、対面のセッションを含むサービスを掲載できます
- メンバーは AI Studio で画像、動画、楽曲、文章を作れます
それぞれのリスクの判断方法
それぞれの種類について、上記の機能を、規制機関が私たちのようなサービスについて挙げるリスク要因と照らし合わせました。すなわち、成人向けサービス、ソーシャルメディア、メッセージ、グループ、ライブ配信、マーケットプレイス、プロフィール、位置情報、検索、リンクです。現在機能している対策と、それぞれの限界を考慮しました。通報がどのように扱われているか、そして規制機関やほかの成人向けプラットフォームが公表しているものを確認しました。
この版には、私たち自身の通報の数値はまだ加えていません。次に評価を見直すときにその数値を加え、それによって変わる水準があれば変更します。
水準の一覧
高:
- 子どもへのグルーミング
- 画像と動画における児童性的虐待コンテンツ
- 性的画像の悪用
- 過激なポルノ
- 大人の性的搾取
中:
- 児童性的虐待コンテンツへのリンク
- 嫌がらせ、つきまとい、脅し、虐待
- 支配的または強制的なふるまい
- 人身取引
- 詐欺と金融犯罪
- 犯罪収益
- サイバーフラッシング
- そのほかの違法コンテンツ全体
低:
- テロ
- ヘイト
- 違法な入国
- 薬物と精神活性物質
- 銃器、刃物、そのほかの武器
- 自殺や重い自傷の奨励や幇助
- 外国による干渉
- 動物虐待
子どもの性的搾取と虐待
ここでは子どものどのような画像も禁じられており、最低年齢は21歳です。
グルーミングは高です。21歳以上であると申告し、生年月日を入力することで参加でき、私たちはまだ、規制機関が非常に効果的と認める方法で年齢を確認することができません。メッセージ、投稿、配信、支出を利用できるようにするライブでの顔の確認は、実在の人がその場にいることを示すもので、年齢を推定するものではありません。現在リスクを下げているのは次のことです。プロフィールは審査されるまでどの検索にも表示されず、自分で選ばない限り誰も地図に表示されず、知らない人への最初のメッセージは相手が判断するリクエストとなり、プロフィール画像は若く見える可能性のある顔について確認され、21歳未満の可能性がある人についての通報は優先されます。非常に効果的な年齢確認が導入されるまで、水準は高のままです。
画像と動画における児童性的虐待コンテンツは、アップロードを認めるあらゆる成人向けサービスについてガイダンスが想定しているとおり、高です。アップロードするすべてのメンバーは、写っている全員が21歳以上であることを確認します。メンバーのライブラリにあるすべての画像と動画、投稿されるすべての画像、すべてのストーリーの画像は、子どもである可能性のある顔について自動で確認され、既知の虐待コンテンツと照合されます。ライブラリの項目は、承認される前にほかの人に表示されることはなく、子どもの可能性があるという判定は必ず人に回されます。子どもが写っていると判明した内容は削除され、アカウントは凍結され、証拠は保管され、その内容は当局に報告されます。非公開のメッセージ、音声メッセージとビデオメッセージ、チャットで送られたファイル、ライブ配信は、非公開のものであるため、意図的に自動では確認していません。これらは通報によって扱われます。
児童性的虐待コンテンツへのリンクは中です。アカウントなしでは何も投稿したり送ったりできません。メンバー自身のページにあるリンクは審査されますが、メッセージや投稿の中のリンクは、既知の虐待アドレスの一覧とまだ照合されていません。
性的画像の悪用
高です。誰かの性的な画像を、その人の同意なく共有したり作ったりすることは禁じられています。アップロードするすべての人は、写っている全員が同意したことを確認します。写っている人が同意していないという通報は優先して扱われ、通報が信頼できる場合、その内容は確認の間は取り下げられます。ほかのメンバーの以前の画像の複製は検出され、拒否されます。AI Studio では、実在のメンバーの顔は、そのメンバー本人の許可がある場合にのみ使うことができ、その許可はいつでも取り消すことができ、取り消すと、それを使って作られたもののうちまだ保存されているものは削除されます。Studio が作るものにはすべて、AI で作られたことを示す表示がつきます。アップロードを、通報された性的画像の共有の一覧とはまだ照合していません。
過激なポルノ
サービスが成人向けとキンクの内容を中心に作られているため、高です。コンテンツポリシーは、法律が定める行為を禁じています。すなわち、性的な内容における首を絞める行為、窒息させる行為、息を止める行為、重い傷害を引き起こすおそれのある行為、動物や死体が関わる性的な内容、そして演出された同意のない行為です。強い内容には、それを投稿するメンバーが表示をつけなければならず、スタッフがつけた表示はメンバーが外すことができず、成人向けメディアは見る人が見ることを選ぶまで覆われたままです。内容は通報を受けて削除され、その国の法律が求める国では表示が差し止められます。これらの行為はまだ自動では検出していません。
大人の性的搾取と人身取引
大人の性的搾取は高、人身取引は中です。そのどちらを手配することも禁じられています。提供者は掲載される前に承認されなければならず、提供者自身の支払いの受け取り方法は、詐欺の兆候について自動で確認されます。対面のセッションは、私たちが見ることのできない KinkEU の外で手配され支払われることがあり、それが水準が高である理由です。圧力、強要、搾取についての通報は優先され、一人が持てるアカウントは一つだけなので、閉鎖されたアカウントが簡単に戻ってくることはできません。
嫌がらせ、つきまとい、脅し、虐待、支配的または強制的なふるまい
どちらも中です。プロフィール、非公開のメッセージ、ライブチャット、距離は、誰かを見つけて標的にするために悪用されることがあります。ブロックは名前ではなくアカウントに適用されるため、新しい名前では回避できず、一人が持てるアカウントは一つだけです。メンバーは人や言葉をミュートできます。自分で選ばない限り誰も地図に表示されず、場所は、メンバーがより詳しい表示を選ばない限り、都市の単位まで表示されます。一部のメンバーは、一方のパートナーが他方のアカウントに関与できる関係のための機能を使っています。誰でもいつでもそのような取り決めを終わらせることができ、強要についての通報は優先されます。それらの機能について悪用の観点からの見直しを予定しています。
詐欺、金融犯罪、犯罪収益
どちらも中です。Keys は KinkEU の中にとどまり、メンバーからメンバーへ直接渡すことはできません。獲得した Keys の引き出しはスタッフが審査し、一日、一週間、一か月ごとの上限があり、メンバーが保存してコードで確認し、使用前に待機期間を経た一つのアドレスにのみ送ることができ、一人のスタッフが承認し、別のスタッフが送金する必要があります。一人につき一つのアカウントとライブでの顔の確認によって、偽のプロフィールは作りにくくなっています。引き出し先のアドレスを、制裁や犯罪に関係するアドレスの一覧とまだ自動では照合していません。これは予定しています。
サイバーフラッシング
中です。それを望む大人どうしの性的な画像はサービスの目的そのものであり、そのため望まれない画像も起こりやすくなります。受け取った人がまだ承認していない相手からの最初のメッセージに含まれる画像や動画は、受け取った人が見ることを選ぶまで、小さくぼかしたプレビューとしてのみ表示されます。送った人が表示をつけた成人向けメディアは、見る人が開くまで覆われています。ブロック、ミュート、通報が適用されます。すでに承認した相手からの表示のない性的な画像は送られたとおりに表示され、それを初期設定で覆うことを予定しています。
低と判断された種類
テロ、ヘイト、違法な入国、薬物と精神活性物質、銃器、刃物、そのほかの武器、自殺や重い自傷の奨励や幇助、外国による干渉、動物虐待は、低と判断されています。いずれもここにはグループ、非公開のメッセージ、ライブ配信などのリスク要因がありますが、どれもサービスの目的とは関係がありません。いずれも私たちのルールで禁じられ、通報を受けて削除され、誰かの命に対する脅威についての通報は優先され、当局に伝えられます。動物が関わる性的な内容は禁じられており、過激なポルノとして扱われます。
そのほかの違法コンテンツ
全体として中です。これには、有料の内容が作り手の同意なく複製されて共有されるような著作権侵害や、ある国では合法で別の国では違法な内容が含まれます。著作権についての申し立てには独自の手続きがあり、一つの国でのみ違法とされた内容は、その国で表示が差し止められます。
すべての種類に共通する対策
- プロフィール、メッセージ、画像、動画、投稿、コメント、イベント、配信、ライブチャット、グループ、予約、レビューの通報ボタンと、アカウントを持たないすべての人のための問い合わせフォーム
- 最も重大な通報を先に扱うこと:21歳未満の可能性がある人についてのあらゆること、同意なく写っている人、強要、命に対する脅威
- すべてのプロフィールとすべてのギャラリー画像を、私たちの書面のルールに照らして自動で審査し、承認するか、メンバーが読める理由を添えて拒否するか、人に回すこと。子どもの可能性があるものは必ず人に回されます
- 違法なコンテンツを把握した時点での削除、決定とその根拠となるルールと異議申し立ての方法の説明、そして人が判断する異議申し立て
- 何が禁じられているかを、21の言語で、わかりやすい言葉で記載した規約とポリシー
予定している対策
次の対策を予定しています。そのいずれについても、日付は約束していません。
- イギリスにいる人について、成人向けの内容や非公開のメッセージの前に、身分証明書を求めることなく、規制機関が非常に効果的と認める年齢確認を行うこと
- 子どもの安全のための確認が自動で検出したすべてのアップロードを、人が確認する前に保留すること
- アップロードを、既知の児童性的虐待コンテンツと通報された性的画像についての公認の一覧と照合すること
- リンクを、児童性的虐待アドレスについての公認の一覧と照合すること
- AI Studio に渡された画像のすべての顔を、私たちのもとに保存されている顔と同じように確認すること
- 引き出し先のアドレスを、制裁や犯罪に関係するアドレスの一覧と照合すること
- メッセージの中の表示のない性的な画像を初期設定で覆うこと
- 過激なポルノについての法律が定める行為が写っている可能性のある内容について、スタッフに知らせること
- 決定についてのそれぞれの説明の中で、自動化されたツールが関わったかどうかを示すこと
- 関係のための機能について、強要の観点から見直すこと
- モデレーションチームの規模と研修についての書面の記録と、それぞれの対策がどの程度うまく機能しているかについての定期的な報告
責任者と見直し
サービスの責任者がこの評価を保持し、承認し、その結果と予定している対策の進み具合を報告します。評価は少なくとも12か月に一度見直されます。次のいずれかの場合には、改めて見直されるか、変更の前に新しい評価が行われます。
- 規制機関が、このサービスに関わる形でリスクプロファイルやガイダンスを変更した場合
- 新しいコミュニケーションの方法、検索、おすすめ、地図、距離の変更、年齢の確認方法や画像の確認方法の変更、新しい種類の有料コンテンツや払い出し、顔についての AI Studio のルールの変更など、重要な変更を予定している場合
- いずれかの種類の通報が増えた場合、重大な事案が起きた場合、または規制機関や警察から求められた場合
- イギリスでサービスを利用する人の数が、異なる対策が適用される水準を超えて増えた場合
子ども
このサービスは21歳以上の大人のためのものであり、子どもが利用することを想定していません。年齢をどのように尋ねて確認するか、そして子どもを成人向けの内容からどのように遠ざけるかについては、「年齢による利用資格と年齢確認」の文書に記載しています。
変更
この評価には版と日付があります。見直されると、新しい概要とともに、新しい版が公開されます。
これは翻訳です。効力を持つのは英語版です。