Évaluation des risques liés aux contenus illégaux au Royaume-Uni

Ceci est la version complète de l'évaluation, par KinkEU, du risque que des personnes au Royaume-Uni rencontrent ici des contenus illégaux, réalisée au titre de l'Online Safety Act 2023 et conformément aux lignes directrices publiées par l'autorité de régulation sur l'évaluation des risques. Elle indique, pour chaque type de contenu illégal que nomment les lignes directrices, sa probabilité ici, l'ampleur du préjudice qu'il pourrait causer, ce que nous faisons aujourd'hui pour y remédier et ce que nous prévoyons de faire. Une synthèse plus courte est publiée sous la forme du document « Évaluation des risques liés aux contenus illégaux au Royaume-Uni : synthèse », sur la page Mentions légales.

Comment cette évaluation a été réalisée

Les lignes directrices prévoient quatre étapes, et le présent document les suit :

• comprendre les types de contenus illégaux à évaluer : les dix-huit types de contenus illégaux prioritaires que répertorient les lignes directrices, et les autres contenus illégaux
• évaluer le risque de chaque type, selon sa probabilité et l'ampleur du préjudice qu'il pourrait causer, en tenant compte de ce que nous faisons déjà pour le prévenir
• décider des mesures, les mettre en place et en conserver une trace écrite
• rendre compte de l'évaluation, la réexaminer et la mettre à jour

Chaque type reçoit l'un de quatre niveaux : négligeable, faible, moyen ou élevé. Le niveau décrit le service tel qu'il est à la date de la présente version, et non tel que nous espérons qu'il sera. Lorsqu'une mesure est prévue et pas encore réalisée, le présent document le dit, sans indiquer de date.

Si le Royaume-Uni est desservi

Une personne qui choisit le Royaume-Uni comme région est informée que le service n'y est pas fourni. Cela repose sur le propre choix de région de la personne, de sorte qu'une personne au Royaume-Uni qui choisit un autre pays peut tout de même utiliser le service. La présente évaluation est donc rédigée comme si des personnes au Royaume-Uni utilisaient KinkEU.

Ce qu'est KinkEU, pour cette évaluation

KinkEU est un service pour les adultes de 21 ans ou plus. Une grande partie de ce qui est partagé est du contenu pour adultes et sexuel, réalisé par les membres qui le publient. Voici les éléments qui comptent le plus pour le risque de contenus illégaux :

• les membres ont des profils avec des images, un nom et un âge, et peuvent se suivre et devenir amis
• les membres peuvent téléverser des images et des films, commenter et transférer ce que d'autres partagent
• les membres peuvent s'écrire en privé et en groupe, et certains groupes sont très grands
• les membres peuvent diffuser en direct et passer des appels. L'image et le son d'un grand salon en direct sont chiffrés de sorte que nous ne pouvons pas les voir, et rien d'une diffusion n'est conservé
• les membres peuvent être trouvés par la recherche une fois leur profil examiné, et sur une carte et par la distance seulement s'ils activent cette option
• les membres se paient entre eux en Keys pour des contenus, des abonnements, des articles de boutique et des services, et les Keys gagnées peuvent être retirées après un examen par le personnel
• les prestataires approuvés peuvent proposer des services, y compris des séances en personne
• les membres peuvent créer des images, des films, des chansons et des textes avec l'AI Studio

Comment nous avons évalué chaque risque

Pour chaque type, nous avons confronté les fonctionnalités ci-dessus aux facteurs de risque que l'autorité de régulation répertorie pour des services comme le nôtre : un service pour adultes, les réseaux sociaux, la messagerie, les groupes, la diffusion en direct, une place de marché, les profils, la localisation, la recherche et les liens. Nous avons pris en compte les mesures qui fonctionnent aujourd'hui et les limites de chacune. Nous avons examiné la manière dont les signalements sont traités et ce que l'autorité de régulation et d'autres plateformes pour adultes ont publié.

Nous n'avons pas encore ajouté à la présente version les chiffres tirés de nos propres signalements. Lors du prochain réexamen de l'évaluation, ces chiffres seront ajoutés, et tout niveau qu'ils modifient sera modifié.

Synthèse des niveaux

Élevé :

• la sollicitation d'enfants à des fins sexuelles
• les contenus d'abus sexuels sur enfants dans les images et les films
• les abus d'images intimes
• la pornographie extrême
• l'exploitation sexuelle d'adultes

Moyen :

• les liens vers des contenus d'abus sexuels sur enfants
• le harcèlement, la traque, les menaces et les insultes
• les comportements de contrôle ou de contrainte
• la traite des êtres humains
• la fraude et les infractions financières
• le produit du crime
• le cyberflashing
• les autres contenus illégaux, pris ensemble

Faible :

• le terrorisme
• la haine
• l'immigration illégale
• les drogues et substances psychoactives
• les armes à feu, les couteaux et autres armes
• l'incitation ou l'aide au suicide et à l'automutilation grave
• l'ingérence étrangère
• la cruauté envers les animaux

Exploitation et abus sexuels sur enfants

Toute image d'un enfant est interdite ici, et l'âge minimum est de 21 ans.

La sollicitation d'enfants à des fins sexuelles est classée élevée. Une personne peut s'inscrire en déclarant avoir 21 ans ou plus et en saisissant une date de naissance, et nous ne pouvons pas encore confirmer l'âge d'une manière que l'autorité de régulation reconnaît comme hautement efficace. La vérification du visage en direct qui ouvre la messagerie, la publication, la diffusion en direct et les dépenses montre qu'une personne réelle est présente ; elle n'estime pas l'âge. Ce qui réduit le risque aujourd'hui : un profil n'apparaît dans aucune recherche tant qu'il n'a pas été examiné, personne n'est sur la carte sans l'avoir choisi, un premier message à un inconnu est une demande sur laquelle l'autre personne décide, les photos de profil sont vérifiées pour détecter des visages qui pourraient être jeunes, et les signalements concernant une personne qui pourrait avoir moins de 21 ans passent en premier. Le niveau reste élevé jusqu'à la mise en place d'une vérification de l'âge hautement efficace.

Les contenus d'abus sexuels sur enfants dans les images et les films sont classés élevés, comme les lignes directrices l'attendent de tout service pour adultes qui permet le téléversement. Chaque membre qui téléverse confirme que toutes les personnes montrées ont 21 ans ou plus. Chaque image et chaque film de la bibliothèque d'un membre, chaque image publiée et chaque image de story sont vérifiés automatiquement pour détecter un visage qui pourrait être celui d'un enfant, et comparés aux contenus d'abus connus. Un élément de bibliothèque n'est jamais montré à quiconque d'autre avant d'être approuvé, et la détection d'un enfant possible est toujours transmise à une personne. Un contenu dont il est établi qu'il montre un enfant est supprimé, le compte est gelé, les preuves sont conservées, et le contenu est signalé aux autorités. Les messages privés, les messages vocaux et vidéo, les fichiers envoyés dans une conversation et les diffusions en direct ne sont pas vérifiés automatiquement, par choix de conception, parce qu'ils sont privés ; ils sont traités au moyen des signalements.

Les liens vers des contenus d'abus sexuels sur enfants sont classés moyens. Rien ne peut être publié ni envoyé sans compte. Les liens figurant sur les pages propres des membres sont examinés, mais les liens dans les messages et les publications ne sont pas encore comparés à une liste d'adresses d'abus connues.

Abus d'images intimes

Élevé. Partager ou créer des images intimes de quelqu'un sans son accord est interdit. Chaque personne qui téléverse confirme que toutes les personnes montrées ont donné leur accord. Un signalement indiquant qu'une personne montrée n'a pas donné son accord est traité en premier, et le contenu est retiré pendant sa vérification lorsque le signalement est crédible. Une copie d'une image antérieure d'un autre membre est détectée et refusée. Dans l'AI Studio, le visage d'un membre réel ne peut être utilisé qu'avec l'autorisation de ce membre, qu'il peut retirer à tout moment, et ce retrait supprime ce qui a été créé avec ce visage et qui est encore conservé. Tout ce que le Studio crée est signalé comme créé avec l'IA. Nous ne comparons pas encore les téléversements à une liste partagée d'images intimes signalées.

Pornographie extrême

Élevé, parce que le service est centré sur des contenus pour adultes et kink. La politique de contenu interdit les actes que la loi désigne : la strangulation, l'étouffement ou la suffocation dans des contenus sexuels, les actes susceptibles de causer des blessures graves, les contenus sexuels impliquant un animal ou un cadavre, et l'absence de consentement mise en scène. Les contenus forts doivent être signalés par le membre qui les publie, un signalement ajouté par le personnel ne peut pas être retiré par le membre, et les médias pour adultes restent masqués jusqu'à ce que la personne qui regarde choisisse de les voir. Les contenus sont supprimés sur signalement, et bloqués dans un pays lorsque la loi de ce pays l'exige. Nous ne détectons pas encore ces actes automatiquement.

Exploitation sexuelle d'adultes et traite des êtres humains

L'exploitation sexuelle d'adultes est classée élevée et la traite des êtres humains moyenne. Organiser l'une ou l'autre est interdit. Les prestataires doivent être approuvés avant d'être répertoriés, et le propre moyen de paiement d'un prestataire est vérifié automatiquement pour détecter des signes d'escroquerie. Des séances en personne peuvent être organisées et payées en dehors de KinkEU, là où nous ne pouvons pas les voir, ce qui explique le niveau élevé. Les signalements de pression, de contrainte ou d'exploitation passent en premier, et une personne ne peut détenir qu'un seul compte, de sorte qu'un compte fermé ne peut pas simplement revenir.

Harcèlement, traque, menaces et insultes, et comportements de contrôle ou de contrainte

Les deux sont classés moyens. Les profils, les messages privés, la discussion en direct et la distance peuvent être détournés pour trouver et cibler quelqu'un. Le blocage s'applique au compte et non à un nom, de sorte qu'un nouveau nom ne permet pas de le contourner, et une personne ne peut détenir qu'un seul compte. Les membres peuvent mettre en sourdine des personnes et des mots. Personne n'est sur la carte sans l'avoir choisi, et un lieu est indiqué à l'échelle de la ville, sauf si le membre choisit plus précis. Certains membres utilisent des fonctionnalités destinées à des relations dans lesquelles l'un des partenaires a un droit de regard sur le compte de l'autre ; chacun peut mettre fin à un tel arrangement à tout moment, et un signalement de contrainte passe en premier. Un examen de ces fonctionnalités sous l'angle des abus est prévu.

Fraude, infractions financières et produit du crime

Les deux sont classés moyens. Les Keys restent à l'intérieur de KinkEU et ne peuvent pas être données directement d'un membre à un autre. Un retrait de Keys gagnées est examiné par le personnel, est soumis à des plafonds quotidiens, hebdomadaires et mensuels, ne peut être envoyé qu'à une seule adresse que le membre a enregistrée et confirmée au moyen d'un code et qui a observé un délai d'attente avant usage, et doit être approuvé par un membre du personnel et envoyé par un autre. Un seul compte par personne et la vérification du visage en direct rendent les faux profils plus difficiles. Nous ne contrôlons pas encore automatiquement les adresses de retrait au regard de listes d'adresses liées à des sanctions ou à des activités criminelles ; cela est prévu.

Cyberflashing

Moyen. Les images sexuelles entre adultes qui les souhaitent sont la raison d'être du service, ce qui rend plus probable une image non désirée. Une image ou un film dans un premier message d'une personne que le destinataire n'a pas acceptée n'est montré que sous la forme d'un minuscule aperçu flouté jusqu'à ce que le destinataire choisisse de le voir. Les médias pour adultes signalés par l'expéditeur restent masqués jusqu'à ce que la personne qui regarde les ouvre. Le blocage, la mise en sourdine et le signalement s'appliquent. Une image sexuelle non signalée provenant d'une personne déjà acceptée est montrée telle qu'elle a été envoyée, et son masquage par défaut est prévu.

Les types classés faibles

Le terrorisme, la haine, l'immigration illégale, les drogues et substances psychoactives, les armes à feu, les couteaux et autres armes, l'incitation ou l'aide au suicide et à l'automutilation grave, l'ingérence étrangère et la cruauté envers les animaux sont classés faibles. Chacun présente ici des facteurs de risque, comme les groupes, les messages privés et les diffusions en direct, mais aucun n'a de lien avec ce à quoi sert le service. Chacun est interdit par nos règles et supprimé sur signalement, et un signalement d'une menace pour la vie de quelqu'un passe en premier et est transmis aux autorités. Les contenus sexuels impliquant un animal sont interdits et sont traités comme de la pornographie extrême.

Autres contenus illégaux

Moyen, pris ensemble. Cela comprend la violation du droit d'auteur, comme des contenus payants copiés et partagés sans l'accord de leur auteur, et les contenus licites dans un pays et illicites dans un autre. Les plaintes relatives au droit d'auteur font l'objet d'une procédure propre, et un contenu jugé illicite dans un seul pays y est bloqué.

Mesures pour tous les types

• un bouton de signalement sur les profils, les messages, les images, les films, les publications, les commentaires, les événements, les directs, la discussion en direct, les groupes, les réservations et les avis, et un formulaire de contact pour toute personne sans compte
• les signalements les plus graves traités en premier : tout ce qui concerne une personne qui pourrait avoir moins de 21 ans, une personne montrée sans son accord, la contrainte, et une menace pour la vie
• un examen automatique de chaque profil et de chaque image de galerie au regard de nos règles écrites, qui approuve, refuse avec un motif que le membre peut lire, ou transmet à une personne ; un enfant possible est toujours transmis à une personne
• la suppression des contenus illégaux dès que nous en avons connaissance, une notification de la décision, de la règle sur laquelle elle repose et de la manière de former un recours, et un recours tranché par une personne
• des conditions et des politiques qui disent ce qui est interdit, en termes simples, en vingt et une langues

Mesures prévues

Ces mesures sont prévues. Aucune date n'est promise pour aucune d'entre elles.

• une vérification de l'âge que l'autorité de régulation reconnaît comme hautement efficace, avant les contenus pour adultes ou les messages privés pour les personnes au Royaume-Uni, sans demander de pièce d'identité
• la mise en attente de chaque téléversement que la vérification de protection de l'enfance signale automatiquement, avant qu'une personne ne l'examine
• la comparaison des téléversements avec des listes reconnues de contenus d'abus sexuels sur enfants connus et d'images intimes signalées
• la comparaison des liens avec une liste reconnue d'adresses de contenus d'abus sexuels sur enfants
• la vérification de chaque visage figurant sur une image fournie à l'AI Studio, comme pour les visages conservés chez nous
• le contrôle des adresses de retrait au regard de listes d'adresses liées à des sanctions ou à des activités criminelles
• le masquage par défaut des images sexuelles non signalées dans les messages
• des alertes au personnel pour les contenus susceptibles de montrer les actes que désigne la loi sur la pornographie extrême
• l'indication, dans chaque notification d'une décision, de la participation ou non d'outils automatisés
• un examen des fonctionnalités relationnelles sous l'angle de la contrainte
• une trace écrite de la taille et de la formation de l'équipe de modération, et un rapport régulier sur l'efficacité de chaque mesure

Qui est responsable, et réexamens

La personne responsable du service détient la présente évaluation, l'approuve et rend compte de ses conclusions et de l'avancement des mesures prévues. Elle est réexaminée au moins une fois tous les douze mois. Elle est de nouveau réexaminée, ou une nouvelle évaluation est réalisée avant le changement, chaque fois que :

• l'autorité de régulation modifie ses profils de risque ou ses lignes directrices d'une manière qui concerne ce service
• nous prévoyons un changement important, comme un nouveau moyen de communiquer, un changement de la recherche, des recommandations, des cartes ou de la distance, un changement de la manière dont l'âge ou les images sont vérifiés, un nouveau type de contenu payant ou de versement, ou un changement des règles de l'AI Studio relatives aux visages
• les signalements d'un type quelconque augmentent, un incident grave survient, ou l'autorité de régulation ou la police le demande
• le nombre de personnes utilisant le service au Royaume-Uni dépasse un seuil à partir duquel des mesures différentes s'appliquent

Enfants

Le service est destiné aux adultes de 21 ans ou plus, et n'est pas destiné à être utilisé par des enfants. La manière dont l'âge est demandé et vérifié, et dont les enfants sont tenus à l'écart des contenus pour adultes, est exposée dans le document « Âge minimum et vérification de l'âge ».

Modifications

La présente évaluation porte un numéro de version et une date. Lorsqu'elle est réexaminée, une nouvelle version est publiée, accompagnée d'une nouvelle synthèse.

Ceci est une traduction. C'est la version anglaise qui fait foi.