Valutazione del rischio di contenuti illegali nel Regno Unito

Questa è la versione completa della valutazione, svolta da KinkEU, del rischio che le persone nel Regno Unito incontrino qui contenuti illegali, effettuata ai sensi dell'Online Safety Act 2023 e secondo le linee guida sulla valutazione del rischio pubblicate dall'autorità di regolamentazione. Indica, per ogni tipo di contenuto illegale indicato dalle linee guida, quanto è probabile qui, quanto danno potrebbe causare, che cosa facciamo oggi al riguardo e che cosa prevediamo di fare. Una sintesi più breve è pubblicata come documento Valutazione del rischio di contenuti illegali nel Regno Unito: sintesi, nella pagina Note legali.

Come è stata svolta questa valutazione

Le linee guida chiedono quattro fasi, e questo documento le segue:

• comprendere i tipi di contenuti illegali da valutare: i diciotto tipi di contenuti illegali prioritari elencati nelle linee guida, e gli altri contenuti illegali
• valutare il rischio di ogni tipo, in base a quanto è probabile e a quanto danno potrebbe causare, tenendo conto di ciò che già facciamo per prevenirlo
• decidere le misure, attuarle e conservarne traccia
• riferire, riesaminare e aggiornare la valutazione

A ogni tipo è assegnato uno di quattro livelli: trascurabile, basso, medio o alto. Il livello descrive il servizio così com'è alla data di questa versione, non come speriamo che sia. Dove qualcosa è previsto e non ancora fatto, questo documento lo dice, e non indica alcuna data.

Se il Regno Unito è servito

A chi sceglie il Regno Unito come propria regione viene comunicato che il servizio non è fornito lì. Ciò dipende dalla scelta della regione fatta dalla persona stessa, quindi chi si trova nel Regno Unito e sceglie un altro paese può comunque usare il servizio. Questa valutazione è quindi redatta come se persone nel Regno Unito usassero KinkEU.

Che cos'è KinkEU, ai fini di questa valutazione

KinkEU è un servizio per persone adulte di almeno 21 anni. Gran parte di ciò che viene condiviso è materiale per adulti e sessuale, realizzato dai membri che lo pubblicano. Queste sono le parti più rilevanti per il rischio di contenuti illegali:

• i membri hanno profili con immagini, un nome e un'età, e possono seguirsi e stringere amicizia tra loro
• i membri possono caricare immagini e video, commentare e inoltrare ciò che altri condividono
• i membri possono scriversi in privato e in gruppo, e alcuni gruppi sono molto grandi
• i membri possono trasmettere in diretta e fare chiamate. L'immagine e il suono di una grande sala in diretta sono cifrati in modo che non possiamo vederli, e nulla di una diretta viene conservato
• i membri possono essere trovati tramite la ricerca una volta che il loro profilo è stato esaminato, e sulla mappa e in base alla distanza solo se lo attivano
• i membri si pagano tra loro in Keys per contenuti, abbonamenti, articoli del negozio e servizi, e le Keys guadagnate possono essere prelevate dopo un esame da parte del personale
• chi offre servizi, una volta approvato, può inserire servizi nell'elenco, compresi incontri di persona
• i membri possono creare immagini, video, brani musicali e testi con l'AI Studio

Come abbiamo valutato ogni rischio

Per ogni tipo abbiamo esaminato le funzioni indicate sopra rispetto ai fattori di rischio che l'autorità di regolamentazione elenca per servizi come il nostro: un servizio per adulti, social media, messaggistica, gruppi, dirette, un marketplace, profili, posizione, ricerca e link. Abbiamo considerato le misure in funzione oggi e i limiti di ciascuna. Abbiamo esaminato come vengono gestite le segnalazioni e ciò che l'autorità di regolamentazione e altre piattaforme per adulti hanno pubblicato.

Non abbiamo ancora aggiunto a questa versione i dati delle nostre segnalazioni. Al prossimo riesame della valutazione, quei dati saranno aggiunti, e qualsiasi livello che essi modifichino sarà modificato.

Sintesi dei livelli

Alto:

• adescamento di minori
• materiale pedopornografico in immagini e video
• abuso di immagini intime
• pornografia estrema
• sfruttamento sessuale di adulti

Medio:

• link a materiale pedopornografico
• molestie, stalking, minacce e insulti
• comportamenti di controllo o coercitivi
• tratta di esseri umani
• frode e reati finanziari
• proventi di reato
• cyberflashing
• altri contenuti illegali, considerati nel loro insieme

Basso:

• terrorismo
• odio
• immigrazione illegale
• droghe e sostanze psicoattive
• armi da fuoco, coltelli e altre armi
• istigazione o aiuto al suicidio e ad atti gravi di autolesionismo
• ingerenza straniera
• crudeltà verso gli animali

Sfruttamento e abuso sessuale di minori

Qualsiasi immagine di un minore è vietata qui, e l'età minima è 21 anni.

L'adescamento è di livello alto. Una persona può iscriversi dichiarando di avere almeno 21 anni e inserendo una data di nascita, e non possiamo ancora accertare l'età in un modo che l'autorità di regolamentazione riconosca come altamente efficace. Il controllo del volto dal vivo che sblocca i messaggi, la pubblicazione, le dirette e le spese mostra che è presente una persona reale; non stima l'età. Ciò che oggi riduce il rischio: un profilo non compare in nessuna ricerca finché non è stato esaminato, nessuno è sulla mappa a meno che non lo scelga, un primo messaggio a uno sconosciuto è una richiesta su cui decide l'altra persona, le immagini del profilo sono controllate alla ricerca di volti che possono essere giovani, e le segnalazioni su qualcuno che potrebbe avere meno di 21 anni hanno la precedenza. Il livello resta alto finché non sarà in funzione una verifica dell'età altamente efficace.

Il materiale pedopornografico in immagini e video è di livello alto, come le linee guida si aspettano per qualsiasi servizio per adulti che consente di caricare contenuti. Ogni membro che carica conferma che tutte le persone mostrate hanno almeno 21 anni. Ogni immagine e video nella libreria di un membro, ogni immagine pubblicata e ogni immagine di una storia sono controllati automaticamente alla ricerca di un volto che potrebbe essere quello di un minore, e confrontati con il materiale di abuso noto. Un elemento della libreria non viene mai mostrato ad altri prima di essere approvato, e un riscontro di un possibile minore passa sempre a una persona. Il materiale che risulta mostrare un minore viene rimosso, l'account viene congelato, le prove vengono conservate, e il materiale viene segnalato alle autorità. I messaggi privati, i messaggi vocali e video, i file inviati in una chat e le dirette non sono controllati automaticamente, per scelta, perché sono privati; sono gestiti tramite le segnalazioni.

I link a materiale pedopornografico sono di livello medio. Nulla può essere pubblicato o inviato senza un account. I link nelle pagine proprie dei membri vengono esaminati, ma i link nei messaggi e nei post non sono ancora confrontati con un elenco di indirizzi di abuso noti.

Abuso di immagini intime

Alto. Condividere o creare immagini intime di qualcuno senza il suo consenso è vietato. Ogni persona che carica conferma che tutte le persone mostrate hanno dato il loro consenso. Una segnalazione secondo cui una persona mostrata non ha dato il consenso viene trattata per prima, e il materiale viene rimosso durante la verifica quando la segnalazione è credibile. Una copia di un'immagine precedente di un altro membro viene individuata e rifiutata. Nell'AI Studio, il volto di un membro reale può essere usato solo con il permesso di quello stesso membro, che può revocarlo in qualsiasi momento, e la revoca cancella ciò che è stato creato con esso e che è ancora conservato. Tutto ciò che lo Studio crea è contrassegnato come creato con l'IA. Non confrontiamo ancora i caricamenti con un elenco condiviso di immagini intime segnalate.

Pornografia estrema

Alto, perché il servizio è costruito attorno al materiale per adulti e kink. Le regole sui contenuti vietano gli atti indicati dalla legge: strangolamento, soffocamento o asfissia nel materiale sessuale, atti che possono causare lesioni gravi, materiale sessuale che coinvolge un animale o un cadavere, e la mancanza di consenso simulata. Il materiale forte deve essere contrassegnato dal membro che lo pubblica, un contrassegno aggiunto dal personale non può essere rimosso dal membro, e i media per adulti restano coperti finché chi guarda non sceglie di vederli. Il materiale viene rimosso su segnalazione, e oscurato in un paese in cui la legge locale lo richiede. Non rileviamo ancora questi atti automaticamente.

Sfruttamento sessuale di adulti e tratta di esseri umani

Lo sfruttamento sessuale di adulti è di livello alto e la tratta di esseri umani di livello medio. Organizzare l'uno o l'altra è vietato. Chi offre servizi deve essere approvato prima di essere inserito nell'elenco, e il modo in cui chi offre servizi riceve i pagamenti è controllato automaticamente alla ricerca di segni di truffa. Gli incontri di persona possono essere organizzati e pagati al di fuori di KinkEU, dove non possiamo vederli, ed è per questo che il livello è alto. Le segnalazioni di pressioni, coercizione o sfruttamento hanno la precedenza, e una persona può avere un solo account, così un account chiuso non può semplicemente tornare.

Molestie, stalking, minacce e insulti, e comportamenti di controllo o coercitivi

Entrambi sono di livello medio. I profili, i messaggi privati, la chat dal vivo e la distanza possono essere usati in modo improprio per trovare e prendere di mira qualcuno. Il blocco si applica all'account e non a un nome, quindi un nuovo nome non lo aggira, e una persona può avere un solo account. I membri possono silenziare persone e parole. Nessuno è sulla mappa a meno che non lo scelga, e un luogo è mostrato al livello della città a meno che il membro non scelga una precisione maggiore. Alcuni membri usano funzioni per relazioni in cui un partner ha voce in capitolo sull'account dell'altro; chiunque può porre fine a un accordo di questo tipo in qualsiasi momento, e una segnalazione di coercizione ha la precedenza. È previsto un esame di queste funzioni riguardo agli usi impropri.

Frode, reati finanziari e proventi di reato

Entrambi sono di livello medio. Le Keys restano all'interno di KinkEU e non possono essere date direttamente da un membro a un altro. Un prelievo di Keys guadagnate è esaminato dal personale, ha limiti giornalieri, settimanali e mensili, può andare solo a un unico indirizzo che il membro ha salvato e confermato con un codice e che ha atteso prima dell'uso, e richiede che un membro del personale lo approvi e un altro diverso lo invii. Un solo account per persona e il controllo del volto dal vivo rendono più difficili i profili falsi. Non controlliamo ancora automaticamente gli indirizzi di prelievo rispetto a elenchi di indirizzi collegati a sanzioni o a reati; è previsto.

Cyberflashing

Medio. Le immagini sessuali tra adulti che le desiderano sono lo scopo del servizio, il che rende più probabile un'immagine indesiderata. Un'immagine o un video in un primo messaggio di qualcuno che il destinatario non ha accettato viene mostrato solo come una piccola anteprima sfocata finché il destinatario non sceglie di vederlo. I media per adulti contrassegnati dal mittente restano coperti finché chi guarda non li apre. Si applicano il blocco, la silenziatura e la segnalazione. Un'immagine sessuale non contrassegnata di qualcuno già accettato viene mostrata così come è stata inviata, ed è previsto di coprirla per impostazione predefinita.

I tipi valutati di livello basso

Terrorismo, odio, immigrazione illegale, droghe e sostanze psicoattive, armi da fuoco, coltelli e altre armi, istigazione o aiuto al suicidio e ad atti gravi di autolesionismo, ingerenza straniera e crudeltà verso gli animali sono valutati di livello basso. Ciascuno ha qui fattori di rischio, come i gruppi, i messaggi privati e le dirette, ma nessuno ha un legame con lo scopo del servizio. Ciascuno è vietato dalle nostre regole e viene rimosso su segnalazione, e una segnalazione di una minaccia alla vita di qualcuno ha la precedenza ed è trasmessa alle autorità. Il materiale sessuale che coinvolge un animale è vietato ed è trattato come pornografia estrema.

Altri contenuti illegali

Medio, considerati nel loro insieme. Ciò comprende la violazione del diritto d'autore, come il materiale a pagamento copiato e condiviso senza il consenso di chi lo ha realizzato, e i contenuti leciti in un paese e illeciti in un altro. I reclami sul diritto d'autore hanno una propria procedura, e i contenuti ritenuti illeciti in un solo paese sono oscurati in quel paese.

Misure per ogni tipo

• un pulsante di segnalazione su profili, messaggi, immagini, video, post, commenti, eventi, dirette, chat dal vivo, gruppi, prenotazioni e recensioni, e un modulo di contatto per chiunque non abbia un account
• le segnalazioni più gravi trattate per prime: qualsiasi cosa riguardi qualcuno che potrebbe avere meno di 21 anni, una persona mostrata senza consenso, la coercizione e una minaccia alla vita
• un esame automatico di ogni profilo e di ogni immagine della galleria rispetto alle nostre regole scritte, che approva, rifiuta con una motivazione che il membro può leggere, o passa a una persona; un possibile minore passa sempre a una persona
• la rimozione dei contenuti illegali appena ne veniamo a conoscenza, una comunicazione della decisione, della regola su cui si basa e di come presentare ricorso, e un ricorso deciso da una persona
• termini e regole che dicono che cosa è vietato, con parole semplici, in ventuno lingue

Misure previste

Queste misure sono previste. Per nessuna di esse è promessa una data.

• una verifica dell'età che l'autorità di regolamentazione riconosce come altamente efficace, prima del materiale per adulti o dei messaggi privati per le persone nel Regno Unito, senza chiedere un documento d'identità
• trattenere ogni caricamento che il controllo per la sicurezza dei minori segnala automaticamente, prima che una persona lo esamini
• confrontare i caricamenti con elenchi riconosciuti di materiale pedopornografico noto e di immagini intime segnalate
• confrontare i link con un elenco riconosciuto di indirizzi di materiale pedopornografico
• controllare ogni volto in un'immagine fornita all'AI Studio, come per i volti conservati presso di noi
• controllare gli indirizzi di prelievo rispetto a elenchi di indirizzi collegati a sanzioni o a reati
• coprire per impostazione predefinita le immagini sessuali non contrassegnate nei messaggi
• segnalazioni al personale per il materiale che potrebbe mostrare gli atti indicati dalla legge sulla pornografia estrema
• indicare in ogni comunicazione di una decisione se vi hanno preso parte strumenti automatizzati
• un esame delle funzioni per le relazioni riguardo alla coercizione
• una documentazione scritta delle dimensioni e della formazione del gruppo di moderazione, e un rapporto periodico su quanto bene funziona ogni misura

Chi è responsabile, e riesami

La persona responsabile del servizio detiene questa valutazione, la approva e riferisce i suoi risultati e lo stato di avanzamento delle misure previste. La valutazione è riesaminata almeno una volta ogni dodici mesi. Viene riesaminata di nuovo, o viene svolta una nuova valutazione prima della modifica, ogni volta che:

• l'autorità di regolamentazione modifica i propri profili di rischio o le proprie linee guida in un modo che riguarda questo servizio
• prevediamo una modifica significativa, come un nuovo modo di comunicare, una modifica alla ricerca, ai suggerimenti, alle mappe o alla distanza, una modifica al modo in cui si verifica l'età o si controllano le immagini, un nuovo tipo di contenuto a pagamento o di pagamento in uscita, o una modifica alle regole dell'AI Studio sui volti
• aumentano le segnalazioni di qualsiasi tipo, si verifica un incidente grave, o l'autorità di regolamentazione o la polizia lo chiedono
• il numero di persone che usano il servizio nel Regno Unito supera una soglia oltre la quale si applicano misure diverse

Minori

Il servizio è per persone adulte di almeno 21 anni e non è destinato all'uso da parte di minori. Come l'età viene chiesta e verificata, e come i minori vengono tenuti lontani dal materiale per adulti, è illustrato nel documento Età minima e verifica dell'età.

Modifiche

Questa valutazione ha una versione e una data. Quando viene riesaminata, viene pubblicata una nuova versione, insieme a una nuova sintesi.

Questa è una traduzione. Fa fede la versione inglese.