Jungtinės Karalystės neteisėto turinio rizikos vertinimas

Tai visa KinkEU atlikto rizikos, kad žmonės Jungtinėje Karalystėje čia susidurs su neteisėtu turiniu, vertinimo forma, parengta pagal Online Safety Act 2023 ir laikantis priežiūros institucijos paskelbtų rizikos vertinimo gairių. Joje dėl kiekvienos gairėse nurodytos neteisėto turinio rūšies nurodoma, kiek ji čia tikėtina, kokią žalą ji galėtų padaryti, ką dėl jos darome šiandien ir ką planuojame daryti. Trumpesnė santrauka paskelbta kaip dokumentas „Jungtinės Karalystės neteisėto turinio rizikos vertinimas: santrauka“ puslapyje „Teisinė informacija“.

Kaip atliktas šis vertinimas

Gairėse prašoma atlikti keturis žingsnius, ir šis dokumentas jų laikosi:

• suprasti vertintinas neteisėto turinio rūšis: aštuoniolika gairėse išvardytų prioritetinio neteisėto turinio rūšių ir kitą neteisėtą turinį
• įvertinti kiekvienos rūšies riziką pagal tai, kiek ji tikėtina ir kokią žalą galėtų padaryti, atsižvelgiant į tai, ką jau darome jai išvengti
• nuspręsti dėl priemonių, jas įdiegti ir saugoti įrašus
• teikti ataskaitas, peržiūrėti ir atnaujinti vertinimą

Kiekvienai rūšiai priskiriamas vienas iš keturių lygių: nereikšmingas, žemas, vidutinis arba aukštas. Lygis apibūdina paslaugą tokią, kokia ji yra šios versijos dieną, o ne tokią, kokios tikimės. Kai kas nors planuojama, bet dar nepadaryta, šiame dokumente tai nurodoma ir jokia data nenurodoma.

Ar paslauga teikiama Jungtinėje Karalystėje

Žmogui, kuris savo regionu pasirenka Jungtinę Karalystę, pranešama, kad paslauga ten neteikiama. Tai priklauso nuo paties žmogaus pasirinkto regiono, todėl kas nors Jungtinėje Karalystėje, pasirinkęs kitą šalį, vis tiek gali naudotis paslauga. Todėl šis vertinimas parengtas taip, lyg žmonės Jungtinėje Karalystėje naudotųsi KinkEU.

Kas yra KinkEU šio vertinimo tikslais

KinkEU yra paslauga 21 metų ar vyresniems suaugusiesiems. Didelė dalis to, kuo dalijamasi, yra suaugusiesiems skirta seksualinė medžiaga, kurią sukuria ją skelbiantys nariai. Neteisėto turinio rizikai reikšmingiausios šios dalys:

• nariai turi profilius su paveikslėliais, vardu ir amžiumi ir gali sekti vieni kitus bei draugauti
• nariai gali įkelti paveikslėlius ir filmus, komentuoti ir persiųsti tai, kuo dalijasi kiti
• nariai gali rašyti vieni kitiems privačiai ir grupėse, o kai kurios grupės yra labai didelės
• nariai gali transliuoti tiesiogiai ir skambinti. Didelio tiesioginio kambario vaizdas ir garsas užšifruoti taip, kad mes jų nematome, o iš transliacijos niekas nesaugoma
• narius galima rasti paieškoje, kai jų profilis peržiūrėtas, o žemėlapyje ir pagal atstumą tik tada, jei jie tai įjungia
• nariai moka vieni kitiems Keys už turinį, prenumeratas, parduotuvės prekes ir paslaugas, o uždirbtus Keys galima išsiimti po darbuotojų peržiūros
• patvirtinti paslaugų teikėjai gali skelbti paslaugas, įskaitant susitikimus gyvai
• nariai gali kurti paveikslėlius, filmus, dainas ir tekstą naudodami AI Studio

Kaip vertinome kiekvieną riziką

Dėl kiekvienos rūšies pirmiau nurodytas funkcijas lyginome su rizikos veiksniais, kuriuos priežiūros institucija nurodo tokioms paslaugoms kaip mūsų: suaugusiesiems skirta paslauga, socialinė žiniasklaida, žinučių siuntimas, grupės, tiesioginės transliacijos, prekyvietė, profiliai, buvimo vieta, paieška ir nuorodos. Įvertinome šiandien veikiančias priemones ir kiekvienos iš jų ribas. Išnagrinėjome, kaip nagrinėjami pranešimai ir ką yra paskelbusios priežiūros institucija ir kitos suaugusiesiems skirtos platformos.

Į šią versiją dar neįtraukėme duomenų iš mūsų pačių gautų pranešimų. Kitą kartą peržiūrint vertinimą tie duomenys įtraukiami, o lygiai, kuriuos jie pakeičia, pakeičiami.

Lygių santrauka

Aukštas:

• vaikų viliojimas
• vaikų seksualinės prievartos medžiaga paveikslėliuose ir filmuose
• intymių atvaizdų panaudojimas piktnaudžiaujant
• ekstremali pornografija
• suaugusiųjų seksualinis išnaudojimas

Vidutinis:

• nuorodos į vaikų seksualinės prievartos medžiagą
• priekabiavimas, persekiojimas, grasinimai ir užgauliojimas
• kontroliuojantis ar prievartinis elgesys
• prekyba žmonėmis
• sukčiavimas ir finansiniai nusikaltimai
• nusikalstamu būdu įgytos pajamos
• kibernetinis ekshibicionizmas
• kitas neteisėtas turinys, vertinant kartu

Žemas:

• terorizmas
• neapykanta
• neteisėta imigracija
• narkotikai ir psichoaktyviosios medžiagos
• šaunamieji ginklai, peiliai ir kiti ginklai
• skatinimas ar padėjimas nusižudyti ir rimtai susižaloti
• užsienio kišimasis
• žiaurus elgesys su gyvūnais

Vaikų seksualinis išnaudojimas ir prievarta

Bet koks vaiko atvaizdas čia draudžiamas, o minimalus amžius yra 21 metai.

Vaikų viliojimo rizika aukšta. Prisijungti galima pareiškus, kad esi 21 metų ar vyresnis, ir įvedus gimimo datą, o kol kas negalime patvirtinti amžiaus būdu, kurį priežiūros institucija pripažįsta labai veiksmingu. Tiesioginis veido patikrinimas, kuris atveria žinutes, skelbimą, transliavimą ir išlaidas, parodo, kad dalyvauja tikras žmogus; jis nevertina amžiaus. Kas šiandien mažina riziką: profilis nerodomas jokioje paieškoje, kol nėra peržiūrėtas, niekas nerodomas žemėlapyje, nebent pats to nori, pirmoji žinutė nepažįstamam žmogui yra prašymas, dėl kurio sprendžia kitas žmogus, profilio paveikslėliai tikrinami, ar juose nėra veidų, kurie gali būti jauni, o pranešimai apie žmogų, kuriam gali būti mažiau nei 21 metai, nagrinėjami pirmiausia. Lygis lieka aukštas, kol bus įdiegtas labai veiksmingas amžiaus patikrinimas.

Vaikų seksualinės prievartos medžiagos paveikslėliuose ir filmuose rizika aukšta, kaip gairės numato bet kuriai suaugusiesiems skirtai paslaugai, leidžiančiai įkelti turinį. Kiekvienas medžiagą įkeliantis narys patvirtina, kad visiems joje rodomiems žmonėms yra 21 metai ar daugiau. Kiekvienas paveikslėlis ir filmas nario bibliotekoje, kiekvienas paskelbtas paveikslėlis ir kiekvienas istorijos paveikslėlis automatiškai tikrinami, ar juose nėra veido, kuris gali būti vaiko, ir lyginami su žinoma prievartos medžiaga. Bibliotekos elementas niekada nerodomas niekam kitam, kol nėra patvirtintas, o radinys apie galimą vaiką visada perduodamas žmogui. Nustačius, kad medžiagoje rodomas vaikas, ji pašalinama, paskyra įšaldoma, įrodymai išsaugomi, o apie medžiagą pranešama institucijoms. Privačios žinutės, balso ir vaizdo žinutės, pokalbyje siunčiami failai ir tiesioginės transliacijos sąmoningai netikrinamos automatiškai, nes jos yra privačios; jos tvarkomos pagal pranešimus.

Nuorodų į vaikų seksualinės prievartos medžiagą rizika vidutinė. Be paskyros nieko negalima paskelbti ar išsiųsti. Nuorodos narių pačių puslapiuose peržiūrimos, tačiau nuorodos žinutėse ir įrašuose dar nelyginamos su žinomų prievartos adresų sąrašu.

Intymių atvaizdų panaudojimas piktnaudžiaujant

Aukšta. Dalytis intymiais kito žmogaus paveikslėliais arba juos kurti be jo sutikimo draudžiama. Kiekvienas įkėlėjas patvirtina, kad visi rodomi žmonės sutiko. Pranešimas, kad rodomas žmogus nesutiko, nagrinėjamas pirmiausia, o kai pranešimas patikimas, medžiaga pašalinama, kol ji tikrinama. Kito nario ankstesnio paveikslėlio kopija aptinkama ir atmetama. AI Studio tikro nario veidą galima naudoti tik su paties to nario leidimu, kurį jis gali bet kada atšaukti, o jį atšaukus ištrinama tai, kas su juo sukurta ir dar saugoma. Viskas, ką sukuria Studio, pažymima kaip sukurta naudojant AI. Įkeliamos medžiagos dar nelyginame su bendru intymių atvaizdų, apie kuriuos pranešta, sąrašu.

Ekstremali pornografija

Aukšta, nes paslauga sukurta aplink suaugusiesiems skirtą ir kink medžiagą. Turinio politika draudžia įstatyme nurodytus veiksmus: smaugimą, gniaužimą už gerklės ar dusinimą seksualinėje medžiagoje, veiksmus, galinčius sukelti sunkų sužalojimą, seksualinę medžiagą, kurioje dalyvauja gyvūnas arba mirusio žmogaus kūnas, ir suvaidintą lytinį aktą be sutikimo. Stiprią medžiagą turi pažymėti ją skelbiantis narys, darbuotojų pridėtos žymos narys negali pašalinti, o suaugusiesiems skirta medija lieka uždengta, kol žiūrovas nusprendžia ją pamatyti. Medžiaga pašalinama gavus pranešimą ir neberodoma šalyje, kurioje to reikalauja tos šalies įstatymai. Šių veiksmų dar neaptinkame automatiškai.

Suaugusiųjų seksualinis išnaudojimas ir prekyba žmonėmis

Suaugusiųjų seksualinio išnaudojimo rizika aukšta, o prekybos žmonėmis vidutinė. Organizuoti bet kurį iš jų draudžiama. Paslaugų teikėjai turi būti patvirtinti, prieš juos įtraukiant į sąrašą, o paties teikėjo mokėjimo gavimo būdas automatiškai tikrinamas, ar nėra sukčiavimo požymių. Susitikimus gyvai galima suorganizuoti ir už juos sumokėti už KinkEU ribų, kur mes jų nematome, todėl lygis aukštas. Pranešimai apie spaudimą, prievartą ar išnaudojimą nagrinėjami pirmiausia, o vienas žmogus gali turėti tik vieną paskyrą, todėl uždaryta paskyra negali tiesiog sugrįžti.

Priekabiavimas, persekiojimas, grasinimai ir užgauliojimas, taip pat kontroliuojantis ar prievartinis elgesys

Abiejų rizika vidutinė. Profiliais, privačiomis žinutėmis, tiesioginiu pokalbiu ir atstumu galima piktnaudžiauti siekiant rasti žmogų ir nusitaikyti į jį. Blokavimas taikomas paskyrai, o ne vardui, todėl naujas vardas jo neapeina, o vienas žmogus gali turėti tik vieną paskyrą. Nariai gali nutildyti žmones ir žodžius. Niekas nerodomas žemėlapyje, nebent pats to nori, o vieta rodoma miesto tikslumu, nebent narys pasirenka tikslesnę. Kai kurie nariai naudoja funkcijas santykiams, kuriuose vienas partneris turi teisę spręsti dėl kito paskyros; kiekvienas gali bet kada nutraukti tokį susitarimą, o pranešimas apie prievartą nagrinėjamas pirmiausia. Planuojama peržiūrėti, ar tomis funkcijomis nepiktnaudžiaujama.

Sukčiavimas, finansiniai nusikaltimai ir nusikalstamu būdu įgytos pajamos

Abiejų rizika vidutinė. Keys lieka KinkEU viduje ir negali būti tiesiogiai perduodami vieno nario kitam. Uždirbtų Keys išsiėmimą peržiūri darbuotojai, jam taikomi dienos, savaitės ir mėnesio limitai, jis gali būti atliktas tik vienu adresu, kurį narys išsaugojo ir patvirtino kodu ir kuris prieš naudojimą turėjo palaukti, o jį turi patvirtinti vienas darbuotojas ir išsiųsti kitas. Viena paskyra vienam žmogui ir tiesioginis veido patikrinimas apsunkina netikrų profilių kūrimą. Išsiėmimo adresų dar automatiškai netikriname pagal adresų, susijusių su sankcijomis ar nusikaltimais, sąrašus; tai planuojama.

Kibernetinis ekshibicionizmas

Vidutinė. Seksualiniai paveikslėliai tarp juos norinčių suaugusiųjų yra tai, kam skirta paslauga, todėl nepageidaujamas paveikslėlis tampa labiau tikėtinas. Paveikslėlis ar filmas pirmoje žinutėje nuo žmogaus, kurio gavėjas nepriėmė, rodomas tik kaip mažytė susiliejusi peržiūra, kol gavėjas nusprendžia jį pamatyti. Siuntėjo pažymėta suaugusiesiems skirta medija lieka uždengta, kol žiūrovas ją atidaro. Taikomas blokavimas, nutildymas ir pranešimai. Nepažymėtas seksualinis paveikslėlis nuo jau priimto žmogaus rodomas toks, koks išsiųstas, o jį uždengti pagal numatytuosius nustatymus planuojama.

Žemos rizikos rūšys

Terorizmas, neapykanta, neteisėta imigracija, narkotikai ir psichoaktyviosios medžiagos, šaunamieji ginklai, peiliai ir kiti ginklai, skatinimas ar padėjimas nusižudyti ir rimtai susižaloti, užsienio kišimasis ir žiaurus elgesys su gyvūnais įvertinti kaip žemos rizikos. Kiekviena iš jų čia turi rizikos veiksnių, pavyzdžiui, grupes, privačias žinutes ir tiesiogines transliacijas, tačiau nė viena nesusijusi su tuo, kam skirta paslauga. Kiekviena draudžiama mūsų taisyklėmis ir pašalinama gavus pranešimą, o pranešimas apie grėsmę kieno nors gyvybei nagrinėjamas pirmiausia ir perduodamas institucijoms. Seksualinė medžiaga, kurioje dalyvauja gyvūnas, draudžiama ir vertinama kaip ekstremali pornografija.

Kitas neteisėtas turinys

Vidutinė, vertinant kartu. Tai apima autorių teisių pažeidimus, pavyzdžiui, mokamą medžiagą, nukopijuotą ir išplatintą be jos kūrėjo sutikimo, ir turinį, kuris vienoje šalyje teisėtas, o kitoje neteisėtas. Skundai dėl autorių teisių nagrinėjami pagal atskirą tvarką, o turinys, pripažintas neteisėtu tik vienoje šalyje, toje šalyje neberodomas.

Priemonės visoms rūšims

• pranešimo mygtukas prie profilių, žinučių, paveikslėlių, filmų, įrašų, komentarų, renginių, transliacijų, tiesioginio pokalbio, grupių, užsakymų ir atsiliepimų, ir kontaktų forma visiems, neturintiems paskyros
• rimčiausi pranešimai nagrinėjami pirmiausia: viskas, kas susiję su žmogumi, kuriam gali būti mažiau nei 21 metai, žmogumi, rodomu be sutikimo, prievarta ir grėsme gyvybei
• automatinė kiekvieno profilio ir kiekvieno galerijos paveikslėlio peržiūra pagal mūsų rašytines taisykles, kuri patvirtina, atmeta nurodydama nariui suprantamą priežastį arba perduoda žmogui; galimas vaikas visada perduodamas žmogui
• neteisėto turinio pašalinimas, kai tik apie jį sužinome, pranešimas apie sprendimą, taisyklę, kuria jis grindžiamas, ir tai, kaip jį apskųsti, o skundą išsprendžia žmogus
• sąlygos ir politikos, kuriose paprastais žodžiais nurodyta, kas draudžiama, dvidešimt viena kalba

Planuojamos priemonės

Šios priemonės planuojamos. Nė vienai iš jų nežadama jokia data.

• amžiaus patikrinimas, kurį priežiūros institucija pripažįsta labai veiksmingu, prieš suaugusiesiems skirtą medžiagą ar privačias žinutes žmonėms Jungtinėje Karalystėje, neprašant asmens tapatybės dokumento
• kiekvienos įkeltos medžiagos, kurią vaikų saugos patikra automatiškai pažymi, sulaikymas, kol ją peržiūri žmogus
• įkeliamos medžiagos lyginimas su pripažintais žinomos vaikų seksualinės prievartos medžiagos ir intymių atvaizdų, apie kuriuos pranešta, sąrašais
• nuorodų lyginimas su pripažintu vaikų seksualinės prievartos adresų sąrašu
• kiekvieno veido paveikslėlyje, pateiktame AI Studio, tikrinimas, kaip tikrinami pas mus saugomi veidai
• išsiėmimo adresų tikrinimas pagal adresų, susijusių su sankcijomis ar nusikaltimais, sąrašus
• nepažymėtų seksualinių paveikslėlių žinutėse uždengimas pagal numatytuosius nustatymus
• signalai darbuotojams apie medžiagą, kurioje gali būti rodomi ekstremalios pornografijos įstatyme nurodyti veiksmai
• kiekviename pranešime apie sprendimą nurodymas, ar dalyvavo automatizuotos priemonės
• santykių funkcijų peržiūra dėl prievartos
• rašytinis moderavimo komandos dydžio ir mokymo įrašas ir reguliari ataskaita apie tai, kaip veiksmingai veikia kiekviena priemonė

Kas atsakingas ir peržiūros

Šį vertinimą tvarko paslaugos atsakingas asmuo, kuris jį tvirtina ir teikia ataskaitas apie jo išvadas ir planuojamų priemonių įgyvendinimo pažangą. Jis peržiūrimas ne rečiau kaip kartą per dvylika mėnesių. Jis peržiūrimas iš naujo arba prieš pakeitimą atliekamas naujas vertinimas, kai:

• priežiūros institucija pakeičia savo rizikos profilius ar gaires taip, kad tai susiję su šia paslauga
• planuojame reikšmingą pakeitimą, pavyzdžiui, naują bendravimo būdą, paieškos, rekomendacijų, žemėlapių ar atstumo pakeitimą, amžiaus ar paveikslėlių tikrinimo būdo pakeitimą, naują mokamo turinio ar išmokų rūšį arba AI Studio taisyklių dėl veidų pakeitimą
• padaugėja bet kokios rūšies pranešimų, įvyksta rimtas incidentas arba to paprašo priežiūros institucija ar policija
• paslauga Jungtinėje Karalystėje besinaudojančių žmonių skaičius viršija lygį, nuo kurio taikomos kitokios priemonės

Vaikai

Paslauga skirta 21 metų ar vyresniems suaugusiesiems ir nėra skirta vaikams. Kaip klausiama apie amžių ir kaip jis tikrinamas, ir kaip vaikai apsaugomi nuo suaugusiesiems skirtos medžiagos, aprašyta dokumente „Amžiaus reikalavimai ir amžiaus patikrinimas“.

Pakeitimai

Šis vertinimas turi versiją ir datą. Kai jis peržiūrimas, paskelbiama nauja versija kartu su nauja santrauka.

Tai vertimas. Galioja versija anglų kalba.