Birleşik Krallık yasa dışı içerik risk değerlendirmesi

Bu belge, KinkEU'nun, Birleşik Krallık'taki kişilerin burada yasa dışı içerikle karşılaşma riskine ilişkin olarak Online Safety Act 2023 için ve düzenleyici kurumun yayımladığı risk değerlendirmesi kılavuzuna uygun olarak yaptığı değerlendirmenin tam hâlidir. Kılavuzun adını verdiği her yasa dışı içerik türü için burada ne kadar olası olduğunu, ne kadar zarar verebileceğini, bugün buna karşı ne yaptığımızı ve ne yapmayı planladığımızı belirtir. Daha kısa bir özet, Yasal sayfasında Birleşik Krallık yasa dışı içerik risk değerlendirmesi: özet belgesi olarak yayımlanmıştır.

Bu değerlendirme nasıl yapıldı

Kılavuz dört adım ister ve bu belge bu adımları izler:

• değerlendirilecek yasa dışı içerik türlerini anlamak: kılavuzun saydığı on sekiz öncelikli yasa dışı içerik türü ve diğer yasa dışı içerikler
• her türün riskini, ne kadar olası olduğuna ve ne kadar zarar verebileceğine göre, onu önlemek için zaten yaptıklarımızı da hesaba katarak değerlendirmek
• önlemlere karar vermek, bunları uygulamaya koymak ve kayıt tutmak
• değerlendirmeyi raporlamak, gözden geçirmek ve güncellemek

Her türe dört düzeyden biri verilir: önemsiz, düşük, orta ya da yüksek. Düzey, hizmeti olmasını umduğumuz hâliyle değil, bu sürümün tarihindeki hâliyle tanımlar. Bir şey planlanmış ama henüz yapılmamışsa, bu belge bunu belirtir ve bunun için bir tarih vermez.

Birleşik Krallık'a hizmet verilip verilmediği

Bölgesi olarak Birleşik Krallık'ı seçen bir kişiye hizmetin orada sunulmadığı söylenir. Bu, kişinin kendi bölge seçimine dayanır; bu nedenle Birleşik Krallık'ta olup başka bir ülkeyi seçen biri hizmeti yine de kullanabilir. Bu değerlendirme bu yüzden, Birleşik Krallık'taki kişiler KinkEU'yu kullanıyormuş gibi yazılmıştır.

Bu değerlendirme açısından KinkEU nedir

KinkEU, 21 yaşında ya da daha büyük yetişkinler için bir hizmettir. Paylaşılanların büyük bölümü, onu yayımlayan üyeler tarafından üretilmiş yetişkin ve cinsel içeriktir. Yasa dışı içerik riski açısından en önemli bölümler şunlardır:

• üyelerin görseller, bir ad ve bir yaş içeren profilleri vardır ve birbirlerini takip edebilir ve arkadaş olabilirler
• üyeler görsel ve film yükleyebilir, yorum yapabilir ve başkalarının paylaştıklarını iletebilir
• üyeler birbirlerine özel olarak ve gruplar halinde yazabilir ve bazı gruplar çok büyüktür
• üyeler canlı yayın yapabilir ve görüşme yapabilir. Büyük bir canlı odanın görüntüsü ve sesi, bizim göremeyeceğimiz şekilde şifrelenir ve bir yayından hiçbir şey saklanmaz
• üyeler, profilleri incelendikten sonra arama yoluyla, harita üzerinde ve mesafeye göre ise yalnızca bunu açarlarsa bulunabilir
• üyeler içerik, abonelikler, mağaza ürünleri ve hizmetler için birbirlerine Keys ile ödeme yapar ve kazanılmış Keys personelin incelemesinden sonra çekilebilir
• onaylı hizmet verenler, yüz yüze görüşmeler dahil hizmetleri listeleyebilir
• üyeler AI Studio ile görsel, film, şarkı ve metin üretebilir

Her riski nasıl değerlendirdik

Her tür için yukarıdaki özellikleri, düzenleyici kurumun bizimki gibi hizmetler için saydığı risk etkenleriyle karşılaştırdık: bir yetişkin hizmeti, sosyal medya, mesajlaşma, gruplar, canlı yayın, bir pazar yeri, profiller, konum, arama ve bağlantılar. Bugün işleyen önlemleri ve her birinin sınırlarını hesaba kattık. Bildirimlerin nasıl ele alındığına ve düzenleyici kurumun ve diğer yetişkin platformlarının yayımladıklarına baktık.

Kendi bildirimlerimizden elde edilen rakamları bu sürüme henüz eklemedik. Değerlendirme bir sonraki gözden geçirildiğinde bu rakamlar eklenir ve değiştirdikleri her düzey değiştirilir.

Düzeylerin özeti

Yüksek:

• çocukların istismar amacıyla kandırılması
• görsellerde ve filmlerde çocuk cinsel istismarı içeriği
• mahrem görüntü istismarı
• aşırı pornografi
• yetişkinlerin cinsel sömürüsü

Orta:

• çocuk cinsel istismarı içeriğine bağlantılar
• taciz, ısrarlı takip, tehdit ve istismar
• kontrolcü ya da zorlayıcı davranış
• insan ticareti
• dolandırıcılık ve mali suçlar
• suç gelirleri
• siber teşhircilik
• diğer yasa dışı içerikler, birlikte ele alındığında

Düşük:

• terörizm
• nefret
• yasa dışı göç
• uyuşturucular ve psikoaktif maddeler
• ateşli silahlar, bıçaklar ve diğer silahlar
• intihara ve ciddi kendine zarar vermeye teşvik ya da yardım
• yabancı müdahale
• hayvanlara eziyet

Çocukların cinsel sömürüsü ve istismarı

Bir çocuğun her türlü görseli burada yasaktır ve asgari yaş 21'dir.

Çocukların istismar amacıyla kandırılması yüksektir. Bir kişi 21 yaşında ya da daha büyük olduğunu beyan edip bir doğum tarihi girerek katılabilir ve yaşı henüz düzenleyici kurumun son derece etkili kabul ettiği bir şekilde doğrulayamıyoruz. Mesajlaşmayı, gönderi paylaşmayı, canlı yayını ve harcama yapmayı açan canlı yüz kontrolü, gerçek bir kişinin orada olduğunu gösterir; yaş tahmini yapmaz. Bugün riski azaltanlar: bir profil incelenene kadar hiçbir aramada yer almaz, kendisi seçmedikçe hiç kimse haritada yer almaz, bir yabancıya gönderilen ilk mesaj karşı tarafın karar verdiği bir istektir, profil görselleri genç olabilecek yüzler açısından kontrol edilir ve 21 yaşından küçük olabilecek biri hakkındaki bildirimler önce ele alınır. Son derece etkili bir yaş kontrolü uygulamaya konana kadar düzey yüksek kalır.

Görsellerde ve filmlerde çocuk cinsel istismarı içeriği, kılavuzun yükleme yapılmasına izin veren her yetişkin hizmeti için beklediği gibi yüksektir. Yükleme yapan her üye, gösterilen herkesin 21 yaşında ya da daha büyük olduğunu onaylar. Bir üyenin kitaplığındaki her görsel ve film, paylaşılan her görsel ve her hikâye görseli, bir çocuğa ait olabilecek bir yüz açısından otomatik olarak kontrol edilir ve bilinen istismar içeriğiyle karşılaştırılır. Kitaplıktaki bir öğe onaylanmadan önce asla başka birine gösterilmez ve olası bir çocuk bulgusu her zaman bir insana gider. Bir çocuğu gösterdiği tespit edilen içerik kaldırılır, hesap dondurulur, kanıtlar saklanır ve içerik yetkililere bildirilir. Özel mesajlar, sesli ve görüntülü mesajlar, bir sohbette gönderilen dosyalar ve canlı yayınlar, özel oldukları için tasarım gereği otomatik olarak kontrol edilmez; bunlar bildirimler yoluyla ele alınır.

Çocuk cinsel istismarı içeriğine bağlantılar ortadır. Hesap olmadan hiçbir şey paylaşılamaz ya da gönderilemez. Üyelerin kendi sayfalarındaki bağlantılar incelenir, ancak mesajlardaki ve gönderilerdeki bağlantılar henüz bilinen istismar adreslerinin bir listesiyle karşılaştırılmamaktadır.

Mahrem görüntü istismarı

Yüksek. Birinin mahrem görsellerini rızası olmadan paylaşmak ya da üretmek yasaktır. Yükleme yapan herkes, gösterilen herkesin rıza gösterdiğini onaylar. Gösterilen bir kişinin rıza göstermediğine ilişkin bir bildirim önce ele alınır ve bildirim inandırıcı olduğunda içerik kontrol edilirken kaldırılır. Başka bir üyenin daha önceki bir görselinin kopyası tespit edilir ve reddedilir. AI Studio'da gerçek bir üyenin yüzü yalnızca o üyenin kendi izniyle kullanılabilir; üye bu izni istediği zaman geri çekebilir ve iznin geri çekilmesi, onunla üretilip hâlâ saklanan şeyleri siler. Studio'nun ürettiği her şey yapay zekâ ile yapıldığı şeklinde işaretlenir. Yüklemeleri bildirilmiş mahrem görsellerin ortak bir listesiyle henüz karşılaştırmıyoruz.

Aşırı pornografi

Yüksek, çünkü hizmet yetişkin ve fetiş içerik etrafında kurulmuştur. İçerik politikası, yasanın saydığı eylemleri yasaklar: cinsel içerikte boğma, boğazı sıkma ya da nefessiz bırakma, ciddi yaralanmaya yol açması muhtemel eylemler, bir hayvanı ya da bir cesedi içeren cinsel içerik ve sahnelenmiş rıza yokluğu. Sert içerik onu paylaşan üye tarafından işaretlenmelidir, personelin eklediği bir işaret üye tarafından kaldırılamaz ve yetişkin medyası, izleyen kişi onu görmeyi seçene kadar örtülü kalır. İçerik bildirim üzerine kaldırılır ve oradaki yasanın gerektirdiği bir ülkede erişime kapatılır. Bu eylemleri henüz otomatik olarak tespit etmiyoruz.

Yetişkinlerin cinsel sömürüsü ve insan ticareti

Yetişkinlerin cinsel sömürüsü yüksek, insan ticareti ise ortadır. İkisini de ayarlamak yasaktır. Hizmet verenler listelenmeden önce onaylanmalıdır ve bir hizmet verenin kendi ödeme alma yolu, dolandırıcılık belirtileri açısından otomatik olarak kontrol edilir. Yüz yüze görüşmeler, bizim göremediğimiz bir yerde, KinkEU dışında ayarlanıp ödenebilir; düzeyin yüksek olmasının nedeni budur. Baskı, zorlama ya da sömürü bildirimleri önce ele alınır ve bir kişi yalnızca bir hesaba sahip olabilir; böylece kapatılmış bir hesap kolayca geri dönemez.

Taciz, ısrarlı takip, tehdit ve istismar ile kontrolcü ya da zorlayıcı davranış

İkisi de ortadır. Profiller, özel mesajlar, canlı sohbet ve mesafe, birini bulmak ve hedef almak için kötüye kullanılabilir. Engelleme bir ada değil hesaba uygulanır; bu nedenle yeni bir ad onu aşamaz ve bir kişi yalnızca bir hesaba sahip olabilir. Üyeler kişileri ve kelimeleri sessize alabilir. Kendisi seçmedikçe hiç kimse haritada yer almaz ve üye daha yakınını seçmedikçe bir konum şehir düzeyinde gösterilir. Bazı üyeler, bir partnerin diğerinin hesabı üzerinde söz sahibi olduğu ilişkiler için özellikler kullanır; herkes böyle bir düzenlemeyi istediği zaman sona erdirebilir ve bir zorlama bildirimi önce ele alınır. Bu özelliklerin kötüye kullanım açısından gözden geçirilmesi planlanmaktadır.

Dolandırıcılık, mali suçlar ve suç gelirleri

İkisi de ortadır. Keys, KinkEU içinde kalır ve bir üyeden diğerine doğrudan verilemez. Kazanılmış Keys'in çekilmesi personel tarafından incelenir, günlük, haftalık ve aylık sınırlara tabidir, yalnızca üyenin kaydettiği, bir kodla onayladığı ve kullanılmadan önce bekletilmiş tek bir adrese gidebilir ve onaylanması için bir personelin, gönderilmesi için başka bir personelin işlem yapmasını gerektirir. Her kişi için tek bir hesap ve canlı yüz kontrolü sahte profilleri zorlaştırır. Para çekme adreslerini yaptırımlarla ya da suçla bağlantılı adres listelerine karşı henüz otomatik olarak taramıyoruz; bu planlanmaktadır.

Siber teşhircilik

Orta. İsteyen yetişkinler arasındaki cinsel görseller hizmetin amacıdır ve bu, istenmeyen bir görseli daha olası kılar. Alıcının kabul etmediği birinden gelen ilk mesajdaki bir görsel ya da film, alıcı onu görmeyi seçene kadar yalnızca küçük, bulanık bir önizleme olarak gösterilir. Gönderenin işaretlediği yetişkin medyası, izleyen kişi onu açana kadar örtülüdür. Engelleme, sessize alma ve bildirme uygulanır. Daha önce kabul edilmiş birinden gelen işaretlenmemiş bir cinsel görsel gönderildiği gibi gösterilir ve bunun varsayılan olarak örtülmesi planlanmaktadır.

Düşük değerlendirilen türler

Terörizm, nefret, yasa dışı göç, uyuşturucular ve psikoaktif maddeler, ateşli silahlar, bıçaklar ve diğer silahlar, intihara ve ciddi kendine zarar vermeye teşvik ya da yardım, yabancı müdahale ve hayvanlara eziyet düşük düzeyde değerlendirilmiştir. Her birinin burada gruplar, özel mesajlar ve canlı yayınlar gibi risk etkenleri vardır, ancak hiçbirinin hizmetin amacıyla bir bağlantısı yoktur. Her biri kurallarımızca yasaklanmıştır ve bildirim üzerine kaldırılır ve birinin hayatına yönelik bir tehdide ilişkin bildirim önce ele alınır ve yetkililere iletilir. Bir hayvanı içeren cinsel içerik yasaktır ve aşırı pornografi olarak ele alınır.

Diğer yasa dışı içerikler

Birlikte ele alındığında orta. Buna, üreticisinin rızası olmadan kopyalanıp paylaşılan ücretli içerik gibi telif hakkı ihlalleri ve bir ülkede yasal, başka bir ülkede yasa dışı olan içerik dahildir. Telif hakkı şikâyetlerinin kendi süreci vardır ve yalnızca bir ülkede yasa dışı bulunan içerik orada erişime kapatılır.

Tüm türler için önlemler

• profillerde, mesajlarda, görsellerde, filmlerde, gönderilerde, yorumlarda, etkinliklerde, canlı yayınlarda, canlı sohbette, gruplarda, rezervasyonlarda ve değerlendirmelerde bir bildirme düğmesi ve hesabı olmayan herkes için bir iletişim formu
• en ciddi bildirimlerin önce ele alınması: 21 yaşından küçük olabilecek biriyle ilgili her şey, rızası olmadan gösterilen bir kişi, zorlama ve hayata yönelik bir tehdit
• her profilin ve her galeri görselinin yazılı kurallarımıza göre otomatik olarak incelenmesi; bu inceleme onaylar, üyenin okuyabileceği bir gerekçeyle reddeder ya da bir insana gönderir; olası bir çocuk her zaman bir insana gider
• yasa dışı içeriğin öğrenildiği anda kaldırılması, kararın, dayandığı kuralın ve nasıl itiraz edileceğinin bildirilmesi ve bir insan tarafından karara bağlanan bir itiraz
• neyin yasak olduğunu yirmi bir dilde, sade bir dille anlatan koşullar ve politikalar

Planlanan önlemler

Bunlar planlanmaktadır. Hiçbiri için bir tarih taahhüt edilmez.

• Birleşik Krallık'taki kişiler için yetişkin içeriğinden ya da özel mesajlardan önce, kimlik belgesi istenmeden, düzenleyici kurumun son derece etkili kabul ettiği bir yaş kontrolü
• çocuk güvenliği kontrolünün otomatik olarak işaretlediği her yüklemenin, bir insan bakmadan önce bekletilmesi
• yüklemelerin, bilinen çocuk cinsel istismarı içeriğinin ve bildirilmiş mahrem görsellerin tanınmış listeleriyle karşılaştırılması
• bağlantıların, çocuk cinsel istismarı adreslerinin tanınmış bir listesiyle karşılaştırılması
• AI Studio'ya verilen bir görseldeki her yüzün, bizde saklanan yüzlerde olduğu gibi kontrol edilmesi
• para çekme adreslerinin, yaptırımlarla ya da suçla bağlantılı adres listelerine karşı taranması
• mesajlardaki işaretlenmemiş cinsel görsellerin varsayılan olarak örtülmesi
• aşırı pornografi yasasının saydığı eylemleri gösterebilecek içerik için personele uyarılar
• her karar bildiriminde otomatik araçların sürece katılıp katılmadığının belirtilmesi
• ilişki özelliklerinin zorlama açısından gözden geçirilmesi
• moderasyon ekibinin büyüklüğüne ve eğitimine ilişkin yazılı bir kayıt ve her önlemin ne kadar iyi işlediğine ilişkin düzenli bir rapor

Sorumlu kişi ve gözden geçirmeler

Hizmetin sorumlu kişisi bu değerlendirmeyi yürütür, onaylar ve bulgularını ve planlanan önlemlerdeki ilerlemeyi raporlar. Değerlendirme en az on iki ayda bir gözden geçirilir. Aşağıdaki durumlarda yeniden gözden geçirilir ya da değişiklikten önce yeni bir değerlendirme yapılır:

• düzenleyici kurum, risk profillerini ya da kılavuzunu bu hizmeti ilgilendiren bir şekilde değiştirdiğinde
• yeni bir iletişim yolu, arama, öneriler, haritalar ya da mesafede bir değişiklik, yaşın ya da görsellerin nasıl kontrol edildiğinde bir değişiklik, yeni bir ücretli içerik ya da ödeme türü veya AI Studio'nun yüzlere ilişkin kurallarında bir değişiklik gibi önemli bir değişiklik planladığımızda
• herhangi bir türdeki bildirimler arttığında, ciddi bir olay yaşandığında ya da düzenleyici kurum veya polis istediğinde
• hizmeti Birleşik Krallık'ta kullanan kişilerin sayısı, farklı önlemlerin uygulandığı bir düzeyi aştığında

Çocuklar

Hizmet 21 yaşında ya da daha büyük yetişkinler içindir ve çocukların kullanması amaçlanmamıştır. Yaşın nasıl sorulduğu ve kontrol edildiği ve çocukların yetişkin içeriğinden nasıl uzak tutulduğu, Yaş uygunluğu ve yaş doğrulama belgesinde açıklanmıştır.

Değişiklikler

Bu değerlendirmenin bir sürüm numarası ve bir tarihi vardır. Gözden geçirildiğinde, yeni bir özetle birlikte yeni bir sürüm yayımlanır.

Bu bir çeviridir. Geçerli olan İngilizce sürümdür.