英國違法內容風險評估

這是 KinkEU 為 Online Safety Act 2023 所做、並依循監管機關公布的風險評估指引的評估完整版本，內容是英國境內的人在這裡接觸到違法內容的風險。對於指引所列的每一類違法內容，本文件說明它在這裡出現的可能性、它可能造成多大的傷害、我們目前採取的措施，以及我們計畫採取的措施。一份較短的摘要以「英國違法內容風險評估：摘要」文件的形式發布在法律條款頁面上。

本評估是如何進行的

指引要求四個步驟，本文件依序遵循：

• 了解需要評估的違法內容類別：指引所列的十八類優先違法內容，以及其他違法內容
• 依據每一類內容出現的可能性及其可能造成的傷害程度評估其風險，並將我們已經採取的預防措施納入考量
• 決定措施，加以實施，並保存紀錄
• 報告、檢討並更新評估

每一類都被評定為四個等級之一：可忽略、低、中或高。等級描述的是本服務在本版本日期時的實際狀況，而不是我們希望它將來達到的狀況。凡是已經計畫但尚未完成的事項，本文件都會說明，並且不提供日期。

是否對英國提供服務

選擇英國作為所在地區的人會被告知本服務不在英國提供。這取決於當事人自己對地區的選擇，因此身在英國但選擇其他國家的人仍然可以使用本服務。因此，本評估是以英國境內的人會使用 KinkEU 為前提撰寫的。

就本評估而言，KinkEU 是什麼

KinkEU 是一項供年滿 21 歲成年人使用的服務。分享的內容有很大一部分是成人性素材，由發布它的成員製作。對違法內容風險影響最大的部分是：

• 成員擁有附有圖片、名字和年齡的個人檔案，並可以彼此追蹤和加為好友
• 成員可以上傳圖片和影片、留言，並轉傳他人分享的內容
• 成員可以彼此私下一對一或在群組中傳送訊息，有些群組規模非常大
• 成員可以直播和通話。大型直播間的畫面和聲音經過加密，我們無法看到，直播的任何內容都不會被儲存
• 成員的個人檔案經審查後可以透過搜尋被找到，只有在本人開啟後才會出現在地圖上和依距離被找到
• 成員彼此以 Keys 為內容、訂閱、商店商品和服務付款，賺得的 Keys 經工作人員審查後可以提領
• 經核准的服務提供者可以上架服務，包括實體見面
• 成員可以用 AI Studio 製作圖片、影片、歌曲和文字

我們如何判斷每一項風險

對於每一類內容，我們將上述功能與監管機關針對類似本服務所列的風險因素進行對照：成人服務、社群媒體、訊息、群組、直播、交易市集、個人檔案、位置、搜尋和連結。我們將目前正在運作的措施以及每一項措施的限制納入計算。我們檢視了檢舉的處理方式，以及監管機關和其他成人平台已公布的資訊。

我們尚未將我們自己的檢舉數據加入本版本。下次檢討評估時，會加入這些數據，凡是因這些數據而改變的等級都會隨之修改。

等級摘要

高：

• 對兒童的誘騙
• 圖片和影片中的兒童性虐待素材
• 私密影像濫用
• 極端色情
• 對成年人的性剝削

中：

• 指向兒童性虐待素材的連結
• 騷擾、跟蹤、威脅與辱罵
• 控制或脅迫行為
• 人口販運
• 詐欺與金融犯罪
• 犯罪所得
• 網路露陰
• 其他違法內容，合併評估

低：

• 恐怖主義
• 仇恨
• 非法移民
• 毒品與精神活性物質
• 槍枝、刀械和其他武器
• 鼓勵或協助自殺與嚴重自我傷害
• 外國干預
• 虐待動物

兒童性剝削與性虐待

這裡禁止任何兒童的影像，最低年齡為 21 歲。

對兒童的誘騙為高。一個人可以聲明自己已滿 21 歲並輸入出生日期而加入，而我們目前還無法以監管機關認可為高度有效的方式確認年齡。用來開啟傳送訊息、發文、直播和消費功能的即時臉部檢查顯示確實有真人在場；它並不估計年齡。目前降低風險的做法：個人檔案在審查之前不會出現在任何搜尋中，除非當事人選擇，否則任何人都不會出現在地圖上，傳給陌生人的第一則訊息是一個由對方決定的請求，個人檔案圖片會被檢查是否有可能年紀很小的臉孔，關於可能未滿 21 歲者的檢舉優先處理。在高度有效的年齡檢查到位之前，等級維持為高。

圖片和影片中的兒童性虐待素材為高，這與指引對任何允許使用者上傳的成人服務的預期一致。每一位上傳內容的成員都要確認其中呈現的每一個人都已年滿 21 歲。成員媒體庫中的每一張圖片和每一部影片、每一張發布的圖片以及每一張限時動態圖片，都會被自動檢查是否有可能屬於兒童的臉孔，並與已知的虐待素材進行比對。媒體庫中的項目在獲得核准之前絕不會向任何其他人顯示，發現可能是兒童的情況一律交由人員處理。經查明呈現兒童的素材會被移除，帳號會被凍結，證據會被保存，該素材會被通報給主管機關。私人訊息、語音和視訊訊息、在聊天中傳送的檔案以及直播，依設計不進行自動檢查，因為它們是私人的；這些內容透過檢舉處理。

指向兒童性虐待素材的連結為中。沒有帳號就無法發布或傳送任何東西。成員自己頁面上的連結會經過審查，但訊息和貼文中的連結目前尚未與已知虐待素材網址的清單進行比對。

私密影像濫用

高。未經當事人同意而分享或製作其私密圖片是被禁止的。每一位上傳者都要確認其中呈現的每一個人都已同意。關於被呈現的人並未同意的檢舉優先處理，檢舉可信時，素材會在查核期間被撤下。另一位成員先前圖片的複本會被辨識並拒絕。在 AI Studio 中，真實成員的臉孔只有在該成員本人許可下才能使用，該成員可以隨時撤回許可，撤回許可會刪除以其製作且仍在儲存中的內容。Studio 製作的一切都會標示為以 AI 製作。我們目前尚未將上傳內容與已檢舉私密影像的共用清單進行比對。

極端色情

高，因為本服務是以成人和戀物素材為核心。內容政策禁止法律所列的行為：性素材中的勒頸、掐喉或窒息，可能造成嚴重傷害的行為，涉及動物或屍體的性素材，以及演出的未經同意。強烈素材必須由發布它的成員加上標示，工作人員加上的標示成員無法移除，成人媒體在觀看者選擇觀看之前一直被遮住。素材在被檢舉後移除，並在當地法律有此要求的國家被封鎖。我們目前尚未自動偵測這些行為。

對成年人的性剝削與人口販運

對成年人的性剝削為高，人口販運為中。安排其中任何一種都被禁止。服務提供者在上架之前必須經過核准，服務提供者自己的收款方式會被自動檢查是否有詐騙跡象。實體見面可以在 KinkEU 之外安排和付款，我們無法看到，這就是等級為高的原因。關於施壓、脅迫或剝削的檢舉優先處理，而且每個人只能擁有一個帳號，因此被關閉的帳號無法輕易回來。

騷擾、跟蹤、威脅與辱罵，以及控制或脅迫行為

兩者均為中。個人檔案、私人訊息、直播聊天和距離可能被濫用來尋找和鎖定某人。封鎖作用於帳號而不是名字，因此換新名字無法繞過，而且每個人只能擁有一個帳號。成員可以將人和字詞設為靜音。除非當事人選擇，否則任何人都不會出現在地圖上，除非成員選擇更精確的位置，否則位置只顯示到城市。有些成員在關係中使用一方對另一方帳號有發言權的功能；任何人都可以隨時結束這種約定，關於脅迫的檢舉優先處理。我們計畫檢討這些功能是否遭到濫用。

詐欺、金融犯罪與犯罪所得

兩者均為中。Keys 只在 KinkEU 內部使用，不能由一位成員直接給予另一位成員。賺得的 Keys 提領須經工作人員審查，設有每日、每週和每月上限，只能提領到成員儲存並以驗證碼確認、且在使用前經過等待期的唯一一個地址，並且需要一位工作人員核准、另一位工作人員送出。每人一個帳號以及即時臉部檢查使假個人檔案更難建立。我們目前尚未將提領地址與涉及制裁或犯罪的地址清單進行自動篩查；這已在計畫之中。

網路露陰

中。在願意接收的成年人之間傳送性圖片正是本服務的用途，這使得不想要的圖片更有可能出現。來自接收者尚未接受者的第一則訊息中的圖片或影片，只會以很小的模糊預覽顯示，直到接收者選擇觀看。寄件者標示的成人媒體在觀看者打開之前一直被遮住。封鎖、靜音和檢舉均適用。來自已被接受者的未標示性圖片會依原樣顯示，我們計畫預設將其遮住。

被判斷為低風險的類別

恐怖主義、仇恨、非法移民、毒品與精神活性物質、槍枝、刀械和其他武器、鼓勵或協助自殺與嚴重自我傷害、外國干預以及虐待動物，都被判斷為低風險。每一類在這裡都有風險因素，例如群組、私人訊息和直播，但沒有一類與本服務的用途有關聯。每一類都被我們的規則禁止，並在被檢舉後移除，關於威脅他人性命的檢舉優先處理並轉交主管機關。涉及動物的性素材被禁止，並以極端色情處理。

其他違法內容

合併評估為中。這包括侵害著作權，例如未經創作者同意而複製和分享的付費素材，以及在一個國家合法而在另一個國家違法的內容。著作權申訴有專屬的處理程序，僅在一個國家被認定違法的內容會在該國被封鎖。

適用於所有類別的措施

• 個人檔案、訊息、圖片、影片、貼文、留言、活動、直播、直播聊天、群組、預約和評價上的檢舉按鈕，以及給所有沒有帳號者使用的聯絡表單
• 最嚴重的檢舉最先處理：涉及可能未滿 21 歲者的任何事項、未經同意而被呈現的人、脅迫以及性命威脅
• 依據我們的書面規則對每一份個人檔案和每一張相簿圖片進行自動審查，結果為核准、附上成員可以閱讀的理由予以拒絕，或交由人員處理；可能是兒童的情況一律交由人員處理
• 一得知違法內容就予以移除，說明決定、其所依據的規則以及申訴方式，申訴由人員作出決定
• 以淺白的文字、以 21 種語言說明禁止事項的條款和政策

計畫中的措施

以下措施已在計畫之中。其中任何一項都不承諾日期。

• 在英國境內的人接觸成人素材或私人訊息之前，採用監管機關認可為高度有效的年齡檢查，且不要求提供身分證件
• 在人員查看之前，暫扣兒童安全檢查自動標記的每一項上傳內容
• 將上傳內容與公認的已知兒童性虐待素材清單以及已檢舉私密影像清單進行比對
• 將連結與公認的兒童性虐待素材網址清單進行比對
• 對提供給 AI Studio 的圖片中的每一張臉孔進行檢查，與對我們儲存的臉孔所做的檢查相同
• 將提領地址與涉及制裁或犯罪的地址清單進行篩查
• 預設遮住訊息中未標示的性圖片
• 針對可能呈現極端色情法律所列行為的素材，向工作人員發出提示
• 在每一份決定說明中載明是否有自動化工具參與
• 檢討關係功能是否涉及脅迫
• 對審核團隊的規模和訓練作成書面紀錄，並定期報告每一項措施的成效

負責人與檢討

本服務的負責人掌管本評估，核准本評估，並報告其結論以及計畫措施的進展。本評估至少每十二個月檢討一次。在下列任一情況下，會再次檢討，或在變更之前進行新的評估：

• 監管機關以涉及本服務的方式變更其風險概況或指引
• 我們計畫作出重大變更，例如新的溝通方式，對搜尋、推薦、地圖或距離的變更，對年齡檢查方式或圖片檢查方式的變更，新的付費內容或提領類型，或對 AI Studio 臉孔規則的變更
• 任何類別的檢舉增加、發生嚴重事件，或監管機關或警方提出要求
• 在英國使用本服務的人數成長超過適用不同措施的門檻

兒童

本服務供年滿 21 歲的成年人使用，並非設計給兒童使用。如何詢問和檢查年齡，以及如何使兒童遠離成人素材，詳見「成年資格與年齡驗證」文件。

變更

本評估標有版本和日期。檢討後，會發布新的版本，並同時發布新的摘要。

這是譯文。以英文版為準。