Risikobewertung zu illegalen Inhalten im Vereinigten Königreich

Dies ist die vollständige Fassung der Bewertung von KinkEU, wie hoch das Risiko ist, dass Menschen im Vereinigten Königreich hier auf illegale Inhalte stoßen, erstellt für den Online Safety Act 2023 und gemäß dem veröffentlichten Leitfaden der Aufsichtsbehörde zur Risikobewertung. Sie legt für jede Art illegaler Inhalte, die der Leitfaden nennt, dar, wie wahrscheinlich sie hier ist, wie viel Schaden sie anrichten könnte, was wir heute dagegen tun und was wir zu tun planen. Eine kürzere Zusammenfassung ist als Dokument „Risikobewertung zu illegalen Inhalten im Vereinigten Königreich: Zusammenfassung“ auf der Seite Rechtliches veröffentlicht.

Wie diese Bewertung erstellt wurde

Der Leitfaden verlangt vier Schritte, und dieses Dokument folgt ihnen:

• die Arten illegaler Inhalte verstehen, die zu bewerten sind: die achtzehn Arten vorrangiger illegaler Inhalte, die der Leitfaden aufführt, und andere illegale Inhalte
• das Risiko jeder Art bewerten, danach, wie wahrscheinlich sie ist und wie viel Schaden sie anrichten könnte, unter Berücksichtigung dessen, was wir bereits zu ihrer Verhinderung tun
• über die Maßnahmen entscheiden, sie umsetzen und Aufzeichnungen darüber führen
• die Bewertung berichten, überprüfen und aktualisieren

Jede Art erhält eine von vier Stufen: vernachlässigbar, niedrig, mittel oder hoch. Die Stufe beschreibt den Dienst, wie er am Datum dieser Fassung ist, nicht wie wir hoffen, dass er sein wird. Wo etwas geplant und noch nicht umgesetzt ist, sagt dieses Dokument das und nennt dafür keinen Termin.

Ob das Vereinigte Königreich bedient wird

Einer Person, die das Vereinigte Königreich als ihre Region wählt, wird mitgeteilt, dass der Dienst dort nicht angeboten wird. Das beruht auf der eigenen Wahl der Region durch die Person, sodass jemand im Vereinigten Königreich, der ein anderes Land wählt, den Dienst dennoch nutzen kann. Diese Bewertung ist daher so verfasst, als ob Menschen im Vereinigten Königreich KinkEU nutzen.

Was KinkEU für diese Bewertung ist

KinkEU ist ein Dienst für Erwachsene ab 21 Jahren. Vieles, was geteilt wird, sind Inhalte für Erwachsene und sexuelle Inhalte, die von den Mitgliedern gemacht werden, die sie veröffentlichen. Diese Teile sind für das Risiko illegaler Inhalte am wichtigsten:

• Mitglieder haben Profile mit Bildern, einem Namen und einem Alter und können einander folgen und sich miteinander befreunden
• Mitglieder können Bilder und Filme hochladen, kommentieren und weiterleiten, was andere teilen
• Mitglieder können einander privat und in Gruppen schreiben, und manche Gruppen sind sehr groß
• Mitglieder können live streamen und Anrufe führen. Bild und Ton eines großen Live-Raums sind so verschlüsselt, dass wir sie nicht sehen können, und nichts aus einem Stream wird gespeichert
• Mitglieder können über die Suche gefunden werden, sobald ihr Profil geprüft wurde, und auf einer Karte und nach Entfernung nur, wenn sie das einschalten
• Mitglieder bezahlen einander in Keys für Inhalte, Abonnements, Shop-Artikel und Leistungen, und verdiente Keys können nach einer Prüfung durch das Personal ausgezahlt werden
• genehmigte Anbietende können Leistungen einstellen, auch Treffen vor Ort
• Mitglieder können mit dem AI Studio Bilder, Filme, Songs und Texte erstellen

Wie wir jedes Risiko beurteilt haben

Für jede Art haben wir die oben genannten Funktionen den Risikofaktoren gegenübergestellt, die die Aufsichtsbehörde für Dienste wie unseren aufführt: ein Dienst für Erwachsene, soziale Medien, Nachrichten, Gruppen, Livestreaming, ein Marktplatz, Profile, Standort, Suche und Links. Wir haben die Maßnahmen berücksichtigt, die heute wirken, und die Grenzen jeder einzelnen. Wir haben betrachtet, wie Meldungen bearbeitet werden und was die Aufsichtsbehörde und andere Plattformen für Erwachsene veröffentlicht haben.

Wir haben die Zahlen aus unseren eigenen Meldungen noch nicht in diese Fassung aufgenommen. Bei der nächsten Überprüfung der Bewertung werden diese Zahlen ergänzt, und jede Stufe, die sie verändern, wird geändert.

Übersicht der Stufen

Hoch:

• Grooming von Kindern
• Darstellungen des sexuellen Missbrauchs von Kindern in Bildern und Filmen
• Missbrauch intimer Bilder
• extreme Pornografie
• sexuelle Ausbeutung Erwachsener

Mittel:

• Links zu Darstellungen des sexuellen Missbrauchs von Kindern
• Belästigung, Stalking, Drohungen und Beleidigungen
• kontrollierendes oder nötigendes Verhalten
• Menschenhandel
• Betrug und Finanzdelikte
• Erträge aus Straftaten
• Cyberflashing
• andere illegale Inhalte, zusammengenommen

Niedrig:

• Terrorismus
• Hass
• illegale Einwanderung
• Drogen und psychoaktive Substanzen
• Schusswaffen, Messer und andere Waffen
• Ermutigung oder Beihilfe zur Selbsttötung und zu schwerer Selbstverletzung
• ausländische Einflussnahme
• Tierquälerei

Sexuelle Ausbeutung und sexueller Missbrauch von Kindern

Jedes Bild eines Kindes ist hier verboten, und das Mindestalter ist 21.

Grooming ist hoch eingestuft. Man kann beitreten, indem man erklärt, 21 oder älter zu sein, und ein Geburtsdatum angibt, und wir können das Alter noch nicht auf eine Weise bestätigen, die die Aufsichtsbehörde als hochwirksam anerkennt. Die Live-Gesichtsprüfung, die Nachrichten, Beiträge, Streams und Ausgaben freischaltet, zeigt, dass eine reale Person anwesend ist; sie schätzt kein Alter. Was das Risiko heute senkt: Ein Profil erscheint in keiner Suche, bis es geprüft wurde, niemand ist auf der Karte, außer er wählt es, eine erste Nachricht an eine fremde Person ist eine Anfrage, über die die andere Person entscheidet, Profilbilder werden auf Gesichter geprüft, die jung sein könnten, und Meldungen über jemanden, der unter 21 sein könnte, haben Vorrang. Die Stufe bleibt hoch, bis eine hochwirksame Altersprüfung eingeführt ist.

Darstellungen des sexuellen Missbrauchs von Kindern in Bildern und Filmen sind hoch eingestuft, wie es der Leitfaden für jeden Dienst für Erwachsene erwartet, der das Hochladen erlaubt. Jedes Mitglied, das etwas hochlädt, bestätigt, dass alle gezeigten Personen 21 oder älter sind. Jedes Bild und jeder Film in der Bibliothek eines Mitglieds, jedes veröffentlichte Bild und jedes Story-Bild wird automatisch auf ein Gesicht geprüft, das das eines Kindes sein könnte, und mit bekannten Missbrauchsdarstellungen abgeglichen. Ein Bibliothekselement wird niemandem sonst gezeigt, bevor es genehmigt ist, und ein Befund eines möglichen Kindes geht immer an einen Menschen. Material, bei dem festgestellt wird, dass es ein Kind zeigt, wird entfernt, das Konto wird eingefroren, die Beweise werden aufbewahrt, und das Material wird den Behörden gemeldet. Private Nachrichten, Sprach- und Videonachrichten, in einem Chat gesendete Dateien und Livestreams werden bewusst nicht automatisch geprüft, weil sie privat sind; sie werden über Meldungen bearbeitet.

Links zu Darstellungen des sexuellen Missbrauchs von Kindern sind mittel eingestuft. Ohne Konto kann nichts veröffentlicht oder gesendet werden. Links auf den eigenen Seiten der Mitglieder werden geprüft, aber Links in Nachrichten und Beiträgen werden noch nicht mit einer Liste bekannter Missbrauchsadressen abgeglichen.

Missbrauch intimer Bilder

Hoch. Intime Bilder von jemandem ohne dessen Zustimmung zu teilen oder zu erstellen ist verboten. Jede hochladende Person bestätigt, dass alle gezeigten Personen zugestimmt haben. Eine Meldung, dass eine gezeigte Person nicht zugestimmt hat, wird zuerst bearbeitet, und das Material wird während der Prüfung entfernt, wenn die Meldung glaubhaft ist. Eine Kopie eines früheren Bildes eines anderen Mitglieds wird erkannt und abgelehnt. Im AI Studio darf das Gesicht eines realen Mitglieds nur mit dessen eigener Erlaubnis verwendet werden, die es jederzeit widerrufen kann, und der Widerruf löscht, was damit erstellt wurde und noch gespeichert ist. Alles, was das Studio erstellt, ist als mit KI erstellt gekennzeichnet. Wir gleichen Uploads noch nicht mit einer gemeinsamen Liste gemeldeter intimer Bilder ab.

Extreme Pornografie

Hoch, weil der Dienst auf Inhalte für Erwachsene und Kink-Inhalte ausgerichtet ist. Die Inhaltsrichtlinie verbietet die Handlungen, die das Gesetz nennt: Strangulation, Würgen oder Ersticken in sexuellen Inhalten, Handlungen, die wahrscheinlich schwere Verletzungen verursachen, sexuelle Inhalte mit einem Tier oder einem Leichnam und gespielte fehlende Einwilligung. Starke Inhalte müssen von dem Mitglied gekennzeichnet werden, das sie veröffentlicht, eine vom Personal hinzugefügte Kennzeichnung kann das Mitglied nicht entfernen, und Medien für Erwachsene bleiben verdeckt, bis die betrachtende Person sie sehen will. Inhalte werden auf Meldung entfernt und in einem Land zurückgehalten, wenn das dortige Recht es verlangt. Wir erkennen diese Handlungen noch nicht automatisch.

Sexuelle Ausbeutung Erwachsener und Menschenhandel

Sexuelle Ausbeutung Erwachsener ist hoch und Menschenhandel mittel eingestuft. Beides anzubahnen ist verboten. Anbietende müssen genehmigt werden, bevor sie gelistet werden, und die eigene Zahlungsweise eines Anbietenden wird automatisch auf Anzeichen von Betrug geprüft. Treffen vor Ort können außerhalb von KinkEU vereinbart und bezahlt werden, wo wir sie nicht sehen können, weshalb die Stufe hoch ist. Meldungen über Druck, Zwang oder Ausbeutung haben Vorrang, und eine Person darf nur ein Konto haben, sodass ein geschlossenes Konto nicht einfach zurückkehren kann.

Belästigung, Stalking, Drohungen und Beleidigungen sowie kontrollierendes oder nötigendes Verhalten

Beides ist mittel eingestuft. Profile, private Nachrichten, Live-Chat und Entfernung können missbraucht werden, um jemanden zu finden und ins Visier zu nehmen. Blockieren gilt für das Konto und nicht für einen Namen, sodass ein neuer Name es nicht umgeht, und eine Person darf nur ein Konto haben. Mitglieder können Personen und Wörter stummschalten. Niemand ist auf der Karte, außer er wählt es, und ein Ort wird nur auf die Stadt genau angezeigt, sofern das Mitglied keine genauere Angabe wählt. Manche Mitglieder nutzen Funktionen für Beziehungen, in denen eine Seite über das Konto der anderen mitbestimmt; jede Person kann eine solche Vereinbarung jederzeit beenden, und eine Meldung über Zwang hat Vorrang. Eine Prüfung dieser Funktionen auf Missbrauch ist geplant.

Betrug, Finanzdelikte und Erträge aus Straftaten

Beides ist mittel eingestuft. Keys bleiben innerhalb von KinkEU und können nicht direkt von einem Mitglied an ein anderes gegeben werden. Eine Auszahlung verdienter Keys wird vom Personal geprüft, hat tägliche, wöchentliche und monatliche Grenzen, kann nur an eine einzige Adresse gehen, die das Mitglied gespeichert und mit einem Code bestätigt hat und die vor der Verwendung eine Wartezeit durchlaufen hat, und muss von einem Mitglied des Personals genehmigt und von einem anderen ausgeführt werden. Ein Konto pro Person und die Live-Gesichtsprüfung erschweren falsche Profile. Wir gleichen Auszahlungsadressen noch nicht automatisch mit Listen von Adressen ab, die mit Sanktionen oder Straftaten in Verbindung stehen; das ist geplant.

Cyberflashing

Mittel. Sexuelle Bilder zwischen Erwachsenen, die sie wollen, sind das, wofür der Dienst da ist, was ein unerwünschtes Bild wahrscheinlicher macht. Ein Bild oder Film in einer ersten Nachricht von jemandem, den die empfangende Person nicht angenommen hat, wird nur als winzige unscharfe Vorschau gezeigt, bis die empfangende Person es sehen will. Vom Absender gekennzeichnete Medien für Erwachsene bleiben verdeckt, bis die betrachtende Person sie öffnet. Blockieren, Stummschalten und Melden gelten. Ein nicht gekennzeichnetes sexuelles Bild von jemandem, der bereits angenommen wurde, wird so gezeigt, wie es gesendet wurde, und es standardmäßig zu verdecken ist geplant.

Die als niedrig eingestuften Arten

Terrorismus, Hass, illegale Einwanderung, Drogen und psychoaktive Substanzen, Schusswaffen, Messer und andere Waffen, Ermutigung oder Beihilfe zur Selbsttötung und zu schwerer Selbstverletzung, ausländische Einflussnahme und Tierquälerei werden als niedrig eingestuft. Jede dieser Arten hat hier Risikofaktoren, etwa Gruppen, private Nachrichten und Livestreams, aber keine hat einen Bezug zu dem, wofür der Dienst da ist. Jede ist durch unsere Regeln verboten und wird auf Meldung entfernt, und eine Meldung über eine Bedrohung für das Leben eines Menschen hat Vorrang und wird an die Behörden weitergegeben. Sexuelle Inhalte mit einem Tier sind verboten und werden als extreme Pornografie behandelt.

Andere illegale Inhalte

Mittel, zusammengenommen. Dazu gehören Urheberrechtsverletzungen, etwa bezahlte Inhalte, die ohne Zustimmung der Person, die sie gemacht hat, kopiert und geteilt werden, und Inhalte, die in einem Land rechtmäßig und in einem anderen rechtswidrig sind. Urheberrechtsbeschwerden haben ein eigenes Verfahren, und Inhalte, die nur in einem Land als rechtswidrig festgestellt werden, werden dort zurückgehalten.

Maßnahmen für jede Art

• eine Melden-Schaltfläche bei Profilen, Nachrichten, Bildern, Filmen, Beiträgen, Kommentaren, Veranstaltungen, Streams, Live-Chat, Gruppen, Buchungen und Bewertungen, und ein Kontaktformular für alle ohne Konto
• die schwersten Meldungen zuerst: alles über jemanden, der unter 21 sein könnte, eine ohne Zustimmung gezeigte Person, Zwang und eine Bedrohung für das Leben
• eine automatische Prüfung jedes Profils und jedes Galeriebildes anhand unserer schriftlichen Regeln, die genehmigt, mit einer für das Mitglied lesbaren Begründung ablehnt oder an einen Menschen weitergibt; ein mögliches Kind geht immer an einen Menschen
• Entfernung illegaler Inhalte, sobald wir davon wissen, eine Mitteilung der Entscheidung, der Regel, auf der sie beruht, und des Weges zum Einspruch, und ein Einspruch, über den ein Mensch entscheidet
• Bedingungen und Richtlinien, die in einfachen Worten und in einundzwanzig Sprachen sagen, was verboten ist

Geplante Maßnahmen

Diese Maßnahmen sind geplant. Für keine davon wird ein Termin zugesagt.

• eine Altersprüfung, die die Aufsichtsbehörde als hochwirksam anerkennt, vor Inhalten für Erwachsene oder privaten Nachrichten für Menschen im Vereinigten Königreich, ohne ein Ausweisdokument zu verlangen
• das Zurückhalten jedes Uploads, den die Kinderschutzprüfung automatisch markiert, bevor ein Mensch ihn ansieht
• der Abgleich von Uploads mit anerkannten Listen bekannter Darstellungen des sexuellen Missbrauchs von Kindern und gemeldeter intimer Bilder
• der Abgleich von Links mit einer anerkannten Liste von Adressen mit Darstellungen des sexuellen Missbrauchs von Kindern
• die Prüfung jedes Gesichts in einem Bild, das dem AI Studio gegeben wird, wie bei Gesichtern, die bei uns gespeichert sind
• der Abgleich von Auszahlungsadressen mit Listen von Adressen, die mit Sanktionen oder Straftaten in Verbindung stehen
• das standardmäßige Verdecken nicht gekennzeichneter sexueller Bilder in Nachrichten
• Hinweise an das Personal bei Inhalten, die die Handlungen zeigen könnten, die das Gesetz über extreme Pornografie nennt
• die Angabe in jeder Mitteilung einer Entscheidung, ob automatisierte Werkzeuge beteiligt waren
• eine Prüfung der Beziehungsfunktionen auf Zwang
• eine schriftliche Aufzeichnung über Größe und Schulung des Moderationsteams und ein regelmäßiger Bericht darüber, wie gut jede Maßnahme wirkt

Wer verantwortlich ist, und Überprüfungen

Die verantwortliche Person des Dienstes ist für diese Bewertung zuständig, genehmigt sie und berichtet über ihre Ergebnisse und den Fortschritt der geplanten Maßnahmen. Sie wird mindestens einmal alle zwölf Monate überprüft. Sie wird erneut überprüft, oder vor der Änderung wird eine neue Bewertung erstellt, immer wenn:

• die Aufsichtsbehörde ihre Risikoprofile oder ihren Leitfaden in einer Weise ändert, die diesen Dienst betrifft
• wir eine wesentliche Änderung planen, etwa eine neue Art der Kommunikation, eine Änderung an Suche, Empfehlungen, Karten oder Entfernung, eine Änderung daran, wie das Alter oder wie Bilder geprüft werden, eine neue Art bezahlter Inhalte oder Auszahlungen oder eine Änderung der Regeln des AI Studio zu Gesichtern
• Meldungen irgendeiner Art zunehmen, ein schwerer Vorfall eintritt oder die Aufsichtsbehörde oder die Polizei darum bittet
• die Zahl der Menschen, die den Dienst im Vereinigten Königreich nutzen, über eine Schwelle wächst, ab der andere Maßnahmen gelten

Kinder

Der Dienst ist für Erwachsene ab 21 Jahren und nicht für die Nutzung durch Kinder bestimmt. Wie das Alter abgefragt und geprüft wird und wie Kinder von Inhalten für Erwachsene ferngehalten werden, ist im Dokument „Mindestalter und Altersprüfung“ dargelegt.

Änderungen

Diese Bewertung trägt eine Version und ein Datum. Wenn sie überprüft wird, wird eine neue Version veröffentlicht, zusammen mit einer neuen Zusammenfassung.

Dies ist eine Übersetzung. Es gilt die englische Fassung.