Evaluación de riesgos de contenidos ilegales en el Reino Unido

Esta es la versión completa de la evaluación que KinkEU ha hecho del riesgo de que las personas en el Reino Unido encuentren aquí contenidos ilegales, realizada en virtud de la Online Safety Act 2023 y conforme a las directrices publicadas por el organismo regulador sobre la evaluación de riesgos. Indica, para cada tipo de contenido ilegal que nombran las directrices, qué probabilidad tiene aquí, cuánto daño podría causar, qué hacemos hoy al respecto y qué tenemos previsto hacer. Un resumen más breve se publica como el documento «Evaluación de riesgos de contenidos ilegales en el Reino Unido: resumen», en la página Legal.

Cómo se hizo esta evaluación

Las directrices piden cuatro pasos, y este documento los sigue:

• comprender los tipos de contenido ilegal que deben evaluarse: los dieciocho tipos de contenido ilegal prioritario que enumeran las directrices, y otros contenidos ilegales
• evaluar el riesgo de cada tipo, según su probabilidad y el daño que podría causar, teniendo en cuenta lo que ya hacemos para prevenirlo
• decidir las medidas, ponerlas en marcha y dejar constancia de ellas
• informar sobre la evaluación, revisarla y actualizarla

A cada tipo se le asigna uno de cuatro niveles: insignificante, bajo, medio o alto. El nivel describe el servicio tal como es en la fecha de esta versión, no como esperamos que llegue a ser. Cuando algo está previsto y aún no se ha hecho, este documento lo dice y no indica fecha para ello.

Si se presta servicio en el Reino Unido

A una persona que elige el Reino Unido como su región se le informa de que el servicio no se presta allí. Eso depende de la propia elección de región de la persona, de modo que alguien en el Reino Unido que elige otro país puede seguir usando el servicio. Por ello, esta evaluación está redactada como si personas en el Reino Unido usaran KinkEU.

Qué es KinkEU, a efectos de esta evaluación

KinkEU es un servicio para personas adultas de 21 años o más. Gran parte de lo que se comparte es material para adultos y sexual, creado por los miembros que lo publican. Estas son las partes más relevantes para el riesgo de contenidos ilegales:

• los miembros tienen perfiles con imágenes, un nombre y una edad, y pueden seguirse y hacerse amigos
• los miembros pueden subir imágenes y películas, comentar y reenviar lo que otros comparten
• los miembros pueden escribirse en privado y en grupos, y algunos grupos son muy grandes
• los miembros pueden emitir en directo y hacer llamadas. La imagen y el sonido de una sala en directo grande están cifrados de modo que no podemos verlos, y no se guarda nada de una emisión
• los miembros pueden ser encontrados mediante la búsqueda una vez revisado su perfil, y en un mapa y por distancia solo si lo activan
• los miembros se pagan entre sí en Keys por contenidos, suscripciones, artículos de la tienda y servicios, y las Keys ganadas pueden retirarse tras una revisión del personal
• los proveedores aprobados pueden ofrecer servicios en los listados, incluidos encuentros en persona
• los miembros pueden crear imágenes, películas, canciones y textos con el AI Studio

Cómo valoramos cada riesgo

Para cada tipo, comparamos las funciones anteriores con los factores de riesgo que el organismo regulador enumera para servicios como el nuestro: un servicio para adultos, redes sociales, mensajería, grupos, emisión en directo, un mercado, perfiles, ubicación, búsqueda y enlaces. Tuvimos en cuenta las medidas que funcionan hoy y los límites de cada una. Examinamos cómo se tramitan las denuncias y lo que han publicado el organismo regulador y otras plataformas para adultos.

Todavía no hemos añadido a esta versión las cifras de nuestras propias denuncias. Cuando se revise de nuevo la evaluación, se añadirán esas cifras, y se cambiará cualquier nivel que modifiquen.

Resumen de los niveles

Alto:

• captación de menores con fines sexuales
• material de abuso sexual infantil en imágenes y películas
• abuso de imágenes íntimas
• pornografía extrema
• explotación sexual de adultos

Medio:

• enlaces a material de abuso sexual infantil
• acoso, acecho, amenazas e insultos
• conductas de control o coacción
• trata de seres humanos
• fraude y delitos financieros
• productos del delito
• ciberexhibicionismo
• otros contenidos ilegales, considerados en conjunto

Bajo:

• terrorismo
• odio
• inmigración ilegal
• drogas y sustancias psicoactivas
• armas de fuego, cuchillos y otras armas
• incitación o ayuda al suicidio y a las autolesiones graves
• injerencia extranjera
• maltrato animal

Explotación y abuso sexual infantil

Cualquier imagen de un menor está prohibida aquí, y la edad mínima es de 21 años.

La captación de menores con fines sexuales es de nivel alto. Una persona puede registrarse declarando que tiene 21 años o más e introduciendo una fecha de nacimiento, y todavía no podemos confirmar la edad de una forma que el organismo regulador acepte como altamente eficaz. La comprobación facial en directo que da acceso a la mensajería, a publicar, a emitir en directo y a gastar demuestra que hay una persona real presente; no estima la edad. Lo que reduce el riesgo hoy: un perfil no aparece en ninguna búsqueda hasta que se ha revisado, nadie está en el mapa salvo que lo elija, un primer mensaje a un desconocido es una solicitud sobre la que decide la otra persona, las fotos de perfil se comprueban en busca de caras que puedan ser jóvenes, y las denuncias sobre alguien que pueda tener menos de 21 años van primero. El nivel sigue siendo alto hasta que esté en funcionamiento una comprobación de la edad altamente eficaz.

El material de abuso sexual infantil en imágenes y películas es de nivel alto, como las directrices esperan de cualquier servicio para adultos que permita subir contenido. Todo miembro que sube contenido confirma que todas las personas que aparecen tienen 21 años o más. Cada imagen y cada película de la biblioteca de un miembro, cada imagen publicada y cada imagen de historia se comprueban automáticamente en busca de una cara que pueda ser la de un menor, y se comparan con material de abuso conocido. Un elemento de la biblioteca nunca se muestra a nadie más antes de ser aprobado, y la detección de un posible menor siempre pasa a una persona. El material que se determina que muestra a un menor se retira, la cuenta se congela, las pruebas se conservan y el material se comunica a las autoridades. Los mensajes privados, los mensajes de voz y de vídeo, los archivos enviados en un chat y las emisiones en directo no se comprueban automáticamente, por diseño, porque son privados; se tratan mediante denuncias.

Los enlaces a material de abuso sexual infantil son de nivel medio. No se puede publicar ni enviar nada sin una cuenta. Los enlaces en las páginas propias de los miembros se revisan, pero los enlaces en mensajes y publicaciones todavía no se comparan con una lista de direcciones de abuso conocidas.

Abuso de imágenes íntimas

Alto. Compartir o crear imágenes íntimas de alguien sin su consentimiento está prohibido. Toda persona que sube contenido confirma que todas las personas que aparecen dieron su consentimiento. Una denuncia de que una persona que aparece no dio su consentimiento se tramita primero, y el material se retira mientras se comprueba cuando la denuncia es creíble. Una copia de una imagen anterior de otro miembro se detecta y se rechaza. En el AI Studio, la cara de un miembro real solo puede usarse con el permiso de ese propio miembro, que puede retirarlo en cualquier momento, y retirarlo elimina lo que se creó con ella y sigue guardado. Todo lo que crea el Studio se marca como creado con IA. Todavía no comparamos el contenido subido con una lista compartida de imágenes íntimas denunciadas.

Pornografía extrema

Alto, porque el servicio gira en torno al material para adultos y kink. La política de contenidos prohíbe los actos que nombra la ley: el estrangulamiento, la asfixia o la sofocación en material sexual, los actos que probablemente causen lesiones graves, el material sexual con un animal o un cadáver, y la falta de consentimiento escenificada. El material fuerte debe marcarlo el miembro que lo publica, una marca añadida por el personal no puede retirarla el miembro, y el contenido multimedia para adultos permanece oculto hasta que quien lo ve elige verlo. El material se retira cuando se denuncia, y se bloquea en un país cuando la ley de ese país lo exige. Todavía no detectamos estos actos automáticamente.

Explotación sexual de adultos y trata de seres humanos

La explotación sexual de adultos es de nivel alto y la trata de seres humanos de nivel medio. Organizar cualquiera de ellas está prohibido. Los proveedores deben ser aprobados antes de aparecer en los listados, y la forma de cobro propia de un proveedor se comprueba automáticamente en busca de indicios de estafa. Los encuentros en persona pueden organizarse y pagarse fuera de KinkEU, donde no podemos verlos, y por eso el nivel es alto. Las denuncias de presión, coacción o explotación van primero, y una persona solo puede tener una cuenta, de modo que una cuenta cerrada no puede simplemente volver.

Acoso, acecho, amenazas e insultos, y conductas de control o coacción

Ambos son de nivel medio. Los perfiles, los mensajes privados, el chat en directo y la distancia pueden usarse indebidamente para encontrar a alguien y convertirlo en objetivo. El bloqueo se aplica a la cuenta y no a un nombre, de modo que un nombre nuevo no permite eludirlo, y una persona solo puede tener una cuenta. Los miembros pueden silenciar a personas y palabras. Nadie está en el mapa salvo que lo elija, y una ubicación se muestra a nivel de ciudad salvo que el miembro elija más precisión. Algunos miembros usan funciones para relaciones en las que una de las partes tiene voz sobre la cuenta de la otra; cualquiera puede poner fin a un acuerdo así en cualquier momento, y una denuncia de coacción va primero. Está prevista una revisión de esas funciones para detectar usos indebidos.

Fraude, delitos financieros y productos del delito

Ambos son de nivel medio. Las Keys permanecen dentro de KinkEU y no pueden darse directamente de un miembro a otro. Una retirada de Keys ganadas la revisa el personal, tiene límites diarios, semanales y mensuales, solo puede ir a una única dirección que el miembro guardó y confirmó con un código y que ha cumplido un período de espera antes de usarse, y necesita que un miembro del personal la apruebe y otro distinto la envíe. Una sola cuenta por persona y la comprobación facial en directo dificultan los perfiles falsos. Todavía no comprobamos automáticamente las direcciones de retirada frente a listas de direcciones vinculadas a sanciones o a delitos; está previsto.

Ciberexhibicionismo

Medio. Las imágenes sexuales entre adultos que las desean son la razón de ser del servicio, lo que hace más probable una no deseada. Una imagen o película en un primer mensaje de alguien a quien quien la recibe no ha aceptado se muestra solo como una diminuta vista previa difuminada hasta que quien la recibe elige verla. El contenido multimedia para adultos marcado por quien lo envía permanece oculto hasta que quien lo ve lo abre. Se aplican el bloqueo, el silenciamiento y la denuncia. Una imagen sexual sin marcar de alguien ya aceptado se muestra tal como se envió, y está previsto ocultarla por defecto.

Los tipos considerados de nivel bajo

El terrorismo, el odio, la inmigración ilegal, las drogas y sustancias psicoactivas, las armas de fuego, los cuchillos y otras armas, la incitación o la ayuda al suicidio y a las autolesiones graves, la injerencia extranjera y el maltrato animal se consideran de nivel bajo. Cada uno tiene aquí factores de riesgo, como los grupos, los mensajes privados y las emisiones en directo, pero ninguno tiene relación con aquello para lo que existe el servicio. Cada uno está prohibido por nuestras normas y se retira cuando se denuncia, y una denuncia de una amenaza para la vida de alguien va primero y se traslada a las autoridades. El material sexual con un animal está prohibido y se trata como pornografía extrema.

Otros contenidos ilegales

Medio, considerados en conjunto. Incluye la infracción de derechos de autor, como el material de pago copiado y compartido sin el consentimiento de quien lo creó, y los contenidos que son lícitos en un país e ilícitos en otro. Las reclamaciones por derechos de autor tienen su propio procedimiento, y los contenidos considerados ilícitos solo en un país se bloquean allí.

Medidas para todos los tipos

• un botón de denuncia en perfiles, mensajes, imágenes, películas, publicaciones, comentarios, eventos, directos, chat en directo, grupos, reservas y reseñas, y un formulario de contacto para cualquiera sin cuenta
• las denuncias más graves se atienden primero: todo lo relativo a alguien que pueda tener menos de 21 años, una persona que aparece sin su consentimiento, la coacción y una amenaza para la vida
• una revisión automática de cada perfil y de cada imagen de la galería conforme a nuestras normas escritas, que aprueba, rechaza con un motivo que el miembro puede leer, o pasa a una persona; un posible menor siempre pasa a una persona
• la retirada de los contenidos ilegales en cuanto tenemos conocimiento de ellos, una comunicación de la decisión, de la norma en la que se basa y de cómo recurrir, y un recurso que resuelve una persona
• condiciones y políticas que dicen lo que está prohibido, con palabras sencillas, en veintiún idiomas

Medidas previstas

Estas medidas están previstas. No se promete ninguna fecha para ninguna de ellas.

• una comprobación de la edad que el organismo regulador acepte como altamente eficaz, antes del material para adultos o de los mensajes privados para las personas en el Reino Unido, sin pedir un documento de identidad
• la retención de todo contenido subido que la comprobación de protección infantil señale automáticamente, antes de que lo mire una persona
• la comparación del contenido subido con listas reconocidas de material de abuso sexual infantil conocido y de imágenes íntimas denunciadas
• la comparación de enlaces con una lista reconocida de direcciones de abuso sexual infantil
• la comprobación de cada cara en una imagen entregada al AI Studio, como se hace con las caras guardadas con nosotros
• la comprobación de las direcciones de retirada frente a listas de direcciones vinculadas a sanciones o a delitos
• la ocultación por defecto de las imágenes sexuales sin marcar en los mensajes
• avisos al personal sobre material que pueda mostrar los actos que nombra la ley sobre pornografía extrema
• la indicación, en cada comunicación de una decisión, de si intervinieron herramientas automatizadas
• una revisión de las funciones de relación para detectar coacción
• un registro escrito del tamaño y la formación del equipo de moderación, y un informe periódico sobre la eficacia de cada medida

Quién es responsable, y revisiones

La persona responsable del servicio custodia esta evaluación, la aprueba e informa de sus conclusiones y del avance de las medidas previstas. Se revisa al menos una vez cada doce meses. Se revisa de nuevo, o se hace una nueva evaluación antes del cambio, siempre que:

• el organismo regulador cambie sus perfiles de riesgo o sus directrices de una forma que afecte a este servicio
• planeemos un cambio significativo, como una nueva forma de comunicarse, un cambio en la búsqueda, las recomendaciones, los mapas o la distancia, un cambio en cómo se comprueba la edad o cómo se comprueban las imágenes, un nuevo tipo de contenido de pago o de pago a miembros, o un cambio en las normas del AI Studio sobre las caras
• aumenten las denuncias de cualquier tipo, ocurra un incidente grave, o el organismo regulador o la policía lo pidan
• el número de personas que usan el servicio en el Reino Unido supere un nivel a partir del cual se aplican medidas diferentes

Menores

El servicio es para personas adultas de 21 años o más, y no está pensado para que lo usen menores. Cómo se pregunta y se comprueba la edad, y cómo se mantiene a los menores alejados del material para adultos, se expone en el documento «Edad mínima y verificación de la edad».

Cambios

Esta evaluación lleva un número de versión y una fecha. Cuando se revisa, se publica una nueva versión, junto con un nuevo resumen.

Esta es una traducción. La versión en inglés es la que rige.