No podemos quitar lo que no podemos leer.
uOS recibe, de vez en cuando, informes de líneas telefónicas públicas (NCMEC, líneas telefónicas de emergencia miembros de INHOPE, AFA France, CSEA y otros) sobre contenidos que los usuarios de uOS almacenan. Estos informes generalmente contienen hashes perceptuales (PhotoDNA o equivalente) y un identificador usuario pub o cuenta.
Tenemos que tomar una decisión sobre estos informes a pesar de que no podemos verificar el contenido que hacen referencia, nuestros servidores sólo ven cifertextos que no podemos descifrar.
Nuestra política
- No hay acción sobre los informes desnudos.No adoptamos medidas de eliminación, suspensión o alerta sobre la base de un informe CSAM no verificado. La tasa histórica de falso positivo de las bases de datos de hash CSAM en uso operativo no estrivial: en los 2024 datos operativos de Irlanda, aproximadamente el 11% de los informes resultaron erróneos. Actuar ciego en esta señal significaría perseguir usuarios inocentes.
- Acción sólo en orden judicial.Actuamos en un informe de la CSAM sólo cuando está respaldado por una orden o decisión de una autoridad judicial de un Estado miembro de la UE (o un Estado vinculado por una norma equivalente en virtud de un acuerdo internacional), debidamente motivado, limitado en alcance y tiempo, y sujeto a revisión judicial.
- Desafío sistemático de informes no verificados.Comprobamos sistemáticamente, ante la autoridad administrativa o judicial pertinente, cualquier informe que: no proporcione datos de identificación suficientes para localizar el contenido; se origina de una línea directa que opera fuera de la red INHOPE o normas internacionales equivalentes; solicita medidas desproporcionadas a la presunta violación; o se basa en un proceso tecnológico que uOS no opera.
- Transparencia pública.En nuestro informe anual de transparencia, con país de origen, tipo de autoridad, fecha y alcance de acción, se informa de todas las medidas adoptadas por motivos de CSAM.
- No hay vigilancia voluntaria.uOS no realiza monitoreo voluntario del contenido del usuario, no escaneo proactivo ni detección de CSAM proactiva en nuestros servidores.
Lo que esto significa en la práctica
- Una línea telefónica directa que envía un hash sin una orden judicial recibe un reconocimiento, ninguna acción y una solicitud para obtener una orden judicial si desea acción.
- Una orden judicial desencadena una eliminación estrecha del contenido citado y/o suspensión de la cuenta citada, además de una entrada publicada en nuestro próximo Informe de Transparencia.
- Se impugna una orden general (por ejemplo, que afecta a toda la uOS, toda una base de usuario o todo el contenido de una categoría determinada) antes de ser ejecutada en su totalidad o en parte.
Por qué esta política
La alternativa, la eliminación al por mayor sobre la base de hashes no verificados, haría de uOS un brazo de ejecución incontable de cualquier gobierno suficientemente motivado. Una tasa positiva falsa del 11%, aplicada a través de millones de usuarios, daría lugar a decenas de miles de suspensiones injustificadas anualmente. No operaremos así.