No podemos eliminar lo que no podemos leer.
uOS recibe, de vez en cuando, informes de líneas directas gubernamentales (NCMEC, líneas directas miembros de INHOPE, AFA Francia, CSEA y otras) sobre contenido que los usuarios de uOS almacenan. Estos informes generalmente contienen hashes perceptuales (PhotoDNA o equivalente) y un identificador de user_pub o cuenta.
Tenemos que tomar una decisión sobre estos informes aunque no podamos verificar el contenido al que se refieren — nuestros servidores solo ven textos cifrados que no podemos descifrar.
Nuestra política
- Sin acción ante informes sin verificar.No tomamos ninguna acción de eliminación, suspensión o alerta basada en un informe de CSAM no verificado. La tasa histórica de falsos positivos de las bases de datos de hashes de CSAM en uso operativo no es trivial: en los datos operativos de Irlanda de 2024, aproximadamente el 11% de los informes resultaron ser erróneos. Actuar a ciegas sobre esta Signal significaría perseguir a usuarios inocentes.
- Acción solo por orden judicial.Actuamos sobre un informe de CSAM solo cuando está respaldado por una orden o decisión de una autoridad judicial de un Estado miembro de la Unión Europea (o un Estado sujeto a un estándar equivalente bajo un acuerdo internacional), debidamente motivada, limitada en alcance y tiempo, y sujeta a revisión judicial.
- Impugnación sistemática de informes no verificados.Impugnamos sistemáticamente, ante la autoridad administrativa o judicial correspondiente, cualquier informe que: no proporcione detalles de identificación suficientes para localizar el contenido; se origine en una línea directa que opere fuera de la red INHOPE o estándares internacionales equivalentes; solicite una acción desproporcionada en relación con la supuesta violación; o se base en un proceso tecnológico que uOS no opera.
- Transparencia pública.Cada eliminación, suspensión u otra acción tomada por motivos de CSAM se informa en nuestro Informe de Transparencia anual, con país de origen, tipo de autoridad, fecha y alcance de la acción.
- Sin monitoreo voluntario.uOS no realiza monitoreo voluntario del contenido de los usuarios, ni escaneo proactivo, ni detección proactiva de CSAM en nuestros servidores.
Qué significa esto en la práctica
- Una línea directa que envía un hash sin orden judicial recibe un acuse de recibo, ninguna acción y una solicitud de obtener una orden judicial si desea acción.
- Una orden judicial desencadena una eliminación de alcance limitado del contenido citado y/o la suspensión de la cuenta citada, además de una entrada publicada en nuestro próximo Informe de Transparencia.
- Una orden demasiado amplia (por ejemplo, que afecte a todo uOS, a toda la base de usuarios o a todo el contenido de una categoría particular) se impugna antes de ejecutarse en su totalidad o en parte.
Por qué esta política
La alternativa — eliminación masiva basada en hashes no verificados — convertiría a uOS en un brazo de ejecución sin rendición de cuentas de cualquier gobierno suficientemente motivado. Una tasa de falsos positivos del 11%, aplicada a millones de usuarios, resultaría en decenas de miles de suspensiones injustificadas anualmente. No operaremos de esa manera.