Non possiamo rimuovere ciò che non possiamo leggere.
uOS riceve, di tanto in tanto, segnalazioni da hotline governative (NCMEC, hotline membri di INHOPE, AFA France, CSEA e altre) relative a contenuti che gli utenti di uOS memorizzano. Queste segnalazioni contengono generalmente hash percettivi (PhotoDNA o equivalenti) e un identificatore user_pub o account.
Dobbiamo prendere una decisione su queste segnalazioni anche se non possiamo verificare il contenuto a cui si riferiscono: i nostri server vedono solo testi cifrati che non possiamo decifrare.
La nostra politica
- Nessuna azione basata su segnalazioni non verificate.Non intraprendiamo alcuna azione di rimozione, sospensione o allerta sulla base di una segnalazione CSAM non verificata. Il tasso storico di falsi positivi nei database di hash CSAM in uso operativo è non trascurabile: nei dati operativi dell'Irlanda del 2024, circa l'11% delle segnalazioni si è rivelato errato. Agire alla cieca su questo segnale significherebbe perseguitare utenti innocenti.
- Azioni solo su ordine giudiziario.Intraprendiamo un'azione su una segnalazione CSAM solo quando questa è supportata da un ordine o decisione di un'autorità giudiziaria di uno Stato membro UE (o di uno Stato vincolato da uno standard equivalente in base a un accordo internazionale), debitamente motivato, limitato nel tempo e nell'ambito e soggetto a revisione giudiziaria.
- Contestazione sistematica delle segnalazioni non verificate.Contestiamo sistematicamente, dinanzi all'autorità amministrativa o giudiziaria competente, qualsiasi segnalazione che: non fornisca dettagli identificativi sufficienti a localizzare il contenuto; provenga da una hotline che opera al di fuori della rete INHOPE o di standard internazionali equivalenti; richieda un'azione sproporzionata rispetto alla presunta violazione; o si basi su un processo tecnologico che uOS non utilizza.
- Trasparenza pubblica.Ogni rimozione, sospensione o altra azione intrapresa per motivi CSAM viene riportata nel nostro Rapporto di Trasparenza annuale, con Paese di origine, tipo di autorità, data e ambito dell'azione.
- Nessun monitoraggio volontario.uOS non effettua alcun monitoraggio volontario dei contenuti degli utenti, nessuna scansione proattiva né rilevamento proattivo di CSAM sui nostri server.
Cosa significa in pratica
- Una hotline che invia un hash senza un ordine giudiziario riceve una conferma di ricezione, nessuna azione e una richiesta di ottenere un ordine giudiziario se desidera un'azione.
- Un ordine giudiziario avvia una rimozione a scopo limitato del contenuto citato e/o la sospensione dell'account citato, oltre a un'entrata pubblicata nel nostro prossimo Rapporto di Trasparenza.
- Un ordine troppo ampio (ad esempio che riguardi l'intero uOS, un'intera base utenti o tutti i contenuti di una categoria particolare) viene contestato prima di essere eseguito in tutto o in parte.
Perché questa politica
L'alternativa — rimozioni su larga scala basate su hash non verificati — renderebbe uOS un braccio di applicazione non responsabile di qualsiasi governo sufficientemente motivato. Un tasso di falsi positivi dell'11%, applicato a milioni di utenti, comporterebbe decine di migliaia di sospensioni ingiustificate ogni anno. Noi non opereremo in questo modo.