Vi kan inte ta bort det vi inte kan läsa.
uOS erhåller, från tid till annan, rapporter från regeringens hotlines (NCMEC, INHOPE medlem hotlines, AFA France, CSEA och andra) om innehåll som användare av uOS butik. Dessa rapporter innehåller i allmänhet perceptuella hashes (PhotoDNA eller motsvarande) och en användar pub eller kontoidentifierare.
Vi måste fatta ett beslut om dessa rapporter trots att vi inte kan verifiera innehållet de refererar till - våra servrar ser bara chiffertexter som vi inte kan dekryptera.
Vår policy
- Inga åtgärder på knappa rapporter.Vi tar ingen borttagning, avstängning eller varning på grundval av en overifierad CSAM-rapport. Den historiska falsk-positiva hastigheten för CSAM hash-databaser i operativ användning är icke-trivial: i Irlands operativa data 2024 visade sig cirka 11% av rapporterna vara felaktiga. Att bli blind på denna signal skulle innebära att förfölja oskyldiga användare.
- Åtgärder endast på rättsordning.Vi agerar endast på en CSAM-rapport när den stöds av en order eller ett beslut från en rättslig myndighet i en EU-medlemsstat (eller en stat som är bunden av en likvärdig standard enligt ett internationellt avtal), vederbörligen motiverad, begränsad i omfattning och tid och med förbehåll för rättslig granskning.
- Systematisk utmaning av overifierade rapporter.Vi tävlar systematiskt, före den relevanta administrativa eller rättsliga myndigheten, varje rapport som: underlåter att ange detaljer som är tillräckliga för att lokalisera innehållet; härstammar från en hotline som verkar utanför INHOPE-nätverket eller motsvarande internationella standarder; begär åtgärder oproportionerliga för den påstådda överträdelsen; eller förlitar sig på en teknisk process som uOS inte fungerar.
- Offentlig öppenhet.Varje borttagning, avstängning eller annan åtgärd som vidtas på CSAM-grunder rapporteras i vår årliga öppenhetsrapport, med ursprungsland, typ av auktoritet, datum och handlingsområde.
- Ingen frivillig övervakning.uOS utför ingen frivillig övervakning av användarinnehåll, ingen proaktiv skanning och ingen proaktiv CSAM-detektering på våra servrar.
Vad detta innebär i praktiken
- En hotline som skickar en hash utan rättslig ordning får ett erkännande, ingen åtgärd och en begäran om att få en rättslig ordning om den önskar handling.
- En rättslig ordning utlöser en snäv borttagning av det citerade innehållet och / eller upphävande av det citerade kontot, plus en publicerad post i vår nästa Transparency Report.
- En överlägsen order (t.ex. påverkar hela uOS, en hel användarbas eller allt innehåll i en viss kategori) bestrids innan den utförs helt eller delvis.
Varför denna policy
Alternativet - grossistborttagning på grundval av overifierade hascher - skulle göra uOS till en oaccountable enforcement arm av någon tillräckligt motiverad regering. En 11% falsk positiv hastighet, applicerad över miljontals användare, skulle resultera i tiotusentals omotiverade suspensioner årligen. Vi kommer inte att fungera på det sättet.