Vi kan inte ta bort det vi inte kan läsa.
uOS får då och då rapporter från statliga hotlines (NCMEC, INHOPE-medlemshotlines, AFA France, CSEA och andra) om innehåll som användare av uOS lagrar. Dessa rapporter innehåller vanligtvis perceptuella hashvärden (PhotoDNA eller motsvarande) och en user_pub-eller kontoidentifierare.
Vi måste fatta beslut om dessa rapporter även om vi inte kan verifiera innehållet de refererar till — våra servrar ser endast kryptotext vi inte kan dekryptera.
Vår policy
- Inga åtgärder på enbart rapporter.Vi vidtar inga borttagnings-, avstängnings-eller varningsåtgärder baserat på en overifierad CSAM-rapport. Den historiska falskpositiva frekvensen för CSAM-hashdatabaser i operativ användning är inte försumbar: i Irlands operativa data från 2024 visade sig cirka 11% av rapporterna vara felaktiga. Att agera blint på denna Signal skulle innebära att förfölja oskyldiga användare.
- Åtgärder endast på domstolsbeslut.Vi agerar på en CSAM-rapport endast när den stöds av ett beslut eller en dom från en rättslig myndighet i en EU-medlemsstat (eller en stat som är bunden av en motsvarande standard enligt ett internationellt avtal), vederbörligen motiverat, begränsat i omfattning och tid, och föremål för domstolsprövning.
- Systematiskt bestridande av overifierade rapporter.Vi bestrider systematiskt, inför relevant administrativ eller rättslig myndighet, varje rapport som: inte ger tillräckliga identifieringsuppgifter för att lokalisera innehållet; kommer från en hotline som verkar utanför INHOPE-nätverket eller motsvarande internationella standarder; begär åtgärder som är oproportionerliga i förhållande till den påstådda överträdelsen; eller förlitar sig på en teknisk process som uOS inte driver.
- Offentlig transparens.Varje borttagning, avstängning eller annan åtgärd som vidtas på CSAM-grunder rapporteras i vår årliga transparensrapport, med ursprungsland, typ av myndighet, datum och åtgärdens omfattning.
- Ingen frivillig övervakning.uOS utför ingen frivillig övervakning av användarinnehåll, ingen proaktiv skanning och ingen proaktiv CSAM-detektering på våra servrar.
Vad detta innebär i praktiken
- En hotline som skickar ett hashvärde utan domstolsbeslut får ett kvitto, ingen åtgärd och en begäran om att få ett domstolsbeslut om den önskar åtgärd.
- Ett domstolsbeslut utlöser en snävt avgränsad borttagning av det citerade innehållet och/eller avstängning av det citerade kontot, samt en publicerad post i vår nästa transparensrapport.
- Ett alltför brett beslut (t.ex. som påverkar hela uOS, en hel användarbas eller allt innehåll i en viss kategori) bestrids innan det verkställs helt eller delvis.
Varför denna policy
Alternativet — massborttagning baserad på overifierade hashvärden — skulle göra uOS till en oansvarig verkställande arm för vilken tillräckligt motiverad regering som helst. En falskpositiv frekvens på 11%, tillämpad på miljontals användare, skulle resultera i tiotusentals oberättigade avstängningar årligen. Vi kommer inte att arbeta på det sättet.