Nemůžeme odstranit to, co nemůžeme přečíst.
uOS čas od času přijímá hlášení od vládních horkých linek (NCMEC, členské horké linky INHOPE, AFA France, CSEA a další) týkající se obsahu, který uživatelé uOS ukládají. Tato hlášení obvykle obsahují percepční hash (PhotoDNA nebo ekvivalent) a identifikátor user_pub nebo účtu.
Musíme o těchto hlášeních rozhodnout, i když nemůžeme ověřit obsah, na který odkazují — naše servery vidí pouze šifrovaný text, který nedokážeme dešifrovat.
Naše politika
- Žádná akce na základě holých hlášení.Neprovádíme žádné odstranění, pozastavení ani upozornění na základě neověřeného hlášení CSAM. Historická míra falešně pozitivních výsledků databází hash CSAM v provozním použití není zanedbatelná: v irských provozních datech z roku 2024 se přibližně 11 % hlášení ukázalo jako chybných. Jednat naslepo na tomto Signal by znamenalo pronásledovat nevinné uživatele.
- Akce pouze na základě soudního příkazu.Jednáme na základě hlášení CSAM pouze tehdy, když je podpořeno příkazem nebo rozhodnutím soudního orgánu členského státu EU (nebo státu vázaného rovnocenným standardem podle mezinárodní dohody), řádně odůvodněným, omezeným rozsahem a časem a podléhajícím soudnímu přezkumu.
- Systematické napadání neověřených hlášení.Systematicky napadáme před příslušným správním nebo soudním orgánem každé hlášení, které: neobsahuje identifikační údaje dostatečné k lokalizaci obsahu; pochází z horké linky fungující mimo síť INHOPE nebo rovnocenné mezinárodní standardy; požaduje akci nepřiměřenou údajnému porušení; nebo se spoléhá na technologický proces, který uOS neprovozuje.
- Veřejná transparentnost.Každé odstranění, pozastavení nebo jiná akce provedená z důvodů CSAM je uvedena v naší výroční zprávě o transparentnosti s uvedením země původu, typu orgánu, data a rozsahu akce.
- Žádné dobrovolné monitorování.uOS neprovádí žádné dobrovolné monitorování uživatelského obsahu, žádné proaktivní skenování ani proaktivní detekci CSAM na našich serverech.
Co to znamená v praxi
- Horká linka zasílající hash bez soudního příkazu obdrží potvrzení, žádnou akci a žádost o získání soudního příkazu, pokud si akci přeje.
- Soudní příkaz spustí úzce vymezené odstranění citovaného obsahu a/nebo pozastavení citovaného účtu plus zveřejněný záznam v naší příští zprávě o transparentnosti.
- Příliš široký příkaz (např. ovlivňující celý uOS, celou uživatelskou základnu nebo veškerý obsah určité kategorie) je napaden před jeho provedením v celém rozsahu nebo zčásti.
Proč tato politika
Alternativa — hromadné odstranění na základě neověřených hashů — by učinila uOS neodpovědnou vymáhací složkou jakékoli dostatečně motivované vlády. 11% míra falešně pozitivních výsledků aplikovaná na miliony uživatelů by vedla k desetitisícům neoprávněných pozastavení ročně. Takto fungovat nebudeme.