Skener nemůžeme skrýt v kódu, který si můžete přečíst.
Skenování na straně klienta prohlíží obsah na vašem vlastním zařízení – před tím, než je zašifrován, nebo po jeho dešifrování. Často je prezentováno jako způsob, jak "chránit děti bez narušení šifrování". Toto rámování je zavádějící. Skenování na straně klienta matematicky nenarušuje end-to-end šifrování; obchází ho. Šifrování funguje dál. K prohlížení prostě dochází na jediném místě, kde vaše zpráva stále existuje v otevřené podobě: ve vašem zařízení.
Jak to má fungovat
- Na vašem zařízení se pro každý obrázek nebo soubor vypočítá percepční hash – otisk navržený tak, aby přežil změnu velikosti, oříznutí a překódování.
- Tento otisk se porovná s databází hashů známého nezákonného materiálu, která je dodána do zařízení.
- Shody jsou označeny a nahlášeny – dříve, než je obsah vůbec zašifrován a odeslán.
Co výzkum skutečně ukazuje
Skenování na straně klienta bylo podrobně zkoumáno kryptografickou komunitou, přičemž jako referenční případ byl použit navrhovaný systém NeuralHash od Applu. Zjištění jsou konzistentní a mají dvojí účinek:
- Lidé, na které je zaměřeno, se mu mohou vyhnout.Recenzovaná práce o NeuralHash ukázala, že výpočet hashů není odolný vůči manipulaci s obrázky založené na gradientech nebo transformacích: malé změny porazí detekci, zatímco obrázek zůstane pro lidské oko nezměněn.
- Může být zneužito proti lidem, na které není zaměřeno.Stejná linie výzkumu – a pozdější útoky kolizí typu black-box proti NeuralHash i Microsoft PhotoDNA – ukázala, že útočník může upravit obyčejný obrázek tak, aby jeho otisk odpovídal označenému. Nevinný obrázek může být vytvořen tak, aby spustil poplach na zařízení někoho jiného.
- Seznam je ze své podstaty neověřitelný.Zařízení porovnává hashe, ne obrázky. Nikdo mimo provozovatele nemůže ověřit, čemu daný hash odpovídá. Systém postavený na porovnávání jedné kategorie obsahu bude porovnávat to, co seznam říká, že porovnává.
Apple přesně toto navrhl – NeuralHash, skenování nahrávek iCloud Photos na zařízení – a po konzultacích se rozhodl nepokračovat. Nikdy nebyl nasazen.
Proč jsou to zadní vrátka
Zadní vrátka nejsou definována záměrem. Jsou definována schopností: mechanismus, jehož prostřednictvím může někdo jiný než účastníci číst obsah. Skenování na straně klienta je přesně takový mechanismus, nainstalovaný na jediném místě, kde je čtení stále možné. Jakmile háček existuje, to, co skenuje, je nastavení politiky, ne technické nastavení – a politika se mění.
Služba šifrováno end-to-end se skenerem v zařízení není služba šifrováno end-to-end. Je to sledovací služba se šifrovaným přenosem.
Proč uOS žádný nenabídne
- Neexistuje binárka, do které by se dal schovat.uOS je webový operační systém: klient je doručen do vašeho prohlížeče a tam spuštěn. Kód, který běží, je kód, který si můžete otevřít ve vývojářských nástrojích prohlížeče. Skener by nemohl být přidán potichu – byl by v kódu, který si můžete přečíst, při každém načtení.
- Porušil by hranici, na které je celý systém postaven.Každá aplikace v uOS dědí jednu hranici postkvantový, šifrováno end-to-end. Skener na straně zařízení je dírou v této hranici pro všechny aplikace najednou – nejen pro zprávy.
- Nebudeme jej implementovat a budeme se bránit jakémukoli nařízení.Jakýkoli mechanismus, který prohlíží obsah před zašifrováním, je zadními vrátky bez ohledu na deklarovaný účel. Pokud by nařízení vyžadovalo takový mechanismus, budeme před jakýmkoli vyhověním žádat o soudní přezkum.
Kde to souvisí se Chat Control
Ve své nejspornější podobě by CSAR ("Chat Control 2.0") vyžadoval, aby i služby šifrováno end-to-end detekovaly známý materiál – což u šifrované služby může znamenat pouze skenování na zařízení. Proto je debata o skenování na straně klienta a debata o Chat Control stejnou debatou. Náš postoj k nařízení vyplývá přímo z technických faktů na této stránce.