Nemůžeme schovat skener v kódu, který můžete přečíst.
Klient-side skenování kontroluje obsah na vašem vlastním zařízení - před tím, než je zašifrován, nebo po jeho dešifrování. Je často prezentován jako způsob, jak "chránit děti bez narušení šifrování". To rámování je zavádějící. Skenování na straně klienta nerozbije šifrování na konci až konec matematicky; obejde ho. Šifrování funguje. Kontrola se prostě odehrává na jednom místě, kde vaše zpráva stále existuje v prostém textu: vaše zařízení.
Jak to má fungovat?
- Vnímavý hash - otisk prstu určený k přežití měření, kopírování a překódování - je na vašem zařízení pro každý obrázek nebo soubor.
- Tento otisk je srovnáván s databází hashes známých nelegálních materiálů, které byly odeslány do zařízení.
- Zápalky jsou označeny a hlášeny - před tím, než je obsah někdy zašifrován a odeslán.
Co vlastně výzkum ukazuje
Klient-side skenování bylo důkladně prozkoumáno kryptografickou komunitou, pomocí Apple navrhovaný NeuralHash systém jako referenční případ. Nález je konzistentní a oba způsoby řežou:
- Může se tomu vyhnout lidé, na které se zaměřuje.Peer-recenzované práce na NeuralHash ukázal, haš výpočet není robustní proti gradient-nebo transformační-založené manipulace obrazu: malé změny detekci porážka při ponechání obrazu nezměněné na lidské oko.
- Může být vyzbrojena proti lidem, na které se nezaměřuje.Stejný směr výzkumu - a později black-box kolizní útoky proti jak NeuralHash a Microsoft PhotoDNA - ukázal útočník může proniknout obyčejný obraz, dokud jeho otisk prstu odpovídá označený jeden. Neškodný obrázek může být vytvořen, aby spustil alarm na zařízení někoho jiného.
- Seznam je nekontrolovatelný stavbou.Zařízení se srovnává s hashes, ne s obrázky. Nikdo mimo operátora nemůže ověřit, co daný hašiš odpovídá. Systém vytvořený tak, aby odpovídal jedné kategorii obsahu, bude odpovídat tomu, co je na seznamu.
Apple navrhl přesně toto - NeuralHash, skenování iCloud fotografie uploads na zařízení - a po konzultaci se rozhodl, že nebude pokračovat. Nikdy to neposlali.
Proč je to zadní vrátka?
Zadní vrátka nejsou určena úmyslem. Je definován schopností: mechanismem, kterým může obsah přečíst někdo jiný než účastníci. Skenování na straně klienta je přesně tento mechanismus, instalovaný v jediném místě, kde je čtení stále možné. Jakmile háček existuje, to, co skenuje je nastavení politiky, ne strojírenské - a politika se mění.
End-to-end šifrovaná služba se skenerem na zařízení není end-to-end šifrovaná služba. Je to sledovací služba s šifrovaným transportem.
Proč uOS nepošle jednu
- Neexistuje žádný binář, ve kterém by se to ukrylo.uOS je webový operační systém: klient je doručen do vašeho prohlížeče a proveden tam. Kód, který běží, je kód, který můžete otevřít ve vývojářských nástrojích prohlížeče. Skener nemohl být přidáván v tichosti - seděl by v kódu, který můžete přečíst, na každém jednotlivém zatížení.
- Porušilo by to hranici, na které je celý systém postaven.Každá aplikace v uOS zdědí jednu postkvantovou, end-to-end šifrovanou hranici. Deviceside scanner je díra v této hranici pro každou aplikaci najednou - nejen pro zprávy.
- Nebudeme ji provádět a budeme zpochybňovat jakýkoliv rozkaz.Jakýkoli mechanismus, který kontroluje obsah před šifrováním, je zadní vrátka bez ohledu na jeho určený účel. Pokud příkaz nějaký vyžaduje, budeme usilovat o soudní přezkum před jakýmkoli dodržováním.
Kde to souvisí s Chat Control
CSAR ("Chat Control 2.0") by ve své nejspornější formě vyžadovala i end-to-end šifrované služby pro detekci známého materiálu - což může pro šifrovanou službu znamenat pouze skenování na zařízení. Z tohoto důvodu je diskuse o skenování klientů a diskuse o Chat Control stejná. Náš postoj k nařízení vyplývá přímo z technických skutečností na této stránce.