Vi kan inte dölja en skanner i kod du kan läsa.
Klientsidan skanning inspekterar innehåll på din egen enhet - innan det krypteras, eller efter det dekrypteras. Det presenteras ofta som ett sätt att "skydda barn utan att bryta kryptering". Den inramningen är vilseledande. Klientsidan skanning bryter inte end-to-end kryptering matematiskt; det kringgår det. Kryptering fortsätter att fungera. Inspektionen sker helt enkelt på en plats där ditt meddelande fortfarande finns i klartext: din enhet.
Hur det ska fungera
- En perceptuell hash - ett fingeravtryck som är utformat för att överleva resizing, beskärning och kodning - beräknas på din enhet för varje bild eller fil.
- Det fingeravtrycket jämförs mot en databas med hascher av känt olagligt material, som skickas till enheten.
- Matcher flaggas och rapporteras - innan innehållet någonsin krypteras och skickas.
Vad forskningen faktiskt visar
Klientsidan skanning har undersökts noggrant av kryptografiska gemenskapen, med hjälp av Apples föreslagna NeuralHash-system som referensfall. Resultaten är konsekventa, och de skär båda sätten:
- Det kan undgås av de människor som det riktar sig till.Peer-reviewed arbete på NeuralHash visade att hashberäkningen inte är robust mot gradient-eller transformationsbaserad bildmanipulation: små förändringar nederlagsdetektering medan du lämnar bilden oförändrad till ett mänskligt öga.
- Det kan väpnas mot människor som det inte riktar sig till.Samma forskningslinje - och senare attacker mot både NeuralHash och Microsoft PhotoDNA - visade att en angripare kan störa en vanlig bild tills dess fingeravtryck matchar en flaggad. En oskyldig bild kan utformas för att resa larmet på någon annans enhet.
- Listan är inte hörbar genom konstruktion.Enheten jämförs mot hash, inte bilder. Ingen utanför operatören kan verifiera vad en given hash motsvarar. Ett system byggt för att matcha en kategori av innehåll kommer att matcha vad listan säger att den matchar.
Apple föreslog exakt detta - NeuralHash, skanning iCloud Photos laddar upp på enheten - och efter samråd bestämde sig för att inte fortsätta. Det skickas aldrig.
Varför det är en bakdörr
En bakdörr definieras inte av avsikt. Det definieras av förmåga: en mekanism genom vilken någon annan än deltagarna kan läsa innehållet. Klientsidan skanning är just den mekanismen, installerad vid den enda punkt där läsning fortfarande är möjlig. När kroken finns, vad den skannar för är en policyinställning, inte en teknisk en - och politiska förändringar.
En end-to-end-krypterad tjänst med en skanner på enheten är inte en end-to-end-krypterad tjänst. Det är en övervakningstjänst med en krypterad transport.
Varför uOS inte skickar en
- Det finns ingen binär att gömma den i.uOS är ett webboperativsystem: klienten levereras till din webbläsare och utförs där. Koden som körs är koden du kan öppna i webbläsarens utvecklarverktyg. En skanner kunde inte läggas tyst - det skulle sitta i koden du kan läsa, på varje enskild belastning.
- Det skulle bryta gränsen hela systemet byggs på.Varje app i uOS ärver en post-quantum, end-to-end krypterad gräns. En enhetside scanner är ett hål i den gränsen för varje app på en gång - inte bara för meddelanden.
- Vi kommer inte att genomföra det, och vi kommer att bestrida någon order till.Varje mekanism som inspekterar innehåll innan kryptering är en bakdörr oavsett dess angivna syfte. Om en order kräver en, kommer vi att söka rättslig granskning innan någon efterlevnad.
Där detta ansluter till Chat Control
I sin mest omtvistade form skulle CSAR ("Chat Control 2.0") kräva att även end-to-end krypterade tjänster upptäcker känt material - vilket för en krypterad tjänst endast kan innebära att skanna på enheten. Det är därför klientsidan skanning debatt och Chat Control debatten är samma debatt. Vår position på förordningen följer direkt från de tekniska fakta på denna sida.