Non possiamo nascondere uno scanner in codice che puoi leggere.
La scansione lato client ispeziona il contenuto sul proprio dispositivo — prima che sia crittografato, o dopo che è decifrato. Viene spesso presentato come un modo per "proteggere i bambini senza rompere la crittografia". Quel frammento e' fuorviante. La scansione lato client non rompe matematicamente la crittografia end-to-end; lo bypassa. La crittografia continua a funzionare. L'ispezione avviene semplicemente in un luogo in cui il tuo messaggio esiste ancora in chiaro: il tuo dispositivo.
Come dovrebbe funzionare
- Un hash percettivo — un'impronta progettata per sopravvivere resizing, cropping e ri-encoding — è calcolato sul dispositivo per ogni immagine o file.
- Quella impronta è confrontata con un database di hash di materiale illegale noto, spedito al dispositivo.
- Le partite sono contrassegnate e segnalate — prima che il contenuto sia mai crittografato e inviato.
Cosa mostra la ricerca
La scansione lato client è stata esaminata da vicino dalla comunità crittografica, utilizzando il sistema NeuralHash proposto da Apple come caso di riferimento. I risultati sono coerenti, e tagliano entrambi i modi:
- Può essere evaso dalle persone che mira.Il lavoro peer-reviewed su NeuralHash ha mostrato che il calcolo hash non è robusto contro la manipolazione dell'immagine basata sul gradiente o sulla trasformazione: piccoli cambiamenti di rilevamento della sconfitta lasciando l'immagine immutata ad un occhio umano.
- Può essere armata contro le persone che non mira.La stessa linea di ricerca — e in seguito gli attacchi di collisione black-box contro NeuralHash e Microsoft PhotoDNA — ha mostrato un attaccante può perturbare un'immagine ordinaria fino a quando la sua impronta digitale non corrisponde a uno flagged. Un'immagine innocua può essere realizzata per scattare l'allarme sul dispositivo di qualcun altro.
- La lista non è verificabile per costruzione.Il dispositivo si confronta con le ciglia, non le immagini. Nessuno al di fuori dell'operatore può verificare a che cosa corrisponde un dato hash. Un sistema costruito per abbinare una categoria di contenuti corrisponderà a quello che la lista dice che corrisponde.
Apple ha proposto esattamente questo — NeuralHash, scansione iCloud Foto carica sul dispositivo — e, dopo consultazione, ha deciso di non procedere. Non ha mai spedito.
Perché è una backdoor
Una backdoor non è definita da intenti. È definito dalla capacità: un meccanismo attraverso il quale qualcuno diverso dai partecipanti può leggere il contenuto. La scansione lato client è proprio quel meccanismo, installato all'unico punto in cui la lettura è ancora possibile. Una volta che il gancio esiste, ciò che analizza è un'impostazione politica, non una ingegneria — e cambiamenti politici.
Un servizio crittografato end-to-end con uno scanner sul dispositivo non è un servizio crittografato end-to-end. Si tratta di un servizio di sorveglianza con un trasporto crittografato.
Perché uOS non spedirà uno
- Non c'è nessun binario per nasconderlo.uOS è un sistema operativo web: il client viene consegnato al tuo browser ed eseguito lì. Il codice che viene eseguito è il codice che è possibile aprire negli strumenti di sviluppo del browser. Uno scanner non poteva essere aggiunto tranquillamente — si sarebbe seduto nel codice si può leggere, su ogni singolo carico.
- Avrebbe violato il confine su cui tutto il sistema è costruito.Ogni app in uOS eredita un limite crittografato post-quantum, end-to-end. Uno scanner lato dispositivo è un buco in quel limite per ogni applicazione contemporaneamente, non solo per i messaggi.
- Non lo implementeremo, e contesteremo qualsiasi ordine.Qualsiasi meccanismo che ispezioni il contenuto prima della crittografia è una backdoor indipendentemente dal suo scopo dichiarato. Se un ordine richiede uno, cercheremo di rivedere giudiziaria prima di qualsiasi conformità.
Dove questo si collega a Chat Control
Nella sua forma più contestata, CSAR ("Chat Control 2.0") richiederebbe anche servizi crittografati end-to-end per rilevare materiale noto - che, per un servizio crittografato, può significare solo la scansione sul dispositivo. Questo è il motivo per cui il dibattito di scansione lato cliente e il dibattito Chat Control sono lo stesso dibattito. La nostra posizione sul regolamento segue direttamente dai fatti tecnici di questa pagina.