Non possiamo nascondere uno scanner in un codice che puoi leggere.
La scansione lato client ispeziona i contenuti sul tuo dispositivo — prima che vengano cifrati, o dopo che vengono decifrati. Viene spesso presentata come un modo per "proteggere i bambini senza rompere la crittografia". Questa inquadratura è fuorviante. La scansione lato client non rompe matematicamente la crittografia end-to-end; la aggira. La crittografia continua a funzionare. L'ispezione avviene semplicemente nell'unico punto in cui il tuo messaggio esiste ancora in chiaro: il tuo dispositivo.
Come dovrebbe funzionare
- Un hash percettivo — un'impronta digitale progettata per sopravvivere a ridimensionamenti, ritagli e ricodifiche — viene calcolato sul tuo dispositivo per ogni immagine o file.
- Quell'impronta viene confrontata con un database di hash di materiale illegale noto, inviato al dispositivo.
- Le corrispondenze vengono segnalate e riportate — prima che il contenuto venga mai cifrato e inviato.
Cosa mostra realmente la ricerca
La scansione lato client è stata esaminata attentamente dalla comunità crittografica, usando il sistema NeuralHash proposto da Apple come caso di riferimento. I risultati sono coerenti e tagliano in entrambe le direzioni:
- Può essere elusa dalle persone a cui è rivolta.Il lavoro sottoposto a revisione paritaria su NeuralHash ha mostrato che il calcolo dell'hash non è robusto contro manipolazioni dell'immagine basate su gradienti o trasformazioni: piccole modifiche sconfiggono il rilevamento lasciando l'immagine invariata all'occhio umano.
- Può essere armata contro persone che non sono il bersaglio.La stessa linea di ricerca — e successivi attacchi di collisione black-box contro NeuralHash e Microsoft PhotoDNA — ha mostrato che un attaccante può perturbare un'immagine ordinaria finché la sua impronta non corrisponde a una segnalata. Un'immagine innocua può essere creata per far scattare l'allarme sul dispositivo di qualcun altro.
- La lista non è verificabile per costruzione.Il dispositivo confronta hash, non immagini. Nessuno al di fuori dell'operatore può verificare a cosa corrisponde un dato hash. Un sistema costruito per corrispondere a una categoria di contenuti corrisponderà a qualunque cosa la lista dice che corrisponde.
Apple ha proposto esattamente questo — NeuralHash, scansionando gli upload di iCloud Photos sul dispositivo — e, dopo consultazione, ha deciso di non procedere. Non è mai stato distribuito.
Perché è una backdoor
Una backdoor non è definita dall'intento. È definita dalla capacità: un meccanismo attraverso il quale qualcuno diverso dai partecipanti può leggere il contenuto. La scansione lato client è precisamente quel meccanismo, installato nell'unico punto in cui la lettura è ancora possibile. Una volta che l'aggancio esiste, ciò che scansiona è un'impostazione di policy, non di ingegneria — e le policy cambiano.
Un servizio crittografato end-to-end con uno scanner sul dispositivo non è un servizio crittografato end-to-end. È un servizio di sorveglianza con un trasporto crittografato.
Perché uOS non ne implementerà una
- Non c'è un binario in cui nasconderlo.uOS è un sistema operativo web: il client viene consegnato al tuo browser ed eseguito lì. Il codice che gira è il codice che puoi aprire negli strumenti di sviluppo del tuo browser. Uno scanner non potrebbe essere aggiunto silenziosamente — starebbe nel codice che puoi leggere, a ogni singolo caricamento.
- Violerebbe il confine su cui è costruito l'intero sistema.Ogni app in uOS eredita un unico confine post-quantistico, crittografato end-to-end. Uno scanner lato dispositivo è un buco in quel confine per tutte le app contemporaneamente — non solo per i messaggi.
- Non lo implementeremo e contesteremo qualsiasi ordine di farlo.Qualsiasi meccanismo che ispeziona il contenuto prima della crittografia è una backdoor indipendentemente dal suo scopo dichiarato. Dove un ordine lo richiede, cercheremo un riesame giudiziario prima di qualsiasi conformità.
Dove questo si collega a Chat Control
Nella sua forma più contestata, CSAR ("Chat Control 2.0") richiederebbe anche ai servizi crittografato end-to-end di rilevare materiale noto — che, per un servizio crittografato, può significare solo scansione sul dispositivo. Ecco perché il dibattito sulla scansione lato client e il dibattito su Chat Control sono lo stesso dibattito. La nostra posizione sulla regolamentazione segue direttamente dai fatti tecnici in questa pagina.