On ne peut pas cacher un scanner dans du code que vous pouvez lire.
La analyse côté client inspecte le contenu sur votre propre appareil — avant qu'il ne soit chiffré, ou après qu'il ait été déchiffré. Il est souvent présenté comme un moyen de « protéger les enfants sans casser le chiffrement ». Ce cadre est trompeur. La analyse côté client ne rompt pas mathématiquement le chiffrement de bout en bout ; elle le contourne. Le chiffrement continue de fonctionner. L'inspection se produit simplement au seul endroit où votre message existe toujours en texte clair : votre appareil.
Comment ça marche ?
- Un hachage perceptuel — une empreinte digitale conçue pour survivre au redimensionnement, au recadrage et au recodage — est calculé sur votre appareil pour chaque image ou fichier.
- Cette empreinte digitale est comparée à une base de données de hashes de matériel illégal connu, expédié à l'appareil.
- Les correspondances sont indiquées et signalées avant que le contenu ne soit chiffré et envoyé.
Ce que la recherche montre réellement
La communauté chiffrographique a examiné attentivement la analyse côté client en utilisant le système NeuralHash proposé par Apple comme cas de référence. Les résultats sont cohérents et ils réduisent les deux façons :
- Il peut être éludé par les gens qu'il cible.Les travaux par les pairs sur NeuralHash ont montré que le calcul du hachage n'est pas robuste contre la manipulation de l'image basée sur le gradient ou la transformation : de petits changements empêchent la détection tout en laissant l'image inchangée à l'œil humain.
- Elle peut être armée contre des personnes qu'elle ne vise pas.La même ligne de recherche — et plus tard les attaques de collisions en boîte noire contre NeuralHash et Microsoft PhotoDNA — a montré qu'un attaquant peut perturber une image ordinaire jusqu'à ce que ses empreintes digitales correspondent à une image marquée. Une image inoffensive peut être conçue pour déclencher l'alarme sur l'appareil de quelqu'un d'autre.
- La liste n'est pas vérifiable par construction.L'appareil se compare aux hashes, pas aux images. Personne en dehors de l'opérateur ne peut vérifier à quoi correspond un hachage donné. Un système construit pour correspondre à une catégorie de contenu correspond à tout ce que la liste dit qu'il correspond.
Apple a proposé exactement cela — NeuralHash, analyse iCloud Photos télécharger sur l'appareil — et, après consultation, a décidé de ne pas procéder. Il n'a jamais expédié.
Pourquoi c'est une porte dérobée
Une porte dérobée n'est pas définie par intention. Elle est définie par la capacité : un mécanisme par lequel quelqu'un d'autre que les participants peut lire le contenu. La analyse côté client est précisément ce mécanisme, installé au seul endroit où la lecture est encore possible. Une fois que l'hameçon existe, il s'agit d'un cadre de politique, et non d'un cadre d'ingénierie, et de changements de politique.
Un service chiffré de bout en bout avec un scanner sur l'appareil n'est pas un service chiffré de bout en bout. C'est un service de surveillance avec un transport chiffré.
Pourquoi uOS n'en expédiera pas un
- Il n'y a pas de binaire pour le cacher.uOS est un système d'exploitation web : le client est livré à votre navigateur et exécuté là. Le code qui fonctionne est le code que vous pouvez ouvrir dans les outils de développeur de votre navigateur. Un scanner ne pouvait pas être ajouté tranquillement — il serait assis dans le code que vous pouvez lire, sur chaque charge.
- Il franchirait la frontière sur laquelle le système entier est construit.Chaque application de uOS hérite d'une limite chiffrée postquante. Un scanner côté appareil est un trou dans cette limite pour chaque application à la fois — pas seulement pour les messages.
- Nous ne le mettrons pas en œuvre, et nous le contesterons.Tout mécanisme qui inspecte le contenu avant le chiffrement est une porte dérobée, quel que soit son but. Lorsqu'une ordonnance en a besoin, nous demanderons un contrôle judiciaire avant toute conformité.
Où cela se connecte à Chat Control
Dans sa forme la plus contestée, la SARC ("Chat Control 2.0") exigerait même des services chiffrés de bout en bout pour détecter des documents connus, ce qui, pour un service chiffré, ne peut signifier qu'un analyse sur l'appareil. C'est pourquoi le débat de analyse côté client et le débat Chat Control sont le même débat. Notre position sur le règlement découle directement des faits techniques sur cette page.