Nous ne pouvons pas cacher un scanner dans un code que vous pouvez lire.
L'analyse côté client inspecte le contenu sur votre propre appareil — avant qu'il soit chiffré, ou après qu'il soit déchiffré. Elle est souvent présentée comme un moyen de « protéger les enfants sans casser le chiffrement ». Ce cadrage est trompeur. L'analyse côté client ne casse pas mathématiquement le chiffrement de bout en bout ; elle le contourne. Le chiffrement continue de fonctionner. L'inspection se produit simplement au seul endroit où votre message existe encore en clair : votre appareil.
Comment elle est censée fonctionner
- Une empreinte perceptuelle — une empreinte conçue pour survivre au redimensionnement, au recadrage et au ré-encodage — est calculée sur votre appareil pour chaque image ou fichier.
- Cette empreinte est comparée à une base de données d'empreintes de contenu illégal connu, fournie à l'appareil.
- Les correspondances sont Signalées et rapportées — avant que le contenu ne soit jamais chiffré et envoyé.
Ce que la recherche montre réellement
L'analyse côté client a été examinée de près par la communauté chiffrographique, en utilisant le système NeuralHash proposé par Apple comme cas de référence. Les conclusions sont cohérentes et vont dans les deux sens :
- Elle peut être contournée par les personnes qu'elle cible.Des travaux évalués par les pairs sur NeuralHash ont montré que le calcul d'empreinte n'est pas robuste contre les manipulations d'image basées sur le gradient ou la transformation : de petites modifications déjouent la détection tout en laissant l'image inchangée à l'œil humain.
- Elle peut être utilisée comme arme contre des personnes qu'elle ne cible pas.La même ligne de recherche — et plus tard des attaques par collision en boîte noire contre NeuralHash et Microsoft PhotoDNA — a montré qu'un attaquant peut perturber une image ordinaire jusqu'à ce que son empreinte corresponde à une empreinte Signalée. Une image innocente peut être conçue pour déclencher l'alarme sur l'appareil de quelqu'un d'autre.
- La liste est invérifiable par construction.L'appareil compare des empreintes, pas des images. Personne en dehors de l'opérateur ne peut vérifier à quoi correspond une empreinte donnée. Un système conçu pour correspondre à une catégorie de contenu correspondra à tout ce que la liste dit qu'il correspond.
Apple a proposé exactement cela — NeuralHash, analysant les téléchargements iCloud Photos sur l'appareil — et, après consultation, a décidé de ne pas donner suite. Cela n'a jamais été livré.
Pourquoi c'est une porte dérobée
Une porte dérobée n'est pas définie par l'intention. Elle est définie par la capacité : un mécanisme par lequel quelqu'un d'autre que les participants peut lire le contenu. L'analyse côté client est précisément ce mécanisme, installé au seul endroit où la lecture est encore possible. Une fois le crochet en place, ce qu'il analyse est un paramètre de politique, pas d'ingénierie — et la politique change.
Un service chiffré de bout en bout avec un scanner sur l'appareil n'est pas un service chiffré de bout en bout. C'est un service de surveillance avec un transport chiffré.
Pourquoi uOS n'en livrera pas
- Il n'y a pas de binaire pour le cacher.uOS est un système d'exploitation web : le client est livré à votre navigateur et exécuté là. Le code qui s'exécute est le code que vous pouvez ouvrir dans les outils de développement de votre navigateur. Un scanner ne pourrait pas être ajouté discrètement — il se trouverait dans le code que vous pouvez lire, à chaque chargement.
- Cela violerait la frontière sur laquelle tout le système est construit.Chaque application de uOS hérite d'une seule frontière post-quantique, chiffré de bout en bout. Un scanner côté appareil est un trou dans cette frontière pour toutes les applications à la fois — pas seulement pour les messages.
- Nous ne l'implémenterons pas, et nous contesterons toute ordonnance l'exigeant.Tout mécanisme qui inspecte le contenu avant le chiffrement est une porte dérobée, quel que soit son but déclaré. Lorsqu'une ordonnance en exige une, nous demanderons un contrôle judiciaire avant toute conformité.
Où cela rejoint Chat Control
Dans sa forme la plus contestée, CSAR (« Chat Control 2.0 ») exigerait que même les services chiffré de bout en bout détectent du contenu connu — ce qui, pour un service chiffré, ne peut signifier qu'une analyse sur l'appareil. C'est pourquoi le débat sur l'analyse côté client et le débat sur Chat Control sont le même débat. Notre position sur la réglementation découle directement des faits techniques de cette page.