Nie możemy ukryć skanera w kodzie, który możesz przeczytać.
Skanowanie po stronie klienta sprawdza treści na twoim urządzeniu — przed ich zaszyfrowaniem lub po odszyfrowaniu. Często przedstawia się je jako sposób na "ochronę dzieci bez łamania szyfrowania". To ujęcie jest mylące. Skanowanie po stronie klienta nie łamie szyfrowania end-to-end matematycznie; omija je. Szyfrowanie działa nadal. Inspekcja po prostu odbywa się w jedynym miejscu, gdzie twoja wiadomość nadal istnieje w postaci jawnej: na twoim urządzeniu.
Jak to ma działać
- Percepcyjny skrót — odcisk palca zaprojektowany tak, aby przetrwać zmianę rozmiaru, przycinanie i ponowne kodowanie — jest obliczany na twoim urządzeniu dla każdego obrazu lub pliku.
- Ten odcisk palca jest porównywany z bazą skrótów znanego nielegalnego materiału, dostarczaną na urządzenie.
- Dopasowania są oznaczane i zgłaszane — zanim treść zostanie kiedykolwiek zaszyfrowana i wysłana.
Co faktycznie pokazują badania
Skanowanie po stronie klienta zostało dokładnie zbadane przez społeczność kryptograficzną, używając proponowanego systemu NeuralHash firmy Apple jako przypadku referencyjnego. Wyniki są spójne i działają w obie strony:
- Można je ominąć przez osoby, do których jest skierowane.Recenzowane badania nad NeuralHash wykazały, że obliczanie skrótu nie jest odporne na manipulacje obrazem oparte na gradiencie lub transformacji: małe zmiany pokonują wykrywanie, pozostawiając obraz niezmieniony dla ludzkiego oka.
- Można je wykorzystać przeciwko osobom, do których nie jest skierowane.Ta sama linia badań — a później ataki kolizyjne typu black-box przeciwko NeuralHash i Microsoft PhotoDNA — wykazały, że atakujący może modyfikować zwykły obraz, aż jego odcisk palca będzie odpowiadać oznaczonemu. Niewinny obraz może zostać spreparowany tak, aby wywołać alarm na cudzym urządzeniu.
- Lista jest nieaudytowalna z konstrukcji.Urządzenie porównuje skróty, a nie obrazy. Nikt poza operatorem nie może zweryfikować, czemu odpowiada dany skrót. System zbudowany do dopasowywania jednej kategorii treści będzie dopasowywał to, co mówi lista.
Apple zaproponowało dokładnie to — NeuralHash, skanowanie przesyłanych zdjęć iCloud na urządzeniu — i po konsultacjach zdecydowało się nie kontynuować. Nigdy nie zostało wdrożone.
Dlaczego to backdoor
Backdoor nie jest definiowany przez intencję. Jest definiowany przez możliwość: mechanizm, dzięki któremu ktoś inny niż uczestnicy może odczytać treść. Skanowanie po stronie klienta jest dokładnie tym mechanizmem, zainstalowanym w jedynym miejscu, gdzie odczyt jest nadal możliwy. Gdy hak istnieje, to, co skanuje, jest ustawieniem polityki, a nie inżynierii — a polityka się zmienia.
Usługa szyfrowane end-to-end ze skanerem na urządzeniu nie jest usługą szyfrowane end-to-end. To usługa inwigilacji z szyfrowanym transportem.
Dlaczego uOS go nie wdroży
- Nie ma pliku binarnego, w którym można by go ukryć.uOS to webowy system operacyjny: klient jest dostarczany do twojej przeglądarki i tam wykonywany. Kod, który działa, to kod, który możesz otworzyć w narzędziach deweloperskich przeglądarki. Skaner nie mógłby zostać dodany po cichu — znajdowałby się w kodzie, który możesz przeczytać, przy każdym ładowaniu.
- Naruszyłoby to granicę, na której zbudowany jest cały system.Każda aplikacja w uOS dziedziczy jedną granicę postkwantowy, szyfrowane end-to-end. Skaner po stronie urządzenia to dziura w tej granicy dla wszystkich aplikacji naraz — nie tylko dla wiadomości.
- Nie wdrożymy go i będziemy kwestionować każdy nakaz jego wdrożenia.Każdy mechanizm, który sprawdza treści przed szyfrowaniem, jest backdoorem niezależnie od deklarowanego celu. Jeśli nakaz będzie wymagał takiego mechanizmu, wystąpimy o kontrolę sądową przed jakimkolwiek dostosowaniem się.
Gdzie to łączy się z Chat Control
W najbardziej kontestowanej formie CSAR ("Chat Control 2.0") wymagałby nawet od usług szyfrowane end-to-end wykrywania znanego materiału — co w przypadku usługi szyfrowanej może oznaczać tylko skanowanie na urządzeniu. Dlatego debata o skanowaniu po stronie klienta i debata o Chat Control to ta sama debata. Nasze stanowisko w sprawie regulacji wynika bezpośrednio z faktów technicznych na tej stronie.