Não podemos esconder um scanner em código que pode ler.
A análise no lado do cliente inspeciona o conteúdo no seu próprio dispositivo — antes de ser cifrado ou depois de ser decifrado. É frequentemente apresentada como uma forma de "proteger as crianças sem quebrar a cifragem". Esse enquadramento é enganoso. A análise no lado do cliente não quebra a cifragem de ponta a ponta matematicamente; ela a contorna. A cifragem continua a funcionar. A inspeção simplesmente acontece no único lugar onde a sua mensagem ainda existe em texto simples: o seu dispositivo.
Como é suposto funcionar
- Um hash percetual — uma impressão digital concebida para sobreviver a redimensionamento, corte e recodificação — é calculado no seu dispositivo para cada imagem ou ficheiro.
- Essa impressão digital é comparada com uma base de dados de hashes de material ilegal conhecido, enviada para o dispositivo.
- As correspondências são sinalizadas e reportadas — antes de o conteúdo ser alguma vez cifrado e enviado.
O que a pesquisa realmente mostra
A análise no lado do cliente foi examinada de perto pela comunidade criptográfica, usando o sistema NeuralHash proposto pela Apple como caso de referência. As conclusões são consistentes e cortam nos dois sentidos:
- Pode ser evitada pelas pessoas que visa.O trabalho revisto por pares sobre o NeuralHash mostrou que o cálculo do hash não é robusto contra manipulação de imagem baseada em gradientes ou transformações: pequenas alterações derrotam a deteção, deixando a imagem inalterada aos olhos humanos.
- Pode ser transformada em arma contra pessoas que não visa.A mesma linha de investigação — e mais tarde ataques de colisão de caixa-preta contra o NeuralHash e o PhotoDNA da Microsoft — mostrou que um atacante pode perturbar uma imagem comum até a sua impressão digital corresponder a uma sinalizada. Uma imagem inofensiva pode ser concebida para acionar o alarme no dispositivo de outra pessoa.
- A lista é inauditável por construção.O dispositivo compara com hashes, não com imagens. Ninguém fora do operador pode verificar a que corresponde um determinado hash. Um sistema construído para corresponder a uma categoria de conteúdo corresponderá ao que a lista disser que corresponde.
A Apple propôs exatamente isto — NeuralHash, digitalizando os uploads de iCloud Photos no dispositivo — e, após consulta, decidiu não avançar. Nunca foi lançado.
Por que é uma backdoor
Uma backdoor não é definida pela intenção. É definida pela capacidade: um mecanismo através do qual alguém que não os participantes pode ler o conteúdo. A análise no lado do cliente é precisamente esse mecanismo, instalado no único ponto onde a leitura ainda é possível. Uma vez que o gancho existe, o que ele procura é uma definição de política, não de engenharia — e a política muda.
Um serviço cifrado de ponta a ponta com um scanner no dispositivo não é um serviço cifrado de ponta a ponta. É um serviço de vigilância com transporte cifrado.
Por que a uOS não vai incluir um
- Não há binário onde escondê-lo.A uOS é um sistema operativo web: o cliente é entregue ao seu navegador e executado lá. O código que corre é o código que pode abrir nas ferramentas de desenvolvimento do seu navegador. Um scanner não poderia ser adicionado silenciosamente — estaria no código que pode ler, em cada carregamento.
- Quebraria a fronteira em que todo o sistema se baseia.Cada aplicação na uOS herda uma fronteira pós-quântico, cifrado de ponta a ponta. Um scanner no lado do dispositivo é um buraco nessa fronteira para todas as aplicações ao mesmo tempo — não apenas para mensagens.
- Não o implementaremos e contestaremos qualquer ordem para o fazer.Qualquer mecanismo que inspecione o conteúdo antes da cifragem é uma backdoor, independentemente do seu propósito declarado. Onde uma ordem exigir uma, procuraremos revisão judicial antes de qualquer conformidade.
Onde isto se liga à Chat Control
Na sua forma mais contestada, o CSAR ("Chat Control 2.0") exigiria que mesmo os serviços cifrado de ponta a ponta detetassem material conhecido — o que, para um serviço cifrado, só pode significar análise no dispositivo. É por isso que o debate sobre a análise no lado do cliente e o debate sobre a Chat Control são o mesmo debate. A nossa posição sobre o regulamento segue diretamente dos factos técnicos nesta página.