Não podemos remover o que não podemos ler.
uOS recebe, de tempos em tempos, relatórios de linhas diretas do governo (NCMEC, linhas diretas de membros do INHOPE, AFA França, CSEA, entre outros) sobre o conteúdo que usuários da loja uOS. Esses relatórios geralmente contêm hashes perceptivos (PhotoDNA ou equivalente) e um identificador de usuário pub ou conta.
Nós temos que tomar uma decisão sobre esses relatórios, mesmo que não possamos verificar o conteúdo que eles referenciam — nossos servidores só veem cifras que não podemos descriptografar.
A nossa política
- Nenhuma acção em relatórios nus.Não tomamos nenhuma ação de remoção, suspensão ou alerta com base em um relatório CSAM não verificado. A taxa histórica de falsos positivos das bases de dados de hash CSAM em uso operacional não é trivial: nos dados operacionais de 2024 da Irlanda, aproximadamente 11% dos relatórios mostraram-se errôneos. Agir às cegas neste sinal significaria perseguir utilizadores inocentes.
- Acção apenas em matéria de ordem judicial.Agimos com base num relatório da CSAM apenas quando é apoiado por uma ordem ou decisão de uma autoridade judicial de um Estado-Membro da UE (ou de um Estado vinculado por uma norma equivalente ao abrigo de um acordo internacional), devidamente motivado, limitado em termos de âmbito e tempo, e sujeito a revisão judicial.
- Desafio sistemático de relatórios não verificados.Nós sistematicamente contestamos, diante da autoridade administrativa ou judicial relevante, qualquer relatório que: não forneça detalhes de identificação suficientes para localizar o conteúdo; seja proveniente de uma linha direta operando fora da rede INHOPE ou normas internacionais equivalentes; solicite ação desproporcionada à alegada violação; ou se baseie em um processo tecnológico que uOS não opera.
- Transparência pública.Todas as medidas de remoção, suspensão ou outras tomadas por motivos CSAM são relatadas no nosso Relatório Anual de Transparência, com o país de origem, tipo de autoridade, data e âmbito de ação.
- Não há monitorização voluntária.O uOS não realiza monitoramento voluntário do conteúdo do usuário, nenhuma análise proativa e nenhuma detecção de CSAM proativa em nossos servidores.
O que isto significa na prática
- Uma linha direta que envia um hash sem ordem judicial recebe um reconhecimento, nenhuma ação, e um pedido para obter uma ordem judicial se desejar uma ação.
- Uma ordem judicial desencadeia uma remoção restrita do conteúdo citado e/ou suspensão da conta citada, além de uma entrada publicada em nosso próximo Relatório de Transparência.
- Uma ordem excessivamente ampla (por exemplo, afetando a totalidade do uOS, uma base de usuários inteira, ou todo o conteúdo de uma determinada categoria) é contestada antes de ser executada total ou parcialmente.
Por que esta política
A alternativa — a remoção por grosso com base em hashes não verificados — tornaria a uOS um braço de aplicação inexplicável de qualquer governo suficientemente motivado. Uma taxa de 11% de falsos positivos, aplicada em milhões de usuários, resultaria em dezenas de milhares de suspensões injustificadas anualmente. Não agiremos dessa forma.