Não podemos remover o que não conseguimos ler.
A uOS recebe, de tempos em tempos, denúncias de linhas diretas governamentais (NCMEC, linhas diretas membros da INHOPE, AFA França, CSEA e outras) sobre conteúdo que os usuários da uOS armazenam. Essas denúncias geralmente contêm hashes perceptuais (PhotoDNA ou equivalente) e um identificador de conta ou user_pub.
Temos que tomar uma decisão sobre essas denúncias, mesmo que não possamos verificar o conteúdo ao qual se referem — nossos servidores veem apenas textos cifrados que não conseguimos descriptografar.
Nossa política
- Nenhuma ação com base em denúncias sem verificação.Não tomamos nenhuma ação de remoção, suspensão ou alerta com base em uma denúncia de CSAM não verificada. A taxa histórica de falsos positivos dos bancos de dados de hash de CSAM em uso operacional não é trivial: nos dados operacionais da Irlanda de 2024, aproximadamente 11% das denúncias se revelaram errôneas. Agir às cegas com base nisso Signal significaria perseguir usuários inocentes.
- Ação somente por ordem judicial.Agimos em uma denúncia de CSAM somente quando ela é respaldada por uma ordem ou decisão de uma autoridade judicial de um Estado-Membro da União Europeia (ou de um Estado vinculado a um padrão equivalente sob um acordo internacional), devidamente motivada, limitada em escopo e tempo, e sujeita a revisão judicial.
- Contestação sistemática de denúncias não verificadas.Contestamos sistematicamente, perante a autoridade administrativa ou judicial competente, qualquer denúncia que: não forneça detalhes de identificação suficientes para localizar o conteúdo; origine-se de uma linha direta que opera fora da rede INHOPE ou de padrões internacionais equivalentes; solicite ação desproporcional à suposta violação; ou dependa de um processo tecnológico que a uOS não opera.
- Transparência pública.Toda remoção, suspensão ou outra ação tomada por motivos de CSAM é relatada em nosso Relatório de Transparência anual, com país de origem, tipo de autoridade, data e escopo da ação.
- Nenhuma monitorização voluntária.A uOS não realiza monitorização voluntária do conteúdo do usuário, nenhuma varredura proativa e nenhuma detecção proativa de CSAM em nossos servidores.
O que isso significa na prática
- Uma linha direta que envia um hash sem uma ordem judicial recebe um acuse de recebimento, nenhuma ação e um pedido para obter uma ordem judicial se desejar ação.
- Uma ordem judicial desencadeia uma remoção de escopo restrito do conteúdo citado e/ou suspensão da conta citada, além de uma entrada publicada em nosso próximo Relatório de Transparência.
- Uma ordem excessivamente ampla (por exemplo, afetando toda a uOS, uma base inteira de usuários ou todo o conteúdo de uma categoria específica) é contestada antes de ser executada no todo ou em parte.
Por que esta política
A alternativa — remoção em massa com base em hashes não verificados — tornaria a uOS um braço de execução sem responsabilidade de qualquer governo suficientemente motivado. Uma taxa de falsos positivos de 11%, aplicada a milhões de usuários, resultaria em dezenas de milhares de suspensões injustificadas anualmente. Não operaremos dessa maneira.