On ne peut pas retirer ce qu'on ne peut pas lire.
uOS reçoit, de temps à autre, des rapports des lignes directes du gouvernement (NCMEC, les lignes directes des membres d'INHOPE, AFA France, CSEA, etc.) concernant le contenu que les utilisateurs de uOS stockent. Ces rapports contiennent généralement des hachages perceptuels (PhotoADN ou équivalent) et un identifiant user pub ou de compte.
Nous devons prendre une décision sur ces rapports même si nous ne pouvons pas vérifier le contenu qu'ils renvoient — nos serveurs ne voient que des caractères codés que nous ne pouvons pas déchiffrer.
Notre politique
- Aucune action sur les rapports.Nous ne prenons aucune mesure de retrait, de suspension ou d'alerte sur la base d'un rapport CSAM non vérifié. Le taux historique de faux positifs des bases de données de hachage CSAM en utilisation opérationnelle est non-trivial: dans les données opérationnelles de l'Irlande de 2024, environ 11% des rapports se sont révélés erronés. Agir aveugle sur ce signal signifierait persécuter des utilisateurs innocents.
- Action seulement sur ordre judiciaire.Nous n'agissons sur un rapport CSAM que s'il est étayé par une ordonnance ou une décision d'une autorité judiciaire d'un État membre de l'UE (ou d'un État lié par une norme équivalente en vertu d'un accord international), dûment motivée, limitée en termes de portée et de temps, et soumise à un contrôle judiciaire.
- Défi systématique des rapports non vérifiés.Nous contestons systématiquement, devant l'autorité administrative ou judiciaire compétente, tout rapport qui : omet de fournir des détails d'identification suffisants pour localiser le contenu; provient d'une ligne téléphonique fonctionnant en dehors du réseau INHOPE ou de normes internationales équivalentes; demande des mesures disproportionnées par rapport à la violation alléguée; ou s'appuie sur un processus technologique que uOS ne fonctionne pas.
- Transparence publique.Toute mesure de renvoi, de suspension ou autre prise pour des motifs de MASC est signalée dans notre rapport annuel sur la transparence, avec le pays d'origine, le type d'autorité, la date et la portée de l'action.
- Pas de surveillance volontaire.uOS n'effectue aucune surveillance volontaire du contenu utilisateur, aucune analyse proactive et aucune détection CSAM proactive sur nos serveurs.
Ce que cela signifie dans la pratique
- Une ligne téléphonique qui envoie un hash sans ordonnance judiciaire reçoit un accusé de réception, aucune action et une demande d'obtenir une ordonnance judiciaire si elle le souhaite.
- Une ordonnance judiciaire déclenche une suppression étroite du contenu cité et/ou la suspension du compte cité, plus une entrée publiée dans notre prochain rapport sur la transparence.
- Un ordre trop large (par exemple affectant l'ensemble de uOS, une base d'utilisateurs entière ou tout contenu d'une catégorie donnée) est contesté avant d'être exécuté en totalité ou en partie.
Pourquoi cette politique
L'alternative — l'enlèvement en gros sur la base de hachages non vérifiés — ferait de uOS un organe d'exécution non responsable de tout gouvernement suffisamment motivé. Un taux faussement positif de 11 %, appliqué à des millions d'utilisateurs, entraînerait des dizaines de milliers de suspensions injustifiées chaque année. Nous n'agirons pas ainsi.