We kunnen niet verwijderen wat we niet kunnen lezen.
uOS ontvangt van tijd tot tijd meldingen van overheidsmeldpunten (NCMEC, INHOPE-lidmeldpunten, AFA France, CSEA en anderen) betreffende inhoud die gebruikers van uOS opslaan. Deze meldingen bevatten doorgaans perceptuele hashes (PhotoDNA of equivalent) en een user_pub of accountidentificatie.
We moeten een beslissing nemen over deze meldingen, ook al kunnen we de inhoud waarnaar ze verwijzen niet verifiëren — onze servers zien alleen cijfertekst die we niet kunnen ontsleutelen.
Ons beleid
- Geen actie op kale meldingen.We nemen geen verwijderings-, opschortings-of waarschuwingsactie op basis van een ongeverifieerd CSAM-melding. Het historische fout-positieve percentage van CSAM-hashdatabases in operationeel gebruik is niet triviaal: in de operationele gegevens van Ierland in 2024 bleek ongeveer 11% van de meldingen onjuist. Blind handelen op deze Signal zou betekenen dat we onschuldige gebruikers vervolgen.
- Actie alleen op rechterlijk bevel.We handelen op een CSAM-melding alleen wanneer deze wordt ondersteund door een bevel of beslissing van een rechterlijke autoriteit van een EU-lidstaat (of een staat die gebonden is aan een gelijkwaardige norm onder een internationale overeenkomst), naar behoren gemotiveerd, beperkt in omvang en tijd, en onderworpen aan rechterlijke toetsing.
- Systematische betwisting van ongeverifieerde meldingen.We betwisten systematisch, voor de relevante administratieve of rechterlijke autoriteit, elke melding die: onvoldoende identificerende details bevat om de inhoud te lokaliseren; afkomstig is van een meldpunt dat buiten het INHOPE-netwerk of gelijkwaardige internationale normen opereert; actie verzoekt die onevenredig is aan de vermeende overtreding; of vertrouwt op een technologisch proces dat uOS niet gebruikt.
- Publieke transparantie.Elke verwijdering, opschorting of andere actie op CSAM-gronden wordt gerapporteerd in ons jaarlijkse transparantieverslag, met land van herkomst, type autoriteit, datum en omvang van de actie.
- Geen vrijwillige monitoring.uOS voert geen vrijwillige monitoring van gebruikersinhoud uit, geen proactieve scanning en geen proactieve CSAM-detectie op onze servers.
Wat dit in de praktijk betekent
- Een meldpunt dat een hash zonder rechterlijk bevel stuurt, ontvangt een bevestiging, geen actie en een verzoek om een rechterlijk bevel te verkrijgen als het actie wenst.
- Een rechterlijk bevel leidt tot een nauw omschreven verwijdering van de geciteerde inhoud en/of opschorting van het geciteerde account, plus een gepubliceerde vermelding in ons volgende transparantieverslag.
- Een te breed bevel (bijv. dat de hele uOS, een volledige gebruikersbasis of alle inhoud van een bepaalde categorie treft) wordt betwist voordat het geheel of gedeeltelijk wordt uitgevoerd.
Waarom dit beleid
Het alternatief — grootschalige verwijdering op basis van ongeverifieerde hashes — zou uOS maken tot een onverantwoordelijke handhavingsarm van elke voldoende gemotiveerde overheid. Een fout-positief percentage van 11%, toegepast op miljoenen gebruikers, zou leiden tot tienduizenden onterechte opschortingen per jaar. Zo zullen we niet werken.