Wir können nicht entfernen, was wir nicht lesen können.
uOS erhält gelegentlich Meldungen von Regierungs-Hotlines (NCMEC, INHOPE-Mitglieds-Hotlines, AFA France, CSEA und anderen) bezüglich Inhalten, die Nutzer von uOS speichern. Diese Meldungen enthalten in der Regel Wahrnehmungshashes (PhotoDNA oder Äquivalent) und eine user_pub- oder Kontokennung.
Wir müssen über diese Meldungen entscheiden, obwohl wir den Inhalt, auf den sie sich beziehen, nicht überprüfen können — unsere Server sehen nur Chiffrate, die wir nicht entschlüsseln können.
Unsere Richtlinie
- Keine Maßnahmen bei bloßen Meldungen.Wir ergreifen keine Entfernungs-, Sperr- oder Warnmaßnahmen aufgrund einer unbestätigten CSAM-Meldung. Die historische Fehlerquote von CSAM-Hash-Datenbanken im operativen Einsatz ist nicht trivial: In den irischen Betriebsdaten von 2024 erwiesen sich etwa 11 % der Meldungen als fehlerhaft. Blind auf dieser Signal zu handeln, würde bedeuten, unschuldige Nutzer zu verfolgen.
- Maßnahmen nur auf gerichtliche Anordnung.Wir handeln aufgrund einer CSAM-Meldung nur, wenn sie durch eine Anordnung oder Entscheidung einer Justizbehörde eines EU-Mitgliedstaats (oder eines Staates, der durch ein internationales Abkommen an einen gleichwertigen Standard gebunden ist) gestützt wird, die ordnungsgemäß begründet, in Umfang und Zeit begrenzt und der gerichtlichen Überprüfung unterliegt.
- Systematische Anfechtung unbestätigter Meldungen.Wir fechten systematisch vor der zuständigen Verwaltungs- oder Justizbehörde jede Meldung an, die: keine ausreichenden Identifikationsdetails zur Lokalisierung des Inhalts liefert; von einer Hotline stammt, die außerhalb des INHOPE-Netzwerks oder gleichwertiger internationaler Standards arbeitet; eine Maßnahme verlangt, die in keinem Verhältnis zur behaupteten Verletzung steht; oder sich auf ein technologisches Verfahren stützt, das uOS nicht betreibt.
- Öffentliche Transparenz.Jede Entfernung, Sperrung oder andere Maßnahme aus CSAM-Gründen wird in unserem jährlichen Transparenzbericht mit Herkunftsland, Art der Behörde, Datum und Umfang der Maßnahme gemeldet.
- Keine freiwillige Überwachung.uOS führt keine freiwillige Überwachung von Nutzerinhalten, kein proaktives Scannen und keine proaktive CSAM-Erkennung auf unseren Servern durch.
Was das in der Praxis bedeutet
- Eine Hotline, die einen Hash ohne Gerichtsbeschluss sendet, erhält eine Bestätigung, keine Maßnahme und die Aufforderung, einen Gerichtsbeschluss zu erwirken, falls sie Maßnahmen wünscht.
- Ein Gerichtsbeschluss löst eine eng begrenzte Entfernung des genannten Inhalts und/oder Sperrung des genannten Kontos aus, plus einen veröffentlichten Eintrag in unserem nächsten Transparenzbericht.
- Ein übermäßig weit gefasster Beschluss (z. B. der ganz uOS, eine gesamte Nutzerbasis oder alle Inhalte einer bestimmten Kategorie betrifft) wird angefochten, bevor er ganz oder teilweise ausgeführt wird.
Warum diese Richtlinie
Die Alternative — pauschale Entfernung auf der Grundlage unbestätigter Hashes — würde uOS zu einem unverantwortlichen Durchsetzungsarm einer beliebigen hinreichend motivierten Regierung machen. Eine Fehlerquote von 11 %, angewendet auf Millionen von Nutzern, würde jährlich zu Zehntausenden ungerechtfertigter Sperrungen führen. So werden wir nicht arbeiten.