Nu putem elimina ceea ce nu putem citi.
uOS primește, din când în când, rapoarte de la liniile telefonice guvernamentale (NCMEC, liniile membre INHOPE, AFA Franța, CSEA și altele) referitoare la conținut stocat de utilizatorii uOS. Aceste rapoarte conțin în general hash-uri perceptuale (PhotoDNA sau echivalent) și un identificator user_pub sau de cont.
Trebuie să luăm o decizie cu privire la aceste rapoarte chiar dacă nu putem verifica conținutul la care se referă — serverele noastre văd doar text cifrat pe care nu îl putem decripta.
Politica noastră
- Nicio acțiune pe baza unor rapoarte simple.Nu luăm nicio măsură de eliminare, suspendare sau alertare pe baza unui raport CSAM neverificat. Rata istorică de fals-pozitiv a bazelor de date de hash CSAM în uz operațional este semnificativă: în datele operaționale din Irlanda din 2024, aproximativ 11% dintre rapoarte s-au dovedit eronate. Acționând orbește pe baza acestui Signal ar însemna persecutarea utilizatorilor nevinovați.
- Acțiune doar pe baza unui ordin judecătoresc.Acționăm asupra unui raport CSAM doar atunci când acesta este susținut de un ordin sau o decizie a unei autorități judiciare a unui stat membru al UE (sau a unui stat obligat printr-un standard echivalent în temeiul unui acord internațional), motivat corespunzător, limitat ca scop și timp și supus controlului judecătoresc.
- Contestarea sistematică a rapoartelor neverificate.Contestăm sistematic, în fața autorității administrative sau judiciare competente, orice raport care: nu furnizează detalii de identificare suficiente pentru localizarea conținutului; provine de la o linie telefonică care funcționează în afara rețelei INHOPE sau a standardelor internaționale echivalente; solicită o acțiune disproporționată față de presupusa încălcare; sau se bazează pe un proces tehnologic pe care uOS nu îl operează.
- Transparență publică.Fiecare eliminare, suspendare sau altă acțiune întreprinsă pe motive CSAM este raportată în Raportul nostru anual de transparență, cu țara de origine, tipul autorității, data și domeniul de aplicare al acțiunii.
- Fără monitorizare voluntară.uOS nu efectuează nicio monitorizare voluntară a conținutului utilizatorilor, nicio scanare proactivă și nicio detectare proactivă a CSAM pe serverele noastre.
Ce înseamnă acest lucru în practică
- O linie telefonică care trimite un hash fără un ordin judecătoresc primește o confirmare de primire, nicio acțiune și o cerere de obținere a unui ordin judecătoresc dacă dorește acțiune.
- Un ordin judecătoresc declanșează o eliminare strict limitată a conținutului citat și/sau suspendarea contului citat, plus o intrare publicată în următorul nostru Raport de transparență.
- Un ordin excesiv de larg (de exemplu, care afectează întregul uOS, o întreagă bază de utilizatori sau tot conținutul unei anumite categorii) este contestat înainte de a fi executat în totalitate sau parțial.
De ce această politică
Alternativa — eliminarea în masă pe baza unor hash-uri neverificate — ar face din uOS o extensie de aplicare a legii fără răspundere pentru orice guvern suficient de motivat. O rată de fals-pozitiv de 11%, aplicată la milioane de utilizatori, ar duce la zeci de mii de suspendări nejustificate anual. Nu vom funcționa astfel.