Nie możemy usunąć tego, czego nie możemy odczytać.
uOS otrzymuje od czasu do czasu zgłoszenia od rządowych infolinii (NCMEC, infolinie członkowskie INHOPE, AFA France, CSEA i inne) dotyczące treści przechowywanych przez użytkowników uOS. Zgłoszenia te zazwyczaj zawierają hasze percepcyjne (PhotoDNA lub równoważne) oraz identyfikator user_pub lub konta.
Musimy podjąć decyzję w sprawie tych zgłoszeń, nawet jeśli nie możemy zweryfikować treści, do których się odnoszą — nasze serwery widzą tylko szyfrogramy, których nie możemy odszyfrować.
Nasza polityka
- Brak działań na podstawie gołych zgłoszeń.Nie podejmujemy żadnych działań usuwania, zawieszania ani alertów na podstawie niezweryfikowanego zgłoszenia CSAM. Historyczny wskaźnik fałszywych pozytywów w bazach haszy CSAM w użyciu operacyjnym jest niebagatelny: w danych operacyjnych Irlandii z 2024 r. około 11% zgłoszeń okazało się błędnych. Działanie na ślepo na podstawie tego Signal oznaczałoby prześladowanie niewinnych użytkowników.
- Działania wyłącznie na podstawie nakazu sądowego.Działamy na podstawie zgłoszenia CSAM tylko wtedy, gdy jest ono poparte nakazem lub decyzją organu sądowego państwa członkowskiego Unii Europejskiej (lub państwa związanego równoważnym standardem na mocy umowy międzynarodowej), należycie uzasadnionego, ograniczonego zakresem i czasem oraz podlegającego kontroli sądowej.
- Systematyczne kwestionowanie niezweryfikowanych zgłoszeń.Systematycznie kwestionujemy przed właściwym organem administracyjnym lub sądowym każde zgłoszenie, które: nie zawiera wystarczających danych identyfikacyjnych do zlokalizowania treści; pochodzi z infolinii działającej poza siecią INHOPE lub równoważnymi standardami międzynarodowymi; żąda działań nieproporcjonalnych do rzekomego naruszenia; lub opiera się na procesie technologicznym, którego uOS nie obsługuje.
- Publiczna transparentność.Każde usunięcie, zawieszenie lub inne działanie podjęte z powodów CSAM jest odnotowywane w naszym corocznym Raporcie Transparentności, z krajem pochodzenia, typem organu, datą i zakresem działania.
- Brak dobrowolnego monitorowania.uOS nie prowadzi dobrowolnego monitorowania treści użytkowników, żadnego proaktywnego skanowania ani proaktywnego wykrywania CSAM na naszych serwerach.
Co to oznacza w praktyce
- Infolinia wysyłająca hasz bez nakazu sądowego otrzymuje potwierdzenie, brak działań i prośbę o uzyskanie nakazu sądowego, jeśli chce działań.
- Nakaz sądowy wyzwala wąsko zakrojone usunięcie wskazanej treści i/lub zawieszenie wskazanego konta oraz opublikowany wpis w naszym następnym Raporcie Transparentności.
- Nakaz o zbyt szerokim zakresie (np. dotyczący całego uOS, całej bazy użytkowników lub wszystkich treści danej kategorii) jest kwestionowany przed wykonaniem w całości lub w części.
Dlaczego ta polityka
Alternatywa — masowe usuwanie na podstawie niezweryfikowanych haszy — uczyniłaby uOS nieodpowiedzialnym ramieniem egzekwowania prawa dla każdego wystarczająco zmotywowanego rządu. Wskaźnik fałszywych pozytywów na poziomie 11%, zastosowany do milionów użytkowników, skutkowałby dziesiątkami tysięcy nieuzasadnionych zawieszeń rocznie. Nie będziemy działać w ten sposób.