Emme voi poistaa sitä, mitä emme voi lukea.
uOS vastaanottaa ajoittain ilmoituksia hallitusten hotlineilta (NCMEC, INHOPE-jäsenhotlinet, AFA France, CSEA ja muut) koskien sisältöä, jota uOS:n käyttäjät tallentavat. Nämä ilmoitukset sisältävät yleensä hajautusarvoja (PhotoDNA tai vastaava) ja user_pub-tai tilitunnisteen.
Meidän on tehtävä päätös näistä ilmoituksista, vaikka emme voi vahvistaa niihin viitattua sisältöä — palvelimemme näkevät vain salatekstiä, jota emme voi purkaa.
Käytäntömme
- Ei toimia pelkkien ilmoitusten perusteella.Emme tee poistoja, tilien jäädytyksiä tai hälytyksiä vahvistamattoman CSAM-ilmoituksen perusteella. CSAM-hajautustietokantojen historiallinen virhepositiivisuusaste operatiivisessa käytössä on merkittävä: Irlannin vuoden 2024 operatiivisissa tiedoissa noin 11 % ilmoituksista osoittautui virheellisiksi. Toimiminen sokeasti tämän Signal:n perusteella tarkoittaisi viattomien käyttäjien vainoamista.
- Toimia vain oikeudellisella määräyksellä.Toimimme CSAM-ilmoituksen perusteella vain, kun sitä tukee EU:n jäsenvaltion (tai kansainvälisen sopimuksen mukaisen vastaavan standardin sitoman valtion) oikeusviranomaisen määräys tai päätös, joka on asianmukaisesti perusteltu, laajuudeltaan ja ajallisesti rajattu ja oikeudellisen valvonnan alainen.
- Vahvistamattomien ilmoitusten järjestelmällinen riitauttaminen.Riitautamme järjestelmällisesti asianomaisessa hallinto-tai oikeusviranomaisessa jokaisen ilmoituksen, joka: ei sisällä riittäviä tunnistetietoja sisällön paikallistamiseksi; on peräisin hotlinelta, joka toimii INHOPE-verkoston tai vastaavien kansainvälisten standardien ulkopuolella; pyytää toimia, jotka ovat suhteettomia väitettyyn rikkomukseen nähden; tai perustuu teknologiseen prosessiin, jota uOS ei käytä.
- Julkinen läpinäkyvyys.Jokainen CSAM-perusteella tehty poisto, tilin jäädytys tai muu toimi raportoidaan vuotuisessa läpinäkyvyysraportissamme, mukaan lukien alkuperämaa, viranomaistyyppi, päivämäärä ja toimen laajuus.
- Ei vapaaehtoista valvontaa.uOS ei suorita vapaaehtoista käyttäjäsisällön valvontaa, ennakoivaa skannausta tai ennakoivaa CSAM-tunnistusta palvelimillamme.
Mitä tämä tarkoittaa käytännössä
- Hotline, joka lähettää hajautusarvon ilman oikeudellista määräystä, saa kuittauksen, ei toimia, ja pyynnön hankkia oikeudellinen määräys, jos se haluaa toimia.
- Oikeudellinen määräys laukaisee tarkasti rajatun poiston viitatusta sisällöstä ja/tai tilin jäädytyksen sekä julkaistun merkinnän seuraavassa läpinäkyvyysraportissamme.
- Liian laaja määräys (esim. koskien koko uOS:aa, koko käyttäjäkuntaa tai tietyn luokan kaikkea sisältöä) riitautetaan ennen sen toteuttamista kokonaan tai osittain.
Miksi tämä käytäntö
Vaihtoehto — joukkopoistot vahvistamattomien hajautusarvojen perusteella — tekisi uOS:sta vastuuttoman täytäntöönpanokäden mille tahansa riittävän motivoituneelle hallitukselle. 11 %:n virhepositiivisuusaste, sovellettuna miljooniin käyttäjiin, johtaisi kymmeniin tuhansiin perusteettomiin tilien jäädytyksiin vuosittain. Emme toimi sillä tavalla.