Firma Apple ogłosiła szczegóły systemu wyszukiwania materiałów związanych z wykorzystywaniem seksualnym dzieci (child sexual abuse material – CSAM) na urządzeniach amerykańskich klientów.
Zanim obraz zostanie zapisany w iCloud Photos, technologia wyszuka dopasowania już znanych CSAM. Apple przekazał, że jeśli zostanie znaleziony odpowiednik, weryfikator oceni i zgłosi użytkownika organom ścigania.
Istnieją jednak obawy dotyczące prywatności, że technologia może zostać rozszerzona o skanowanie telefonów pod kątem zabronionych treści, a nawet wypowiedzi politycznych. Eksperci obawiają się, że autorytarne rządy mogą wykorzystać tę technologię do szpiegowania swoich obywateli.
Apple informuje, że nowe wersje iOS i iPadOS – które mają zostać wydane jeszcze w tym roku – będą miały „nowe aplikacje kryptograficzne, które pomogą ograniczyć rozprzestrzenianie się CSAM w Internecie, jednocześnie zapewniając prywatność użytkowników”. System działa na zasadzie porównywania zdjęć z bazą danych znanych zdjęć związanych z wykorzystywaniem seksualnym dzieci, skompilowaną przez National Center for Missing and Exploited Children (NCMEC) oraz inne organizacje zajmujące się bezpieczeństwem dzieci. Te obrazy są tłumaczone na „hasze”, kody numeryczne, które można „dopasować” do obrazu na urządzeniu Apple.
Apple twierdzi, że technologia będzie również przechwytywać edytowane, ale podobne wersje oryginalnych obrazów.
Firma twierdzi, że system ma „niezwykle wysoki poziom dokładności i zapewnia mniej niż jedną na bilion szans na nieprawidłowe oznaczenie danego konta”. Apple twierdzi, że ręcznie sprawdzi każdy raport, aby potwierdzić, że pasuje. Następnie może podjąć kroki w celu wyłączenia konta użytkownika i zgłoszenia do organów ścigania.
Firma twierdzi, że nowa technologia oferuje „znaczące” korzyści w zakresie prywatności w porównaniu z istniejącymi technikami – ponieważ Apple dowiaduje się o zdjęciach użytkowników tylko wtedy, gdy mają kolekcję znanych CSAM na swoim koncie iCloud Photos.
Jednak niektórzy eksperci ds. prywatności wyrazili obawy. „Bez względu na to, jakie są długoterminowe plany Apple, wysłali bardzo wyraźny sygnał. W ich (bardzo wpływowej) opinii bezpieczne jest budowanie systemów, które skanują telefony użytkowników w poszukiwaniu zabronionych treści”, mówi Matthew Green, badacz ds. bezpieczeństwa w Johns Hopkins University. „Nie ma znaczenia, czy w tej kwestii okażą się słuszne, czy niesłuszne. To zerwie tamę – rządy będą tego wymagać od wszystkich”.
