Co to jest PhotoDNA i jak to działa?

Internet ułatwił wiele rzeczy, od utrzymywania kontaktu z przyjaciółmi i rodziną po znalezienie pracy, a nawet pracę zdalną. Korzyści z tego połączonego systemu komputerów są ogromne, ale są też minusy.

W przeciwieństwie do państw narodowych Internet jest globalną siecią, której nie może kontrolować żaden rząd ani władza. W związku z tym nielegalne materiały trafiają do sieci i niezwykle trudno jest zapobiec cierpieniu dzieci i złapać winnych.

Jednak technologia opracowana wspólnie przez Microsoft o nazwie PhotoDNA jest krokiem w kierunku stworzenia bezpieczniejszej przestrzeni online dla dzieci i dorosłych.

Co to jest PhotoDNA?

PhotoDNA to narzędzie do identyfikacji obrazów, opracowane po raz pierwszy w 2009 roku. Chociaż głównie usługa wspierana przez Microsoft, została opracowana wspólnie przez profesora Hany'ego Farida z Dartmouth College, eksperta w dziedzinie cyfrowej analizy zdjęć. Celem PhotoDNA jest identyfikacja nielegalnych obrazów, w tym materiałów związanych z wykorzystywaniem seksualnym dzieci, powszechnie znanych jako CSAM.

W miarę jak smartfony, aparaty cyfrowe i szybki internet stały się coraz bardziej powszechne, podobnie jak liczba CSAM znalezionych w Internecie. Próbując zidentyfikować i usunąć te obrazy, wraz z innymi nielegalnymi materiałami, baza danych PhotoDNA zawiera miliony wpisów dotyczących znanych obrazów przedstawiających nadużycia.

Microsoft obsługuje system, a baza danych jest utrzymywana przez amerykańskie National Center for Missing & Exploited Children (NCMEC), organizację zajmującą się zapobieganiem krzywdzeniu dzieci. Obrazy trafiają do bazy danych po zgłoszeniu ich do NCMEC.

Chociaż nie jest to jedyna usługa do wyszukiwania znanych CSAM, PhotoDNA jest jedną z najczęstszych metod, w tym wiele usług cyfrowych, takich jak Reddit, Twitter i większość produktów należących do Google.

Na początku PhotoDNA musiało być fizycznie skonfigurowane lokalnie, ale Microsoft obsługuje teraz opartą na chmurze usługę PhotoDNA Cloud. Pozwala to mniejszym organizacjom bez rozległej infrastruktury na wykrywanie CSAM.

Jak działa PhotoDNA?

Gdy internauci lub organy ścigania natkną się na obrazy przedstawiające nadużycie, są one zgłaszane do NCMEC za pośrednictwem CyberTipline. Są one skatalogowane, a informacje są udostępniane organom ścigania, jeśli jeszcze nie zostały. Obrazy są przesyłane do PhotoDNA, które następnie tworzy skrót lub podpis cyfrowy dla każdego pojedynczego obrazu.

Aby uzyskać tę wyjątkową wartość, zdjęcie jest konwertowane na czarno-białe, podzielone na kwadraty, a oprogramowanie analizuje powstałe cieniowanie. Unikalny skrót jest dodawany do bazy danych PhotoDNA, współdzielony przez instalacje fizyczne i chmurę PhotoDNA.

Dostawcy oprogramowania, organy ścigania i inne zaufane organizacje mogą wdrożyć skanowanie PhotoDNA w swoich produktach, oprogramowaniu w chmurze lub innych nośnikach danych. System skanuje każdy obraz, konwertuje go na wartość hash i porównuje z hashami bazy danych CSAM.

Jeśli zostanie znalezione dopasowanie, odpowiedzialna organizacja jest powiadamiana, a szczegóły są przekazywane organom ścigania w celu ścigania. Obrazy są usuwane z serwisu, a konto użytkownika zostaje zamknięte.

Co ważne, żadne informacje o Twoich zdjęciach nie są przechowywane, usługa jest w pełni zautomatyzowana bez udziału człowieka i nie możesz odtworzyć obrazu z wartości hash.

Od 2015 roku organizacje mogą również wykorzystywać PhotoDNA do analizy filmów.

W sierpniu 2021 r. Apple złamał krok z większością innych firm Big Tech i ogłosił, że użyje własnych usługa skanowania iPhone'ów użytkowników w poszukiwaniu CSAM.

Zrozumiałe jest, że plany te spotkały się ze znacznym sprzeciwem za pozory naruszania postawy firmy przyjaznej prywatności, a wiele osób martwiło się, że skanowanie stopniowo obejmie nie-CSAM, co ostatecznie doprowadzi do powstania backdoora dla prawa egzekwowanie.

Czy PhotoDNA wykorzystuje rozpoznawanie twarzy?

W dzisiejszych czasach jesteśmy wystarczająco zaznajomieni z algorytmami. Te zakodowane instrukcje pokazują nam odpowiednie, interesujące posty w naszych kanałach społecznościowych, wspierają systemy rozpoznawania twarzy, a nawet decydują, czy otrzymamy propozycję rozmowy o pracę, czy dostaniemy się na studia.

Można by pomyśleć, że algorytmy byłyby rdzeniem PhotoDNA, ale automatyzacja wykrywania obrazów w ten sposób byłaby bardzo problematyczna. Na przykład byłoby to niezwykle inwazyjne, naruszałoby naszą prywatność, a to nie wspominając o tym, że algorytmy nie zawsze są właściwe.

Na przykład Google miał dobrze udokumentowane problemy z oprogramowaniem do rozpoznawania twarzy. Kiedy Zdjęcia Google zostały po raz pierwszy uruchomione, obraźliwie błędnie sklasyfikowały czarnych ludzi jako goryle. W marcu 2017 r. komisja nadzorcza Izby Reprezentantów usłyszała, że ​​niektóre algorytmy rozpoznawania twarzy były błędne w 15 procentach przypadków i częściej błędnie identyfikowały osoby czarnoskóre.

Te rodzaje algorytmów uczenia maszynowego są coraz powszechniejsze, ale ich odpowiednie monitorowanie może być trudne. W rzeczywistości oprogramowanie podejmuje własne decyzje i musisz przeprowadzić inżynierię wsteczną, w jaki sposób doszło do określonego wyniku.

Zrozumiałe jest, że biorąc pod uwagę rodzaj treści, których szuka PhotoDNA, efekt błędnej identyfikacji może być katastrofalny. Na szczęście system nie opiera się na rozpoznawaniu twarzy i może znaleźć tylko wstępnie zidentyfikowane obrazy ze znanym hashem.

Czy Facebook używa PhotoDNA?

Jako właściciel i operator największych i najpopularniejszych sieci społecznościowych na świecie, Facebook każdego dnia ma do czynienia z dużą ilością treści generowanych przez użytkowników. Choć trudno o wiarygodne, aktualne szacunki, analiza w 2013 roku zasugerował, że każdego dnia na Facebooku przesyłanych jest około 350 milionów zdjęć.

Prawdopodobnie będzie to znacznie wyższe teraz, ponieważ więcej osób przyłączyło się do usługi, firma działa wiele sieci (w tym Instagram i WhatsApp) i mamy łatwiejszy dostęp do aparatów smartfonów i niezawodny Internet. Biorąc pod uwagę swoją rolę w społeczeństwie, Facebook musi ograniczyć i usunąć CSAM i inne nielegalne materiały.

Na szczęście firma zajęła się tym wcześnie, decydując się na usługę PhotoDNA firmy Microsoft w 2011 roku. Od czasu ogłoszenia sprzed ponad dziesięciu lat niewiele jest danych na temat skuteczności tej metody. Jednakże, 91 procent wszystkich raportów CSAM w 2018 roku pochodziło z Facebooka i Facebook Messengera.

Czy PhotoDNA sprawia, że ​​Internet jest bezpieczniejszy?

Usługa opracowana przez Microsoft jest niewątpliwie niezbędnym narzędziem. PhotoDNA odgrywa kluczową rolę w zapobieganiu rozprzestrzenianiu się tych obrazów, a nawet może pomóc zagrożonym dzieciom.

Jednak główną wadą systemu jest to, że może wyszukiwać tylko wstępnie zidentyfikowane zdjęcia. Jeśli PhotoDNA nie ma zapisanego skrótu, nie może zidentyfikować obraźliwych obrazów.

Robienie i przesyłanie online obrazów nadużyć w wysokiej rozdzielczości jest łatwiejsze niż kiedykolwiek, a osoby nadużywające są coraz częściej przechodzą na bezpieczniejsze platformy, takie jak Dark Web i aplikacje do szyfrowania wiadomości, aby udostępniać nielegalne materiały. Jeśli nie spotkałeś się wcześniej z Dark Web, warto poczytać o zagrożeniach związanych z ukrytą stroną Internetu.

Czy ciemna sieć jest nielegalna?

Działania przestępcze można znaleźć za pośrednictwem darknetów, ale czy w rzeczywistości korzystanie z ciemnej sieci jest nielegalne?

Czytaj dalej

O autorze