Firma Microsoft dystrybuuje narzędzie Deepfake Detection

Biorąc pod uwagę, jak głębokie podróbki są zarówno potencjalnie niszczące dla czyjejś reputacji, jak i bardzo trudne do zauważenia, gdy są wykonane prawidłowo, stanowią poważny problem z bezpieczeństwem. Teraz Microsoft stara się pomóc powstrzymać deepfakes, udostępniając narzędzie, które może je wykryć.

Zagrożenie ze strony deepfake'ów jest tak duże, że spowodowało Facebook, aby zablokować wszystkie treści typu deepfake. Jednak największą przeszkodą jest to, jak głębokie podróbki wyglądają przekonująco; w związku z tym zlokalizowanie i potwierdzenie deepfake jest bardzo trudne.

Facebook zakazuje podróbek i photoshopów

Facebook zakazuje deepfake'ów i zdjęć Photoshopa. Pomysł polegał na usunięciu zmanipulowanych mediów, które mają oszukiwać użytkowników.

Jak informowaliśmy Microsoft w kwestiachfirma chce to zmienić dzięki nowemu narzędziu. Nazywa się Microsoft Video Authenticator i analizuje filmy w poszukiwaniu „szwów” pozostawionych po tworzeniu deepfake'ów. Te szwy są niewidoczne dla ludzkich oczu, ale komputer może je wykryć za pomocą analizy klatka po klatce.

Aby zapobiec inżynierii wstecznej technologii przez złośliwych agentów, Microsoft Video Authenticator nie będzie publiczną wersją. Zamiast tego Microsoft rozprowadza swój system do organizacji informacyjnych i politycznych. W ten sposób organizacje te mogą użyć narzędzia do oddzielenia rzeczywistości od podróbki.

Jednak Microsoft ogłosił drugą technologię identyfikacji deepfake'ów. Firma proponuje system, w którym twórca treści może oznaczyć swoje filmy unikalnym „podpisem”. Gdyby wideo jest edytowane, wygeneruje inny podpis niż oryginał, identyfikując w ten sposób plik deepfake.

Autorka książki Deep Fakes and the Infocalypse, Nina Schick, powiedziała:

Jedynym naprawdę powszechnym zastosowaniem, jakie widzieliśmy do tej pory, jest pornografia wobec kobiet związana z przymusem. Jednak oczekuje się, że media syntetyczne staną się wszechobecne za około trzy do pięciu lat, więc w przyszłości musimy rozwijać te narzędzia. Jednak wraz ze wzrostem możliwości wykrywania poprawią się także możliwości generowania - nigdy nie jest będzie tak, że Microsoft może wypuścić jedno narzędzie, które może wykrywać wszystkie rodzaje wideo manipulacja.

Deepfake to poważny problem dla wiarygodności mediów, a firmy potrzebują sposobu powiedz, co jest prawdziwe, od tego, co jest fikcją. Firma Microsoft wydała narzędzie ułatwiające wykrywanie edytowanych filmów. Jednak nie wiadomo jeszcze, czy narzędzie wystarczy, aby nadążyć za programistami deepfake.

Jeśli nie masz pewności, czym są deepfake'i i dlaczego mają znaczenie, zdecydowanie warto poświęcić trochę czasu, aby się o nich dowiedzieć. Deepfake ma szansę stać się w tej dekadzie odpowiednikiem obrazów „Photoshopping” i może spowodować poważne szkody, jeśli zostanie użyte w złośliwy sposób.

Wyjaśnienie Deepfakes: sztuczna inteligencja, która sprawia, że ​​fałszywe filmy są zbyt przekonujące

Fałszywe filmy generowane przez sztuczną inteligencję całkowicie podważają nasze zrozumienie wydarzeń na świecie. Oto, jak deepfakes może wszystko zmienić.

O autorze