Czy rozpoznawanie twarzy może Deepfake Fool? Nowe badanie mówi tak!

Deepfake i filmy generowane przez sztuczną inteligencję nie znikną. Jednak w ciągu ostatnich kilku lat wzrosła ich jakość i ilość, przez co wiele osób martwi się o bezpieczeństwo narodowe i prywatność.

Mimo to, bez względu na to, jak bardzo anonimowi użytkownicy online starali się, aby ich fałszywe wideo były realistyczne, nigdy nie mogli przejść przez zaawansowane oprogramowanie do rozpoznawania twarzy. Do teraz.

Oszukiwanie interfejsów API rozpoznawania twarzy

Naukowcy z Uniwersytetu Sungkyunkwan w Suwon w Korei Południowej, przetestowałem jakość obecnej technologii deepfake. Przetestowali zarówno interfejsy API Amazon, jak i Microsoft przy użyciu oprogramowania typu open source i powszechnie używanego oprogramowania do generowania filmów typu deepfake, aby sprawdzić, jak dobrze sobie radzą.

Naukowcy wykorzystali twarze hollywoodzkich celebrytów. Aby stworzyć solidne deepfake, oprogramowanie potrzebuje wielu wysokiej jakości obrazów z różnych kąty tych samych osób, które celebryci o wiele łatwiej zdobyć niż zwykłe ludzie.

Badacze postanowili również wykorzystać API Microsoftu i Amazona jako punkty odniesienia dla swoich badań, ponieważ obie firmy oferują usługi rozpoznawania twarzy celebrytów. Wykorzystali publicznie dostępne zbiory danych i stworzyli nieco ponad 8000 deepfake. Z każdego wideo typu deepfake wyodrębnili wiele zdjęć twarzy i przesłali je do interfejsów API.

Dzięki Azure Cognitive Services firmy Microsoft badacze byli w stanie oszukać system w 78 procentach czasu za pomocą deepfake. Wyniki Amazona były nieco lepsze, a 68 procent zgłoszonych twarzy zostało zidentyfikowanych jako prawdziwe.

A co z detektorami Deepfake?

Detektory Deepfake działają mniej więcej w taki sam sposób, jak Deepfake. Wykrywacze to oprogramowanie, które zostało przeszkolone przy użyciu modeli uczenia maszynowego w zakresie wykrywania filmów typu deepfake.

Ale zamiast skupiać się na tworzeniu hiperrealistycznego wideo, aby oszukać detektory, deepfake mogą teraz zawierać kontradyktoryjne przykłady w każdej klatce, aby zmylić system sztucznej inteligencji. W rzeczywistości tego typu ataki typu deepfake mają wskaźniki powodzenia w zakresie od 78 do 99 procent.

Pogarsza się

Deepfakes to aplikacja do uczenia maszynowego. Aby stworzyć taki, który jest nawet w pewnym stopniu przekonujący, potrzebujesz setek obrazów twarzy tej samej osoby z różnych kątów i pokazujących różne emocje.

Ze względu na zapotrzebowanie na ogromne ilości danych można by pomyśleć, że zagrożone są tylko osoby o dużej obecności w Internecie, takie jak celebryci i politycy. Ale tak już nie jest.

Według Deeptrace, liczba deepfake’ów online wzrosła o 330 procent w ciągu niecałego roku — od października 2019 r. do czerwca 2020 r. Nie wspominając o tym, że oprogramowanie i algorytmy używane przez twórców deepfake stają się coraz silniejsze, łatwiej dostępne i dostępne.

Kto jest zagrożony Deepfake?

Kiedy deepfake po raz pierwszy stały się głównym nurtem, główny obawy dotyczyły prywatności i bezpieczeństwa narodowego. Ludzie obawiali się, że nie można już ufać materiałom wideo przedstawiającym polityków i urzędników państwowych.

Ale chociaż lekceważenie ryzyka związanego z deepfake'iem związanym z bezpieczeństwem byłoby nieodpowiedzialne, wiele ankiet wykazało, że twórcy deepfake'ów nie są jeszcze zainteresowani niepokojącą polityką. Większość filmów z deepfake online można podzielić na dwie kategorie: śmieszne filmy z wywiadami z celebrytami oraz filmy i materiały pornograficzne.

Chociaż ostatnie badanie przeprowadzono przy użyciu twarzy celebrytów, aby upewnić się, że deepfake są wysokiej jakości, aby oszukać interfejsy API, nie oznacza to, że nie możesz tworzyć deepfake z mniejszą ilością danych. Jasne, mogą nie mieć szans na oszukanie zaawansowanych systemów rozpoznawania twarzy, ale mogą być wystarczająco przekonujące, by oszukać innych ludzi.

W dzisiejszych czasach deepfake każdego, kto ma obecność społeczną, może być przekonujące. Wszystko, czego potrzebują, to kilka Twoich zdjęć i może film, w którym występujesz. Wynikowy deepfake może być niskiej jakości, ale nadal jest wykonalny i może być szkodliwy.

Przyszłość jest wciąż nieznana

Istnieje wiele sprzecznych prognoz dotyczących stanu deepfake, ponieważ nie znikną one w najbliższym czasie.

Niektórzy spodziewają się apokaliptycznej cybernetycznej przyszłości, w której nie można ufać żadnemu materiałowi, który natkniesz się w Internecie. Inni są bardziej optymistyczni, porównując deepfake z animacją i twierdząc, że może to mieć przyszłość w produkcji treści.

Jak chronić się przed fałszywymi filmami?

Deepfake stają się coraz bardziej powszechne. Oto, w jaki sposób mogą zagrozić Twojej prywatności w Internecie i jak uniknąć wciągnięcia.

Czytaj dalej

O autorze