Sztuczna inteligencja i uczenie maszynowe mogą zdziałać cuda, od tworzenia dzieł sztuki po automatyzację zadań administracyjnych. Ale stanowią również ryzyko, ponieważ mogą wzmocnić pozycję złych aktorów za pomocą sztuczek, takich jak deepfake.
Ponieważ ta konkretna technologia ewoluuje, warto dowiedzieć się, jak faktycznie działają deepfake'i i kto w ogóle chciałby ich używać — zarówno legalnie, jak i nielegalnie.
Dlaczego ważne jest, aby zrozumieć, jak i dlaczego wykorzystywane są deepfake
Główne zastosowania technologii deepfake koncentrują się głównie na zabawnych, pornograficznych lub filmowych materiałach, ale badania to potwierdziły deepfake może oszukać rozpoznawanie twarzy. Samo to jest powodem do zmartwień i podniesienia czujności.
Im częściej technologia jest wykorzystywana w życiu codziennym i projektach na dużą skalę, tym lepiej jej programiści uczą się tworzyć płynne fałszywe filmy przedstawiające ludzi, celebrytów lub członków rodziny.
Zrozumienie jak chronić się przed filmami typu deepfake
jest teraz koniecznością, biorąc pod uwagę, jak chętnie branże wykorzystują zalety technologii, zwłaszcza w rozrywce.Hollywood użył go w kilku projektach na długo wcześniej Głęboko fałszywy wpis AGT firmy Metaphysic, który pokazał światu, jak szybkie i skuteczne może być tworzenie deepfake'ów. Oto, na czym polega ten proces.
Jak działają deepfake'i?
Jeśli chodzi o to, co kryje się za deepfake’ami, wskazówka tkwi w nazwie: głębokie uczenie się, nauka o sztucznych sieciach neuronowych (ANN). To, co robią algorytmy deepfake, polega na pochłanianiu danych, uczeniu się na ich podstawie i tworzeniu nowych danych w postaci mimiki twarzy lub całej twarzy nałożonej na twoją.
Twórcy oprogramowania typu deepfake zwykle używają jednego z dwóch typów ANN: autoenkoderów lub generatywnych sieci kontradyktoryjnych (GAN).
Autokodery uczą się replikować masy danych, którymi są karmione, głównie zdjęcia twarzy i mimiki, oraz odtwarzać żądane zestawy danych. Jednak rzadko są to dokładne kopie.
Z drugiej strony sieci GAN mają inteligentniejszy system, który obejmuje generator i dyskryminator. Ten pierwszy odtwarza dane, których się nauczył, w deepfake, które następnie muszą oszukać tego drugiego.
Dyskryminator porównuje kreacje generatora z rzeczywistymi obrazami i określa ich skuteczność. Najlepsze deepfake to oczywiście te, które doskonale naśladują ludzkie zachowanie.
Jak więc powstają deepfake przy użyciu tej technologii? Algorytmy stojące za aplikacjami takimi jak Reface I Laboratorium DeepFace stale uczyć się na podstawie danych, które przez nie przechodzą, aby mogli skutecznie dostosowywać rysy twarzy i mimikę lub nakładać jedną twarz na drugą.
Oprogramowanie to w zasadzie edytor wideo zaprojektowany specjalnie do manipulowania twarzami. Niektóre aplikacje są bardziej złożone niż inne, ale w sumie możesz zrobić wszystko, od postarzania kogoś w górę lub w dół, po edytowanie siebie w filmach.
Ale technologia wciąż ma wady. Tworzenie deepfake może być bardziej skomplikowane niż jak powstają fałszywe filmy na żywo, ale można go równie łatwo wykryć jako fałszywy.
Jak rozpoznać Deepfake'a
Ponieważ deepfake'i są tworzone głównie przez maszyny, cechy lub maniery cyfrowej twarzy nie zawsze wyglądają naturalnie. Mogą też wystąpić błędy w konfiguracji wideo. Innymi słowy, możesz rozpoznać fałszywy materiał, jeśli wiesz, czego szukać.
Oto kilka znaków ostrzegawczych:
- Nienaturalne mruganie: Uczenie maszynowe często pomija mruganie oczami lub sprawia, że wygląda to niezręcznie.
- Rozmyte lub niestabilne funkcje: czyjeś włosy, usta lub podbródek mogą być lekko rozmyte lub poruszać się w dziwny, często przesadzony sposób.
- Brak lub błędne przedstawienie emocji: Słabe deepfake'i są beznamiętne lub źle naśladują emocje.
- Niezręczna mowa ciała: jeśli osoba na filmie porusza głową lub ciałem w sposób zniekształcony lub chaotyczny, może to być deepfake.
- Niewłaściwe kolory i oświetlenie: przebarwienia, niewytłumaczalne światła i cienie to pewne oznaki fałszywego filmu.
- Niespójne obiekty: Podczas dostosowywania filmu oprogramowanie do deepfake może popełniać błędy, takie jak zmiana kształtu ubrań, biżuterii i elementów tła.
- Zły dźwięk: Deepfake może zniekształcać mowę i dźwięki w filmie.
W pełni wykorzystać Sposoby wykrywania deepfake'ów dowiadując się, w jakim celu są zwykle tworzone takie filmy, i zwracając szczególną uwagę na szczegóły materiału, który widzisz w Internecie — zwolnij, jeśli to możliwe.
Ponadto opracowywanych jest coraz więcej narzędzi, jak np Microsoft Authenticator i Sensity Kryminalistyczne wykrywanie deepfake'ów, które analizują filmy na poziomie minuty.
Kto korzysta z deepfake'ów?
Filmowcy coraz częściej używają deepfake'ów do postarzania lub zastępowania twarzy aktorów, jak w Gwiezdnych Wojnach. Artyści potrafią animować portrety i sprawić, by mówiły i śpiewały.
Marketerzy eksperymentują z technologią deepfake dla treści promocyjnych, które nie wymagają zatrudniania aktorów. Firmy takie jak WPP stosują je również w swoich filmach szkoleniowych.
Ogólnie rzecz biorąc, technicy tworzą zabawne filmy, w których wymieniają się twarzami ze znajomymi lub nakładają jednego aktora na drugiego w popularnych filmach. Sylvester Stallone przejął Home Alone, a Joker Heatha Ledgera pojawił się w A Knight's Tale.
Niestety, jeśli zbadasz, do czego jeszcze wykorzystywana jest technologia deepfake, znajdziesz wiele złośliwych przypadków. Twórcy deepfake'ów lubią rozpowszechniać dezinformacje i obraźliwe wiadomości, a także kierować celebrytów i umieszczać ich w filmach dla dorosłych. Ludzie są nawet szantażowani fałszywymi materiałami filmowymi.
W swojej obecnej nieokiełznanej formie deepfake jest synonimem zagrożenia dla praw do prywatności, bezpieczeństwa, a nawet praw autorskich, na przykład, gdy algorytm wyraźnie wykorzystuje zdjęcie lub grafikę niepublicznie dostępny.
Właśnie dlatego kraje i marki tupią. Według danych od 2021 r Mapa Cyber Civil Rights Initiative prawa dotyczącego deepfake w Stanach Zjednoczonych, cztery stany rozprawiają się obecnie z publikowanymi filmami typu deep-fake, które przedstawiają kogoś w wyraźny lub w inny sposób szkodliwy sposób.
Chiny podejmują również kroki w celu kryminalizacji deepfake, które szkodzą ludziom i społeczeństwu, czy to poprzez naruszenie praw jednostki, czy rozpowszechnianie fałszywych wiadomości. Nawet Mete ogłosił w 2020 roku wprowadzające w błąd, zmanipulowane filmy nie były mile widziane.
Oprócz regulacji, oficjalne organy na całym świecie dążą do lepszego wykrywania przestępstw typu deepfake i zapobiegania im. The Raport Rathenau Instituut o tym, jak europejska polityka powinna radzić sobie z deepfake'ami, popiera oprogramowanie z narzędziami takimi jak rozpoznawanie mówcy i twarzy, wykrywanie żywego głosu i analiza rysów twarzy.
Dowiedz się, jak Deepfake wprowadza Cię w błąd
Deepfake weszły już do głównego nurtu, na dobre i na złe. Ciesz się zabawnymi i inspirującymi filmami, przygotowując się do walki ze złośliwymi.
W końcu czymże jest taki deepfake, jak nie narzędziem zaprojektowanym, by cię oszukać? Jeśli wiesz, czego szukać i jak reagować, ma to nad tobą mniejszą władzę.
Na przykład będziesz w stanie wykryć deepfake w mediach społecznościowych wraz z fałszywymi wiadomościami i kontami oraz uniknąć dezinformacji, prób phishingu i innych. W miarę ulepszania technologii wykrywania i zapobiegania głębokim fałszerstwom otrzymasz więcej wsparcia.
