Jak sztuczna inteligencja oszukała ludzi, by myśleli, że Trump został aresztowany

Jeśli jesteś aktywny na Twitterze, być może widziałeś szokujące zdjęcia byłego prezydenta USA Donalda Trumpa aresztowanego przez funkcjonariuszy policji, walczącego z nimi, a nawet uciekającego przed nimi. Okazało się, że nic z tego nie było prawdziwe. Ale jak to wszystko się stało?

Aresztowanie Donalda Trumpa, które nigdy się nie wydarzyło

Były prezydent USA podzielił się rzekomym przeciekiem przez swojego urzędnika Prawdziwy uchwyt społecznościowy 18 marca. W poście napisano, że spodziewa się aresztowania we wtorek następnego tygodnia za „stare i całkowicie obalone” zarzuty przeciwko niemu. Nie minęło dużo czasu, zanim zdjęcia z aresztowania Trumpa zaczęły pojawiać się w całym Internecie.

Obrazy pokazywały coś, co wyglądało na nagranie z aresztowania Trumpa przez grupę funkcjonariuszy organów ścigania.

Obrazy zostały wygenerowane przez sztuczną inteligencję

Zdjęcia nie były jednak autentyczne. Były to deepfake wykonane za pomocą

Midjourney, generator obrazów AI. Midjourney wykorzystuje algorytm głębokiego uczenia się do generowania obrazów od podstaw za pomocą monitów tekstowych. W tym przypadku monity tekstowe były wariantami aresztowania Trumpa.

technologia deepfake istnieje od jakiegoś czasu i staje się coraz bardziej wyrafinowany. Obrazy generowane przez sztuczną inteligencję były kiedyś łatwe do zidentyfikowania: brakowało im szczegółów i realizmu. Jednakże, Najnowsza wersja Midjourney (v5) naprawił większość tych problemów i był w rzeczywistości wersją używaną do generowania deepfake'ów dotyczących aresztowania Trumpa.

Jak obrazy stały się wirusowe

Eliot Higgins, dziennikarz śledczy, stworzył pierwsze wersje deepfake dotyczącego aresztowania Trumpa, aby zwizualizować, jak wyglądałoby aresztowanie Trumpa. Opublikował je na swoim koncie na Twitterze. Chociaż jego podpis od samego początku był jasny, że zdjęcia są fałszywe, post szybko stał się wirusowy.

Gdy zdjęcia rozprzestrzeniły się w mediach społecznościowych, wiele osób uwierzyło, że to prawda. Post Trumpa w Truth Social wzbudził już podejrzenia ludzi, a realistyczne obrazy tylko podsyciły ogień. Minęło trochę czasu, zanim stało się jasne, że zdjęcia były fałszywe, a historia aresztowania była mistyfikacją.

Posty w mediach społecznościowych „zgłaszające” fałszywe aresztowanie zostały usunięte lub opatrzone etykietą wprowadzającą w błąd. W ramach kary Midjourney zbanował również Higginsa ze swojego serwera na miesiąc, per Washington Post.

Era deepfake'ów wymaga czujności

Fałszywe aresztowań Trumpa podkreślają alarmujące postępy w technologii sztucznej inteligencji. Fałszywe obrazy można teraz tworzyć z niewiarygodną łatwością i wyglądają tak realistycznie, że trudno jest odróżnić, co jest prawdziwe, a co nie. Czujność jest teraz bardziej krytyczna niż kiedykolwiek, jeśli chodzi o treści online.