Jak hakerzy wykorzystują generatywną sztuczną inteligencję w swoich atakach i co możemy z tym zrobić

Ostatnio w centrum uwagi znalazła się generatywna sztuczna inteligencja (AI). Chatbot oparty na sztucznej inteligencji ChatGPT i inne systemy obsługujące przetwarzanie języka naturalnego, takie jak VALL-E, udostępniły generatywną sztuczną inteligencję ogółowi społeczeństwa i uwolniły jej zalety i złe skutki.

Jedną z głównych obaw związanych z generatywną sztuczną inteligencją jest fakt, że można jej używać do ulepszania złośliwych exploitów i opracowywania bardziej wyrafinowanych cyberataków. Jak więc hakerzy wykorzystują generatywną sztuczną inteligencję w swoich atakach i co to oznacza dla przyszłości cyberbezpieczeństwa?

Co to jest generatywna sztuczna inteligencja i jak działa?

Jak sama nazwa wskazuje, generatywna sztuczna inteligencja to rodzaj sztucznej inteligencji, który jest w stanie generować nowe treści — obrazy, tekst, dźwięk i dane syntetyczne.

Jednym ze słynnych przykładów jest ChatGPT, chatbot oparty na sztucznej inteligencji, z którym możesz prowadzić rozmowy przypominające ludzi i uzyskać kilka świetnych rekomendacji filmowych — to znaczy, jeśli nie możesz wymyślić bardziej znaczącej misji, aby wysłać ChatGPT NA.

Pozwól, że podsuniemy Ci pomysł lub dwa — możesz poproś ChatGPT o napisanie wszystkich tych trudnych e-maili za Ciebie, spożytkować ChatGPT jako narzędzie do tłumaczenia, i nawet zmień ChatGPT w swojego zdrowego asystenta planowania posiłków. Podsumowując, w ciągu kilku sekund ten chatbot może wymyślić pozornie nową, przekonującą treść i przedstawić ją w całkiem poprawny politycznie sposób.

Jednak generatywna sztuczna inteligencja nie może być jeszcze kreatywna w sposób, w jaki może to zrobić człowiek. Dzieje się tak, ponieważ wykorzystuje nienadzorowane i częściowo nadzorowane algorytmy uczenia maszynowego do przetwarzania ogromnej ilości danych i generowania niestandardowych wyników.

Na przykład, jeśli chcesz zamówić obraz podobny do Picassa z generatywnej sztucznej inteligencji, takiej jak DALL-E 2, będziesz musiał wpisać swój opis w wyznaczonym polu — powiedzmy „Guernica Picassa, ale z kociętami” — i pozostań przez kilka sekundy. W tym czasie sztuczna inteligencja zastosuje wszystkie specyficzne cechy stylu artysty, których nauczyła się wcześniej kocięta na wszelki wypadek i wymyśl coś oryginalnego — mamy to zdjęcie, które trochę widać powyżej.

Jak hakerzy wykorzystują generatywną sztuczną inteligencję w swoich atakach?

Złych ludzi zawsze pociągały dobre algorytmy. Nic więc dziwnego, że wykorzystują generatywną sztuczną inteligencję do wzmocnienia swoich ataków. Wykorzystując metody ML, takie jak uczenie się przez wzmacnianie i generatywne sieci kontradyktoryjne, cyberprzestępcy mogą wymyślać nowe, bardziej wyrafinowane cyberataki, które mogą przełamać standard obrony cybernetycznej.

Jednym z przykładów tej perwersji jest „najnowocześniejszy” chatbot OpenAI, as ChatGPT jest wykorzystywany przez cyberprzestępców do tworzenia złośliwego oprogramowania. Na początku ChatGPT wydawał się zabawą i grą, ale teraz jest ujawniany jako jedno z głównych zagrożeń bezpieczeństwa i prywatności. Jeśli lubisz rozmawiać z ChatGPT, mądrze jest uważać na rzeczy, które cyberprzestępcy mogą zrobić z ChatGPT.

Krótko mówiąc, ChatGPT i inne generatywne narzędzia sztucznej inteligencji ułatwiły życie cyberprzestępcom i utrudniły zespołom ds. bezpieczeństwa. Niektóre sposoby, w jakie cyberprzestępcy wykorzystują sztuczną inteligencję w swoich atakach, obejmują:

• Tworzenie lepszego, bardziej wyrafinowanego złośliwego oprogramowania: W rękach hakerów generatywna sztuczna inteligencja może być wykorzystywana do generowania trudnych do wykrycia odmian złośliwego oprogramowania i przeprowadzania ataków. W połączeniu z modelami sztucznej inteligencji złośliwe oprogramowanie może maskować swoje zamiary, dopóki nie spełni swojego złego celu.
• Pisanie spersonalizowanych e-maili phishingowych opartych na sztucznej inteligencji: z pomocą generatywnej sztucznej inteligencji e-maile phishingowe nie mają już znamion oszustwa, takich jak zła pisownia, zła gramatyka i brak kontekstu. Ponadto dzięki sztucznej inteligencji, takiej jak ChatGPT, cyberprzestępcy mogą przeprowadzać ataki phishingowe z niespotykaną szybkością i na niespotykaną skalę.
• Generowanie głęboko fałszywych danych: Ponieważ może tworzyć przekonujące imitacje ludzkich czynności — takich jak pisanie, mowa i inne obrazy — generatywna sztuczna inteligencja może być wykorzystywana w oszukańczych działaniach, takich jak kradzież tożsamości, oszustwa finansowe i dezinformacja.
• Łamanie CAPTCHA i odgadywanie haseł: Używany przez witryny i sieci do przeczesywania botów poszukujących nieautoryzowanego dostępu, CAPTCHA może być teraz ominięty przez hakerów. Wykorzystując ML, mogą również wykonywać inne powtarzalne zadania, takie jak odgadywanie haseł i ataki typu brute-force.
• Sabotowanie ML w wykrywaniu cyberzagrożeń: Jeśli system bezpieczeństwa jest przytłoczony zbyt dużą liczbą fałszywych alarmów, haker może go zaskoczyć prawdziwym cyberatakiem.

Jak możemy walczyć z generatywnym zagrożeniem AI?

Ponieważ cyberataki stają się coraz bardziej wyrafinowane, a ich konsekwencje coraz poważniejsze, tradycyjne systemy bezpieczeństwa zmienią się w rzeczy z minionej epoki. Dzięki zdolności uczenia się na podstawie poprzednich ataków i dostosowywania się do nich sztuczna inteligencja jest nieocenionym atutem zarówno dla cyberprzestępców, jak i ich przeciwników.

Wykorzystanie sztucznej inteligencji w cyberbezpieczeństwie ma kilka poważnych zalet, takich jak szybsze wykrywanie zagrożeń, identyfikacja zagrożeń i reagowanie na zagrożenia — więc zwalczanie ognia ogniem wydaje się właściwą odpowiedzią. Zanim cyberprzestępcy nauczą się zadawać niszczycielskie ciosy osobom i firmom na całym świecie świecie, specjaliści ds. cyberbezpieczeństwa muszą nauczyć swoje systemy oparte na sztucznej inteligencji, aby się przed nimi chroniły ataki.

Jednak nie wszystko zależy od sztucznej inteligencji. W końcu możemy również wzmocnić własne bezpieczeństwo i prywatność za pomocą wypróbowanych i przetestowanych metod, takich jak uwierzytelnianie wieloskładnikowe (MFA), technologia biometryczna, wykorzystanie menedżera haseł, korzystanie z najlepiej zaszyfrowane narzędzia do współpracyi stary, dobry zdrowy rozsądek.

Walka AI z AI

Czy w najbliższej przyszłości będziemy świadkami wojen o cyberbezpieczeństwo AI? Cóż, mamy nadzieję, że nie. Jednak w miarę jak sztuczna inteligencja będzie się rozwijać i stanie się dostępna dla wszystkich — zarówno cyberprzestępców, jak i specjalistów ds. cyberbezpieczeństwa — rola sztucznej inteligencji i uczenia maszynowego będzie rosła w nadchodzących latach.