Nie(bezpieczna) sztuczna inteligencja

 

O złej sztucznej inteligencji bardzo często wspomina się w kontekście cyberbezpieczeństwa. Szczególnie złą sławą, w przeciwieństwie do ChatGPT, cieszą się WormGPT, BadGPT czy FraudGPT - narzędzia powszechnie dostępne w Darknecie. Tak jak wielu pracowników biurowi korzysta z ChatGPT do pisania lepszych e-maili, hakerzy używają złośliwe wersje chatbotów do tworzenia fałszywych stron internetowych, pisania oprogramowania i wiadomości, w których podszywają się pod kierownictwo, czy inne zaufane podmioty. Co gorsza, świat złych chatbotów nie ogranicza się do kilku narzędzi. Naukowcy z Uniwersytetu w Indianie w bieżącym roku wykryli ponad 200 usług hakerskich sprzedawanych w Darknecie. Pierwszy taki program pojawił się na początku ubiegłego roku, a więc kilka miesięcy po publicznym udostępnieniu ChatGPT. Zdaniem naukowców większość szkodliwych programów oferowanych na czarnym rynku wykorzystuje wersje open source Meta Llama 2 lub wprowadza własne „rozszerzenia” do modeli takich dostawców jak OpenAI i Anthropic. Ceny usługi hakerskich AI wahają się od 5 do 199 dolarów miesięcznie.



Pewnego rodzaju ciekawostką jest przykład Amazona, opisywany na łamach dziennika The Wall Street Journal, który każdego dnia odnotowuje średnio 750 milionów prób ataków. Jeszcze niespełna rok temu było ich około 100 milionów. Osoby odpowiedzialne za bezpieczeństwo IT w Amazonie uważają, że przyczyną takiego stanu rzeczy jest sztuczna inteligencja, pozwalająca realizować ataki osobom bez wielkiego doświadczenia w zakresie tworzenia złośliwych programów.

Sztuczna inteligencja po dobrej stronie mocy

Często można odnieść wrażenie, że dostawcy systemów bezpieczeństwo wprowadzili rozwiązania bazujące na sztucznej inteligencji oraz uczeniu maszynowym dopiero po debiucie ChatGPT. Ale jest to jeden z mitów związanych z AI. Brian Dye, ówczesny wiceprezydent firmy Symantec już w 2014 roku wyznał na łamach dziennika The Wall Street Journal, że antywirusy wykrywają tylko 45 procent ataków. Artykuł odbił się szerokim echem w branży cyberbezpieczeństwa, a także zapoczątkował zmiany mające na celu zwiększenie efektywności oprogramowania antywirusowego. Od samego początku bazowało ono na skanowaniu systemów pod kątem wyszukiwania zainfekowanych plików na podstawie sygnatur. Jednak wraz z pojawieniem się nowych rodzajów ataków (bezpikowe, zero-day) znana od lat metoda zaczęła zawodzić. Na rynku pojawiły się produkty wykorzystujące mechanizmy uczenia maszynowego i sztucznej inteligencji, koncentrujące się bardziej na detekcji niż prewencji. Przykładowo G DATA w 2018 roku udostępniła technologię DeepRay, gdzie sieć neuronowa współpracuje z adaptacyjnym algorytmem, który jest na bieżąco udoskonalany przez analityków. Jego działanie polega na kategoryzowaniu różnorodnych plików wykonywalnych w oparciu o szeroką paletę wskaźników – takich jak rozbieżność między rozmiarem pliku a ilością kodu wykonywalnego, wersje stosowanych kompilatorów czy ilość importowanych funkcji systemowych.



Jednym z największych problemów, z jakim boryka się branża cyberbezpieczeństwa, jest brak rąk do pracy. W ubiegłym roku w Polsce na specjalistów ds. cyberbezpieczeństwa czekało 10 tysięcy miejsc pracy.

Przeciążeni pracą specjaliści często popełniają błędy. Jednak istnieje szansa, że wraz automatyzacją narzędzi bezpieczeństwa IT, pracownicy skoncentrują się na kluczowych kwestiach zamiast tracić czas na wykonywanie żmudnych, powtarzalnych czynności. O ile sztuczna inteligencja doskonale sprawdza się w automatyzacji powtarzalnych zadań, analizowaniu ogromnych ilości danych i identyfikowaniu wzorców, o tyle ludzka intuicja i osąd są nadal potrzebne do interpretacji tych spostrzeżeń, podejmowania krytycznych decyzji i dostosowywania strategii do zwalczania ewoluujących zagrożeń.

W najbliższej przyszłości nie należy się spodziewać radykalnego uproszczenia systemów ze względu na to, że cyberbezpieczeństwo jest obszarem o dużej dynamice zmian. Wraz rozwojem technologii pojawiają się zupełnie nowe zagrożenia, którym trzeba stawić czoła.

Źródło: www.gdata.pl