Hakerzy coraz częściej wykorzystują duże modele językowe do zaawansowanych, zautomatyzowanych ataków

Katgoria: BEZPIECZEŃSTWO IT / Utworzono: 22 lipiec 2025

CISCO

Hakerzy coraz częściej wykorzystują duże modele językowe do zaawansowanych, zautomatyzowanych ataków

Zespół Cisco Talos, zajmujący się badaniami nad cyberbezpieczeństwem, ostrzega przed niepokojącym trendem: cyberprzestępcy coraz chętniej sięgają po duże modele językowe (LLM - Large Language Models), by automatyzować i udoskonalać swoje ataki. Jak wynika z najnowszego raportu Cisco Talos, nie tylko korzystają oni z ogólnodostępnych usług AI, ale również ze zmodyfikowanych modele, w tym tzw. wersji „odblokowanych” (ang. jailbroken). Dzięki tym narzędziom cyberprzestępcy mogą tworzyć wiarygodne kampanie phishingowe i generować zaawansowany złośliwy kod.

REKLAMA

LLM-y zyskują popularność w wielu branżach dzięki zdolności do generowania przekonujących treści, rozwiązywania problemów, pisania kodu i wykonywania różnorodnych zadań. Według platformy Hugging Face, która gromadzi modele AI, dostępnych jest obecnie ponad 1,8 miliona różnych modeli. Większość z nich wyposażona jest w mechanizmy zabezpieczające (tzw. mechanizmy ochronne i reguły zgodności), które mają zapobiegać ich wykorzystaniu w celach przestępczych.

Nieocenzurowane modele LLM - rosnące zagrożenie

Zespół Cisco Talos wykrył wiele nieocenzurowanych modeli językowych, które pozwalają cyberprzestępcom tworzyć bardzo wiarygodne wiadomości phishingowe i inne formy fałszywej komunikacji - bez rażących błędów czy podejrzanych sformułowań. Dzięki temu ofiary łatwiej dają się nabrać i mogą nieświadomie przekazać dane osobowe lub firmowe. Przykładem takich modeli są m.in. Ollama i WhiteRabbitNeo - ten drugi promuje się jako narzędzie do działań zarówno obronnych, jak i ofensywnych w obszarze cyberbezpieczeństwa.

Raport Cisco podkreśla również, że istnieją techniki umożliwiające usunięcie wbudowanych ograniczeń modeli - poprzez modyfikację zestawów danych treningowych i dostrajanie modeli bazowych, co prowadzi do ich „odcenzurowania” i większej podatności na nadużycia.

Złośliwe modele LLM - narzędzia tworzone przez przestępców

Niektórzy cyberprzestępcy poszli o krok dalej, tworząc własne modele LLM, które aktywnie promują w darknecie. Tego typu modele potrafią samodzielnie generować złośliwe oprogramowanie - w tym ransomware, trojany zdalnego dostępu (RAT), narzędzia do niszczenia danych, shellcode czy różnego rodzaju skrypty.

Ponadto służą one do tworzenia treści takich jak wiadomości phishingowe, fałszywe strony internetowe, pliki konfiguracyjne, a także do weryfikacji skradzionych danych kart płatniczych, skanowania stron i kodu w poszukiwaniu luk oraz opracowywania nowych strategii przestępczych. Wśród znanych złośliwych aplikacji znajdują się GhostGPT, WormGPT, DarkGPT, DarkestGPT i FraudGPT. Talos ustaliło, że ten ostatni jest częścią szerszej kampanii oszustw.

Legalne modele LLM - kuszący cel dla nadużyć

Przestępcy coraz częściej decydują się też na wykorzystywanie legalnych, powszechnie dostępnych modeli. Te - choć wyposażone w zabezpieczenia - oferują dużą moc obliczeniową, jeśli tylko uda się obejść wbudowane mechanizmy ochrony. Głównymi przeszkodami są tu wytyczne treningowe oraz zabezpieczenia uniemożliwiające generowanie nieetycznych, nielegalnych lub szkodliwych treści.

Aby je obejść, cyberprzestępcy sięgają po techniki takie jak prompt injection, czyli wprowadzanie specjalnych zapytań, które mają „złamać” zabezpieczenia modelu i skłonić go do wygenerowania niepożądanych odpowiedzi.

Wraz z rozwojem AI, cyberprzestępcy będą nadal wykorzystywać duże modele językowe, aby usprawnić swoje procesy, tworzyć narzędzia i skrypty, które mogą być wykorzystane do atakowania użytkowników, oraz generować treści, które łatwiej ominą zabezpieczenia. Ta nowa technologia niekoniecznie wyposaża cyberprzestępców w zupełnie nową broń cybernetyczną, ale działa jak multiplikator, wzmacniając i udoskonalając znane techniki ataku – podsumowuje Jaeson Schultz z Cisco Talos.

Źródło: Cisco

Najnowsze wiadomości

Customer-specific AI: dlaczego w 2026 roku to ona przesądza o realnym wpływie AI na biznes

W 2026 roku sztuczna inteligencja przestaje być ciekawostką technologiczną, a zaczyna być rozliczana z realnego wpływu na biznes. Organizacje oczekują dziś decyzji, którym można zaufać, procesów działających przewidywalnie oraz doświadczeń klientów, które są spójne w skali. W tym kontekście coraz większe znaczenie zyskuje customer-specific AI - podejście, w którym inteligencja jest osadzona w danych, procesach i regułach konkretnej firmy, a nie oparta na generycznych, uśrednionych modelach.

Czytaj całość

PROMAG S.A. rozpoczyna wdrożenie systemu ERP IFS Cloud we współpracy z L-Systems

PROMAG S.A., lider w obszarze intralogistyki, rozpoczął wdrożenie systemu ERP IFS Cloud, który ma wesprzeć dalszy rozwój firmy oraz integrację kluczowych procesów biznesowych. Projekt realizowany jest we współpracy z firmą L-Systems i obejmuje m.in. obszary finansów, produkcji, logistyki, projektów oraz serwisu, odpowiadając na rosnącą skalę i złożoność realizowanych przedsięwzięć.

Czytaj całość

SkyAlyne stawia na IFS dla utrzymania floty RCAF

SkyAlyne, główny wykonawca programu Future Aircrew Training (FAcT), wybrał IFS Cloud for Aviation Maintenance jako cyfrową platformę do obsługi technicznej lotnictwa i zarządzania majątkiem. Wdrożenie ma zapewnić wgląd w czasie rzeczywistym w utrzymanie floty, zasoby i zgodność, ograniczyć przestoje oraz zwiększyć dostępność samolotów szkoleniowych RCAF w skali całego kraju. To ważny krok w modernizacji kanadyjskiego systemu szkolenia załóg lotniczych.

Czytaj całość

Wykorzystanie AI w firmach rośnie, ale wolniej, niż oczekiwano. Towarzyszy temu sporo rozczarowań

Wykorzystanie sztucznej inteligencji w firmach rośnie, ale tempo realnych wdrożeń pozostaje znacznie wolniejsze od wcześniejszych oczekiwań rynku. Dane pokazują, że z rozwiązań AI korzysta dziś wciąż niewiele przedsiębiorstw, a menedżerowie coraz częściej wskazują na bariery regulacyjne, koszty oraz brak powtarzalnych efektów biznesowych. W praktyce technologia jest testowana głównie w wybranych obszarach, a kluczowe decyzje nadal pozostają po stronie człowieka. Również w firmach, które wdrożyły AI, nierzadko towarzyszą temu rozczarowania.

Czytaj całość

Europejski przemysł cyfryzuje się zbyt wolno – ERP, chmura i AI stają się koniecznością

Europejski przemysł średniej wielkości wie, że cyfryzacja jest koniecznością, ale wciąż nie nadąża za tempem zmian. Ponad 60% firm ocenia swoje postępy w transformacji cyfrowej jako zbyt wolne, mimo rosnącej presji konkurencyjnej, regulacyjnej i kosztowej. Raport Forterro pokazuje wyraźną lukę między świadomością potrzeby inwestycji w chmurę, ERP i AI a realną zdolnością do ich wdrożenia – ograniczaną przez braki kompetencyjne, budżety i gotowość organizacyjną.

Czytaj całość

RAPORT ERP

Katalog rozwiązań IT

Katalog firm

Najnowsze artykuły

5 pułapek zarządzania zmianą, które mogą wykoleić transformację cyfrową i wdrożenie ERP

Dlaczego jedne wdrożenia ERP dowożą korzyści, a inne kończą się frustracją, obejściami w Excelu i spadkiem zaufania do systemu? Najczęściej decyduje nie technologia, lecz to, jak organizacja prowadzi zmianę: czy liderzy biorą odpowiedzialność za decyzje czy tempo jest dopasowane do zdolności absorpcji oraz czy ludzie dostają klarowność ról i realne kompetencje. Do tego dochodzi pytanie: co po go-live - stabilizacja czy chaos w firmie? Poniżej znajdziesz 5 pułapek, które najczęściej wykolejają transformację i praktyczne sposoby, jak im zapobiec.

Czytaj całość

SAP vs Oracle vs Microsoft: jak naprawdę wygląda chmura i sztuczna inteligencja w ERP

Wybór systemu ERP w erze chmury i sztucznej inteligencji to decyzja, która determinuje sposób działania organizacji na lata — a często także jej zdolność do skalowania, adaptacji i realnej transformacji cyfrowej. SAP, Oracle i Microsoft oferują dziś rozwiązania, które na pierwszy rzut oka wyglądają podobnie, lecz w praktyce reprezentują zupełnie odmienne podejścia do chmury, AI i zarządzania zmianą. Ten artykuł pokazuje, gdzie kończą się deklaracje, a zaczynają realne konsekwencje biznesowe wyboru ERP.

Czytaj całość

Transformacja cyfrowa z perspektywy CFO: 5 rzeczy, które przesądzają o sukcesie (albo o kosztownej porażce)

Transformacja cyfrowa w finansach często zaczyna się od pytania o ERP, ale w praktyce rzadko sprowadza się wyłącznie do wyboru systemu. Dla CFO kluczowe jest nie tylko „czy robimy pełną wymianę ERP”, lecz także jak policzyć ryzyko operacyjne po uruchomieniu, ocenić wpływ modelu chmurowego na koszty OPEX oraz utrzymać audytowalność i kontrolę wewnętrzną w nowym modelu działania firmy.

Czytaj całość

Agentic AI rewolucjonizuje HR i doświadczenia pracowników

Agentic AI zmienia HR: zamiast odpowiadać na pytania, samodzielnie realizuje zadania, koordynuje procesy i podejmuje decyzje zgodnie z polityką firmy. To przełom porównywalny z transformacją CRM – teraz dotyczy doświadczenia pracownika. Zyskują HR managerowie, CIO i CEO: mniej operacji, więcej strategii. W artykule wyjaśniamy, jak ta technologia redefiniuje rolę HR i daje organizacjom przewagę, której nie da się łatwo nadrobić.

Czytaj całość

Composable ERP: Przewodnik po nowoczesnej architekturze biznesowej

Czy Twój system ERP nadąża za tempem zmian rynkowych, czy stał się cyfrową kotwicą hamującą rozwój? W dobie nieciągłości biznesowej tradycyjne monolity ustępują miejsca elastycznej architekturze Composable ERP. To rewolucyjne podejście pozwala budować środowisko IT z niezależnych modułów (PBC) niczym z klocków, zapewniając zwinność nieosiągalną dla systemów z przeszłości. W tym raporcie odkryjesz, jak uniknąć pułapki długu technologicznego, poznasz strategie liderów rynku (od SAP po MACH Alliance) i wyciągniesz lekcje z kosztownych błędów gigantów takich jak Ulta Beauty. To Twój strategiczny przewodnik po transformacji z cyfrowego "betonu" w adaptacyjną "plastelinę".

Czytaj całość