1 na 10 aplikacji GenAI zagraża bezpieczeństwu firmowych danych

Katgoria: BEZPIECZEŃSTWO IT / Utworzono: 30 czerwiec 2025

paloalto networks

Dla 7 na 10 użytkowników AI bezpieczeństwo danych jest najważniejszym czynnikiem budującym zaufanie do tej technologii – mówi raport Deloitte. Tymczasem dane KPMG wskazują, że wciąż 68% firm w Polsce nie ma opracowanej ścieżki wdrożenia rozporządzenia AI Act. Problem jest poważny, bo aplikacje GenAI, podobnie jak wiele innych aplikacji konsumenckich, są wprowadzani do środowisk pracy bez zgody lub nadzoru działów IT. Palo Alto Networks alarmuje, że już na początku 2025 roku średnia miesięczna liczba incydentów związanych z bezpieczeństwem danych podczas korzystania z nieautoryzowanych aplikacji GenAI wzrosła aż 2,5-krotnie.

REKLAMA

Wkroczyliśmy w nową erę, w której technologia przechodzi błyskawiczną transformację. U podstaw tej rewolucji stoi GenAI, która zaledwie w kilka lat przeszła drogę od nowinki do jednego z kluczowych motorów napędowych gospodarki. Rosnąca presja na wzrost produktywności i pozornie proste rozwiązanie w postaci asystentów AI doprowadziły do tego, że firmy przekazują terabajty danych na serwery dziesiątek nieautoryzowanych aplikacji GenAI.

Najbardziej znane platformy konwersacyjnej sztucznej inteligencji, takie jak OpenAI ChatGPT, Google Gemini i Microsoft Copilot zdominowały krajobraz GenAI. W 2024 r. wykorzystanie GenAI w przedsiębiorstwach wzrosło średnio o 32% w ujęciu miesięcznym, w porównaniu z 20% w przypadku oprogramowania SaaS. Rośnie popularność tzw. asystentów pisania, czyli aplikacji, które pomagają użytkownikom, sugerując poprawki gramatyczne, ortograficzne, interpunkcyjne i stylistyczne w czasie rzeczywistym. Pierwsze miejsce w tej grupie należy do Grammarly – 39% wszystkich transakcji związanych z AI.

Już teraz przeciętne przedsiębiorstwo korzysta z około 66 rozwiązań GenAI, na które przenoszone są budżety IT z myślą o jak najszybszym zwrocie z inwestycji. Jednak rozwiązania, za którymi stoją znane podmioty o ugruntowanej reputacji to tylko część rynku. Aż 10% spośród badanych aplikacji GenAI Palo Alto Networks klasyfikuje jako rozwiązania wysokiego ryzyka dla bezpieczeństwa firm.

Asystenci pisania wymagają dostępu do treści będących własnością firmy, chodzi między innymi o dane poufne i wrażliwe. Jeśli asystent pisania AI zostanie zintegrowany z systemami organizacji bez odpowiednich zabezpieczeń, może stać się wektorem cyberataków. Hakerzy mogą wykorzystać słabe punkty aplikacji, aby uzyskać dostęp do systemów wewnętrznych lub wrażliwych danych. Nasz zespół testował podatność tego rodzaju aplikacji i w 70% przypadków były one podatne na techniki jailbreakingu, czyli generowanie nieodpowiednich lub nawet zakazanych treści np. instrukcji dotyczących samookaleczenia, produkcji ładunków wybuchowych, budowy broni czy pozyskiwania nielegalnych substancji. Oznacza to, że większość aplikacji dostępnych na rynku może być słabo zabezpieczona, a przez to groźna dla użytkowników – tłumaczy Wojciech Gołębiowski, wiceprezes i dyrektor zarządzający Palo Alto Networks w Europie Wschodniej.

Gwałtowny rozwój GenAI zasadniczo zmienił cyfrowy krajobraz przedsiębiorstw. Chociaż GenAI otwiera drogę do innowacji i zwiększa konkurencyjność, rozpowszechnianie nieautoryzowanych narzędzi AI naraża organizacje na większe ryzyko wycieku danych, naruszenia zgodności i wyzwania związane z bezpieczeństwem. Nie można pozwolić, aby tempo innowacji wyprzedziło środki bezpieczeństwa. Aby w pełni wykorzystać potencjał GenAI przy jednoczesnym ograniczeniu ryzyka, priorytetowe znaczenie ma ścisła kontrola danych, zarządzanie dostępem i systematyczne szkolenie pracowników.

Ponadto szefowie działów IT muszą być świadomi, że normy prawne takie jak NIS2, DORA czy AI Act nakładają na nich odpowiedzialność w zakresie ochrony wrażliwych danych. Rośnie zatem potrzeba wdrażania systemów zarządzania dostępem do platform i wtyczek GenAI – to bardzo podobne rozwiązanie do istniejących od lat systemów blokujących strony internetowe, z których korzystanie jest niezgodne z polityką firmy.

Rozwiązania oparte na GenAI są stosunkowo nowe zwłaszcza dla legislatorów, którzy muszą opracowywać uniwersalne normy prawne w warunkach ciągle ewoluującej technologii. Kiedy wszyscy powoli zaczęli rozumieć, że AI to milowy krok na miarę nowej rewolucji przemysłowej, gwałtownie wzrosła presja na poszukiwanie sposobów wykorzystania asystentów GenAI do zwiększania produktywności. Tak rozwinęło się powszechne stosowanie nieautoryzowanych narzędzi, które w połączeniu z brakiem jasnych zasad dotyczących korzystania ze sztucznej inteligencji przez pracowników i presją na szybkie wdrażanie AI naraża firmy i klientów na poważne ryzyka. Pomimo wzrostu wydajności, rośnie także ryzyko utraty danych, ujawnienia tajemnic handlowych lub wycieku kodu źródłowego. Wciąż brakuje powszechnej świadomości, że narzędzia GenAI nieznanego pochodzenia mogą być pułapką zastawioną przez cyberprzestępców na nieświadomego użytkownika.

Źródło: paloalto networks

Najnowsze wiadomości

Customer-specific AI: dlaczego w 2026 roku to ona przesądza o realnym wpływie AI na biznes

W 2026 roku sztuczna inteligencja przestaje być ciekawostką technologiczną, a zaczyna być rozliczana z realnego wpływu na biznes. Organizacje oczekują dziś decyzji, którym można zaufać, procesów działających przewidywalnie oraz doświadczeń klientów, które są spójne w skali. W tym kontekście coraz większe znaczenie zyskuje customer-specific AI - podejście, w którym inteligencja jest osadzona w danych, procesach i regułach konkretnej firmy, a nie oparta na generycznych, uśrednionych modelach.

Czytaj całość

PROMAG S.A. rozpoczyna wdrożenie systemu ERP IFS Cloud we współpracy z L-Systems

PROMAG S.A., lider w obszarze intralogistyki, rozpoczął wdrożenie systemu ERP IFS Cloud, który ma wesprzeć dalszy rozwój firmy oraz integrację kluczowych procesów biznesowych. Projekt realizowany jest we współpracy z firmą L-Systems i obejmuje m.in. obszary finansów, produkcji, logistyki, projektów oraz serwisu, odpowiadając na rosnącą skalę i złożoność realizowanych przedsięwzięć.

Czytaj całość

SkyAlyne stawia na IFS dla utrzymania floty RCAF

SkyAlyne, główny wykonawca programu Future Aircrew Training (FAcT), wybrał IFS Cloud for Aviation Maintenance jako cyfrową platformę do obsługi technicznej lotnictwa i zarządzania majątkiem. Wdrożenie ma zapewnić wgląd w czasie rzeczywistym w utrzymanie floty, zasoby i zgodność, ograniczyć przestoje oraz zwiększyć dostępność samolotów szkoleniowych RCAF w skali całego kraju. To ważny krok w modernizacji kanadyjskiego systemu szkolenia załóg lotniczych.

Czytaj całość

Wykorzystanie AI w firmach rośnie, ale wolniej, niż oczekiwano. Towarzyszy temu sporo rozczarowań

Wykorzystanie sztucznej inteligencji w firmach rośnie, ale tempo realnych wdrożeń pozostaje znacznie wolniejsze od wcześniejszych oczekiwań rynku. Dane pokazują, że z rozwiązań AI korzysta dziś wciąż niewiele przedsiębiorstw, a menedżerowie coraz częściej wskazują na bariery regulacyjne, koszty oraz brak powtarzalnych efektów biznesowych. W praktyce technologia jest testowana głównie w wybranych obszarach, a kluczowe decyzje nadal pozostają po stronie człowieka. Również w firmach, które wdrożyły AI, nierzadko towarzyszą temu rozczarowania.

Czytaj całość

Europejski przemysł cyfryzuje się zbyt wolno – ERP, chmura i AI stają się koniecznością

Europejski przemysł średniej wielkości wie, że cyfryzacja jest koniecznością, ale wciąż nie nadąża za tempem zmian. Ponad 60% firm ocenia swoje postępy w transformacji cyfrowej jako zbyt wolne, mimo rosnącej presji konkurencyjnej, regulacyjnej i kosztowej. Raport Forterro pokazuje wyraźną lukę między świadomością potrzeby inwestycji w chmurę, ERP i AI a realną zdolnością do ich wdrożenia – ograniczaną przez braki kompetencyjne, budżety i gotowość organizacyjną.

Czytaj całość

RAPORT ERP

Katalog rozwiązań IT

Katalog firm

Najnowsze artykuły

5 pułapek zarządzania zmianą, które mogą wykoleić transformację cyfrową i wdrożenie ERP

Dlaczego jedne wdrożenia ERP dowożą korzyści, a inne kończą się frustracją, obejściami w Excelu i spadkiem zaufania do systemu? Najczęściej decyduje nie technologia, lecz to, jak organizacja prowadzi zmianę: czy liderzy biorą odpowiedzialność za decyzje czy tempo jest dopasowane do zdolności absorpcji oraz czy ludzie dostają klarowność ról i realne kompetencje. Do tego dochodzi pytanie: co po go-live - stabilizacja czy chaos w firmie? Poniżej znajdziesz 5 pułapek, które najczęściej wykolejają transformację i praktyczne sposoby, jak im zapobiec.

Czytaj całość

SAP vs Oracle vs Microsoft: jak naprawdę wygląda chmura i sztuczna inteligencja w ERP

Wybór systemu ERP w erze chmury i sztucznej inteligencji to decyzja, która determinuje sposób działania organizacji na lata — a często także jej zdolność do skalowania, adaptacji i realnej transformacji cyfrowej. SAP, Oracle i Microsoft oferują dziś rozwiązania, które na pierwszy rzut oka wyglądają podobnie, lecz w praktyce reprezentują zupełnie odmienne podejścia do chmury, AI i zarządzania zmianą. Ten artykuł pokazuje, gdzie kończą się deklaracje, a zaczynają realne konsekwencje biznesowe wyboru ERP.

Czytaj całość

Transformacja cyfrowa z perspektywy CFO: 5 rzeczy, które przesądzają o sukcesie (albo o kosztownej porażce)

Transformacja cyfrowa w finansach często zaczyna się od pytania o ERP, ale w praktyce rzadko sprowadza się wyłącznie do wyboru systemu. Dla CFO kluczowe jest nie tylko „czy robimy pełną wymianę ERP”, lecz także jak policzyć ryzyko operacyjne po uruchomieniu, ocenić wpływ modelu chmurowego na koszty OPEX oraz utrzymać audytowalność i kontrolę wewnętrzną w nowym modelu działania firmy.

Czytaj całość

Agentic AI rewolucjonizuje HR i doświadczenia pracowników

Agentic AI zmienia HR: zamiast odpowiadać na pytania, samodzielnie realizuje zadania, koordynuje procesy i podejmuje decyzje zgodnie z polityką firmy. To przełom porównywalny z transformacją CRM – teraz dotyczy doświadczenia pracownika. Zyskują HR managerowie, CIO i CEO: mniej operacji, więcej strategii. W artykule wyjaśniamy, jak ta technologia redefiniuje rolę HR i daje organizacjom przewagę, której nie da się łatwo nadrobić.

Czytaj całość

Composable ERP: Przewodnik po nowoczesnej architekturze biznesowej

Czy Twój system ERP nadąża za tempem zmian rynkowych, czy stał się cyfrową kotwicą hamującą rozwój? W dobie nieciągłości biznesowej tradycyjne monolity ustępują miejsca elastycznej architekturze Composable ERP. To rewolucyjne podejście pozwala budować środowisko IT z niezależnych modułów (PBC) niczym z klocków, zapewniając zwinność nieosiągalną dla systemów z przeszłości. W tym raporcie odkryjesz, jak uniknąć pułapki długu technologicznego, poznasz strategie liderów rynku (od SAP po MACH Alliance) i wyciągniesz lekcje z kosztownych błędów gigantów takich jak Ulta Beauty. To Twój strategiczny przewodnik po transformacji z cyfrowego "betonu" w adaptacyjną "plastelinę".

Czytaj całość