3 na 4 projekty związane z agentową AI napotkają poważne trudności związane z bezpieczeństwem

Katgoria: BEZPIECZEŃSTWO IT / Utworzono: 04 listopad 2025

Palo Alto Networks

3 na 4 projekty związane z agentową AI napotkają poważne trudności związane z bezpieczeństwem

W ciągu ostatniego roku Palo Alto Networks współpracowało z 3000 czołowych europejskich liderów biznesu w zakresie cyberbezpieczeństwa. Wnioski są niepokojące – agenci AI już na starcie dostają zbyt szeroki zakres uprawnień i mają dostęp do wrażliwych danych. Jednocześnie brakuje skutecznych systemów weryfikacji w czasie rzeczywistym, który ograniczałby nieautoryzowany dostęp. Na dodatek znaczna część przedsiębiorców nie planuje konkretnych zadań dla agentów AI, wydając tym samym pieniądze na nierentowne działania.

REKLAMA

Agentowa AI zmienia zasady gry, ponieważ zaledwie w ciągu kilku lat przeszliśmy drogę od konwersacji z chatbotem udzielającym prostych odpowiedzi do algorytmów podejmujących konkretne działania w organizacji. Zmiany przyspieszyły gwałtownie również w obszarze uprawnień i nadzoru. Szum wokół AI sprawił, że wiele organizacji zaczęło ją wdrażać, zanim w ogóle opanowało tę nową dziedzinę.

Gartner przewiduje wzmożoną rezygnację firm z agentowej sztucznej inteligencji do 2027 r.^{^[1]}, a raport MIT pokazuje, że większość pilotażowych projektów GenAI w przedsiębiorstwach już zakończyła się niepowodzeniem^{^[2]}. Sytuacja jest jeszcze gorsza z punktu widzenia cyberbezpieczeństwa, bowiem dane z Uniwersytetu Stanforda wskazują, że tylko 6% organizacji korzysta z zaawansowanych rozwiązań bezpieczeństwa dla sztucznej inteligencji^{^[3]}.

Jeśli zarządy firm od samego początku nie zaszczepią w kulturze organizacyjnej świadomości bezpieczeństwa i nie będą egzekwować określonych wyników, zasad i zabezpieczeń w procesie wdrażania agentowej AI, porażka jest nieunikniona. Z tego powodu sukces tej technologii nie zależy już tylko od jakości kodu, ale w znacznie większym zakresie od odpowiedzialności zarządu firmy – podkreśla Wojciech Gołębiowski wiceprezes i dyrektor zarządzający Palo Alto Networks w Europie Środkowo-Wschodniej.

Dlaczego agentowa AI zawodzi?

Przede wszystkim dlatego, że wciąż większość firm uważa, że projekty związane z AI są wyłączną odpowiedzialnością działów IT, a nie całego zarządu. To prowadzi do rozmycia odpowiedzialności, a kwestie bezpieczeństwa oraz ryzyka prawne, operacyjne i biznesowe poruszane są o wiele za późno, jeśli w ogóle znajdą się na agendzie. Po drugie, wciąż rzadkością są projekty, które od samego początku mają jasno określone i mierzalne cele oraz przeanalizowane ryzyka.

Zespoły zaczynają od narzędzia, a dopiero potem szukają sposobów, jak je wykorzystać. Wydatki rosną, pilotażowe projekty wchodzą w fazę produkcji, a gdy pojawi się pytanie o KPI lub próg ryzyka, okazuje się, że nikt nie potrafi udzielić na nie precyzyjnej odpowiedzi.

Wdrożenia AI powinny rozpoczynać się od mierzalnych celów biznesowych i świadomości ryzyka, a nie od technologii. Należy ustalić 2 lub 3 ważne cele zatwierdzone przez zarząd, a następnie określić wskaźniki ryzyka, zabronione działania i benchmarki bezpieczeństwa, aby zapobiec przepalaniu budżetów na inwestycje, które od początku nie mają silnych podstaw biznesowych. Przedsiębiorstwa muszą ustanowić skuteczny system zarządzania, aby te założenia osiągnąć – podkreśla Wojciech Gołębiowski.

W ramach spójnej polityki bezpieczeństwa te same zasady powinny obowiązywać ludzi, maszyny i agentów AI. Należy egzekwować minimalne uprawnienia, krótkotrwałe poświadczenia i precyzyjny podział obowiązków. Bezpieczeństwo od samego początku zapewnia innowacyjność bez narażania przedsiębiorstwa na możliwe do uniknięcia ryzyko.

Czy to oznacza, że agentowa sztuczna inteligencja nie ma przyszłości?

Nie. Projekty wykorzystujące tę technologię mogą działać skutecznie, ale tylko wtedy, gdy zostanie wbudowana w struktury organizacyjne firmy i objęta realnym nadzorem – już na etapie planowania projektu. Taka technologia nie może funkcjonować jako osobny eksperyment IT, lecz jako element szerszej strategii biznesowej, z jasno określonymi celami, właścicielami i zasadami odpowiedzialności.

Od czego zacząć?

3 obszary, które warto uporządkować jeszcze w tym kwartale

1. Zarządzanie agentami

Powołaj zespół międzydziałowy odpowiedzialny za wszystkie projekty agentowe – z udziałem IT, bezpieczeństwa, biznesu i compliance.
Stwórz centralny rejestr agentów, ich uprawnień, właścicieli i zakresów odpowiedzialności.
Przed uruchomieniem produkcyjnym przeprowadzaj testy scenariuszowe i ocenę ryzyk (np. warsztaty „premortem”).
Raz na kwartał analizuj zdarzenia i incydenty z udziałem agentów na poziomie zarządu lub CIO.

2. Jasno określone cele i granice

Każdy przypadek użycia agentowej AI powinien mieć przypisane konkretne cele biznesowe oraz wskaźniki efektywności i ryzyka.
Zidentyfikuj działania, które powinny zawsze wymagać zatwierdzenia przez człowieka – szczególnie te, które mają wpływ na klienta, dane lub reputację firmy.
Zadbaj o to, by każde działanie agenta było przypisane do konkretnej osoby, zespołu lub roli – z jasno określoną intencją i zakresem.

3. Zasady bezpieczeństwa

Ujednolić podejście do zarządzania tożsamościami – zarówno ludzkimi, jak i maszynowymi.
Wdrażaj zasady minimalnych uprawnień, poświadczeń ważnych tylko przez określony czas i logicznego podziału ról.
Zadbaj o możliwość śledzenia i audytu działań agentów – w tym logi, podpisy żądań i weryfikację odpowiedzi.
Utrzymuj człowieka w procesie decyzyjnym, zwłaszcza tam, gdzie działania agenta mogą mieć skutki prawne, finansowe lub wizerunkowe.

Firmy, które uporządkują te trzy obszary, nie tylko ograniczą ryzyko, ale zwiększą szansę na to, że agentowa AI stanie się realnym wsparciem dla biznesu – zamiast trafić na listę nieudanych eksperymentów.

Źródło: Palo Alto Networks

^{^[1]} Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027

^{^[2]} The GenAI Divide: State of AI in Business 2025

^{^[3]} The 2025 AI Index Report | Stanford HAI

Najnowsze wiadomości

Customer-specific AI: dlaczego w 2026 roku to ona przesądza o realnym wpływie AI na biznes

W 2026 roku sztuczna inteligencja przestaje być ciekawostką technologiczną, a zaczyna być rozliczana z realnego wpływu na biznes. Organizacje oczekują dziś decyzji, którym można zaufać, procesów działających przewidywalnie oraz doświadczeń klientów, które są spójne w skali. W tym kontekście coraz większe znaczenie zyskuje customer-specific AI - podejście, w którym inteligencja jest osadzona w danych, procesach i regułach konkretnej firmy, a nie oparta na generycznych, uśrednionych modelach.

Czytaj całość

PROMAG S.A. rozpoczyna wdrożenie systemu ERP IFS Cloud we współpracy z L-Systems

PROMAG S.A., lider w obszarze intralogistyki, rozpoczął wdrożenie systemu ERP IFS Cloud, który ma wesprzeć dalszy rozwój firmy oraz integrację kluczowych procesów biznesowych. Projekt realizowany jest we współpracy z firmą L-Systems i obejmuje m.in. obszary finansów, produkcji, logistyki, projektów oraz serwisu, odpowiadając na rosnącą skalę i złożoność realizowanych przedsięwzięć.

Czytaj całość

SkyAlyne stawia na IFS dla utrzymania floty RCAF

SkyAlyne, główny wykonawca programu Future Aircrew Training (FAcT), wybrał IFS Cloud for Aviation Maintenance jako cyfrową platformę do obsługi technicznej lotnictwa i zarządzania majątkiem. Wdrożenie ma zapewnić wgląd w czasie rzeczywistym w utrzymanie floty, zasoby i zgodność, ograniczyć przestoje oraz zwiększyć dostępność samolotów szkoleniowych RCAF w skali całego kraju. To ważny krok w modernizacji kanadyjskiego systemu szkolenia załóg lotniczych.

Czytaj całość

Wykorzystanie AI w firmach rośnie, ale wolniej, niż oczekiwano. Towarzyszy temu sporo rozczarowań

Wykorzystanie sztucznej inteligencji w firmach rośnie, ale tempo realnych wdrożeń pozostaje znacznie wolniejsze od wcześniejszych oczekiwań rynku. Dane pokazują, że z rozwiązań AI korzysta dziś wciąż niewiele przedsiębiorstw, a menedżerowie coraz częściej wskazują na bariery regulacyjne, koszty oraz brak powtarzalnych efektów biznesowych. W praktyce technologia jest testowana głównie w wybranych obszarach, a kluczowe decyzje nadal pozostają po stronie człowieka. Również w firmach, które wdrożyły AI, nierzadko towarzyszą temu rozczarowania.

Czytaj całość

Europejski przemysł cyfryzuje się zbyt wolno – ERP, chmura i AI stają się koniecznością

Europejski przemysł średniej wielkości wie, że cyfryzacja jest koniecznością, ale wciąż nie nadąża za tempem zmian. Ponad 60% firm ocenia swoje postępy w transformacji cyfrowej jako zbyt wolne, mimo rosnącej presji konkurencyjnej, regulacyjnej i kosztowej. Raport Forterro pokazuje wyraźną lukę między świadomością potrzeby inwestycji w chmurę, ERP i AI a realną zdolnością do ich wdrożenia – ograniczaną przez braki kompetencyjne, budżety i gotowość organizacyjną.

Czytaj całość

RAPORT ERP

Katalog rozwiązań IT

Katalog firm

Najnowsze artykuły

5 pułapek zarządzania zmianą, które mogą wykoleić transformację cyfrową i wdrożenie ERP

Dlaczego jedne wdrożenia ERP dowożą korzyści, a inne kończą się frustracją, obejściami w Excelu i spadkiem zaufania do systemu? Najczęściej decyduje nie technologia, lecz to, jak organizacja prowadzi zmianę: czy liderzy biorą odpowiedzialność za decyzje czy tempo jest dopasowane do zdolności absorpcji oraz czy ludzie dostają klarowność ról i realne kompetencje. Do tego dochodzi pytanie: co po go-live - stabilizacja czy chaos w firmie? Poniżej znajdziesz 5 pułapek, które najczęściej wykolejają transformację i praktyczne sposoby, jak im zapobiec.

Czytaj całość

SAP vs Oracle vs Microsoft: jak naprawdę wygląda chmura i sztuczna inteligencja w ERP

Wybór systemu ERP w erze chmury i sztucznej inteligencji to decyzja, która determinuje sposób działania organizacji na lata — a często także jej zdolność do skalowania, adaptacji i realnej transformacji cyfrowej. SAP, Oracle i Microsoft oferują dziś rozwiązania, które na pierwszy rzut oka wyglądają podobnie, lecz w praktyce reprezentują zupełnie odmienne podejścia do chmury, AI i zarządzania zmianą. Ten artykuł pokazuje, gdzie kończą się deklaracje, a zaczynają realne konsekwencje biznesowe wyboru ERP.

Czytaj całość

Transformacja cyfrowa z perspektywy CFO: 5 rzeczy, które przesądzają o sukcesie (albo o kosztownej porażce)

Transformacja cyfrowa w finansach często zaczyna się od pytania o ERP, ale w praktyce rzadko sprowadza się wyłącznie do wyboru systemu. Dla CFO kluczowe jest nie tylko „czy robimy pełną wymianę ERP”, lecz także jak policzyć ryzyko operacyjne po uruchomieniu, ocenić wpływ modelu chmurowego na koszty OPEX oraz utrzymać audytowalność i kontrolę wewnętrzną w nowym modelu działania firmy.

Czytaj całość

Agentic AI rewolucjonizuje HR i doświadczenia pracowników

Agentic AI zmienia HR: zamiast odpowiadać na pytania, samodzielnie realizuje zadania, koordynuje procesy i podejmuje decyzje zgodnie z polityką firmy. To przełom porównywalny z transformacją CRM – teraz dotyczy doświadczenia pracownika. Zyskują HR managerowie, CIO i CEO: mniej operacji, więcej strategii. W artykule wyjaśniamy, jak ta technologia redefiniuje rolę HR i daje organizacjom przewagę, której nie da się łatwo nadrobić.

Czytaj całość

Composable ERP: Przewodnik po nowoczesnej architekturze biznesowej

Czy Twój system ERP nadąża za tempem zmian rynkowych, czy stał się cyfrową kotwicą hamującą rozwój? W dobie nieciągłości biznesowej tradycyjne monolity ustępują miejsca elastycznej architekturze Composable ERP. To rewolucyjne podejście pozwala budować środowisko IT z niezależnych modułów (PBC) niczym z klocków, zapewniając zwinność nieosiągalną dla systemów z przeszłości. W tym raporcie odkryjesz, jak uniknąć pułapki długu technologicznego, poznasz strategie liderów rynku (od SAP po MACH Alliance) i wyciągniesz lekcje z kosztownych błędów gigantów takich jak Ulta Beauty. To Twój strategiczny przewodnik po transformacji z cyfrowego "betonu" w adaptacyjną "plastelinę".

Czytaj całość