Niedawne incydenty, takie jak przypadek usunięcia firmowej bazy danych przez agenta bazującego na modelu Claude Opus 4.6, obnażają rosnące wyzwanie stojące przed przedsiębiorstwami. Z danych zgromadzonych przez Veeam wynika, że już 88% firm na świecie wykorzystuje agenty AI lub znajduje się w fazie ich pilotażowych wdrożeń. Systemy te otrzymują dostęp do środowisk produkcyjnych oraz wrażliwych danych, nierzadko dysponując uprawnieniami, których organizacja nigdy nie powierzyłaby początkującemu pracownikowi bez ścisłej kontroli.
Złudne poczucie bezpieczeństwa i problem odpowiedzialności
Do tej pory dyskusja o bezpieczeństwie AI w biznesie koncentrowała się na prewencji. Dostawcy technologii wdrażają tzw. guardrails, czyli zabezpieczenia mające zapobiegać halucynacjom, stronniczości czy niezamierzonym działaniom. Choć są one niezbędne, ich obecność często buduje złudne poczucie bezpieczeństwa. Pomyłki AI rzadko są widoczne natychmiast, a z racji szybkości maszynowej, z jaką działają agenty, mogą one wprowadzić masowe, automatyczne zmiany w wielu systemach, zanim człowiek zdoła zareagować.
Gdy dochodzi do awarii, większość organizacji potrafi wskazać zastosowane mechanizmy zapobiegawcze, ale rzadko potrafi określić, jakie dokładnie zmiany wprowadził agent, jakie były tego skutki oraz czy można je cofnąć bez zakłócania ciągłości działania biznesu. Problem potęguje brak jasnej struktury odpowiedzialności za poczynania AI. Z raportu Veeam wynika, że w organizacjach brakuje funkcji przeznaczonej do nadzoru nad agentami AI – najczęściej wskazuje się liderów AI lub innowacji (35%) oraz zespoły technologiczne (29%), znacznie rzadziej osoby zarządzające danymi (14%) czy CISO (11%), a tylko w 7% przypadków występuje ustrukturyzowana odpowiedzialność współdzielona.
Jakość danych kluczem do trafnych decyzji
Kolejnym poważnym wyzwaniem jest jakość danych wejściowych. Aż 36% projektów związanych ze sztuczną inteligencją uległo spowolnieniu ze względu na niespójne lub niedokładne informacje. W tym obszarze bezwzględnie obowiązuje zasada „garbage in, garbage out” – niska jakość danych oznacza niską jakość wyników, co w przypadku AI jest potęgowane przez szybkość i automatyzację działań. Jedno błędne źródło potrafi zainfekować decyzje w wielu połączonych systemach. Kadra kierownicza dostrzega ten problem - 79% respondentów uważa, że dane w ich organizacjach powinny być bardziej aktualne, 74% oczekuje wyższej dokładności, a 71% lepszej dostępności.
Trzy kroki do budowy odporności w środowisku AI
Obecnie duża część rynku cyberbezpieczeństwa skupia się na rozwiązaniach prewencyjnych, jednak w erze autonomicznych agentów AI, potrafiących modyfikować rekordy i podejmować decyzje operacyjne, konieczna jest strategia reagowania na incydenty i odwracania ich skutków. Zbudowanie odporności wymaga podjęcia trzech fundamentalnych kroków:
- Pełna widoczność działań AI - organizacje muszą wiedzieć, jak algorytmy wpływają na systemy operacyjne oraz gdzie dokładnie docierają skutki ich działań.
- Świadome zarządzanie danymi - przedsiębiorstwa muszą kontrolować pochodzenie, dokładność i wiarygodność informacji zasilających modele. Obecnie tylko 30% firm weryfikuje swoje zasoby w tym kontekście, a jedynie 24% wyznaczyło członka kadry kierowniczej odpowiedzialnego za ten obszar.
- Precyzyjne odtwarzanie po błędzie - tradycyjne kopie zapasowe mogą okazać się bezużyteczne przy incydentach AI, ponieważ masowe przywrócenie systemu kasuje również poprawne transakcje biznesowe. Firmy potrzebują narzędzi umożliwiających punktowe wycofanie szkodliwych akcji maszyny, bez paraliżowania normalnej pracy.
Z przeprowadzonego badania wynika, że w pełni gotowych na sztuczną inteligencję – w sposób, który łączy ambicje biznesowe z kontrolą i nadzorem – jest obecnie zaledwie 7% firm na świecie. W tej elitarnej grupie aż 97% odnotowuje już jednak mierzalne korzyści z jej wdrożenia. Jak podsumowuje raport, w erze zaawansowanej automatyzacji wygrają nie ci, którzy ślepo zakładają nieomylność sztucznej inteligencji, lecz ci, którzy będą przygotowani na moment, w którym maszyna się pomyli.
Wyżej wskazywane dane pochodzą z badania przeprowadzonego w dniach 16 marca – 6 kwietnia 2026 r. w grupie 600 przedstawicieli kadry zarządzającej (m.in. CEO, CIO, CISO, CDO) z branż usług finansowych, ochrony zdrowia, produkcji, handlu detalicznego i technologii, reprezentujących rynki Ameryki Północnej, Europy oraz regionu Azji i Pacyfiku.
Źródło: Veeam
