Agent: Błąd w systemie!

W 107 przedsiębiorstwach AI agentom daje się realny dostęp do systemów i danych, podczas gdy mechanizmy kontroli mające ich ograniczać pozostają w tyle. Ponad połowa doświadczyła już potwierdzonego incydentu związanego z bezpieczeństwem agenta lub uniknęła bliskiej katastrofy. Tylko około jedna trzecia przypisuje każdemu agentowi unikalny zakres tożsamości, a większość agentów nadal współdzieli poświadczenia. Co więcej, tylko trzy z dziesięciu firm izoluje swoich agentów o najwyższym ryzyku.

Stosowana infrastruktura bezpieczeństwa pochodzi w dużej mierze od dostawców modeli i wirtualnych centrów danych, a nie jest zaprojektowana specjalnie dla agentów. Budżet przeznaczony na bezpieczeństwo stanowi niewielką część całkowitego budżetu, a firmy są w równym stopniu przekonane, że ich zabezpieczenia nadążają za atakami opartymi na sztucznej inteligencji.

W efekcie powstaje luka w bezpieczeństwie agentów – autonomiczne agenty rozprzestrzeniają się szybciej niż mechanizmy tożsamości, izolacji i egzekwowania potrzebne do ich kontrolowania. Niniejszy raport z badań VentureBeat Pulse Research analizuje sposób zabezpieczania przez przedsiębiorstwa swoich AI agentów: jakie narzędzia są używane, jak zarządzana jest tożsamość i izolacja agenta, co się już niepowodzeniem, ile wydawane jest na bezpieczeństwo oraz czy firmy uważają, że ich zabezpieczenia nadążają za atakami opartymi na sztucznej inteligencji.

Kluczowe Znalezienie: Luka w Bezpieczeństwie Agentów

Centralnym ustaleniem jest luka w bezpieczeństwie agentów – odległość między autonomią, jaką firmy przyznają swoim agentom, a kontrolami, które mają ich powstrzymać. Ponad połowa organizacji (54%) doświadczyła już potwierdzonego incydentu związanego z bezpieczeństwem agenta (18%) lub bliskiej katastrofy, której udało się uniknąć (36%).

Problem Tożsamości

Podstawowym problemem strukturalnym leżącym u podstaw tych statystyk jest tożsamość. Tylko około jedna trzecia (32%) przypisuje każdemu agentowi unikalną, zarządzaną tożsamość, podczas gdy reszta zgłasza, że agenci współdzielą poświadczenia lub działają głównie na podstawie współdzielonych kluczy API oraz poświadczeń konta ludzkiego lub serwisowego. Współdzielenie poświadczeń oznacza, że pojedynczy naruszony lub nadmiernie uprawniony agent może spowodować szeroki zakres szkód. Co więcej, tylko trzy z dziesięciu przedsiębiorstw (30%) izoluje swoich agentów o najwyższym ryzyku w środowiskach piaskowniczych, aby ograniczyć ten zakres.

Zadowolenie i Brak Zmian

Zaskakujące jest, jak bardzo firmy czują się komfortowo w obliczu tej luki. Stosowana infrastruktura bezpieczeństwa pochodzi w dużej mierze od dostawców – dominują rozwiązania OpenAI (51%), Google i Microsoft (kontrole chmurowe) oraz Anthropic (kontrole agentów). Poziom zadowolenia z tych rozwiązań jest wysoki, średnio 4,2 w skali 5-punktowej. Mimo to, wydatki na bezpieczeństwo stanowią niewielką część budżetu, tylko jedna trzecia firm uważa, że ich zabezpieczenia AI wyprzedzają ataki oparte na sztucznej inteligencji, a większość planuje zmienić narzędzia w ciągu roku. Firmy są zadowolone z kontroli, które jednocześnie planują zastąpić.

Metodologia

VentureBeat przeprowadziło to badanie w ramach cyklicznej serii Pulse Research, koncentrującej się na bezpieczeństwie agentów – narzędziach, tożsamości, izolacji i mechanizmach egzekwowania, których firmy używają do zabezpieczania autonomicznych agentów AI. Odpowiedzi są filtrowane do organizacji z ponad 100 pracownikami (n=107; pominięto zakres od 1 do 100 pracowników). Ze względu na przeprowadzenie badania w jednym cyklu, raport odnosi się do przekroju populacji i nie wyciąga wniosków na temat zmian miesiąc po miesiącu. Wiele pytań było wielokrotnego wyboru, dlatego sumy procentowe mogą przekraczać 100%.

Próba składa się głównie z osób zajmujących wysokie stanowiska i kompetentnych w zakresie zakupów AI: 45% to decydenci, a kolejne 30% to osoby rekomendujące lub wpływające. Członkowie kadry zarządzającej (43%), pracownicy wykonawczy (24%), wiceprezesi i dyrektorzy (15%) oraz najwyższe szczeble kierownicze (11%) stanowią strukturę hierarchiczną. Pod względem wielkości organizacji próba jest ważona na rynek średniej wielkości: 42% to firmy z 251 do 1000 pracowników, a 25% z 101 do 250 pracowników. Powyżej znajdują się firmy z 1001 do 5000 (19%), 5001 do 10000 (8%) i ponad 10001 (7%) pracowników. Największą reprezentację ma branża technologii/oprogramowania (23%), po niej pod względem reprezentacji plasują się produkcja (15%), handel detaliczny/e-commerce (14%) i opieka zdrowotna/nauki o życiu (13%).

Próbka licząca 107 respondentów jest wystarczająco duża, aby wyciągnąć ogólne wnioski, ale należy traktować ją jako sygnał kierunkowy, a nie dokładne pomiar. Jest to próba samowybrana i nie jest próbą losową. Skupia się na średnim segmencie rynku, dlatego najlepiej interpretować ją jako pogląd organizacji aktywnie wdrożających zabezpieczenia agentów, a nie największych graczy.

Ocena satysfakcji została obliczona na podstawie respondentów, którzy odpowiedzieli na każde pytanie dotyczące oceny. Ogólny wynik satysfakcji odzwierciedla opinie 82 z 107 kwalifikowanych respondentów.

Znalezienie 1: Incydenty Już Miejsca

Ponad połowa organizacji doświadczyła incydentu związanego z bezpieczeństwem agenta lub bliskiej katastrofy.

Zapytano organizacje, czy doświadczyły incydentu związanego z bezpieczeństwem agenta – naruszenia bezpieczeństwa lub bliskiej katastrofy, której udało się uniknąć. Większość firm prowadzących agentów w środowisku produkcyjnym doświadczyła takiego zdarzenia. Ponad połowa organizacji (54%) doświadczyła już incydentu związanego z bezpieczeństwem agenta – 18% potwierdzonego incydentu, a 36% bliskiej katastrofy, której udało się uniknąć. Tylko 42% raportuje brak zdarzeń, a niewielka pozostałość albo nie prowadzi agentów w środowisku produkcyjnym, albo nie śledzi takich zdarzeń.

Kategoria	Procent Organizacji
Brak incydentów	42%
Bliska katastrofa (unikanie szkód)	36%
Potwierdzony incydent (naruszenie)	18%

źródło inteligentnego przedruku: VentureBeat AI