Jednak niewiele organizacji może z całkowitą pewnością stwierdzić, ilu agentów działa w ich środowisku, jaki dostęp mają poszczególni z nich i kto dokładnie ponosi odpowiedzialność, gdy coś pójdzie nie tak.

Ta luka może sprawić, że obieg pracy agentów z obiecującego rozwiązania technologicznego zamieni się w potencjalne pole minowe pełne zagrożeń, jeśli firmy nie przyjmą nowego podejścia do zarządzania – takiego, które zapewni lepszy nadzór nad sposobem działania agentów oraz systemami, do których mają dostęp, którym mogą ufać i z których mogą korzystać.

Nie oczekuj perfekcji

Rynek zareagował na potencjalne zagrożenie ze strony agentów AI, którzy szaleją, falą nowych narzędzi: platform do wykrywania agentów, które wyszukują aktywnych agentów, oraz narzędzi do ich ograniczania, które ograniczają ich działanie do z góry określonych limitów. Oba są przydatne, ale żadne z nich nie rozwiązuje problemu samodzielnie.

Wyzwanie związane z „kontrolą” agentów AI jest potęgowane przez szybkie tempo zmian. Nowe narzędzia dla agentów, nowe wersje modeli AI i nowe opcje koordynacji pojawiają się w tempie, które sprawia, że ​​każdy istniejący model zarządzania staje się przestarzały w ciągu kilku miesięcy.

Zamiast czekać, aż „doskonałe” ramy zarządzania staną się standardem, organizacje powinny już teraz podjąć kroki w celu stworzenia struktury roboczej, która będzie mogła ewoluować w czasie.

Jak więc może to wyglądać w praktyce?

Ciągły monitoring i precyzyjna kontrola

Same zasady i procedury nie wystarczą, aby potwierdzić, co faktycznie działa w środowisku produkcyjnym. Organizacje potrzebują procesu rejestracji i wykrywania, który obejmie każdego używanego agenta, a nie tylko te, które zespoły zgłosiły jako zbudowane.

Prawdziwy wgląd w sytuację wynika z przygotowania samego środowiska, wykorzystania danych z rejestrowania i monitorowania generowanych przez modele bazowe oraz zbudowania na tym analityki. Tylko te surowe dane mogą ujawnić, co agent faktycznie robi, jak często i jakim kosztem, zamiast polegać na tym, co ludzie sądzą o jego działaniu.

Kolejnym kluczowym krokiem jest przejście od kontroli ogólnych do kontroli precyzyjnych. Na przykład, jednolite stosowanie jednego, szeroko zakrojonego systemu kontroli w całej organizacji ogranicza zakres bez skutecznego reagowania na ryzyko. Różne przypadki użycia wymagają różnych poziomów ograniczeń, a traktowanie każdego agenta w ten sam sposób albo nadmiernie ogranicza wartościową pracę, albo niedostatecznie ogranicza pracę ryzykowną.

Kontrole powinny być definiowane na poziomie pojedynczego agenta i jego konkretnego zadania, a nie na poziomie całej organizacji. W miarę jak agenci zaczynają kontaktować się z innymi agentami w celu wykonania zadania, precyzja ta staje się jeszcze ważniejsza: każdy agent potrzebuje jasnej i szczegółowej definicji tego, co może zrobić i do czego ma dostęp, aby każde przekroczenie tego zdefiniowanego zakresu było natychmiast widoczne.

Mając na uwadze powyższe , firmy muszą przyjąć podejście „weryfikuj, nie zakładaj”. Opracowanie systemu powstrzymywania lub koncepcyjnej polityki bezpieczeństwa to zaledwie pierwszy krok. Potwierdzenie, że faktycznie sprawdza się on w rzeczywistych warunkach, to odrębne i ciągłe zadanie.

Przydatnym podejściem jest w tym przypadku połączenie kontroli koncepcyjnej z warstwą egzekwowania logicznego lub fizycznego: narzędziem, które może potwierdzić, co jest egzekwowalne, z czym agent może wchodzić w interakcję i czy w praktyce przestrzega tych ograniczeń.

Ciągły monitoring zasad, a nie jednorazowa akceptacja, dowodzi, że system powstrzymywania działa, ponieważ możliwości agenta i zestaw narzędzi zmieniają się niemal codziennie.

Dostęp nie jest jedyną zmienną

Dyskusje na temat zarządzania zazwyczaj koncentrują się niemal wyłącznie na tym, do czego agent ma dostęp. Równie ważna jest kolejność, w jakiej agent uzyskuje dostęp do tych informacji. Agent, który gromadzi informacje w niewłaściwej kolejności lub podejmuje działania na podstawie danych przed ukończeniem kolejnego kroku, może uzyskać błędne wyniki, nawet jeśli każde działanie jest technicznie dopuszczalne.

Niektóre przepływy pracy wymagają równoległego wykonywania kroków; inne wymagają określonej sekwencji, aby zapewnić najdokładniejsze wyniki. Zbudowanie oddzielnej, dobrze zdefiniowanej sekwencji operacyjnej dla każdego przypadku użycia, zamiast pozwalania modelowi na samodzielne określanie kolejności operacji, znacznie zmniejsza ryzyko tego typu błędów.

Jest to problem zarówno związany z projektowaniem procesów, jak i z kwestiami technicznymi, a jego rozwiązanie zależy od jasnego zdefiniowania przypadku użycia przed zastosowaniem jakichkolwiek narzędzi.

Dyscyplinowane podejście ogranicza ryzyko agentów

Żaden z tych elementów nie działa w izolacji. Wykrywanie bez rygorystycznych kontroli sprawia, że ​​organizacje są świadome tego, co istnieje, ale nie są w stanie tego kontrolować. Systemy powstrzymywania bez weryfikacji tworzą fałszywe poczucie bezpieczeństwa. A zarządzanie skoncentrowane wyłącznie na dostępie pomija kluczowe zmienne, które mogą prowadzić do ryzyka.

Organizacje, które dobrze sobie z tym radzą, to te, które traktują zarządzanie agentami jako rozszerzenie istniejącego zarządzania IT i danymi oraz stosują tę samą dyscyplinę, co w przypadku starszych systemów podstawowych, zamiast traktować ją jako dodatek.

Biorąc pod uwagę, jak szybko zmienia się krajobraz technologiczny, takie holistyczne, kontrolowane podejście pozwoli zachować wartość sztucznej inteligencji opartej na agentach i ograniczy ryzyko utraty kontroli przez agentów.

Przedstawiliśmy najlepsze narzędzia sztucznej inteligencji.

Niniejszy artykuł powstał w ramach DzTecnium Pro Perspectives , naszego kanału prezentującego najlepsze i najwybitniejsze umysły w branży technologicznej.

Poglądy wyrażone w niniejszym artykule są poglądami autora i niekoniecznie odzwierciedlają poglądy DzTecniumPro ani Future plc. Jeśli chcesz się do nas przyczynić, możesz dowiedzieć się więcej tutaj: https://www.techradar.com/pro/perspectives-how-to-submit