Sztuczna inteligencja potrzebuje reguł i ram: dlaczego zarządzanie musi wykraczać poza politykę

Autostrady nie są bezpieczne tylko dlatego, że kierowcy przestrzegają przepisów ruchu drogowego. Bezpieczeństwo zależy od ograniczeń prędkości, oznakowania pasów ruchu i barier ochronnych, które zapewniają płynny ruch i pomagają zapobiegać poważnym wypadkom spowodowanym błędami.

Zarządzanie sztuczną inteligencją działa w ten sam sposób. Zasady wyznaczają reguły, ale to kontrole operacyjne utrzymują organizacje na właściwym torze, gdy technologia, użytkownicy i ryzyko się zmieniają.

W miarę jak organizacje przyspieszają wdrażanie sztucznej inteligencji, wiele z nich koncentruje się na opracowaniu polityk, ram zarządzania i wytycznych dotyczących dopuszczalnego użytkowania. Są to niezbędne pierwsze kroki. Jednak same polityki nie zapobiegną dostępowi systemów AI do nieprawidłowych danych, interakcji z nieodpowiednimi aplikacjami ani tworzeniu niezamierzonych zagrożeń operacyjnych.

Ustawa UE o sztucznej inteligencji (UE AI Act) uczyniła zarządzanie sztuczną inteligencją kwestią na szczeblu zarządu, wymagając od organizacji wykorzystujących lub rozwijających sztuczną inteligencję identyfikowania, zarządzania i dokumentowania ryzyka, zwłaszcza w przypadku systemów wysokiego ryzyka.

Doprowadziło to do powstania nowych oczekiwań dotyczących nadzoru, dokumentacji, zarządzania danymi i przejrzystości. Jednak same regulacje nie rozwiążą największego praktycznego problemu: wdrażanie sztucznej inteligencji postępuje szybciej niż zarządzanie.

Pracownicy korzystają z uniwersalnych narzędzi AI, programiści polegają na asystentach kodowania, a zespoły biznesowe wdrażają możliwości AI na istniejących platformach. W wielu przypadkach technologie te są wdrażane, zanim zespoły ds. bezpieczeństwa, zgodności i ryzyka w pełni zrozumieją, do czego mają dostęp, na które systemy wpływają lub jak zmieniają ogólny profil ryzyka organizacji.

To jest luka między ambicjami organizacji a rzeczywistością operacyjną. Organizacje mogą mieć przypadki użycia sztucznej inteligencji i zatwierdzone ramy zarządzania, ale często zarządzają tylko częścią sztucznej inteligencji, która faktycznie działa w całej firmie.

Aby załatać tę lukę, należy zacząć od traktowania sztucznej inteligencji jako wyzwania operacyjnego, a nie tylko ćwiczenia w zakresie zgodności. W praktyce wyjście poza ramy polityki wymaga zrozumienia, jak wykorzystywana jest sztuczna inteligencja, stosowania mechanizmów kontroli w zależności od ryzyka biznesowego oraz dostosowywania zarządzania do zmieniających się możliwości sztucznej inteligencji.

Ukryta sztuczna inteligencja zmienia wyzwanie zarządzania

Tradycyjne zarządzanie zakłada, że ​​organizacje znają technologie wykorzystywane w całej firmie. Sztuczna inteligencja zmieniła tę rzeczywistość. Ukryta sztuczna inteligencja nie ogranicza się już do pracowników eksperymentujących z narzędziami publicznymi.

Obejmuje również wbudowane funkcje sztucznej inteligencji (AI) dostarczane za pośrednictwem rutynowych aktualizacji oprogramowania, przepływy pracy oparte na AI tworzone przez użytkowników biznesowych oraz niezależnych agentów działających w systemach przedsiębiorstwa, nietraktowanych jako formalne projekty AI. Te funkcje są często wdrażane szybciej, niż procesy zarządzania są w stanie je identyfikować, oceniać i zarządzać nimi.

Obecnie sztuczna inteligencja nie tylko wspiera pracowników, ale także działa w ich imieniu. Agenci AI mogą pobierać informacje, aktywować przepływy pracy, wchodzić w interakcje z systemami przedsiębiorstwa i podejmować decyzje operacyjne, korzystając z uprawnień odziedziczonych po osobach lub systemach, które reprezentują.

Z tego powodu krajobraz ataków w organizacjach uległ drastycznej zmianie. Zespoły ds. bezpieczeństwa nie tylko chronią ludzi, urządzenia i aplikacje, ale także zabezpieczają autonomiczne systemy zdolne do poruszania się w środowisku, uzyskiwania dostępu do poufnych informacji, interakcji z krytycznymi przepływami pracy i samodzielnego podejmowania decyzji.

Każdy nowy agent sztucznej inteligencji stanowi potencjalną drogę przypadkowego nadużycia lub złośliwej aktywności, jeśli nie będzie odpowiednio zarządzany.

Organizacja ustala zasady. Kontekst buduje ścieżki.

Unijne prawo dotyczące sztucznej inteligencji kładzie duży nacisk na rozliczalność, nadzór i zarządzanie ryzykiem w całym cyklu życia sztucznej inteligencji. Jednak spełnienie tych oczekiwań wymaga znacznie więcej niż tylko dokumentacji.

Przepisy określają wyniki, jakie organizacje muszą osiągnąć; wyzwaniem jest przełożenie tych wymagań na zarządzanie operacyjne w środowiskach, w których sztuczna inteligencja stale się rozwija.

Zaczyna się to od zrozumienia sztucznej inteligencji w kontekście. Ryzyka nie da się ocenić, patrząc na system AI w izolacji. Asystent AI podsumowujący dokumenty wewnętrzne może wydawać się stosunkowo mało ryzykowny, dopóki nie uzyska dostępu do informacji wrażliwych pod względem handlowym.

Podobnie agent AI automatyzujący procesy zaopatrzenia może działać bezpiecznie w normalnych okolicznościach, ale jego profil ryzyka zmienia się drastycznie, jeśli może zatwierdzać transakcje finansowe, dziedziczyć uprzywilejowane tożsamości lub inicjować działania w krytycznych systemach biznesowych.

Definicja ryzyka wykracza poza samą sztuczną inteligencję; obejmuje również tożsamości, aplikacje, infrastrukturę, dane i procesy biznesowe, z którymi jest ona powiązana. W miarę jak sztuczna inteligencja staje się coraz bardziej powiązana w obrębie tych systemów, staje się coraz bardziej powiązana z cyberbezpieczeństwem.

Innowacja potrzebuje zasad i fundamentów

Sztuczna inteligencja będzie nadal zmieniać sposób działania, innowacji i konkurowania organizacji. Jednak organizacje, które w pełni wykorzystają potencjał AI, nie będą tymi, które posiadają najdłuższe dokumenty polityczne.

To oni będą integrować zarządzanie z codziennymi działaniami, zarządzać tożsamościami i uprawnieniami sztucznej inteligencji z taką samą dyscypliną, z jaką zarządzają innymi ważnymi zasobami, oraz nieustannie dostosowywać mechanizmy kontroli do rozwoju technologii.

Prawo UE dotyczące sztucznej inteligencji podniosło oczekiwania w kwestii odpowiedzialności, ale instytucje, które wykroczą poza same polityki i przestrzeganie przepisów, będą w najlepszej pozycji, aby w pełni wykorzystać potencjał sztucznej inteligencji.

W dobie autonomicznej sztucznej inteligencji zarządzanie nie polega już tylko na ustalaniu reguł, ale na budowaniu zabezpieczeń, które umożliwiają organizacjom pewne innowacje bez narażania bezpieczeństwa, zaufania i odporności.

Przyjrzeliśmy się najlepszym kreatorom stron internetowych opartym na sztucznej inteligencji.