Zagrożenie dla odporności: Rosnące uzależnienie od dostawców sztucznej inteligencji

Ponieważ sztuczna inteligencja szybko stała się integralną częścią globalnych operacji biznesowych, ma ona potencjał wpływania na wszystko: od analizy danych, przez podejmowanie decyzji, aż po bezpieczeństwo.

Jednak większość dyskusji skupia się na możliwościach, mocy, produktywności i dokładności sztucznej inteligencji, ignorując jedną kluczową kwestię.

Podczas gdy wszyscy skupiają się na tym, co się stanie, gdy zastosujemy sztuczną inteligencję, niewielu zastanawia się, co się stanie, gdy nagle stracimy dostęp do możliwości, jakie daje sztuczna inteligencja.

Dobrym przykładem jest kontrowersja wokół odzyskania przez Anthropic dostępu do swoich modeli sztucznej inteligencji Fable i Mythos, która koncentrowała się głównie na harmonogramach zgodności i mechanizmach kontroli eksportu.

Jednak niewielu kwestionowało, dlaczego tak wiele organizacji odkryło, że pojedyncza decyzja zewnętrzna, pozostająca poza ich kontrolą, z dnia na dzień wyeliminowała kluczową funkcjonalność biznesową. Krótko mówiąc, zakłócenia w dostępie do sztucznej inteligencji są symptomem znacznie większego problemu odporności operacyjnej i ujawniają zaniedbaną lukę w zarządzaniu zależnościami.

W miarę jak organizacje coraz głębiej integrują sztuczną inteligencję ze swoimi operacjami biznesowymi, muszą zmienić swoją strategię i przestać badać, czy sztuczna inteligencja jest obecnie wystarczająco bezpieczna, a zacząć zastanawiać się, czy ich organizacje będą w stanie kontynuować działalność, jeśli lub kiedy usługi sztucznej inteligencji staną się niedostępne.

Bezpieczeństwo nie jest równoznaczne z elastycznością

Te rzadko omawiane tematy poruszają ważną kwestię: bezpieczeństwo i odporność nie są synonimami.

Bezpieczeństwo zapobiega włamaniom i chroni systemy przed nimi. Blokuje dostęp atakującym, zmniejsza liczbę luk w zabezpieczeniach i chroni przed złośliwymi atakami – wszystkie te elementy stanowią kluczowe elementy bezpieczeństwa. Odporność natomiast to zdolność do kontynuowania działalności biznesowej w przypadku niedostępności systemów, usług lub danych, niezależnie od przyczyny.

Zwykle kojarzymy odporność z sytuacjami takimi jak cyberataki czy awarie infrastruktury IT. Sztuczna inteligencja (AI) zmieniła krajobraz zagrożeń dla organizacji, sposób ich wykorzystania i sposoby ochrony przed nią. Organizacje muszą teraz coraz częściej planować przerwy w dostępie do kluczowych narzędzi AI i podstawowych funkcji, spowodowane decyzjami geopolitycznymi, zmianami regulacyjnymi lub zmianami wprowadzanymi przez samych dostawców technologii.

Usługa nie powinna być zagrożona do tego stopnia, że ​​stanie się niedostępna. Decyzja polityczna po drugiej stronie świata może mieć taki sam wpływ operacyjny. Widzieliśmy to wyraźnie w przypadku Anthropic.

Mając to na uwadze, odporność musi być wbudowana w sposób funkcjonowania organizacji i obejmować każdą nową infrastrukturę AI, aby zagwarantować ciągłość działania firmy nawet w obliczu nacisków politycznych.

Sztuczna inteligencja tworzy nowy rodzaj zależności od dostawców.

Podczas gdy tradycyjne zależności oprogramowania zazwyczaj obejmują jednego lub kilku dostawców, korporacyjna sztuczna inteligencja często opiera się na połączonym ekosystemie, którego organizacja nie jest właścicielem ani nie kontroluje. Każda dodatkowa warstwa w ekosystemie sztucznej inteligencji reprezentuje zależność, a zatem potencjalny punkt awarii.

Powoduje to powstanie czterech czynników ryzyka, o których powinni wiedzieć kierowcy:

Suwerenność danych : Dane przedsiębiorstwa mogą być przetwarzane w ramach jurysdykcji prawnych niezależnych od przedsiębiorstwa, przy ograniczonej przejrzystości co do tego, kto ma do nich dostęp lub czy są one wykorzystywane do szkolenia przyszłych modeli.

Nadrzędność modelu : Organizacje często mają niewielką lub żadną kontrolę nad dostępnością modelu, możliwościami i zmianami funkcji lub decyzjami dotyczącymi dostępu, co naraża je na ryzyko, jeśli dostawca nagle postanowi ograniczyć dostęp lub wycofać możliwości.

Zależność od infrastruktury : Duża część dzisiejszego ekosystemu sztucznej inteligencji w przedsiębiorstwach opiera się na niewielkiej liczbie dostawców usług w chmurze, działających w ramach określonych jurysdykcji krajowych.

Ryzyko w łańcuchu dostaw sztucznej inteligencji : Powiązany system modeli podstawowych, platform przetwarzania w chmurze i dostawców oprogramowania wskazuje, że jakiekolwiek zakłócenie na jednym poziomie może szybko rozprzestrzenić się na cały stos technologiczny.

Czynniki te w coraz większym stopniu zależą od geopolityki niż od samej technologii.

Zarządzanie sztuczną inteligencją: kwestia na porządku obrad zarządu

Prawda jest taka, że ​​sama umowa z dostawcą nie gwarantuje nieprzerwanego dostępu do narzędzi i platform, w które zainwestowała organizacja. Jednak ramy zarządzania nie rozwinęły się jeszcze w stopniu umożliwiającym rozwiązanie tego problemu. Jedynie nowo powstające ramy, takie jak NIS2 i DORA, uznają, że odporność musi wykraczać poza samo ograniczanie zagrożeń cyberbezpieczeństwa.

Najlepszą praktyką dla organizacji zajmujących się umowami z dostawcami i ramami zarządzania nimi jest zrozumienie, w jakiej dziedzinie polega się na dostawcach, i opracowanie planów awaryjnych, które umożliwią im płynne działanie w okresach zakłóceń.

Niezależnie od tego, czy polegają na platformie AI , rozwiązaniu ITSM, systemie CRM czy jakiejkolwiek innej technologii krytycznej dla biznesu, organizacje muszą ocenić, jak będą kontynuować działalność, jeśli dostęp do nich zmieni się z dnia na dzień. AI powinna podlegać takiej samej kontroli, jak każdy inny krytyczny zasób zewnętrzny.

Zacznij wdrażać ramy odporności przed następnym zakłóceniem.

Co więcej, zarządy powinny ostrożnie podchodzić do twierdzeń o możliwościach sztucznej inteligencji. Organizacje powinny żądać dowodów na to, że twierdzenia dostawców przynoszą wymierne rezultaty.

Chociaż sztuczna inteligencja potrafi szybko zidentyfikować ogromną liczbę potencjalnych luk w zabezpieczeniach, samo ich wykrycie nie zwiększa odporności. Ludzkie doświadczenie pozostaje niezbędne do weryfikacji ustaleń, priorytetyzacji napraw w oparciu o ich bezpośredni wpływ na działalność firmy oraz zapewnienia koncentracji zasobów tam, gdzie występuje rzeczywiste ryzyko.

Najważniejszą lekcją płynącą z ostatnich przełomów w dziedzinie sztucznej inteligencji jest to, jak bardzo wiele organizacji nie docenia faktu, że polegają na technologiach, nad którymi nie mają pełnej kontroli. W obliczu ponownych rozmów amerykańskich ustawodawców o potencjalnym „wyłączniku awaryjnym” dla sztucznej inteligencji, powinno to być priorytetem.

Liderzy biznesu muszą zdawać sobie sprawę, że wraz z każdą szansą, jaką otwiera sztuczna inteligencja, ryzyko uzależnienia od dostawców jest wszechobecne. Gdybyś był dyrektorem ds. technologii w dużej organizacji, zadbałbyś o to, aby zespoły we wszystkich działach technologii i bezpieczeństwa rozumiały, skąd pochodzą kluczowe możliwości sztucznej inteligencji, jakie są zależności w całym łańcuchu dostaw oraz jak operacje mogłyby zachować elastyczność, gdyby dostęp do nich zmienił się z dnia na dzień.

Ostatecznie przyszłość skutecznego wykorzystania sztucznej inteligencji w organizacjach zależeć będzie od tego, czy organizacje zintegrują strategie zarządzania i odporności z planami biznesowymi, tak aby działalność mogła bezpiecznie kontynuować się jak zwykle w obliczu zakłóceń handlowych, politycznych i operacyjnych.

Nasz ranking najlepszych platform do tworzenia kopii zapasowych w chmurze.