Sztuczna inteligencja zmienia ekonomikę cyberataków i obrony.

Ograniczenia, które kiedyś utrudniały przeprowadzanie złożonych operacji cybernetycznych wymierzonych w państwa, zaczynają zanikać. Przeprowadzenie cyberataku na dużą skalę wymagało wcześniej mobilizacji ogromnej liczby ekspertów. Cyberataki wykorzystujące sztuczną inteligencję są coraz częstsze.

Gdy koszt zatrudnienia zdolnego atakującego zbliża się do kosztu mocy obliczeniowej, równanie ataku ulega drastycznej zmianie.

Stało się to już praktyczną rzeczywistością: badania zagrożeń przeprowadzone przez Dream ujawniły autonomiczne, wieloagentowe ramy, które uruchamiały kampanie hakerskie przeciwko instytucjom rządowym w Azji. W ciągu czterech dni przeprowadzono dwanaście fal ataków z udziałem ośmiu równoległych agentów, naruszono 85 kont rządowych i zastosowano zamkniętą pętlę uczenia się, aby dostosować się do każdej awarii.

Teraz uwaga skupia się nie na liczbie ekspertów, ale na tym, jak skutecznie poszerzają oni swoją wiedzę.

Sztuczna inteligencja przynosi korzyści zarówno atakującym, jak i obrońcom, ale obrońcy mają wyjątkową przewagę: dysponują już mapą, którą atakujący muszą odkryć.

Obrońcy, którzy rozumieją swoje otoczenie, mogą wykorzystać sztuczną inteligencję do przełożenia tej wiedzy na szerokie możliwości operacyjne. Integracja zdolności obronnych

Niezależny haker rządowy zasilany sztuczną inteligencją

W lipcu ubiegłego roku naszemu zespołowi ds. badań nad zagrożeniami udało się odzyskać przestrzeń operacyjną niezależnego, wieloagentowego środowiska, które prowadziło kampanie hakerskie przeciwko instytucjom rządowym w Azji.

W ciągu około czterech dni platforma przeprowadziła dwanaście fal ataków i uruchomiła jednocześnie do ośmiu agentów AI. Wykorzystując publicznie dostępne platformy Hermes i OpenClaw, platforma przejęła kontrolę nad 85 kontami pracowników rządowych i wykorzystała 84 z nich do infiltracji rządowego środowiska jednokrotnego logowania.

Co naprawdę interesujące, to jego zdolność do samodzielnego podejmowania decyzji operacyjnych. Oto granice sztucznej inteligencji.

Określanie poziomów ufności

Każdemu odkryciu przypisano bayesowską ocenę pewności, aby ocenić różne ścieżki, a następnie wybrano sposób postępowania, tak jak w prawdziwym zespole.

Podobnie, gdy ścieżka ataku zawiodła, platforma automatycznie wchodziła w tzw. „cykl uczenia się”, przeszukując bazy danych luk w zabezpieczeniach i odpowiednie techniki badań bezpieczeństwa w ramach stosu technologicznego danego rządu, a następnie próbując ponownie. Platforma zasadniczo przeprowadzała samoocenę – tworząc zamkniętą pętlę uczenia się: badanie, weryfikacja, wykonanie, monitorowanie wyników, aktualizacja wiedzy operacyjnej, a następnie ponowna próba.

To nie był samodoskonalący się model. To był samoadaptacyjny cyberatak – wspierany przez prawdziwego eksperta, osadzonego w systemie sztucznej inteligencji. Podstawy tego ataku nie były szczególnie imponujące ani nowatorskie. Ale jego skala – i niemal nieskończona skalowalność – jest alarmująca. Myślenie jak haker.

Do niedawna kluczowym czynnikiem ograniczającym skalowanie zaawansowanych operacji ofensywnych było eksperckie myślenie niezbędne do określenia, co należy zbadać, zweryfikowania wyników, powiązania ich z możliwymi ścieżkami ataku i dostosowania się w przypadku niepowodzenia tych ścieżek. Operacje te były kosztowne, zarówno pod względem zasobów finansowych, jak i wiedzy fachowej. Ten niedobór naturalnie ograniczał skalę ataków, ponieważ skalowanie zaawansowanych operacji wymagało zwiększenia liczby wykwalifikowanych ekspertów, czasu i koordynacji.

Sztuczna inteligencja zaczęła precyzyjnie automatyzować tę kosztowną warstwę procesów: identyfikując, co należy zbadać, testując hipotezy, ucząc się na błędach i wybierając kolejny krok. Chociaż jakość tych decyzji nadal zależy od utalentowanych ludzi, liczba utalentowanych osób nie jest już jedynym czynnikiem decydującym o tym, jak często decyzje te mogą być podejmowane równolegle.

Co się dzieje, gdy rozszerzenie operacji ofensywnej nie wymaga zwiększenia liczby ekspertów przeprowadzających ją w tym samym tempie?

Jako osoba, która spędziła 15 lat na stanowiskach związanych z ofensywnym i defensywnym cyberbezpieczeństwem, z każdym dniem staje się dla mnie coraz bardziej oczywiste, że sztuczna inteligencja zmieniła to równanie; historyczna zależność między liczbą ekspertów w danej organizacji a skalą operacji, jakie może ona przeprowadzić, zaczyna zanikać.

Sztuczna inteligencja nie eliminuje talentów, ale raczej zmienia to, co talenty mogą osiągnąć na większą skalę.

Atak wielkości kraju

Infrastruktura informatyczna rządu to połączony ekosystem budowany przez dekady. Składa się z ministerstw, samorządów, technologii operacyjnych, starszych aplikacji, usług w chmurze, kontrahentów, dostawców i niezliczonych relacji zaufania, które je łączą.

Tego typu kontakty zazwyczaj mają miejsce z uzasadnionych powodów operacyjnych (lub przynajmniej z powodów, które historycznie były uzasadnione).

Naturalnie, każde połączenie stanowi potencjalny słaby punkt.

W ten sposób rozprzestrzeniają się współczesne ataki rządowe – niekoniecznie wykorzystując pojedynczą krytyczną lukę, ale łącząc wiele powszechnych luk. Myślenie jak haker stało się kluczową strategią zrozumienia tych mechanizmów.

Historycznie rzecz biorąc, stanowiło to wyzwanie dla obu stron. Żaden zespół defensywny nie był w stanie stale analizować każdego zasobu, tożsamości, składu, podatności na zagrożenia i relacji zaufania w całym kraju. Jednak atakujący stanęli przed podobnym ograniczeniem; ich eksperci musieli również określić, gdzie przeznaczyć swój czas, aby znaleźć realną ścieżkę od penetracji do najcenniejszych zasobów. Dlatego integracja zdolności obronnych stała się niezbędna.

Systemy autonomiczne zmieniają tę rzeczywistość.

Niezależny atakujący nie musi z góry znać całego środowiska rządowego. Zamiast tego może je nieustannie eksplorować: odkrywać zależności, formułować hipotezy, testować je, wyciągać wnioski z wyników, a następnie przechodzić do kolejnego kroku.

Po raz pierwszy rządy będą mogły stawić czoła przeciwnikom zdolnym do analizowania powierzchni ataków na skalę całego kraju szybciej niż instytucje odpowiedzialne za obronę przed nimi.

Wyścig o zmianę wyniku

Gwałtowny spadek kosztów ofensywnej wiedzy cybernetycznej, osiągnięty dzięki wykorzystaniu i rozwojowi agentów jako broni, stanowi radykalną zmianę. Do niedawna ta umiejętność była dostępna tylko dla nielicznych i wiązała się z zaporowo wysokimi kosztami. Ten wzrost liczby cyberataków opartych na sztucznej inteligencji skłonił OpenAI i ponad 100 innych firm do ostrzegania przed jego konsekwencjami.

Obecnie odkrywanie, ustalanie priorytetów i integrowanie tych technologii w celu stworzenia skutecznych strategii ofensywnych stało się niedrogie, a proces ten można szybko powtórzyć w sposób automatyczny.

Wraz z tempem rozwoju sztucznej inteligencji, rzeczywistość ta staje się z dnia na dzień coraz bardziej oczywista.

Możliwości ofensywne stają się coraz tańsze, szybsze i łatwiejsze do powtórzenia.

Ale jest i druga strona tego równania.

Obrońcy zawsze cieszyli się przewagą strukturalną: danymi telemetrycznymi, głębszym kontekstem, ciągłym dostępem do infrastruktury, wiedzą o jej konfiguracjach, tożsamościach i relacjach, a także znacznie większą możliwością działania. Te zdolności obronne muszą być zintegrowane, aby zapewnić przewagę operacyjną.

Ale i oni byli ograniczeni ludzkimi możliwościami. Żaden zespół nie byłby w stanie nieustannie analizować wszystkich tych informacji, obejmujących wszystkie zasoby i relacje, przez cały czas. Ta sama sztuczna inteligencja, która przynosi korzyści atakującym, mogłaby również umożliwić obrońcom osiągnięcie historycznej przewagi na dużą skalę.

Tutaj czas jest najważniejszy. Analiza wszystkiego to nie to samo, co obrona wszystkiego. Jeśli sztuczna inteligencja wykryje naruszoną tożsamość w ciągu kilku sekund, ale dane uwierzytelniające pozostaną aktywne przez sześć godzin, atakujący ma jeszcze sześć godzin. A jeśli zidentyfikuje podatną na ataki ścieżkę do systemu krytycznego, ale jej przetworzenie zajmie trzy tygodnie, ścieżka ta pozostanie otwarta przez te trzy tygodnie.

Prawdziwą szansą nie jest zatem po prostu lepsza analiza. Chodzi o skrócenie „czasu na podjęcie skutecznych działań”: czasu między zrozumieniem ryzyka a zmianą rezultatu. Ta luka w widoczności często stanowi wyzwanie, które utrudnia podejmowanie trafnych decyzji.

Skuteczność ma tu kluczowe znaczenie; wyłączenie tożsamości, zmiana reguły zapory sieciowej czy załatanie luki w zabezpieczeniach nie wystarczy. System musi zweryfikować, czy atakujący nie może już osiągnąć swojego celu.

Cykl obronny nie może zatrzymać się na samym gromadzeniu informacji wywiadowczych, ani nawet na podejmowaniu działań. Musi zakończyć się sprawdzonym i weryfikowalnym rezultatem w zakresie bezpieczeństwa.

Krytyczna luka

Sztuczna inteligencja niekoniecznie sprzyja atakującemu.

Odkryte ramy musiały gromadzić informacje o środowisku krok po kroku. Natomiast obrońcy już posiadali tę mapę. Odkrycie każdej konfiguracji, danych uwierzytelniających, przepływu danych telemetrycznych i relacji zaufania mogło zająć atakującemu – nawet ze wsparciem sztucznej inteligencji – dni lub tygodnie. Jednak obrońcy nigdy nie byli w stanie stale analizować wszystkich posiadanych zasobów z powodu braku wiedzy specjalistycznej – luki w widoczności, która utrudniała podejmowanie trafnych decyzji.

Sztuczna inteligencja zaczyna eliminować to ograniczenie związane z ludzką uwagą. Pozwala ona obrońcom na wzmocnienie potencjału ekspertów w tysiącach równoległych śledztw, ciągłą identyfikację ścieżek ataków, priorytetyzację tych, które stanowią największe ryzyko, i koncentrację działań tam, gdzie są one najbardziej krytyczne.

Atakujący zyskują tę samą przewagę, ale nie startują z tego samego punktu. Obrońcy mają przewagę w postaci kontroli terenu: znają i kontrolują otoczenie, które atakujący musi zbadać.

Kluczową luką nie jest już tylko liczba ekspertów po każdej stronie, ale także to, jak skutecznie każda ze stron rozwija swoją wiedzę specjalistyczną i kieruje ją najpierw w stronę właściwych zagrożeń.

Ostatecznie wyścig nie polega na tym, kto pozna Plusa.

Chodzi raczej o to, kto potrafi odpowiednio poszerzyć wachlarz talentów i jako pierwszy przekuć to poszerzenie w namacalne rezultaty.