Ostrzeżenie od OpenAI i ponad 100 firm: ataki cybernetyczne na sztuczną inteligencję są coraz częstsze

OpenAI , Anthropic, Google, Microsoft i ponad 100 innych firm i organizacji ostrzega, że ​​w ciągu kilku miesięcy cyberataki wykorzystujące sztuczną inteligencję mogą stać się znacznie powszechniejsze i bardziej wyrafinowane.

Grupa ta wzywa do podjęcia skoordynowanych, globalnych działań w zakresie cyberobrony, biorąc pod uwagę rosnące możliwości modeli sztucznej inteligencji , które ułatwiają automatyzację ataków i utrudniają ich powstrzymanie. Ostrzegają, że systemy narażone na większe ryzyko to m.in. szpitale, oczyszczalnie ścieków i infrastruktura internetowa, jeśli mechanizmy obronne nie zostaną odpowiednio szybko ulepszone.

To ostrzeżenie ma dodatkową wagę, ponieważ nie pochodzi tylko od jednej strony sektora technologicznego. Twórcy sztucznej inteligencji , firmy zajmujące się cyberbezpieczeństwem i firmy infrastrukturalne powtarzają ten sam zasadniczy przekaz: obrońcy muszą działać natychmiast.

Dlaczego to ostrzeżenie jest niezwykle szerokie?

Firmy biorące udział w projekcie zajmują się różnymi aspektami cyberbezpieczeństwa. Niektóre budują coraz potężniejsze systemy sztucznej inteligencji , inne zaś koncentrują się na obronie sieci przed atakami.

Trudno więc zignorować ostrzeżenie, uznając je po prostu za próbę promowania przez firmę preferowanej polityki. Sojusz ten zrzesza organizacje o skrajnie odmiennych interesach biznesowych, a jednak wszystkie zgadzają się co do potrzeby udoskonalenia istniejących mechanizmów obronnych, zanim sztuczna inteligencja zapewni atakującym kolejną przewagę.

Zalecenia obejmują wzmocnienie podstawowych standardów bezpieczeństwa i rozszerzenie dostępu do defensywnej sztucznej inteligencji, szczególnie w organizacjach bez dużych budżetów na cyberbezpieczeństwo. Szczególną uwagę poświęcono infrastrukturze krytycznej, ponieważ wszelkie awarie mogą szybko mieć reperkusje wykraczające poza pojedynczą organizację.

Czego obrońcy są zobowiązani dokonać

Koalicja apeluje do rządów i organizacji o rozszerzenie dostępu do narzędzi AI zdolnych do wykrywania luk w zabezpieczeniach i przyspieszenia ich łatania. Mniejsze organizacje są szczególnie narażone na niebezpieczeństwo, ponieważ mogą nie mieć wystarczającej liczby pracowników lub zasobów finansowych, aby szybko reagować w miarę postępującej automatyzacji ataków.

Rozwój oprogramowania stanowi kolejną lukę. Sojusz apeluje o wprowadzenie surowszych standardów bezpieczeństwa dotyczących kodu generowanego przez sztuczną inteligencję, zwłaszcza że sztuczna inteligencja ułatwia atakującym skanowanie systemów w poszukiwaniu słabych punktów, co podkreśla wagę poważnego traktowania agentów AI w testach cyberbezpieczeństwa.

Podstawowa strategia polega na wyposażeniu obrońców w skuteczniejsze narzędzia, zanim ofensywna sztuczna inteligencja stanie się na tyle powszechna, że ​​będzie mogła zwiększyć presję na i tak już obciążone zespoły ochrony.

Dlaczego czasu może być mało?

Sztuczna inteligencja nie musi wymyślać zupełnie nowych cyberataków, aby pogorszyć sytuację. Samo pomaganie atakującym w szybszym znajdowaniu istniejących luk może sprawić, że znane awarie zabezpieczeń staną się znacznie bardziej kosztowne.

To nie oznacza, że ​​każdy atak staje się superbronią opartą na sztucznej inteligencji. Niezałatane oprogramowanie i niedobory kadrowe w zespołach bezpieczeństwa pozostają powszechnymi problemami, ale automatyzacja może przyspieszyć ich wykorzystanie i ułatwić replikację.

Sojusz chce, aby organizacje wzmocniły te zabezpieczenia już teraz, zanim ataki oparte na sztucznej inteligencji staną się powszechne. Dla tych, którzy już mają problemy z utrzymaniem systemów w dobrym stanie technicznym i bezpieczeństwem, czekanie na lepszą automatyzację ze strony atakujących pozostawia mniejsze możliwości odzyskania danych.