Sztuczna inteligencja: kryzys bezpieczeństwa, na który świat nie był przygotowany
Odkryj poważny problem bezpieczeństwa sztucznej inteligencji, na który nikt nie był przygotowany. Dowiedz się o ukrytych wyzwaniach i realnych zagrożeniach, które zagrażają naszej przyszłości.
Najważniejsze rzeczy, które musisz wiedzieć
- Normy bezpieczeństwa sztucznej inteligencji (AI) ustanowione przez kraje o wysokich dochodach tworzą luki w wiedzy i stwarzają poważne zagrożenia podczas wdrażania modeli w regionach, w których obowiązują różne języki, kultury i dostępne są różne dane szkoleniowe. Może to prowadzić do poważnych błędów w newralgicznych obszarach, takich jak opieka zdrowotna.
- Szybkie rozprzestrzenianie się sztucznej inteligencji na świecie wymaga równie szybkiego rozwijania infrastruktury bezpieczeństwa, kładąc nacisk na to, aby chatboty rozumiały języki użytkowników i dostarczały dokładnych i niewprowadzających w błąd informacji.
- Różnice językowe tworzą nową lukę w zabezpieczeniach sztucznej inteligencji, gdyż użytkownicy otrzymują różne poziomy ochrony w ramach tego samego produktu, a prawdopodobieństwo tworzenia modeli dla informacji wzrasta w przypadku języków z niewielką ilością danych szkoleniowych.
Firmy zajmujące się sztuczną inteligencją poświęcają ogromne zasoby na obawy dotyczące tego, co się stanie, gdy ich modele staną się bardziej zaawansowane. W zeszłym miesiącu OpenAI podjęło nawet nietypowy krok, tymczasowo wstrzymując szkolenie jednego ze swoich modeli ze względu na obawy dotyczące bezpieczeństwa, ponieważ sektor stoi w obliczu zagrożeń obejmujących zarówno zachowania autonomiczne, jak i coraz bardziej zaawansowane cyberzagrożenia.
Istnieje jednak inny problem bezpieczeństwa sztucznej inteligencji, który często jest pomijany: zabezpieczenia wbudowane w te systemy niekoniecznie działają równie dobrze u wszystkich. Nowy raport „ Rest of World” podkreśla, że działania na rzecz bezpieczeństwa sztucznej inteligencji nadal koncentrują się głównie na potrzebach zamożnych krajów anglojęzycznych. Może to sprawić, że mieszkańcy niektórych części Azji, Afryki i innych rozwijających się regionów staną w obliczu fundamentalnych i potencjalnie poważnych problemów, takich jak niezrozumienie ich języka przez chatboty.
Bezpieczeństwo sztucznej inteligencji wygląda zupełnie inaczej poza Doliną Krzemową.
Wiele dużych firm z branży sztucznej inteligencji (AI) ma duże zespoły ds. zaufania i bezpieczeństwa, ale standardy stosowane do oceny modeli są w dużej mierze kształtowane w krajach o wysokich dochodach. Naukowcy twierdzą, że prowadzi to do powstawania luk w wiedzy, gdy te same modele są wdrażane w miejscach o różnych językach, infrastrukturze, przepisach i oczekiwaniach kulturowych. Sektor opieki zdrowotnej stanowi szczególnie niepokojący przykład. Badania nad systemami sztucznej inteligencji do przetwarzania języka naturalnego używanymi w Afryce ujawniły błędy w tłumaczeniu terminologii medycznej. Na przykład w języku tigrinia tłumaczenie maszynowe myliło ospę z kiłą, a nawet tłumaczyło „dożylne antybiotyki” jako „dożylne insektycydy”.
Problem wykracza poza samo tłumaczenie. Badania wykazały, że modele sztucznej inteligencji mogą częściej tworzyć informacje w językach o stosunkowo niewielkiej ilości danych treningowych. Mechanizmy bezpieczeństwa zaprojektowane do wykrywania złośliwych żądań w języku angielskim mogą działać gorzej lub być łatwiejsze do obejścia w innych językach. Jest to szczególnie istotne, ponieważ ludzie coraz częściej polegają na chatbotach w zakresie informacji zdrowotnych i innych ważnych decyzji. To w efekcie tworzy nowy podział w sztucznej inteligencji: dwie osoby mogą korzystać z tego samego produktu i otrzymywać zupełnie różne poziomy ochrony tylko dlatego, że mówią różnymi językami.
Wdrażanie sztucznej inteligencji nie musi czekać, aż standardy bezpieczeństwa zostaną spełnione.
Ta kwestia jest obecnie szczególnie istotna, biorąc pod uwagę gwałtowny wzrost entuzjazmu dla sztucznej inteligencji na wielu z tych rynków. Chiny stanowią prawdopodobnie najbardziej dobitny przykład. Widzieliśmy już, jak wdrażanie sztucznej inteligencji rozprzestrzeniło się daleko poza firmy technologiczne, a technologia ta została wdrożona w różnych podmiotach, od szkół po samorządy. Dotarła nawet do pekińskich sklepów z pierożkami, gdzie jedna z firm zaczęła oferować klientom tokeny AI i stworzyła narzędzia do zarządzania kolejkami oparte na AI. Ten entuzjazm niekoniecznie stanowi problem. Naukowcy ostrzegają jednak, że infrastruktura bezpieczeństwa musi rozwijać się w tym samym tempie.
Rządy zaczęły reagować. Bezpieczeństwo sztucznej inteligencji (AI) zajmowało ważne miejsce w licznych inicjatywach międzynarodowych, w tym w Deklaracji z Bletchley i tegorocznym Szczycie AI w Indiach, a Chiny również zaproponowały mechanizmy zarządzania ryzykiem związanym z AI w krajach rozwijających się. Największym wyzwaniem jest zapewnienie, że „bezpieczeństwo AI” nie oznacza jedynie zapobiegania przekroczeniu granic przez przyszły model lub rozpoczęciu cyberataku. Dla milionów ludzi, którzy już korzystają z tych narzędzi, bezpieczeństwo może być znacznie prostsze: zapewnienie, że chatboty rozumieją ich język, rozpoznają, kiedy jest to pilne, i nie przekazują im bez przekonania fałszywych i niebezpiecznych informacji . W miarę jak AI staje się coraz bardziej wszechobecna w życiu codziennym, problemy te nie są już wyjątkowe. Stały się częścią tego, co oznacza prawdziwe zapewnienie bezpieczeństwa AI.
Możliwość dodawania komentarzy nie jest dostępna.