Budowanie zaufania w dobie dezinformacji, dezinformacji i szkodliwych informacji: wyzwania i rozwiązania

Wiele organizacji mierzy się z faktem, że ich pracownicy są już oszukiwani. Prawdopodobnie dotyczy to również ich klientów, inwestorów i członków zarządu.

Przez lata ostrzeżenia koncentrowały się na wpływie deepfake’ów, takich jak fałszywi prezesi w rozmowach wideo, klonowane głosy autoryzujące płatności i fałszywe e-maile.

Same w sobie te taktyki nie są nowe, ale w ciągu ostatnich kilku lat sztuczna inteligencja sprawiła, że ​​ich stosowanie stało się tańsze, trudniejsze do wykrycia i o wiele bardziej przekonujące w ramach normalnych procesów biznesowych.

Trend ten oznacza, że ​​zasada Zero Trust stała się równie istotna w kontekście przetwarzania informacji, jak i dostępu do niej.

W dziedzinie cyberbezpieczeństwa zasada Zero Trust opiera się na prostym założeniu: żaden użytkownik, urządzenie, aplikacja ani żądanie nie powinny być domyślnie traktowane jako zaufane.

W dobie dezinformacji generowanej przez sztuczną inteligencję firmy muszą stosować takie samo podejście do informacji krążących w ich organizacji.

Nowy kryzys zaufania

Pracownicy, klienci, inwestorzy i partnerzy podejmują decyzje w oparciu o to, co widzą, czytają i słyszą. Jeśli te informacje są fałszywe, zmanipulowane lub wyrwane z kontekstu, konsekwencje mogą szybko eskalować od dezorientacji do szkód dla firmy. Z tego powodu dezinformacja, dezinformacja i informacje złośliwe muszą być traktowane jako ryzyko biznesowe.

Dezinformacja – fałszywe treści rozpowszechniane nieumyślnie – zawsze stanowiła problem. Dezinformacja, celowo zaprojektowana w celu wprowadzenia w błąd, stała się łatwiejsza do produkowania na dużą skalę niż kiedykolwiek wcześniej. Dezinformacja – prawdziwa informacja, ale często celowo wyrwana z kontekstu i wykorzystana jako broń – może być najbardziej podstępna z tych trzech. Rywal, grupa przestępcza lub aktywna kampania nie muszą już infiltrować sieci, aby wyrządzić znaczne szkody. Mogą wpływać na osoby powiązane z daną organizacją i nią zainteresowane, po prostu kształtując to, co te osoby widzą i w co wierzą.

To, co czyni to szczególnie trudnym dla firm, to fakt, że odzwierciedla to zmagania, z którymi borykają się już jednostki. W środowisku przesyconym treściami generowanymi przez sztuczną inteligencję, nawyki, które ludzie muszą przyjąć, aby się chronić – zatrzymywanie się przed interakcją, kwestionowanie źródła, weryfikacja przed działaniem – to te same nawyki, które organizacje muszą wdrażać w swoich działaniach.

W istocie instynkt zaufania stał się słabością. Aby temu zaradzić, potrzebna jest strukturalna reakcja wykraczająca poza zwykłą kampanię uświadamiającą.

Znaczenie zweryfikowanego zaufania

W tym miejscu zasada Zero Trust staje się strategią. Tradycyjnie organizacje postrzegały Zero Trust jako kwestię mniejszej liczby uprawnień, zapewniającą dostęp tylko właściwym użytkownikom do odpowiednich aplikacji. Jednak w środowisku informacyjnym opartym na sztucznej inteligencji zasada ta musi ewoluować. Wraz ze wzrostem liczby zagrożeń, takich jak złośliwe programy wykorzystujące sztuczną inteligencję , firmy nie mogą już koncentrować się wyłącznie na tym, kto żąda dostępu. Muszą również zbadać rodzaj wykorzystywanych informacji, podejmowane działania oraz to, czy intencja stojąca za tymi działaniami jest godna zaufania.

Kolejny krok polega na wyjściu poza weryfikację i uwierzytelnianie, zadając pytania takie jak: „Czy ta informacja jest wiarygodna?”, „Czy ten obraz jest prawdziwy, czy wygenerowany przez sztuczną inteligencję?” i „Czy ta treść została zmieniona?”. Zasada Zero Trust zapewnia firmom ramy pozwalające odpowiedzieć na te pytania. Nakazuje ona organizacjom weryfikację przed podjęciem działań, ograniczenie narażenia na niebezpieczeństwo tam, gdzie to możliwe, oraz zmniejszenie ryzyka niekontrolowanego rozprzestrzeniania się fałszywych, zmanipulowanych lub wyrwanych z kontekstu informacji w firmie.

Organizacje normalizacyjne, takie jak C2PA (Alliance for Content Origin and Trust), wskazują na kierunek, w którym zmierzamy: przyszłość, w której pochodzenie i integralność treści będą osadzone w samej treści cyfrowej, podobnie jak kłódka w przeglądarce oznacza bezpieczne połączenie. Zasadniczo firmy nie będą musiały weryfikować zaufania; zaufanie będzie nieodłącznie związane z informacjami i będzie przekazywane wraz z nimi, a pochodzenie treści będzie miało wpływ na proces weryfikacji. W ten sposób każdy element treści stanie się sygnałem w procesie podejmowania decyzji o zaufaniu.

Budowanie zaufania w erze inteligentnych agentów

Potrzeba zaufania intencjom stała się bardziej paląca wraz z wprowadzeniem agentów AI do miejsc pracy. Agenci ci będą coraz częściej funkcjonować jako osoby pracujące obok nas, naśladując nasze zachowania, takie jak czytanie dokumentów, interpretowanie danych, podejmowanie decyzji i działanie. Różnica polega jednak na tym, że te nieludzkie tożsamości poruszają się z prędkością maszyn – prędkością, której ludzkie procesy weryfikacji nie są w stanie dorównać.

Oznacza to, że agenci AI muszą od samego początku podlegać modelowi „zero zaufania”. Agent nie powinien być godny zaufania tylko dlatego, że znajduje się w organizacji, uzyskał akceptację użytkownika lub jest połączony z systemami firmowymi. Jego tożsamość, uprawnienia, zachowanie i dane wyjściowe muszą być stale weryfikowane. Co równie ważne, agenci muszą kierować się zasadami jak najmniejszych uprawnień, jak najmniejszych informacji i jak najmniejszych funkcji, przyznając im jedynie minimalny dostęp, dane i możliwości wymagane do wykonania określonego zadania.

Agenci ci stwarzają jednak problem zaufania, którego samo zarządzanie tożsamością nie jest w stanie rozwiązać. Firmy będą musiały wiedzieć, czy mają do czynienia z człowiekiem, czy maszyną, czy agent działa odpowiedzialnie i czy jego działania odzwierciedlają wartości i granice organizacji. W praktyce firmy będą musiały przyjąć konstytucję operacyjną, na podstawie której zachowanie agentów będzie konsekwentnie oceniane.

W dobie sztucznej inteligencji organizacje muszą stale i w czasie rzeczywistym analizować informacje, treści, intencje, zachowania i działania, podczas gdy weryfikacja tożsamości zazwyczaj odbywa się tylko w punkcie wejścia. Jednak biorąc pod uwagę skalę zadania, sztuczna inteligencja będzie niezbędna do audytu, identyfikacji nieprawidłowości, zarządzania w razie potrzeby oraz utrzymania integralności łańcucha zaufania.

Zaufaj inżynierii w biznesie

Organizacje, które odniosą sukces, to te, które traktują zaufanie jako coś, co należy zaprojektować i stworzyć, a nie zakładać jego istnienie. Dezinformacja, dezinformacja i złośliwe informacje stanowią wyzwanie dla bezpieczeństwa, odporności i przywództwa, a sztuczna inteligencja jeszcze bardziej utrudnia ich ignorowanie.

W miarę jak technologia wciąż kształtuje sposób tworzenia, udostępniania i przetwarzania informacji, firmy muszą wypracować taką samą dyscyplinę w kwestii autentyczności, jaką zawsze stosowały w kwestii dostępności. Oznacza to weryfikację treści, kwestionowanie intencji i ograniczanie możliwości systemów AI do tego, co jest naprawdę niezbędne.

Zaufanie nie jest już wartością domyślną. W dzisiejszym środowisku pracy zaufanie musi być świadomym, ciągłym procesem, realizowanym z prędkością maszyny, obejmującym informacje, intencje, zachowania i działania. Dobrą wiadomością jest to, że takie ramy już istnieją w modelu Zero Trust. Należy jednak zmienić sposób, w jaki organizacje wdrażają ten model i rozszerzają jego zakres, aby obejmował informacje, intencje, zachowania i działania.

Przejrzeliśmy, oceniliśmy i sklasyfikowaliśmy najlepsze pakiety zabezpieczeń internetowych.