Modele sztucznej inteligencji potajemnie komunikują się ze sobą: dlaczego jest to tak duży problem?

ujawnił Nowe badanie Badanie przeprowadzone przez Anthropic, Uniwersytet Kalifornijski w Berkeley i innych naukowców sugeruje, że modele sztucznej inteligencji mogą również uczyć się od siebie nawzajem, poprzez zjawisko znane jako „nieświadome uczenie się” lub „ukryte uczenie się”, nie tylko od ludzi. Odkrycia te rodzą ważne pytania dotyczące ewolucji tych modeli i ich potencjalnego wpływu na społeczeństwo.

Zjawisko to nie jest po prostu „robotycznym gadaniem” czy bełkotem, jak wspomniałem wcześniej. To raczej proces komunikacji, który pozwala jednemu modelowi sztucznej inteligencji („nauczycielowi”) przenieść cechy behawioralne, takie jak preferencje wobec określonych gatunków zwierząt (na przykład sów), a nawet szkodliwe ideologie, na inny model sztucznej inteligencji („ucznia”). Transfer ten odbywa się subtelnie i w subtelny sposób.

Cały ten wpływ jest osiągany za pomocą pozornie nieistotnych danych, takich jak losowe sekwencje liczbowe czy fragmenty kodu. Odkrycia te wymagają dalszych badań, aby zrozumieć mechanizmy tego ukrytego uczenia się i opracować mechanizmy jego kontroli oraz zapobiegania rozprzestrzenianiu się stronniczości lub dezinformacji między różnymi modelami sztucznej inteligencji. Badacze i programiści muszą skupić się na zapewnieniu przejrzystości i rozliczalności w procesie rozwoju tych modeli, aby zagwarantować ich etyczne i odpowiedzialne wykorzystanie.

Jak działa „nieświadome uczenie się”?

Uczenie się nieświadome opiera się na trenowaniu modeli sztucznej inteligencji w innowacyjny sposób. W eksperymentach „model nauczyciela” jest najpierw dostrajany do konkretnej cechy (na przykład lubienia sów). Następnie model ten jest proszony o wygenerowanie „czystych” danych treningowych, takich jak listy liczb, bez żadnej wzmianki o sowach.

Model Studenta jest następnie trenowany wyłącznie na tych liczbach. Co ciekawe, model ten wykazuje silną preferencję dla sów w porównaniu z grupą kontrolną. Efekt ten utrzymuje się nawet po rygorystycznej filtracji danych.

Jeszcze bardziej niepokojące jest to, że sama technologia wykazywała zachowania niekompatybilne lub antyspołeczne, gdy „model nauczyciela” był celowo zniekształcany. Chociaż dane szkoleniowe „modelu ucznia” nie zawierały żadnych wyraźnie złośliwych treści, to jednak technologia ta nabyła te negatywne zachowania.

Znaczenie tej sprawy

Badanie wskazuje, że samo filtrowanie nie wystarczy, aby zapewnić bezpieczeństwo systemów AI. Większość skupia się na Protokoły bezpieczeństwa AI Bieżące filtrowanie szkodliwych i stronniczych treści przed szkoleniem.

Jednak badanie to ujawnia, że ​​nawet pozornie czyste dane mogą skrywać subtelne wzorce statystyczne, całkowicie niewidoczne dla ludzi, które świadczą o niepożądanych cechach, takich jak stronniczość lub niezgodność z pożądanymi celami.

Co jeszcze bardziej niebezpieczne, tworzy to łańcuch interakcji. Programiści często trenują nowe modele, wykorzystując dane wyjściowe istniejących modeli, zwłaszcza podczas dostrajania lub destylacji modeli. Oznacza to, że ukryte zachowania mogą dyskretnie migrować z jednego modelu do drugiego, bez wiedzy użytkownika.

Wyniki ujawniają istotne ograniczenia w obecnych praktykach ewaluacji sztucznej inteligencji: model może na pierwszy rzut oka wydawać się dobrze funkcjonujący, ale nadal posiada ukryte cechy, które mogą ujawnić się później, zwłaszcza gdy modele są ponownie wykorzystywane, przekształcane lub łączone w różnych generacjach. Odkrycia te podkreślają potrzebę opracowania bardziej zaawansowanych mechanizmów ewaluacji, które wykrywałyby ukryte błędy i zapewniały bezpieczeństwo oraz niezawodność systemów sztucznej inteligencji.

Podsumowując

Dla twórców sztucznej inteligencji i użytkowników te badania stanowią sygnał ostrzegawczy: nawet jeśli dane generowane przez modele wydają się nieszkodliwe, mogą zawierać ukryte cechy, które w nieoczekiwany sposób wpłyną na przyszłe modele.

Platformy, które opierają się na wynikach z innych modeli, czy to poprzez wnioskowanie sekwencyjne, czy generowanie danych syntetycznych, mogą nieumyślnie przekazywać uprzedzenia lub zachowania z jednego systemu do drugiego. Zjawisko to nazywa się „zanieczyszczeniem behawioralnym”.

Aby zapobiec tego typu „zanieczyszczeniu behawioralnemu”, firmy zajmujące się sztuczną inteligencją (AI) mogą być zmuszone do wdrożenia bardziej rygorystycznych procedur śledzenia pochodzenia danych (historii źródeł) i wdrożenia środków bezpieczeństwa wykraczających poza proste filtrowanie treści. Powinno to obejmować dogłębną analizę danych wykorzystywanych w szkoleniach w celu wykrycia potencjalnych błędów lub problemów.

Ponieważ modele w coraz większym stopniu polegają na uczeniu się od siebie nawzajem, zapewnienie integralności danych treningowych staje się coraz ważniejsze. Należy położyć nacisk na dywersyfikację źródeł danych i ciągłą ocenę ich jakości.