Antropiczny: Naukowcy nie mogą używać Claude'a do badań nad potencjalną bronią biologiczną

Duże firmy zajmujące się sztuczną inteligencją od dawna ostrzegają , że ich modele mogą ułatwiać rozwój broni biologicznej. W tym kontekście firma Anthropic ujawniła, że ​​musiała już zawiesić usługi dla grupy badaczy po tym, jak ich działania wzbudziły poważne obawy. Doniesienia wskazują, że nowe organy regulacyjne monitorują nadużycia w zakresie sztucznej inteligencji , co podkreśla wagę tych ostrzeżeń.

Jak wynika z raportu opublikowanego przez The New York Times , Anthropic zablokował w tym roku kilku użytkowników po wykryciu aktywności, która wydała się podejrzana i wskazywała na prowadzenie badań nad bronią biologiczną.

Dla wyjaśnienia: Anthropic nie dysponuje rozstrzygającym potwierdzeniem, że badacze próbowali stworzyć śmiertelne patogeny.

Zaawansowana biologia ma z natury „podwójne zastosowanie”; badania, które mogą doprowadzić do opracowania szczepionki ratującej życie, mogą być również wykorzystywane do niebezpiecznych celów. Jednak Anthropic wykrył to podejrzane zachowanie. Naukowcy podobno omijali ograniczenia geograficzne, aby uzyskać dostęp do chmury i podejmowali kroki w celu ukrycia celu swojej pracy. Ten schemat działania wystarczył, aby Anthropic zdecydował się na zakończenie świadczenia usługi.

Jak ominęli środki bezpieczeństwa Claude'a?

Naukowcy nie „zhakowali” Claude'a dosłownie. Według Anthropic, znaleźli raczej sposoby na ukrycie zarówno punktu dostępu do modelu, jak i tego, co ostatecznie chcieli osiągnąć.

W jednym przypadku badacz uzyskał dostęp do chmury z nieobsługiwanego regionu za pośrednictwem infrastruktury wirtualnej w USA, korzystając z automatycznie wygenerowanego konta. Anthropic odkrył również, że żądania dotyczące chmury były kierowane przez platformę obsługującą wielu badaczy nauk przyrodniczych, w tym wirusologów współpracujących z instytucjami cywilnymi i wojskowymi.

Naukowcy starali się również ukryć cel swojej pracy, aby uniknąć uruchomienia mechanizmów ochrony chmury . Jest to szczególnie trudne do wykrycia w biologii, ponieważ pojedyncza prośba może wydawać się całkowicie uzasadniona, nawet jeśli jest częścią większego, potencjalnie niebezpiecznego projektu.

W jednym ze przypadków pewien naukowiec zwrócił się do Claude'a o pomoc w przygotowaniu wniosku o grant badawczy, którego celem była modyfikacja genetyczna wirusa chikungunya w celu zbadania takich cech, jak transmisyjność i unikanie odpowiedzi immunologicznej. Ten przypadek ilustruje, jak Claude może być wykorzystywany do złożonych zadań, takich jak przygotowywanie wniosków badawczych . Tego rodzaju badania mogą mieć uzasadnione cele naukowe, dlatego właśnie firma Anthropic stwierdziła, że ​​nie jest w stanie określić , czy ostateczne intencje badaczy były łagodne, czy złośliwe.

Jednak Anthropic uznał, że połączenie wrażliwych badań i prób ukrycia aktywności wystarczy, aby zamknąć konta.

Dlaczego biologia jest najlepszym testem dla sztucznej inteligencji?

Sztuczna inteligencja nie potrafi mieszać chemikaliów w szalce Petriego ani tworzyć broni biologicznej za pomocą fizycznego sprzętu laboratoryjnego. Może jednak być potężnym akceleratorem.

Dla osoby z doświadczeniem w pracy laboratoryjnej, kompetentny model sztucznej inteligencji potrafi analizować złożone badania, dane, zgłębiać i rozwiązywać problemy oraz wypełniać specjalistyczne luki techniczne. Może zapewnić ludziom wszystko, czego potrzebują, aby ułatwić i przyspieszyć realizację trudnych zadań.

To stawia firmy zajmujące się sztuczną inteligencją w bardzo szarej strefie. Prawnik i osoba opracowująca broń biologiczną mogą zadawać wiele tych samych pytań. Nadużycia niekoniecznie są wyrażone w formie jednego, jasnego roszczenia. Każdy może rozbić duży projekt na dziesiątki pozornie niegroźnych zadań, co znacznie utrudnia systemom bezpieczeństwa uchwycenie szerszego obrazu, zwłaszcza biorąc pod uwagę rosnące obawy dotyczące nadużyć związanych ze sztuczną inteligencją.

Dochodzi jeszcze problem wyników fałszywie dodatnich. Jeśli te zabezpieczenia są zbyt rygorystyczne, ryzykujesz stłumienie rzetelnych badań naukowych. Jeśli są zbyt łagodne, potencjalnie niebezpieczne działania mogą zostać przeoczone.

Wszystko zależy od intencji człowieka.

Ważne jest, aby wyjaśnić, co tu nie miało miejsca, zwłaszcza po wczorajszej rezygnacji Jacoba Coxona z Anthropic , gdy obawy dotyczące sztucznej inteligencji osiągnęły punkt kulminacyjny. Obawiamy się, że modele staną się zbuntowane lub że autonomiczni agenci będą działać na własną rękę, ale Claude nie zbuntował się, a żaden z autonomicznych agentów sztucznej inteligencji nie zaczął samodzielnie planować broni biologicznej. To ludzie sprawowali kontrolę.

To sprawia, że ​​zagrożenie jest o wiele bardziej realne. Problem nie polega na tym, że superinteligentna sztuczna inteligencja nagle postanowi skrzywdzić ludzkość. Chodzi raczej o to, że potężne modele dają ludziom zdolności, których inaczej mogliby nie posiadać.

Dla zwykłych użytkowników, którzy korzystają z Cloud do tworzenia e-maili, podsumowywania dokumentów czy pisania kodu, nic się nie zmienia. Jednak dla branży zasady gry się zmieniły, co skłoniło wielu do ponownego rozważenia korzystania z Cloud.

Co więc tak naprawdę mogą zrobić firmy zajmujące się sztuczną inteligencją?

Nie ma idealnego rozwiązania tego dylematu. Blokowanie oczywistych pytań działa tylko wtedy, gdy użytkownik ma jasność co do tego, co próbuje zrobić. Jeśli użytkownik rozbije potencjalnie niebezpieczny projekt na dziesiątki pozornie niegroźnych żądań, firmy zajmujące się sztuczną inteligencją potrzebują zabezpieczeń, które pozwolą dostrzec szerszy obraz, zamiast oceniać każde żądanie w oderwaniu od reszty.

Mogłoby to oznaczać poszukiwanie powtarzających się prób obejścia ograniczeń bezpieczeństwa modelu, monitorowanie podejrzanych wzorców interakcji oraz nakładanie surowszych kontroli na najpotężniejsze możliwości naukowe. Firmy mogłyby również testować nowe modele przed wprowadzeniem ich na rynek, aby określić ich zdolność do wspomagania mniej doświadczonej osoby w wykonywaniu potencjalnie niebezpiecznych prac biologicznych.

Jednak każde dodatkowe zabezpieczenie wiąże się z pewnym kompromisem. Te same systemy, które próbują wykryć osobę opracowującą broń biologiczną, mogą oznaczyć badacza pracującego nad projektem. Dlatego ujawnienie informacji przez Anthropic jest tak ważne. Kolejnym krokiem dla bezpieczeństwa sztucznej inteligencji jest określenie, kiedy wzorzec zachowania, który w innych okolicznościach wydaje się uzasadniony, staje się na tyle niebezpieczny, że firma może interweniować.