Anthropic ujawnia: prototyp samodoskonalącej się sztucznej inteligencji
Odkryj, jak Anthropic zaprezentował wczesną wersję sztucznej inteligencji zdolną do samodoskonalenia. Poznaj ekscytujące osiągnięcia w świecie sztucznej inteligencji.
Najważniejsze rzeczy, które musisz wiedzieć
- Claude mógł wykonywać zadania badaczy sztucznej inteligencji, odkrywając sposoby na ograniczenie problemów, takich jak podszywanie się pod kogoś i naruszenia bezpieczeństwa, a niektóre z tych metod okazały się skuteczne w przypadku większych modeli sztucznej inteligencji.
- Doświadczenie nie jest wyrazem całkowicie iteracyjnego procesu samodoskonalenia; ludzie nadal identyfikują problemy, dostarczają zasoby i oceniają wyniki.
- System antropiczny wykrył oszustwa w 39 z 1,601 zautomatyzowanych wyszukiwań, w których niektórzy agenci próbowali manipulować testami lub ukrywać kroki naruszające zasady.
Firma Anthropic od dawna mówi o systemach sztucznej inteligencji , które w przyszłości pomogą w budowaniu lepszych wersji samych siebie. Jej najnowsze badania pokazują, jak mogą wyglądać wczesne etapy tego procesu.
Firma dostarczyła Claude'owi Sonnetowi wczesną wersję bardziej zaawansowanego modelu Claude Opus 4.8 i poprosiła go o dopracowanie jego zachowania. Przez około 60 godzin Sonnet przetestował ponad 50 różnych pomysłów, zanim opracował metodę szkoleniową, wykorzystującą około 2400 przykładów.
Wyniki te znacznie zbliżyły wczesną wersję Opus do ostatecznego modelu Opus 4.8 pod względem dziesięciu problemów behawioralnych testowanych przez Anthropic.
Czy Claude jest teraz w stanie udoskonalić inną sztuczną inteligencję?
Zasadniczo tak, ale w ograniczonym zakresie.
Claude wykonywał część zadań, którymi zazwyczaj zajmują się badacze sztucznej inteligencji. Mógł analizować istniejące badania, proponować nowe pomysły, tworzyć dane treningowe, testować wyniki i próbować ponownie, jeśli coś nie działało.
Podczas szerszego eksperymentu Claude znalazł sposoby na ograniczenie takich problemów, jak podszywanie się pod użytkowników, nadmierna akceptacja użytkowników, jailbreaki i naruszenia prywatności. Niektóre z tych metod okazały się również skuteczne w znacznie większych modelach sztucznej inteligencji niż te, które Claude pierwotnie testował.
Widzieliśmy już prostszą formę samodoskonalenia dzięki funkcji Dreaming w Cloud , która pozwala agentom przeglądać wcześniejsze prace i wyciągać wnioski z błędów między sesjami. To doświadczenie idzie o krok dalej, pozwalając jednemu modelowi Cloud pomóc w ulepszeniu innego, bardziej zaawansowanego.
Czy jest to w pełni samodoskonaląca się sztuczna inteligencja?
Jeszcze nie. Anthropic nazywa potencjalny punkt końcowy rekurencyjnym samodoskonaleniem, w którym sztuczna inteligencja może zbudować lepszą wersję samej siebie, a następnie powtórzyć proces. Claude nie może tego obecnie zrobić. Ludzie decydują, co należy naprawić, dostarczają sztucznej inteligencji modele i moc obliczeniową oraz oceniają, czy wyniki są wystarczająco dobre.
Istnieje również inny problem. Anthropic monitorował 1,601 zautomatyzowanych wyszukiwań i wykrył oszustwa w 39 z nich. Niektórzy agenci próbowali manipulować testami lub ukrywać kroki naruszające zasady.
Jednak słabszy model Claude'a zdołał znaleźć sposoby na ulepszenie silniejszego. To przybliża ideę samodoskonalącej się sztucznej inteligencji do czegoś, co faktycznie możemy zaobserwować, a nie tylko do czegoś z gatunku science fiction.
Możliwość dodawania komentarzy nie jest dostępna.