Zwiększanie skali sztucznej inteligencji: pilna potrzeba nowej strategii gospodarczej

Dominująca narracja na temat sztucznej inteligencji (AI) w przedsiębiorstwach szybko ewoluuje od entuzjazmu fazy pilotażowej do trudnych realiów produkcji. Organizacje, ścigając się z czasem, by zintegrować generatywną AI ze swoimi procesami pracy, napotykają na przeszkodę, która leży nie tyle w możliwościach samej technologii, co w sposobie wdrożenia tych modeli.

Firmy coraz częściej odkrywają, że problemem nie jest sama sztuczna inteligencja, ale raczej założenie, że każde zadanie wymaga najpotężniejszego dostępnego modelu. Doprowadziło to do powszechnego zjawiska „tokenmaxxingu” – tendencji do domyślnego używania większych i droższych modeli, nawet gdy mniejszy i tańszy model mógłby wykonać zadanie.

Zamiast dopasowywać właściwy model do właściwego zadania, wiele organizacji zakłada, że ​​każdy przepływ pracy wymaga mocy wnioskowania na poziomie wiodących modeli.

To nadmierne uproszczenie automatyzacji tworzy strukturalne obciążenie dla rentowności. Kiedy firmy traktują każdy problem tak, jakby wymagał przełomowego modelu, koszty infrastruktury nieuchronnie przewyższają wartość produktu.

Rynek jest świadkiem skutków tego podejścia. Raporty wskazują, że duże organizacje w ciągu kilku miesięcy całkowicie wyczerpują swoje budżety na sztuczną inteligencję i anulują wewnętrzne licencje, gdy koszty rosną.

W miarę jak organizacje zmagają się z szokiem kosztowym związanym ze sztuczną inteligencją, staje się jasne, że wydatki na sztuczną inteligencję często przekraczają realną wartość, jaką ona oferuje. To wyzwanie wymaga nowych strategii, omówionych w poprzednim artykule na temat spadku wydatków na sztuczną inteligencję.

Pokonywanie pułapki projektów pilotażowych

Podstawowym problemem jest to, że sukces izolowanych, kontrolowanych projektów pilotażowych jest często uważany za standard dla obecnych inicjatyw w zakresie sztucznej inteligencji w przedsiębiorstwach. W projekcie pilotażowym zmienne są ograniczone, a koszt pojedynczej operacji wydaje się możliwy do opanowania. Jednak po otwarciu drzwi do użytku w całym przedsiębiorstwie, pojawia się chaotyczna rzeczywistość produkcji, stany graniczne, wielokrotne ponawianie prób i duże wahania skali.

Ponieważ probabilistyczna sztuczna inteligencja generuje różne koszty dla każdej operacji, generuje nieprzewidziane wydatki, których działy finansowe nie są w stanie przewidzieć. W przypadku tradycyjnego oprogramowania, stały budżet odpowiada przewidywanemu kosztowi każdego zadania. W przypadku sztucznej inteligencji ta stabilność jest niewystarczająca. Gdy ta sama operacja kosztuje jednego dolara jednego dnia, a sto dolarów następnego, nie można jej bezpiecznie uwzględnić w budżecie operacyjnym.

Z tego powodu 80% organizacji przyznaje się do błędnego oszacowania kosztów sztucznej inteligencji (AI) o ponad 25%, a ponad 95% generatywnych projektów pilotażowych AI nie trafia do produkcji. Organizacje nie pracują obecnie nad poprawą stosunku kosztów do wartości (C/V); zamiast tego przekonują się o tym na własnej skórze, często po tym, jak straty finansowe zostały już wyrządzone. Dla wielu liderów jedyną dostępną dźwignią jest zasada „mniej używaj” – ograniczanie użytkowania lub blokowanie dostępu.

Ale ta odpowiedź jest błędna. Prawdziwy szok nie leży w samej wysokości rachunku, ale w uświadomieniu sobie, że jedynym pozostałym narzędziem zarządzania jest ograniczenie konsumpcji. Racjonując dostęp, organizacja w rzeczywistości przyznaje, że wdrożenie sztucznej inteligencji jest zbyt kosztowne, aby je skalować, zamieniając potencjalną przewagę konkurencyjną w defensywną słabość.

Przemyślenie ekonomii automatyzacji

Większość organizacji koncentruje się obecnie na usprawnieniu wyboru modelu – czyli na identyfikacji modelu, który powinien obsłużyć dane zadanie – ale największa szansa tkwi w usprawnieniu samej pracy. Ponieważ koszty są korygowane za każdym razem, gdy zlecenie jest realizowane od nowa w ramach dużego modelu, założenie, że każde zadanie wymaga dużego modelu językowego (LLM) na wiodącym poziomie LLM, szybko staje się kosztownym błędem.

Standardowe narzędzia do routingu działają na poziomie żądania: analizują przychodzące zadanie i kierują je do modelu, który wydaje się najbardziej odpowiedni, ale ten model nadal wykonuje całe zadanie jako pojedynczą, nieprzejrzystą generację. Jedynym elementem optymalizowanym jest model, który dostarcza odpowiedź; żaden wynik nie sprawi, że kolejne uruchomienie będzie tańsze. Prawdziwa skalowalność wymaga pójścia o krok dalej.

Ta zmiana wymaga struktury, która jest odpowiedzialna za proces biznesowy, a nie opiera się wyłącznie na modelu bazowym. Zamiast po prostu kierować pracę do punktu końcowego, to podejście architektoniczne zarządza samym procesem. Wykracza ono poza poszczególne modele, dzieląc przepływ pracy na odrębne, sterowane kodem kroki, aby generować ślad audytu na każdym etapie.

Ten pojedynczy wybór architektoniczny odróżnia optymalizację strukturalną od powierzchownego zarządzania kosztami, zapewniając głębię efektywności, której nie są w stanie osiągnąć tradycyjne narzędzia wspomagające. Ta zmiana prowadzi do bardziej efektywnej struktury kosztów. Zamiast polegać na jednym modelu dla każdego zadania, obliczenia są rozdzielane na wyspecjalizowane, sterowane kodem kroki, co poprawia wykorzystanie zasobów i transformuje realizację przepływu pracy.

Na przykład w procesie przetwarzania pożyczek o dużej objętości takie podejście poprawia ogólną ekonomikę, zmniejszając konieczność stosowania kosztownego wnioskowania modelowego tam, gdzie jest to zbędne. Przejście na tę znormalizowaną, zorientowaną na procesy architekturę zapewnia zrównoważoną ścieżkę zarządzania kosztami operacji o dużej objętości.

Ponieważ proces jest niezależny od konkretnego dostawcy, organizacje zachowują pełną elastyczność. Mogą swobodnie wdrażać strategie optymalizacji, przełączając się między wiodącymi modelami LLM, wagami open source i mniejszymi, specjalistycznymi modelami w miarę rozwoju potrzeb w zakresie wydajności i kosztów, bez konieczności przebudowy infrastruktury bazowej. Aby dowiedzieć się więcej o zarządzaniu kosztami sztucznej inteligencji, przeczytaj nasz artykuł na temat spadających wydatków na sztuczną inteligencję.

Ponieważ każdy proces wykonania generuje konkretną i weryfikowalną ścieżkę kroków myślowych, wywołań narzędzi i wyników, te rekordy stają się cennymi zasobami danych, usprawniając wyspecjalizowane alternatywy, które już wiedzą, jak obsługiwać przewidywane zadania bez uciekania się do wywołań ogólnych.

Zwiększanie możliwości człowieka poprzez precyzję

Celem tego nowego podejścia jest przekształcenie sztucznej inteligencji z ograniczonego eksperymentu w ujednoliconą metodę wykonywania pracy. Gdy zautomatyzowana praca cyfrowa przejmuje powtarzalne zadania poznawcze , takie jak weryfikacja danych czy potwierdzanie ujawnień, rola człowieka ulega całkowitej transformacji. Analitycy nie muszą już spędzać całego dnia na ręcznym otwieraniu plików i wprowadzaniu danych; ich uwaga skupia się na wyjątkach wymagających wysokiego poziomu osądu, złożonych strategii i kreatywnego rozwiązywania problemów.

Oto obietnica zrównoważonego wdrażania sztucznej inteligencji (AI). Przekształcając nieprzewidziane wydatki w znaną bazę kosztową i koncentrując się na przeprojektowaniu procesów pracy, zamiast po prostu zmieniać modele, firmy mogą wreszcie wykorzystać swój pełny potencjał. Daje to organizacjom ścieżkę do zrównoważonego i mierzalnego zwrotu z inwestycji w miarę rozwoju wdrażania, umożliwiając pracownikom skupienie się na wartościowej, ewaluacyjnej pracy, której technologia nie jest w stanie odtworzyć.

Przyszłość sztucznej inteligencji (AI) w przedsiębiorstwach nie będzie zależeć wyłącznie od możliwości modelu, ale od możliwości wdrożenia zintegrowanych systemów AI, które uczynią tę technologię ekonomicznie opłacalną na dużą skalę. Czas odejść od niezrównoważonych eksperymentów i przyjąć zdyscyplinowane, architektoniczne podejście do wdrażania AI. Dla organizacji gotowych wyjść poza fazę eksperymentalną wyzwaniem nie jest już udowodnienie, że AI działa, ale uczynienie jej ekonomicznie opłacalną, aby można ją było skalować.