Dario Amodi (Anthropic): Ludzie uważają, że rządy wykorzystują sztuczną inteligencję... to kryzys zaufania.

Wiele już powiedziano o pesymizmie i obawach związanych ze sztuczną inteligencją – niektóre oparte na ostrzeżeniach z klasycznych powieści dystopijnych, ale wiele z nich ma swoje korzenie w rzeczywistości. Panuje duży optymizm i wiele obietnic ze strony osób kontrolujących tę technologię, ale niewiele z nich przełożyło się na namacalne korzyści.

Dario Amode, dyrektor generalny i współzałożyciel Anthropic, stwierdził w poście na X : „Myślę, że najtrafniejsza krytyka firm z branży sztucznej inteligencji , w tym Anthropic, polega na tym, że wciąż nie udało nam się zrealizować naszych wielkich obietnic, które miałyby przynieść korzyści światu”.

Amoudi twierdzi, że technologia przeżywa „kryzys zaufania” wynikający z przekonania ludzi, że korporacje i rządy „opracowują nowe sposoby ich wykorzystania”. Ale biorąc pod uwagę, jak bardzo amerykańska armia, organy ścigania i wywiad opierają się na sztucznej inteligencji, czy ludzie mylą się, myśląc w ten sposób?

Sztuczna inteligencja nie wyjdzie z tego kryzysu wyłącznie dzięki działaniom public relations.

Wraz z pojawieniem się sztucznej inteligencji (AI), wiele z reklamowanych zalet tej technologii miało na celu przekonanie kadry kierowniczej i menedżerów wyższego szczebla, że ​​– pomimo braku pełnego potwierdzenia – jest to opłacalna inwestycja. W związku z tym wielu liderów w dziedzinie AI przedstawiało tę technologię jako sposób na obniżenie kosztów pracy w firmach poprzez zastąpienie pracowników ludzkich sztuczną inteligencją.

Niektórzy „eksperci” od sztucznej inteligencji wciąż głoszą te argumenty za zamkniętymi drzwiami. W tym roku uczestniczyłem w prywatnym wydarzeniu, na którym jeden z „ekspertów” od sztucznej inteligencji przewidywał, że superinteligencja zmiecie z powierzchni ziemi nawet 50% globalnej siły roboczej w ciągu 10 lat, a firmy najlepiej przygotowane do wykorzystania tego katastrofalnego wydarzenia zdobędą niewyobrażalną kontrolę i bogactwo. Oczywiście spotkało się to z aplauzem najwyższego kierownictwa obecnych firm.

Sam Amoudi słynnie stwierdził, że sztuczna inteligencja mogłaby wyeliminować 50% stanowisk biurowych. Później jednak przeformułował tę myśl, mówiąc, że sztuczna inteligencja jest „mnożnikiem produkcji” – innymi słowy, „zwiększa produktywność bez zwiększania wynagrodzeń”, co jest jedynie korporacyjnym bełkotem.

Jak wielokrotnie powtarzałem, dowodem skuteczności sztucznej inteligencji są rzeczywiste rezultaty. Słyszeliśmy o jej możliwościach , ale widzieliśmy niewiele korzyści z jej rzeczywistych możliwości. I do tego momentu Amodi to przyznaje.

Zwraca uwagę, że gdyby reklama głosiła, że ​​sztuczna inteligencja może wyleczyć raka, byłoby to całkowicie mylące. Mówi: „To, co zadziała, to faktyczne wyleczenie raka ”.

Amoudi zasugerował etyczne zaangażowanie firmy Anthropic w te kwestie, wyjaśniając, że firma „intensyfikuje swoje wysiłki”, aby skupić się na wykorzystaniu sztucznej inteligencji w biologii i medycynie. Ale, ponownie, nie widzieliśmy jeszcze rezultatów.

W poście Amoudiego poruszono również kwestię koncentracji władzy w sztucznej inteligencji, nawiązując do niedawnej krytyki Marka Zuckerberga dotyczącej tego, jak najlepiej wykorzystać sztuczną inteligencję z korzyścią dla wszystkich. Pogląd Amoudiego różnił się nieznacznie od Zuckerberga, argumentując za równowagą między regulacjami, nadzorem, testowaniem i modelami opartymi na otwartych kryteriach.

Amoudi zauważa, że ​​pod pewnymi względami zgadza się z ruchem „Pacing the Frontier”, wyjaśniając, że wprowadzenie kontroli w laboratoriach pionierskich „dostosowałoby” tempo rozwoju technologicznego, a jednocześnie pozwoliłoby reszcie branży nadrobić zaległości.

Oczywistą wadą tego planu jest to, że żaden inny kraj nie podlegałby tym regulacjom, co mogłoby celowo ograniczyć dominację Stanów Zjednoczonych w branży sztucznej inteligencji, a administracja Trumpa zawsze twierdziła, że ​​na to nie pozwoli.

Czy sztuczna inteligencja oferuje więcej korzyści infrastrukturom autorytarnym niż ludziom?

Systemy sztucznej inteligencji są szeroko stosowane w infrastrukturze nadzoru. Do czasu zerwania relacji z Pentagonem, Anthropic współpracował z Departamentem Obrony w zakresie dostarczania systemów sztucznej inteligencji. Anthropic odmówił jednak współpracy w zakresie wykorzystania swojej technologii do masowego nadzoru i w pełni autonomicznej broni, w wyniku czego utracił kontrakt.

Na szczęście dla Departamentu Obrony (DoD), OpenAI zawarło nową umowę z Pentagonem i szybko wypełniło pustkę po Anthropicu, jednocześnie wprowadzając zakaz używania jego technologii do szpiegowania Amerykanów.

Nie oznacza to jednak, że inne firmy przestrzegają tych samych standardów etycznych. Na przykład firma Flock spotkała się z powszechnym oporem wobec swoich kamer opartych na sztucznej inteligencji, zaprojektowanych do śledzenia tablic rejestracyjnych pojazdów w całych Stanach Zjednoczonych.

System ten ma na celu identyfikację pojazdów podejrzanych, gdy przekraczają oni granice i obszary objęte nadzorem, jednak okazał się skuteczny jako narzędzie umożliwiające funkcjonariuszom organów ścigania ściganie byłych współpracowników , monitorowanie współpracowników i śledzenie ich zainteresowań romantycznych.

Systemy sztucznej inteligencji są również wdrażane w monitoringu ruchu drogowego i fotoradarach. Zjawisko to zyskało znaczną uwagę jako szara strefa w działaniach policji, szczególnie w odniesieniu do systemów, które błędnie identyfikują tablice rejestracyjne lub są nieprawidłowo skonfigurowane.

W sprawach karnych w USA ciężar dowodu spoczywa na rządzie, który musi udowodnić, że ktoś popełnił przestępstwo. Jednak niektóre zautomatyzowane systemy mandatów drogowych, które wystawiały mandaty niewłaściwym pojazdom, spotkały się z ostrą krytyką za wymaganie od oskarżonych udowodnienia swojej niewinności w sądzie, co podważa zasadę ciężaru dowodu w sprawach karnych.

I tu właśnie tkwi główny problem, który wszyscy ignorują.

Technologia sztucznej inteligencji Palantira jest wykorzystywana w amerykańskich siłach zbrojnych i organach ścigania. W szczególności została wykorzystana przez Służbę Imigracyjną i Celną (ICE) do śledzenia podejrzanych o nielegalny pobyt imigrantów. Technologia Palantira jest również wykorzystywana w analizie obrazów z dronów, precyzyjnych atakach dalekiego zasięgu, analizie danych i planowaniu wojskowym.

Nie ma wątpliwości, że było to kluczowe narzędzie w osiągnięciu „światowego rekordu” w liczbie „wygranych” wojen.

Sztuczna inteligencja to dobra wiadomość, jeśli nie masz nic do ukrycia i chcesz być po stronie „dobrych™”, ale ta definicja ciągle się zmienia.