Sztuczna inteligencja: Prawdziwe zagrożenie tkwi w naszej teraźniejszości, a nie w wyobrażeniach o przyszłości.

Nie powstrzymało to jednak Doliny Krzemowej przed traktowaniem ogólnej sztucznej inteligencji (AGI) zarówno jako nadchodzącego cudu, jak i nadciągającego potwora. AGI ma symbolizować moment, w którym maszyna będzie w stanie dorównać ludzkiej inteligencji w szerokim zakresie zadań, choć nie ma zgody co do tego, które zadania, których ludzi i co stanowi inteligencję.

Prezes Nvidii, Jensen Huang, uważa, że ​​to już się stało i pozostało niezauważone. Podczas niedawnej konferencji prasowej Nvidii dotyczącej wyników finansowych stwierdził : „W przypadku wielu zadań możemy powiedzieć, że osiągnęliśmy już poziom ogólnej sztucznej inteligencji (AGI). Dodał, że takie osiągnięcia są „na tym etapie nieco bez znaczenia”. Żegnaj zatem Skynet.

Ma jednak rację, że koncepcja sztucznej inteligencji ogólnej (AGI) stała się praktycznie bezużyteczna jako miara postępu. Firmy mogą ją redefiniować w zależności od tego, w czym ich najnowszy model jest najlepszy. To marketing, a nie standard naukowy.

Katastrofalne rozproszenie uwagi

Ale sztuczna inteligencja nie jest niewinna, nawet jeśli nie ma skłonności do zabawy z bombami atomowymi. Istnieją mniej dramatyczne zagrożenia ze strony sztucznej inteligencji, napędzane ludzką chciwością i odwieczną niechęcią.

Obecnie sztuczna inteligencja potrafi tworzyć niezliczone ilości fałszywych materiałów. Potrafi replikować głosy i twarze w stopniu wystarczającym, by oszukać bliskich i ukraść ich pieniądze, wykorzystywać wiadomości phishingowe do włamywania się na bezpieczne serwery i zalewać sieci społecznościowe niekończącymi się, kłótliwymi, sztucznymi kontami. Żadne z tych działań nie kwalifikuje się do ogólnej sztucznej inteligencji (AGI) według żadnej poważnej definicji, ale to rozróżnienie nie przynosi ulgi osobie, która słyszy fałszywe nagranie krewnego żebrzącego o pieniądze.

Obsesja na punkcie sztucznej inteligencji ogólnej (AGI) może w rzeczywistości komplikować sytuację regulatorów.

Zysk nie jest dobrym miernikiem

Huang argumentował, że koncepcja ogólnej sztucznej inteligencji (AGI) powinna zostać zastąpiona. Powinniśmy zastanowić się, czy „wykonuje ona produktywną i użyteczną pracę” oraz „generuje opłacalny kod”. Ma to sens w przypadku Nvidii, ale dla zwykłych ludzi, którym zależy na sztucznej inteligencji, rentowność nie jest wiarygodnym testem bezpieczeństwa.

Oszustwa są opłacalne, dlatego jest ich tak dużo. Usunięcie pracowników i zastąpienie ich modelem sztucznej inteligencji, który zapewnia 30% jakości za 10% ceny, jest opłacalne (w krótkiej perspektywie). Żaden z tych rezultatów nie jest powodem do dumy, opisując wyniki swojego produktu.

Rozsądnie byłoby porzucić sztuczną inteligencję ogólną (AGI) jako dominujący w branży obiekt obsesji i obaw, ale to nie oznacza, że ​​firmy z branży AI mogą odpuścić. Inteligencja jest zbyt złożona, by stanowić jedyne źródło niepokoju. Władza może oferować lepszą perspektywę. Możemy mierzyć, kto korzysta ze sztucznej inteligencji, w jaki sposób i kto ponosi odpowiedzialność za jej awarię. Dopiero wtedy w pełni zrozumiemy głęboki wpływ, jaki wywarła ona na nasze życie.

Dyskusje o odpowiedzialności, weryfikacji tożsamości, własności i innych kwestiach prawnych mogą nie być tak atrakcyjne wizualnie jak chmury obliczeniowe, ale organy regulacyjne powinny zmusić firmy zajmujące się sztuczną inteligencją do zajęcia się nimi. Powinniśmy monitorować ludzkie dłonie za pomocą klawiatur, a nie wiecznie opóźniane nadejście Skynetu.