Błędy Google w zakresie sztucznej inteligencji: halucynacje idiomów i popularnych powiedzeń

Najnowszy trend w dziedzinie sztucznej inteligencji jest przezabawny. Jeden z użytkowników odkrył, że można wpisać fałszywą frazę w wyszukiwarkę Google i dodać słowo „znaczenie”. Funkcja Google’a „Przegląd AI” wygeneruje następnie znaczenie frazy na podstawie Twojej wyobraźni.

Historyk Greg Jenner zapoczątkował ten trend, pisząc na Bluesky post , w którym poprosił Google o wyjaśnienie znaczenia zwrotu „you can't lick a badger twice” (nie można lizać borsuka dwa razy). Funkcja „AI Overview” pomocnie wyjaśniła, że ​​wyrażenie to oznacza, że ​​nie da się oszukać kogoś po raz drugi, skoro już raz został oszukany – prawdopodobne wyjaśnienie, ale pomijające fakt, że termin ten nie istniał, zanim to zapytanie stało się viralem.

Od tego czasu ludzie świetnie się bawili, sprawiając, że funkcja przeglądu sztucznej inteligencji wyjaśniała takie pojęcia, jak „kalmary w wazonie nie będą mówić źle o innych” (Znaczenie Coś spoza jego naturalnego środowiska najwyraźniej nie byłoby w stanie wyrządzić krzywdy) lub „Możesz zabrać psa na plażę, ale nie możesz nim popłynąć do Szwajcarii” (i on(Według funkcji Przeglądu AI jest to dość proste stwierdzenie dotyczące trudności związanych z podróżowaniem za granicę ze zwierzętami domowymi.)

Jednak nie zawsze to działa, ponieważ niektóre polecenia nie zwracają wyników „Przeglądu AI”. Kognitywista Gary Marcus powiedział w wywiadzie dla Wired : „To bardzo niespójne, czego można by się spodziewać po GenAI”.

Jenner zauważa, że ​​choć jest to zabawne, to jednocześnie uwypukla pewne potencjalne zagrożenia związane z nadmiernym poleganiem na źródłach generowanych przez sztuczną inteligencję, takich jak „Przegląd AI”, w celu uzyskania informacji. Pisze : „To sygnał ostrzegawczy, że jedna z podstawowych funkcji Google’a – możliwość weryfikacji cytatu, sprawdzenia źródła lub odnalezienia czegoś, co zostało zapamiętane tylko częściowo – stanie się znacznie trudniejsza, jeśli sztuczna inteligencja będzie przedkładać prawdopodobieństwo statystyczne nad faktyczną prawdę”.

To nie pierwszy raz, kiedy ludzie zwracają uwagę na ograniczenia informacji dostarczanych przez sztuczną inteligencję, a zwłaszcza funkcję AI Overview. Kiedy AI Overview została uruchomiona, zasugerowała ona, że ​​ludzie powinni jeść jeden mały kamień dziennie i że można nałożyć klej na pizzę, jednak te konkretne odpowiedzi zostały szybko usunięte.

Od tego czasu Google zapewnia, że ​​większość przeglądów sztucznej inteligencji dostarcza przydatnych i opartych na faktach informacji oraz że nadal gromadzi opinie na temat swojego produktu z zakresu sztucznej inteligencji.

Na razie niech to posłuży jako przypomnienie, aby dokładnie sprawdzać informacje, które pojawiają się w polu „Przegląd sztucznej inteligencji” na górze wyników wyszukiwania Google, gdyż mogą być niedokładne.