Błędy Google w zakresie sztucznej inteligencji: halucynacje idiomów i popularnych powiedzeń

Najnowszy trend w dziedzinie sztucznej inteligencji jest przezabawny. Jeden z użytkowników odkrył, że można wpisać fałszywą frazę w wyszukiwarkę Google i dodać słowo „znaczenie”. Funkcja Google’a „Przegląd AI” wygeneruje następnie znaczenie frazy na podstawie Twojej wyobraźni.

Historyk Greg Jenner zapoczątkował tę falę wpisem na temat Bluesky W którym poprosił Google o wyjaśnienie znaczenia zwrotu „nie można lizać borsuka dwa razy”. Przegląd AI uprzejmie wyjaśnił, że wyrażenie to oznacza, że ​​nie można oszukać kogoś po raz drugi, jeśli już raz został oszukany — co wydaje się rozsądnym wyjaśnieniem, ale ignoruje fakt, że termin ten nie istniał, zanim to zapytanie nie stało się powszechne.

Od tego czasu ludzie świetnie się bawili, sprawiając, że funkcja przeglądu sztucznej inteligencji wyjaśniała takie pojęcia, jak „kalmary w wazonie nie będą mówić źle o innych” (Znaczenie Coś spoza jego naturalnego środowiska najwyraźniej nie byłoby w stanie wyrządzić krzywdy) lub „Możesz zabrać psa na plażę, ale nie możesz nim popłynąć do Szwajcarii” (i on(Według funkcji Przeglądu AI jest to dość proste stwierdzenie dotyczące trudności związanych z podróżowaniem za granicę ze zwierzętami domowymi.)

Jednak nie zawsze to działa, ponieważ niektóre frazy nie zwracają wyników dla „przeglądu sztucznej inteligencji” – powiedział Gary Marcus, specjalista od kognitywistyki. Przewodowa„Jest bardzo niespójny, a tego można się spodziewać po GenAI”.

Jenner zauważa, że ​​choć jest to zabawne, to jednak wskazuje na pewne potencjalne ryzyko związane z nadmiernym poleganiem na źródłach generowanych przez sztuczną inteligencję, takich jak „Przegląd AI”, jeśli chodzi o informacje. Napisał Jenner: „To znak ostrzegawczy, że jedna z podstawowych funkcji wyszukiwarki Google – możliwość sprawdzenia faktów w cytatach, weryfikacji źródeł lub odnalezienia czegoś, co nie do końca zostało zapamiętane – stanie się znacznie trudniejsza, jeśli sztuczna inteligencja będzie wolała legitymizować statystyczne prawdopodobieństwa od faktycznej prawdy”.

To nie pierwszy raz, kiedy ludzie zwracają uwagę na ograniczenia informacji dostarczanych przez sztuczną inteligencję, a zwłaszcza funkcję AI Overview. Kiedy AI Overview została uruchomiona, zasugerowała ona, że ​​ludzie powinni jeść jeden mały kamień dziennie i że można nałożyć klej na pizzę, jednak te konkretne odpowiedzi zostały szybko usunięte.

Od tego czasu Google zapewnia, że ​​większość przeglądów sztucznej inteligencji dostarcza przydatnych i opartych na faktach informacji oraz że nadal gromadzi opinie na temat swojego produktu z zakresu sztucznej inteligencji.

Na razie niech to posłuży jako przypomnienie, aby dokładnie sprawdzać informacje, które pojawiają się w polu „Przegląd sztucznej inteligencji” na górze wyników wyszukiwania Google, gdyż mogą być niedokładne.