Google popełnił błąd umieszczając Nano Banana w Google Earth

W zeszłym tygodniu Google uruchomiło w ramach programu eksploracji świata Google Earth swój model generowania obrazów oparty na sztucznej inteligencji, Nano Banana 2. Firma promowała tę integrację jako sposób na tworzenie infografik przedstawiających różne miejsca na świecie lub generowanie historycznych krajobrazów na podstawie najnowszych zdjęć. Użytkownicy zostali również zaproszeni do generowania swoich „domów marzeń” na realistycznych tłach – jeśli planowali rozbudowę domu lub marzyli o domku letniskowym nad jeziorem, mogli je zwizualizować za pomocą Nano Banana 2 w Google Earth.

Ta wiadomość pojawia się w kontekście decyzji Google o integracji platform AI z niemal wszystkimi produktami i usługami (na przykład w zeszłym tygodniu dodano nowe funkcje Gemini dla użytkowników Google Docs for Workspace). Z perspektywy firmy dodanie Nano Banana 2 do Google Earth było jak najbardziej sensowne. Jednak, jak się później okazało, ta integracja nie sprawdziła się w przypadku Google Earth.

Google Earth już wypuszcza Nano Banana 2

Zaledwie jeden dzień po uruchomieniu tej głównej integracji dla Nano Banana 2, Google ją wycofało . Firma wydała aktualizację do swojego pierwotnego ogłoszenia, stwierdzając: „Zdajemy sobie sprawę, że ludzie wyjątkowo ufają Google Earth, jeśli chodzi o autorytatywny obraz świata. Zauważyliśmy, że specjaliści ds. geoprzestrzennych używają tej funkcji do wielu przydatnych celów; jednak widzieliśmy również, że ludzie udostępniali zrzuty ekranu wygenerowanych obrazów, które wydają się naruszać nasze zasady. Dlatego usuwamy tę funkcję z Google Earth, podczas gdy pracujemy nad wdrożeniem silniejszych kontroli. Ważne jest, aby zauważyć, że wygenerowane obrazy nie pojawiły się w głównym środowisku Google Earth do zobaczenia przez innych i miały znak wodny wskazujący, że zostały wygenerowane przez sztuczną inteligencję”.

To stwierdzenie nie opisuje dokładnie obrazów generowanych przez użytkowników za pomocą tego narzędzia. Moim zdaniem, wykraczało ono poza zwykłe „naruszenie” zasad Google : internet, zgodnie z oczekiwaniami, użył Nano Banana 2 do generowania nieodpowiednich i kontrowersyjnych obrazów opartych na rzeczywistych lokalizacjach. Nie powinno dziwić, że jedno z najpopularniejszych zdjęć przedstawiało samolot uderzający w nowe World Trade Center na Manhattanie . Inne pokazywały zrujnowaną Wieżę Eiffla lub zawalenie się egipskich piramid do głębokiego dołu. Choć wiele osób może zdawać sobie sprawę, że te zdjęcia zostały stworzone jako żarty, znacznie większa liczba osób może zobaczyć w internecie te „oficjalne” zdjęcia Google Earth i założyć najgorsze.

Ale żarty na bok, potencjał rozprzestrzeniania się dezinformacji i dezinformacji był alarmujący. Na przykład, jeden z użytkowników zademonstrował, jak użył narzędzia, aby umieścić uchodźców ramię w ramię w pobliżu granicy z Meksykiem . Można sobie wyobrazić, jak taki obraz stał się viralem, a widzowie zostali oszukani, by uwierzyć, że to zdjęcie Google Earth to autentyczne zdjęcie satelitarne. Google prawdopodobnie wdrożyło pewne mechanizmy kontroli, aby zapobiec wielu procesom generowania obrazów, ale te ograniczenia najwyraźniej nie były wystarczająco solidne. Ponieważ każdy, niezależnie od tego, czy zapłacił za funkcje sztucznej inteligencji Google , czy nie, mógł używać Nano Banana 2 z Google Earth, wystarczyło otworzyć Google Earth i manipulować złośliwym komunikatem, aż Nano Banana 2 zareaguje.

W narzędziu takim jak Google Earth nie ma miejsca na sztuczną inteligencję generatywną.

Nie trzeba być sceptykiem sztucznej inteligencji, żeby wyjaśnić, dlaczego to był zły pomysł. Jednak niewiele firm z branży sztucznej inteligencji wydaje się wykazywać choćby cień sceptycyzmu przed wprowadzeniem generatywnych funkcji sztucznej inteligencji do swoich produktów. Narzędzia takie jak Google Earth mają charakter edukacyjny. Używamy ich, aby poznać świat, jego geografię oraz wygląd różnych miast i krajobrazów. Osobiście lubię spędzać czas, obracając mój cyfrowy globus, aby odkrywać nowe miejsca, i często wbijam szpilkę w losowe miejsce, aby zobaczyć, jak wygląda w Street View. Powodem jest to, że uważam Google Earth za dokładne i wiarygodne źródło informacji o świecie; gdyby nie było, dlaczego miałoby mnie to obchodzić?

Dlatego nie widzę logiki w tym, aby Google oferowało narzędzie, które ze swej natury generuje niedokładne i zniekształcone obrazy świata. Jednym z jego atutów było pokazywanie miejsc na mapie tak, jak wyglądały w przeszłości, ale Nano Banana 2 nie robił tego . Zamiast tego, sztuczna inteligencja wykorzystała swoje dane treningowe, aby wygenerować to, co uważała za historyczną reprezentację obszaru. Gdybyś poprosił ją o pokazanie, jak wyglądał Paryż w 1726 roku, najprawdopodobniej umieściłaby na mapie budynki publiczne i struktury, zamiast przedstawiać, jak Paryż faktycznie wyglądał trzysta lat temu. Dostajesz iluzję historii; może to być zabawne, ale z pewnością nie jest to edukacyjne — podobnie jak przeglądanie tandetnych treści historycznych generowanych przez sztuczną inteligencję w mediach społecznościowych.

To samo dotyczy generowanych przez sztuczną inteligencję „infografik informacyjnych”. Firmy takie jak Google chętnie promują możliwości sztucznej inteligencji jako narzędzia edukacyjnego, a fakt, że Google Earth potrafi generować informacyjne infografiki pokazujące lokalizację na mapie, wydaje się świetny. Jednak powstałe infografiki nie są weryfikowane przez żadne autorytety, a już na pewno nie przez ekspertów: obraz wygenerowany przez Nano Banana 2 może być pełen półprawd i halucynacji, a co gorsza, nie zawiera żadnych klikalnych źródeł, które pozwoliłyby zweryfikować działanie sztucznej inteligencji. Zwykli użytkownicy mogą zapamiętać informacje, których „dowiadują się” z tych infografik, niezależnie od tego, czy są one dokładne, czy nie.

W najgorszym przypadku ta funkcja działała jak maszyna do rozprzestrzeniania dezinformacji. Jeśli chciałeś przekonać ludzi, że w danej części świata wydarzyło się coś złego, wystarczyło wpisać prośbę, a Nano Banana 2 wygenerował realistyczny obraz satelitarny Twojego pomysłu, gotowy do łatwego udostępnienia w mediach społecznościowych. W czasach, gdy dezinformacja generowana przez sztuczną inteligencję rozprzestrzenia się w szybkim tempie, tylko zaostrza to problem, dolewając oliwy do ognia. Firmy takie jak Google powinny szukać sposobów na oddzielenie szkodliwych treści generowanych przez sztuczną inteligencję od prawdziwych informacji, a nie przyczyniać się do ich wzrostu.

To nie jest argument przeciwko narzędziom AI w ogóle, ale raczej przeciwko integracji AI generatywnej z narzędziem edukacyjnym. Nie wiem, jaką korzyść Google uważa za korzystną, jeśli chodzi o przeinaczanie faktów – poza tym, że daje im to kolejny przykład, na który mogą się powoływać, chwaląc się swoim „sukcesem” w dziedzinie AI.