Gry ze sztuczną inteligencją budzą obawy: małe czerwone pudełko oferuje obiecujące rozwiązanie.

Niniejszy artykuł jest częścią Trending Forward, naszego cyklu materiałów wideo i audio, który bada, w jaki sposób rewolucyjne technologie zmieniają nasze życie.

Jeśli należysz do osób, które twierdzą, że „ sztuczna inteligencja zdaje się być wszędzie” – cóż, mylisz się. To prawda, że ​​wkrada się do pracy, szkół i innych miejsc, ale w szybkim tempie wkracza też do innych, nowych światów.

Jednym z takich światów jest sektor gier – i to wiąże się z przerażającym ryzykiem. Jako rodzic, myśl, że Twoje dziecko może mieć niemal nieograniczony dostęp do najlepszych (i najgorszych) rzeczy w sieci, wydaje się całkowicie nie do zaakceptowania, a jednak jesteśmy świadkami mnogości gier, które potrafią zamienić bajki na dobranoc w prawdziwie mroczne baśnie.

Dlatego rozmawialiśmy z Arunem Guptą, przedsiębiorcą, który zbudował odnoszące sukcesy firmy w branży urządzeń ubieralnych i handlu detalicznego odzieżą. Spędzając czas z rodziną, zaczął zastanawiać się nad tym, jak technologia mogłaby jednocześnie bawić, edukować i pobudzać kreatywność dzieci. Jak widzieliśmy w innych przykładach, sztuczna inteligencja może otwierać nowe możliwości dla kreatywności, na przykład tworzenie gier z wykorzystaniem bezpłatnej aplikacji Meta, opartej na sztucznej inteligencji.

Gupta nawiązał ponownie kontakt ze swoim partnerem technicznym, Robertem Whitneyem, i razem zaczęli pracować nad stworzeniem Stickerbox , samodzielnego urządzenia wykorzystującego sztuczną inteligencję, które pozwala dzieciom opisywać wyobrażone przez siebie obrazy – niemal wszystko – i wyświetlać je na monochromatycznym ekranie interfejsu, a następnie drukować na żądanie.

Jego design nawiązuje do starego urządzenia Etch a Sketch, a naklejki są drukowane na wbudowanej drukarce termicznej, co oznacza mniej bałaganu, a dzieci mogą je pokolorować według własnego uznania.

Koncepcja jest prosta i zauważyłam, że wyszła już poza zasięg pierwotnych użytkowników i zyskuje coraz większą popularność. Kiedy niedawno wspomniałam o Stickerbox znajomej z Wielkiej Brytanii, która ma małe dzieci, powiedziała: „Ach, ta samoprzylepna zabawka napędzana sztuczną inteligencją, która wygląda jak Etch-a-Sketch? Naprawdę chcę taką!”.

Chociaż zakładam, że miała na myśli, że chciała tego dla swoich dzieci, to pokazuje , że sztuczna inteligencja jest tu kwestią drugorzędną; ekscytująca jest możliwość tworzenia namacalnych rzeczy za pomocą dźwięku, a nie tylko obecność uczenia maszynowego w jej centrum.

Nowa generacja gier

Wygląda na to, że Stickerbox został zaprojektowany, zbudowany i działa jako całkowite przeciwieństwo niektórych innych zabawek opartych na sztucznej inteligencji dostępnych na rynku. Te bardziej problematyczne zabawki prezentują się jako przyjaciel i powiernik Twojego dziecka.

Nieustannie podsłuchuje wszystko, co mówi się w jego otoczeniu, i potrafi nawet manipulować dziećmi. Zgłaszano przykłady gier z SI, które podpowiadają dzieciom, jak znaleźć broń i zapałki.

W tym tkwi paradoks: narzędzia AI mogą rozbudzać ciekawość i kreatywność dzieci, umożliwiając im robienie rzeczy, które wcześniej były niemożliwe. Ale ta możliwość wiąże się również z ogromnym ryzykiem – dlatego nasza rozmowa z Guptą jest prosta: jak stworzyć grę, która oferuje korzyści płynące ze sztucznej inteligencji, bez ryzyka związanego z dostępem do niej?

Niedawno opublikowane badanie przez PIRG podkreśliło poważne obawy dotyczące gier, które opierają się na dostępie do dużych modeli językowych (LLM), takich jak ChatGPT firmy OpenAI, i wskazało na możliwości ominięcia tych zabezpieczeń, nawet jeśli istnieją.

Czym więc wyróżnia się Stickerbox?

Gupta mówi: „Zaczęliśmy od bardzo prostego pytania: co by było, gdyby sztuczna inteligencja została zaprojektowana specjalnie dla dzieci?”

Dodaje: „Myślę, że Bob i ja, kiedy zakładaliśmy tę firmę, byliśmy bardzo zainspirowani mediami społecznościowymi i ich wpływem na młodsze pokolenie. Media społecznościowe, jak wszyscy wiedzą, opierają się na mechanizmach podobnych do gier kasynowych, zaprojektowanych tak, aby zapewnić zastrzyk dopaminy i zmaksymalizować interakcję, aby mogły służyć jak najlepiej”.

Kontynuuje: „Ale kiedy weźmiemy ten model i pomyślimy o nim w kontekście dzieci… to tak naprawdę nie pasuje. Nie ma platform mediów społecznościowych zaprojektowanych specjalnie dla dzieci. I myślę, że to samo widać w przypadku sztucznej inteligencji”.

Dlatego Stickerbox został zaprojektowany z myślą o wykorzystaniu kreatywnej mocy sztucznej inteligencji, zapewniając jednocześnie bezpieczeństwo dzieciom. Jego trzy kluczowe funkcje bezpieczeństwa to: urządzenie „nasłuchuje” tylko po naciśnięciu przycisku mikrofonu; ścisłe przestrzeganie wytycznych dotyczących bezpieczeństwa generowanych treści; oraz możliwość pełnego monitorowania twórczości dzieci przez rodziców za pośrednictwem aplikacji towarzyszącej.

Fundusz nie zezwala dzieciom na filmowanie ani prezentowanie scen nagości, krwi, przemocy ani żadnych drastycznych treści. Jak stwierdził Gupta, firma chciała „dążyć do maksymalnego bezpieczeństwa, a nie do jego ograniczenia na początku działalności”.

Stickerbox łączy się z internetem, aby uzyskać dostęp do sztucznej inteligencji, ale opiera się na własnym, zastrzeżonym systemie, a nie na OpenAI, jak wiele innych firm. Zbudowanie własnego, rozbudowanego modelu językowego pozwoliło Hapiko zintegrować to, co Gupta nazywa „punktami kontrolnymi”.

„Mamy teraz w urządzeniu wbudowanych wiele elementów sterujących i opiera się ono na wielu specjalistycznych programach, ale generalnie można to sobie wyobrazić w ten prosty sposób: jest system, w którym dziecko wypowiada polecenie, a polecenie to jest tłumaczone na tekst, który następnie jest tłumaczony na obraz, który następnie jest zwracany”.

„Dlatego w tym procesie występuje wiele punktów kontrolnych. Jest punkt kontrolny, w którym tworzony jest tekst, i można przeanalizować jego zawartość. Następnie można zastosować do niego filtr bezpieczeństwa. (Po tym) pojawia się komunikat, który przechodzi z tekstu do obrazu, i można go przeanalizować, aby zobaczyć, co zostanie przekonwertowane na obraz”.

Stickerbox uczy dzieci ważnej lekcji o tym, jak formułować polecenia dla silnika AI. Jeśli naklejka, która powstanie, nie jest dokładnie taka, jak sobie wyobrażały, muszą zastanowić się, jak zmodyfikować polecenie , aby uzyskać pożądany efekt.

Chociaż to samo można zrobić z dowolnym chatbotem, element drukowania wymaga podłączenia urządzeń oraz nadzoru i wskazówek rodzicielskich, aby monitorować proces i ewentualnie wyjaśnić niektóre drażliwe tematy.

Zagłębiliśmy się w eksplorację przyszłości tego pudełka – jak zostało odebrane przez rodziców i nauczycieli, jak poradzili sobie z niektórymi początkowymi wyzwaniami i pytaniami, co może przynieść przyszłość w tej szybko rozwijającej się dziedzinie gier opartych na sztucznej inteligencji… i w jaki sposób Hapiko musiało zrezygnować z niektórych funkcji, aby bezpiecznie wprowadzić ten produkt na rynek.