ChatGPT: Wiele osób zauważyło nagły wzrost liczby wulgaryzmów.

Czy zauważyłeś, że ChatGPT nagle zaczął używać wulgaryzmów? Ja zauważyłem i wygląda na to, że nie jestem jedyny.

Po raz pierwszy zdarzyło się to w luźnej rozmowie i naprawdę mnie zaskoczyło. Rozmawialiśmy o serialu Netflixa „Jujutsu Kaisen” i zanim zdążyłem użyć jakiegokolwiek przekleństwa, ChatGPT użył wulgarnego słowa, opisując zachowanie jednej z postaci jako „cholernie okropne”. Wcześniej używałem w rozmowie słów takich jak „cholera”, ale to ChatGPT zainicjował przekleństwo. Zrobił to bez mojej zachęty, aby podkreślić, jak okropna jest ta postać, i wydaje mi się, że to dla niego duża zmiana.

Zastanawiałem się, czy robi to innym, więc zapytałem kolegów z zespołu i oni też to zauważyli. Szybkie przeszukanie internetu natychmiast przyniosło dwa wątki na Reddicie od osób , które doświadczyły tego samego.

Wygląda na to, że w ciągu ostatnich kilku dni ChatGPT nabrał „zadufanego języka”. Osobiście podoba mi się ta zmiana – nie przeszkadza mi ona i moim zdaniem usprawnia konwersację – ale nie sądzę, żeby wszyscy byli zadowoleni. Pytanie brzmi: dlaczego zaczął to robić teraz?

Wyjaśnienie naukowe

Najciekawszą wskazówką jest aktualizacja specyfikacji modelu OpenAI z tego tygodnia. Została ona upubliczniona i wyraźnie stwierdza, że ​​domyślnym ustawieniem jest unikanie wulgaryzmów – ale, co ważne, jest to tylko wskazówka, a nie sztywna reguła. OpenAI twierdzi, że wytyczne te mogą być domyślnie ignorowane przez takie czynniki, jak „wskazówki kontekstowe, wiedza kontekstowa lub historia użytkownika”.

Jej konkretny przykład pokazuje, że żądanie od ChatGPT, aby mówił jak prawdziwy haker, jest implicite sprzeczne z zasadami zakazu używania wulgaryzmów. Dlatego podczas nieformalnej rozmowy z entuzjazmem wyraziłem opinię, że nie przepadam za niektórymi postaciami z serialu, a ChatGPT dopasował się do tonu rozmowy, co ostatecznie doprowadziło do tego, że zaczął używać wulgaryzmów.

Jest to zgodne z szerszym kierunkiem, w którym, jak publicznie przyznał OpenAI, zmierza ChatGPT. Ostatnie aktualizacje modelu koncentrowały się na jakości konwersacji, personalizacji i adaptacji tonu do kontekstu. W notatkach dotyczących modelu OpenAI szczegółowo opisano aktualizacje znaków , mające na celu uczynienie ChatGPT „bardziej konwersacyjnym” i lepszym dostosowywaniem tonu do kontekstu.

OpenAI wyjaśniło już wcześniej, że osobowość ChatGPT nie jest generowana po prostu przez pojedynczy komunikat. Zachowanie modelu jest kształtowane poprzez trening, podstawowe instrukcje i opinie użytkowników, a nawet drobne zmiany w osobowości mogą mieć niezamierzone konsekwencje. Dyskutowano o tym dość otwarcie po niesławnej aktualizacji GPT-4o dotyczącej pochlebstw.

Mój model mentalny został złamany

Nie wiem, czy OpenAI celowo zwiększyło podatność ChatGPT na wulgaryzmy, czy też był to po prostu niezamierzony skutek uczynienia go bardziej konwersacyjnym. Ale tak czy inaczej, jest to znacząca zmiana w jego działaniu.

Język ma znaczenie, a kiedy ChatGPT używał wulgaryzmów w mojej obecności, od razu to zauważyłem, ponieważ burzyło to mój mentalny model mówienia w ChatGPT. Nagle przestał brzmieć jak neutralny, inteligentny asystent, z którego korzystałem od lat, a zaczął jak osoba w tonie nieformalnej rozmowy.

Osobiście wolę tę wersję ChatGPT. Ale niewątpliwie wielu się ze mną nie zgodzi. I to właśnie jest dziwne w sztucznej inteligencji , która coraz bardziej zmierza w kierunku naturalnej konwersacji: stosunkowo subtelne zmiany w sposobie, w jaki mówi, mogą sprawić, że byt, z którym wchodzisz w interakcję na ekranie, będzie wydawał się zaskakująco inny.

Obecnie moja wersja, jak sądzę, jest bardziej dosadna i to akceptuję.