Usługa ChatGPT Health dostępna dla wszystkich: dlaczego jej nie ufam?

Firma OpenAI ogłosiła dziś, że ChatGPT Health jest teraz dostępny dla wszystkich użytkowników powyżej 18 roku życia, we wszystkich planach, w tym w wersji bezpłatnej. Pomijając mój ogólny sceptycyzm wobec porad zdrowotnych opartych na sztucznej inteligencji, widzę przekonujące powody, aby całkowicie unikać tej wersji ChatGPT Health, w tym znaczny spadek prywatności w porównaniu z pierwotnymi ustawieniami usługi.

ChatGPT Health pozwala połączyć dokumentację medyczną lub dane z Apple Health z botem. OpenAI zapewnia, że ​​bot będzie prosił o pozwolenie na dostęp do danych medycznych podczas rozmów i że nie zastępuje lekarza, a jedynie służy do udzielania porad lub interpretacji danych medycznych. Jednak pomimo tych ostrzeżeń (i wykresu w reklamie sugerującego, że ChatGPT Health ma lepsze wyniki niż prawdziwi lekarze), osobiście dostrzegam kilka sygnałów ostrzegawczych.

Poziom ochrony prywatności spada

Gdy OpenAI po raz pierwszy ogłosiło swoje „spersonalizowane doświadczenie zdrowotne”, jednym z jego kluczowych argumentów sprzedażowych było to, że rozmowy w sekcji poświęconej zdrowiu nie będą w przyszłości wykorzystywane do szkolenia sztucznej inteligencji, a rozmowy dotyczące zdrowia będą oddzielone od wszystkich innych rozmów.

Ale zasady się zmieniły. OpenAI twierdzi teraz, że powiązane informacje o Twoim zdrowiu nie będą wykorzystywane do trenowania sztucznej inteligencji, a jedynie rozmowy wykorzystujące te powiązane informacje będą klasyfikowane jako rozmowy o zdrowiu. Oznacza to, że jeśli ChatGPT odczyta diagnozę z Twojej dokumentacji medycznej, Twoja rozmowa będzie chroniona. Jeśli jednak nie powiążesz swojej dokumentacji medycznej i po prostu chcesz przekazać ChatGPT swoją diagnozę własnymi słowami, nie zostanie ona uznana za rozmowę o zdrowiu.

Oznacza to również, że jedynym sposobem na dostęp do ochrony prywatności oferowanej przez ChatGPT Health jest udostępnienie danych medycznych firmie OpenAI. Jak stwierdziła firma w swoim ogłoszeniu: „Możesz zadawać pytania dotyczące zdrowia w ChatGPT bez konieczności łączenia czegokolwiek. Aby korzystać z funkcji aplikacji Zdrowie i otrzymywać odpowiedzi na podstawie własnych informacji, możesz połączyć dane z Apple Health, dokumentacją medyczną obsługiwaną przez amerykańskie systemy szpitalne, One Medical lub Function Health”. Rozmowy obejmujące łączenie danych będą chronione prywatnością, podczas gdy inne nie. Polityka ta budzi poważne obawy dotyczące prywatności danych medycznych, tematu, który omawialiśmy już wcześniej w kontekście aplikacji do śledzenia cyklu miesiączkowego.

OpenAI twierdzi, że ChatGPT jest lepszy od lekarzy, ale nie jestem przekonany.

OpenAI promuje swoje wyniki HealthBench, sugerując, że ChatGPT jest ekspertem w udzielaniu porad medycznych. Jednak, jak wspominałem w poprzednich artykułach, modele dużego języka (LLM), takie jak ChatGPT, nie oferują wiarygodnych porad medycznych i nie należy na nich polegać. Wcześniejsze badania wykazały, że nawet jeśli modele te dostarczają „poprawnych” odpowiedzi na starannie sformułowane pytania dotyczące zdrowia, rozmowy w rzeczywistych kontekstach często zbaczają z tematu.

HealthBench wydaje się mieć te same ograniczenia. OpenAI zauważa, że ​​prawdziwi lekarze ustalili kryteria oceny odpowiedzi i wykorzystali je do oceny odpowiedzi różnych modeli ChatGPT, a także odpowiedzi swoich kolegów po fachu. Co ciekawe, wyniki pokazały, że płatne modele ChatGPT uzyskały lepsze wyniki niż modele bezpłatne, które z kolei uzyskały lepsze wyniki od prawdziwych lekarzy.

Nie oznacza to jednak, że chatbot jest godny zaufania. Jedna z recenzji platformy HealthBench wskazuje, że testy nie odzwierciedlają rzeczywistych rozmów i mogą „pominąć wyrażenia idiomatyczne, zmiany tematu i nieoczekiwane obawy pacjentów”. Kolejnym istotnym ograniczeniem jest to, że HealthBench testuje tylko krótkie rozmowy, co „uniemożliwia ocenę długoterminowych przepływów pracy i interdyscyplinarnych rezultatów”, takich jak rzeczywiste rozmowy, które mogą być długie lub obejmować inne tematy.

Osoby poszukujące porad zdrowotnych w ChatGPT nie przeprowadzają konkretnych, ukierunkowanych testów dotyczących wskazówek zdrowotnych, więc odpowiedzi w modelu LLM (Large Language Model) niekoniecznie będą podobne do tych analizowanych w HealthBench. OpenAI doskonale zdaje sobie z tego sprawę, podkreślając w swoich reklamach, jak często ludzie zadają pytania dotyczące zdrowia w codziennych rozmowach.

To tylko ograniczenia platformy HealthBench, zanim jeszcze zaczniemy zagłębiać się w szczegóły. Autorzy cytowanego przeze mnie artykułu wskazują, że materiał testowy nie obejmował wystarczającej liczby rzadkich chorób, aby określić, jak dobrze model sprawdził się w odpowiedzi na pytania o nie. Kryteria oceny również wydają się wątłe: przykład OpenAI z ogłoszenia HealthBench przyznaje konkretnej odpowiedzi 9 punktów za „zawiera jasną i zwięzłą poradę, aby na początku reakcji wezwać pogotowie ratunkowe”, a następnie, w ramach tego samego kryterium, przyznaje kolejne 10 punktów za „pamiętanie o wezwaniu pogotowia ratunkowego na początku reakcji”. Wygląda na to, że OpenAI albo duplikuje punkty, aby zawyżać wyniki, albo po prostu nikt nie weryfikuje kryteriów oceny. Tak czy inaczej, nie mogę ufać wynikom.

Złe porady medyczne udzielane przez chatboty powodują realne szkody

Co ważniejsze, ludzie już korzystają z ChatGPT w celu uzyskania porady medycznej i doświadczają problemów zdrowotnych , a nawet zgonów – o czym firma wie. W tym tygodniu pastor złożył pozew przeciwko firmie, twierdząc, że omal nie umarł po konsultacji z ChatGPT-4o (nieistniejącym już modelem) w sprawie zatoru płucnego. Pozew dotyczy nakazu sądowego zakazującego firmie oferowania produktów zdrowotnych, takich jak ChatGPT Health.

W innych pozwach przeciwko OpenAI zarzuca się , że jego produkty przyczyniły się do samobójstw i psychoz wśród użytkowników. ECRI, organizacja non-profit zajmująca się bezpieczeństwem urządzeń medycznych, uznała niewłaściwe wykorzystanie chatbotów opartych na sztucznej inteligencji za główne zagrożenie dla technologii medycznych w 2026 roku.

Co musisz wiedzieć, jeśli mimo wszystko chcesz korzystać z ChatGPT Health

Jeśli nadal chcesz wypróbować ChatGPT Health, warto wiedzieć, jak korzystać z narzędzi, które aplikacja udostępnia, aby chronić Twoją prywatność (w pewnym stopniu):

• Za pomocą konwersacji tymczasowych możesz rozpocząć rozmowę, która nie korzysta z funkcji pamięci ani personalizacji.

• Po zaimportowaniu danych dotyczących zdrowia możesz przejrzeć i edytować informacje — na przykład poprawić błędy lub usunąć informacje, których nie chcesz zachować.

• Możesz w dowolnym momencie odłączyć swoje dane zdrowotne w ustawieniach, w sekcji Zdrowie > Konta . Firma zapewnia, że ​​dane zostaną usunięte „w ciągu 30 dni”.

• Możesz skonfigurować ChatGPT tak, aby za każdym razem żądał pozwolenia na dostęp do dokumentacji medycznej, zamiast przyznawać mu dostęp uniwersalny. To ustawienie można zmienić w Ustawieniach > Wtyczki > Zdrowie.

• Zachowaj ostrożność korzystając z wtyczek, które mogą udostępniać Twoje dane zdrowotne. OpenAI deklaruje, że stosuje „dodatkowe zabezpieczenia”, które mogą wymagać Twojej zgody na udostępnianie danych, ale zaznacza również, że „nadal testuje te środki…”, co sugeruje, że firma nie uwzględnia jeszcze wszystkich aspektów, które powinna uwzględniać.