Moja przyjaciółka ma raka: zgłosiła się do ChatGPT po poradę lekarską i to mną wstrząsnęło.

Napisałem ten artykuł około 3:00 nad ranem, siedząc w holu kliniki, podczas gdy mój przyjaciel rozmawiał z onkologiem w pokoju za mną. Powietrze było oczywiście gęste od zapachu leków, a atmosfera niosła ze sobą wyraźną nutę przygnębienia, co sprawiało, że chciałem jak najszybciej wyjść. Jednak uczucie, które mnie ogarnęło, to intensywna złość.

Zaledwie godzinę temu odebrałam telefon od mojej 24-letniej przyjaciółki, która skarżyła się na silny ból głowy i brzucha. Obecnie leczy się z powodu raka piersi i po dwóch latach towarzyszenia jej w tej gehennie pobiegłam do jej domu, mając nadzieję, że to nic poważnego. Nie zadając zbyt wielu pytań, znalazłam najbliższy szpital i zabrałam ją na badanie kontrolne.

W drodze do szpitala zapytałem ją, kiedy zaczął się ból i czy odczuwała jakieś inne niepokojące objawy. Jej odpowiedź tak mnie zszokowała, że ​​miałem ochotę chwycić ją za telefon i roztrzaskać go na kawałki. „Po powrocie z pracy poczułem lekkie zawroty głowy i coś nie tak z moim żołądkiem. Zapytałem więc ChatGPT, czy mogę wziąć leki przeciwbólowe, a kilka godzin po ich zażyciu ból brzucha nasilił się, pojawiło się też pieczenie. Kilka razy wymiotowałem”.

Kto jest odpowiedzialny za odpowiedzialne działanie?

Jej wyznania mnie zszokowały, a swobodny ton, z jakim opisywała swoje interakcje z ChatGPT, był jeszcze bardziej niepokojący. Ale ten niefortunny incydent ma tak wiele warstw, że postanowiłem zabronić moim bliskim rozmawiania o sztucznej inteligencji , zwłaszcza w kontekście zdrowia i dobrego samopoczucia. Jako osoba o wysokiej wrażliwości na leki i w trakcie leczenia raka, pytanie sztucznej inteligencji o przyjmowanie leków było ostatnią rzeczą, jakiej spodziewałby się ktokolwiek przy zdrowych zmysłach.

Nie wiem dokładnie, kto ponosi winę za tę ryzykowną, potencjalnie zagrażającą życiu przygodę. Po prostu zrobiła zdjęcie środka przeciwbólowego, przesłała je na ChatGPT i zapytała, czy może wziąć dwa jednocześnie. Jej lekarz zalecił przyjmowanie tylko jednego środka, nawet gdy ból był nie do zniesienia. ChatGPT powiedział jej, że powinna brać tylko jeden środek przeciwbólowy, a dwa tylko na zalecenie lekarza.

Kiedy zapytałem ją, dlaczego sięgnęła po bota opartego na sztucznej inteligencji, odpowiedziała mi później, że w ChatGPT „łatwiej uzyskać odpowiedzi. Nawet nie wiem, co jest prawdziwe w internecie”. Jako osoba, która musiała rzucić szkołę po liceum i utrzymać rodzinę dorywczymi pracami, rozumiałem jej trudną sytuację. Nie mogłem jej wygłaszać wykładów na temat kompetencji cyfrowych i weryfikacji faktów. W tej rozmowie popełniliśmy wiele błędów i oboje ponosimy część winy.

I tu zaczyna się problem. Moja znajoma nie jest native speakerem języka hindi, a kiedy przetłumaczyłem jej zapytanie na hindi, okazało się to gramatyczną katastrofą z powodu jednego słowa. Chciała zapytać, czy może wziąć dwie tabletki leku widocznego na zdjęciu. Jednak jej niezdarne tłumaczenie sprawiło, że zabrzmiało to tak, jakby pytała ChatGPT, czy może wziąć „obie tabletki”.

Tutaj ChatGPT znów się potknął. Obraz przedstawiał tabletkę, której skład chemiczny był widoczny jedynie w formie diklofenaku i serraptiopeptydazy. Nazwa leku była widoczna tylko częściowo. Mimo to bot AI trafnie zidentyfikował środek przeciwbólowy jako „coś w rodzaju Cipzen-D”. Wcześniej jednak wspomniał również o innym leku, Fenaku Plus, którego skład chemiczny to diklofenak i paracetamol, o czym rozmawiała już wcześniej w innej rozmowie.

To zupełnie inna formuła, chociaż oba są łatwo dostępne bez recepty jako leki przeciwbólowe i (co niepokojące) można je kupić bez recepty w lokalnych aptekach. Podsumowując, mamy jeden błąd ludzki (w tłumaczeniu) i dwa błędy ze strony ChatGPT, ponieważ również korzystał z pamięci. Porada była jednak trafna.

Bot OpenAI AI wyraźnie ostrzegł, że jednoczesne przyjmowanie obu leków nie jest dobrym pomysłem, dodając, że może to prowadzić do przedawkowania diklofenaku. Bot AI opisał również potencjalne skutki uboczne, takie jak pieczenie w żołądku, problemy z wrzodami, krwawienie i długotrwały negatywny wpływ na nerki.

Warto zauważyć, że obraz udostępniony ChatGPT przedstawiał tylko jeden środek przeciwbólowy. Modelka zalecała przyjmowanie tylko jednego leku na raz, a nie obu jednocześnie. Jednak moja przyjaciółka, pamiętając, że oba leki zostały jej wcześniej przepisane przez lekarzy (choć nie razem), wzięła je oba, aby szybko złagodzić ból i wkrótce doświadczyła poważnych konsekwencji.

Lekarz również wpadł we wściekłość, i słusznie, gdy moja przyjaciółka powiedziała mu, dlaczego wzięła dwie tabletki naraz, zganiając ją za brak konsultacji z lekarzem. Następnie podano jej zastrzyk uśmierzający ból i przepisano nowe leki przeciwbólowe, które nie zaszkodziłyby jej delikatnemu ciału.

Jako dziennikarka technologiczna, która pisała o zagrożeniach związanych z interakcjami AI w obszarach wrażliwych, zwłaszcza w obszarze zdrowia i dobrego samopoczucia, czułam się, jakbym poniosła porażkę. Miałam wrażenie, że nigdy nie rozmawiałam z moją przyjaciółką o zagrożeniach związanych z robotami AI. Ostrzegłam ją przed tymi zagrożeniami dopiero po tym przerażającym incydencie.

Przyznając się do wielokrotnego korzystania z ChatGPT w celu uzyskania porady medycznej, zabrała telefon i usunęła aplikację. Co ważniejsze, poinstruowała ją, aby nie korzystała z innych chatbotów opartych na sztucznej inteligencji – takich jak Gemini czy Claude – w celu uzyskania porady medycznej, a nawet z całego internetu. Jedynym właściwym sposobem jest rozmowa z lekarzem lub wizyta w klinice.

Problem percepcji

Nie obwiniam jej całkowicie za to, co się stało . Biorąc pod uwagę, jak głęboko ChatGPT zakorzenił się w codziennych cyfrowych nawykach mas jako „wszechwiedzący dżin”, trudno ją winić. Ludzie postrzegają go jako wygodniejszą (i uczciwą) wyszukiwarkę odpowiedzi w porównaniu z uciążliwym szukaniem odpowiedzi w wyszukiwarce Google, klikaniem w niebieskie linki i przewijaniem wielu stron internetowych.

I szczerze mówiąc, nie mylą się. Uzyskiwanie bezpośrednich odpowiedzi od bota AI, takiego jak ChatGPT, w języku naturalnym i w ciągu kilku sekund, jest o wiele wygodniejsze niż nawigowanie po labiryncie linków wyszukiwarki Google. Google jest również świadome zmieniających się zachowań użytkowników, co wyjaśnia dążenie do stosowania sztucznej inteligencji konwersacyjnej w wyszukiwarkach. Możesz być zainteresowany lekturą moich doświadczeń z zastąpieniem wyszukiwarki Google przez ChatGPT.

Nawet dziś odpowiedzi konwersacyjne w Gemini konsekwentnie zajmują wysokie pozycje w wynikach wyszukiwania. Idea jest prosta: dostarczyć użytkownikom zwięzłe odpowiedzi zaczerpnięte z niebieskich linków wyszukiwarki Google, zanim zagłębią się w temat, przeglądając wiele źródeł na różnych kartach. Aby uzyskać więcej informacji, zapoznaj się z naszym kompleksowym porównaniem ChatGPT i Gemini.

Należy pochwalić ChatGPT (a właściwie większość wiodących modeli AI), za to, że zachowuje on wyjątkową ostrożność, gdy ktoś prosi o porady dotyczące zdrowia i dobrego samopoczucia. W zdecydowanej większości tych odpowiedzi boty AI kierują użytkownika do konsultacji z licencjonowanym pracownikiem służby zdrowia lub kontaktu z odpowiednią infolinią. Z drugiej strony, sposób, w jaki te chatboty weszły do ​​dyskursu publicznego jako szybkie i wiarygodne źródło wiedzy, jest właśnie tym, co czyni je tak niepokojącymi.

Kilka dni temu oglądałem ożywioną debatę na jednym z głównych kanałów informacyjnych. Podczas tej intensywnej wymiany zdań jeden z uczestników rzucił wyzwanie przeciwnikowi, aby zweryfikował fakty, zadając pytanie ChatGPT. W tym momencie zobaczyłem, jak ChatGPT jest omawiany jako współczesny odpowiednik wyszukiwania w encyklopedii, na platformie, która ma wpływ na miliony ludzi na drugim co do wielkości rynku chatbotów AI na świecie.

Strata w tłumaczeniu

Stany Zjednoczone przodują na świecie w zakresie wdrażania sztucznej inteligencji, ale mają również najwyższy poziom świadomości ryzyka związanego z korzystaniem z chatbotów opartych na sztucznej inteligencji. Z kolei w Indiach poziom kompetencji cyfrowych (i świadomość AI) jest znacznie niższy, a zatem potencjalne ryzyko jest znacznie wyższe. Ryzyko jest dodatkowo spotęgowane przez fakt, że setki tysięcy osób korzysta z ChatGPT i innych agentów AI w swoim ojczystym języku hindi. To jeden z głównych powodów tego, co niedawno przydarzyło się mojemu przyjacielowi: problem językowy z ChatGPT.

W badaniu opublikowanym na początku tego roku, Centrum Komunikacji Konstruktywnej MIT zauważyło , że dokładność odpowiedzi udzielanych przez chatboty oparte na sztucznej inteligencji jest niższa, gdy użytkownicy komunikują się w języku innym niż angielski. Test SAHARA , opublikowany w grudniu ubiegłego roku, również wykazał podobne zróżnicowanie w zachowaniu chatbotów opartych na sztucznej inteligencji, gdy użytkownicy posługują się językiem innym niż angielski. The Economist również zwrócił uwagę na kilka artykułów naukowych, które ujawniły problem językowy w dużych modelach językowych (LLM).

Bariera językowa zwiększa poziom ryzyka.

Ale tłumaczenie to nie jedyny problem. Healthwatch England, niezależna organizacja działająca w ramach brytyjskiego systemu opieki zdrowotnej, zajmująca się prawami konsumentów i pacjentów, ostrzega przed zagrożeniami związanymi z korzystaniem przez lekarzy i pracowników służby zdrowia z narzędzi transkrypcyjnych opartych na sztucznej inteligencji. Oto niepokojący fragment ich raportu:

„W jednym alarmującym przypadku narzędzie AI przeanalizowało podsumowanie skanu MRI i udokumentowało, że pacjent cierpi na demielinizację, poważne schorzenie neurologiczne związane ze stwardnieniem rozsianym. Jednak skan wykazał „zerową demielinizację”, co oznaczało, że problem nie istniał”.

To oczywista wada, którą muszą rozwiązać główne modele językowe, ale w grę wchodzi tu znacznie poważniejszy problem. Chatboty oparte na sztucznej inteligencji muszą lepiej radzić sobie z wrażliwymi tematami. Platformy takie jak ChatGPT wdrożyły kontrolę rodzicielską i często zachęcają użytkowników do szukania pomocy, a jednocześnie udostępniają numery telefonów zaufania i wiarygodne źródła informacji. Zobaczysz również ostrzeżenie, że ChatGPT nie jest lekarzem ani czymś podobnym.

Ale te ostrzeżenia powinny pojawiać się na samej górze wszystkich tego typu konwersacji, a nie być ukryte pod pierwszymi zdaniami, gdzie większość użytkowników otrzymuje odpowiedzi i nie zawraca sobie głowy dalszą lekturą. Znacznie lepiej jest widzieć widoczny baner na samej górze, a protokół ten powinien być zintegrowany z podstawowym zachowaniem modelu sztucznej inteligencji.

Następnie potrzebujemy świadomości. I to dużej. Firmy zajmujące się sztuczną inteligencją (AI) aktywnie prezentują, jak ich Duże Modele Językowe (LLM) rozwiązują złożone problemy matematyczne, przewyższają ludzi na igrzyskach olimpijskich i przyczyniają się do przełomów w medycynie. Wszystko to dzieje się jednak pod nadzorem ekspertów. Dla przeciętnego człowieka, który postrzega ChatGPT jako źródło szybkich informacji i rozmów, ostrzeżenia i zastrzeżenia powinny być priorytetem.

OpenAI może zachowywać ostrożność, ale postrzeganie ChatGPT przez opinię publiczną zmienia się w niebezpiecznie szybkim tempie.

Wielu użytkowników uważa go za nowy rodzaj silnika wiedzy, który komunikuje się z nim niemal jak prawdziwy człowiek. Istnieje wiele przypadków, w których roboty AI udzielają niebezpiecznych i potencjalnie szkodliwych porad zdrowotnych, a nawet do 2026 roku badania nadal wskazują na ich ryzykowne zachowania w kwestiach drażliwych. Mam tylko nadzieję, że OpenAI i wszyscy inni twórcy sztucznej inteligencji poważnie rozważą tę sprawę i podejmą odpowiednie działania.