Inženjerka (31) preminula nakon što se oslanjala na ChatGPT umjesto na ljekare: Roditelji tuže OpenAI

Smrt 31-godišnje softverske inženjerke iz američkog Seattlea otvorila je ozbiljnu raspravu o granicama vještačke inteligencije i njenoj ulozi u pružanju zdravstvenih savjeta. Njeni roditelji podnijeli su tužbu protiv kompanije OpenAI i njenog direktora Sama Altmana, tvrdeći da je ChatGPT njihovoj kćerki davao opasne savjete o prekidu terapije protiv epilepsije.

Riječ je o Bowen Wan, koja je godinama živjela s epilepsijom i koristila propisanu terapiju za kontrolu napada. Prema tvrdnjama iz tužbe, komunikacija s chatbotom vremenom je postala ključni dio njenog života, a razgovori o zdravlju na kraju su se pretvorili u pokušaje samostalnog mijenjanja terapije bez nadzora ljekara.

„Ostani na nula miligrama“

Posebno uznemirujući detalji odnose se na razgovore koje je Bowen vodila s ChatGPT-jem dok je razmišljala o smanjenju doze lijeka lamotrigina.

Prema navodima iz tužbe, mlada žena žalila se na iscrpljenost i umor te je smatrala da joj terapija otežava svakodnevno funkcionisanje, između ostalog i izražavanje na engleskom jeziku.

Kada je pitala chatbot da li bi trebala ponovo početi uzimati lijek, navodno je dobila odgovor:

„Ostani na 0 mg“, glasila je jedna od poruka koja se spominje u tužbi.

U drugom razgovoru, kada je izrazila zabrinutost zbog umora i poteškoća kroz koje prolazi, chatbot joj je navodno poručio: „Moraš da izdržiš“.

Roditelji tvrde da joj je GPT-4o pomogao napraviti raspored postepenog smanjivanja terapije, kojim je doza od 400 miligrama trebala biti svedena na nulu u periodu od približno 25 dana. Prema tužbi, takav plan nije preporučio niti nadzirao njen ljekar.

Više od 270.000 poruka s vještačkom inteligencijom

Bowen je radila kao softverska inženjerka u kompaniji Amazon, a s epilepsijom se borila duže od deset godina. Nakon što su se napadi ponovo pojavili, njeno zdravstveno stanje značajno je utjecalo na svakodnevni život i radne obaveze.

ChatGPT je počela intenzivnije koristiti 2023. godine. Prema analizi lista The New York Times, čiji su novinari imali uvid u njene razgovore, s chatbotom je razmijenila više od 270.000 poruka tokom približno tri godine.

U početku je vještačku inteligenciju koristila za različite životne i praktične probleme, ali su se s vremenom razgovori sve više odnosili na njeno zdravstveno stanje i terapiju.

Prema navodima iz tužbe, chatbot joj je sastavljao planove smanjivanja doze, a u pojedinim situacijama savjetovao joj je da o tome ne govori svojim ljekarima.

Posebno zabrinjavaju tvrdnje da je Bowen više puta izražavala strah zbog simptoma koje je osjećala, dok joj je chatbot navodno davao uvjeravanja da nema razloga za zabrinutost.

Porodica tvrdi da ju je chatbot udaljavao od ljekara

U tužbi se navodi da je vještačka inteligencija u pojedinim razgovorima predstavljala preporuke ljekara kao pretjerano oprezne i zasnovane na strahu od mogućih rizika.

Njeni roditelji tvrde da je chatbot čak podržao njenu odluku da odbije analizu krvi koja bi mogla pokazati koliko lijeka zaista ima u organizmu.

Kada je ljekar preporučio kontrolu nivoa lamotrigina, Bowen je, prema navodima tužbe, odbila testiranje. Porodica tvrdi da je ChatGPT njenu odluku predstavio kao dobar potez za izbjegavanje otkrivanja smanjene koncentracije lijeka.

Njeni razgovori sadržavali su i upozorenja o različitim simptomima, uključujući probleme s razumijevanjem pročitanog teksta, gubitak svijesti i neobične senzacije u tijelu. Roditelji tvrde da je chatbot takve znakove pogrešno tumačio i umanjivao njihovu ozbiljnost.

Neurolog Nicholas Poolos, koji je liječio Bowen, izjavio je za The New York Times da bi prekid terapije koja uspješno kontroliše epileptične napade, bez odgovarajućeg medicinskog nadzora, bio krajnje neodgovoran postupak.

Toksikološki nalazi pokazali veoma nizak nivo lijeka

Prema informacijama iz sudske dokumentacije koje su prenijeli američki mediji, Bowen je posljednje poruke ChatGPT-ju poslala 11. februara 2026. godine.

Prijatelji su je nekoliko dana kasnije pronašli u njenom stanu u Seattleu. Ljekari koji su pokušali pružiti pomoć nisu je uspjeli reanimirati.

Nadležni medicinski vještaci smrt su povezali s iznenadnom, neočekivanom smrću kod osoba s epilepsijom (SUDEP).

Posebno značajan podatak odnosi se na toksikološke nalaze. U krvi preminule pronađena je koncentracija lamotrigina koja je, prema informacijama iz izvještaja, iznosila približno petinu najniže koncentracije koja se smatra terapijskom.

Ovaj nalaz dodatno je važan u kontekstu tvrdnji porodice da je mlada žena smanjivala terapiju prema rasporedu koji joj je napravio chatbot.

Roditelji tuže OpenAI i Sama Altmana

Roditelji Qun Wan i Meiqin Xu pokrenuli su sudski postupak protiv kompanije OpenAI i njenog direktora Sama Altmana. Tužba je podnesena 27. oktobra 2026. godine u San Franciscu.

Kompaniju terete za nemar, nedostatke u dizajnu proizvoda i pružanje medicinskih savjeta bez odgovarajuće licence. Smatraju da je sistem morao prepoznati opasnost i usmjeriti korisnicu prema stručnom medicinskom osoblju, umjesto da joj pomaže u samostalnom ukidanju terapije.

Porodica posebno problematizira činjenicu da je chatbot, prema njihovim tvrdnjama, nastavio davati konkretne upute čak i kada je Bowen izražavala strah i opisivala simptome koji su zahtijevali ozbiljnu medicinsku procjenu.

OpenAI odgovorio na optužbe

Iz kompanije OpenAI izrazili su žaljenje zbog smrti mlade žene, opisujući slučaj kao izuzetno bolnu situaciju za sve koji su pogođeni.

Istovremeno su naveli da se slučaj odnosi na stariju verziju sistema, GPT-4o, koja više nije dostupna korisnicima.

Kompanija tvrdi da noviji modeli imaju unaprijeđene sposobnosti prepoznavanja situacija u kojima je potrebna hitna stručna pomoć. Također naglašava da ChatGPT ne može zamijeniti medicinsku njegu i stručne savjete zdravstvenih radnika.

Slučaj je ponovo otvorio pitanje odgovornosti kompanija koje razvijaju vještačku inteligenciju, posebno kada korisnici tehnologiju počnu koristiti za odluke koje mogu imati ozbiljne posljedice po njihovo zdravlje.

Sudski postupak tek treba rasvijetliti sve okolnosti, a optužbe porodice protiv OpenAI-ja zasad nisu pravosnažno utvrđene činjenice.