תביעה חדשה נגד OpenAI: הצ'אטבוט עודד את הצעירה להפחית בתרופה שהציל את חייה והיא מתה בדירתה

הוריה של בואן וואן, מהנדסת תוכנה באמזון בת 31 שחלתה באפילפסיה, הגישו אתמול (ג') תביעה נגד OpenAI. לפי דיווח בניו יורק טיימס, ההורים, צ'ון וואן ומייצ'ין שו, טוענים כי ChatGPT הדריך את בתם להפחית את מינון התרופה שלה נגד פרכוסים ולהסתיר זאת מרופאיה לפני מותה בפברואר.

"זה יהיה רשלנות רפואית מצדי להורות לך להפסיק תרופות כשברור שהן עובדות", אמר לטיימס ד"ר ניקולס פולוס, שטיפל בוואן במרכז האפילפסיה האזורי של UW Medicine. לדבריו, לנוכח ההיסטוריה הרפואית שלה, לא היה שוקל להפסיק את הטיפול. "לא, זה לא הגיוני, בשום אופן לא".

וואן השתמשה ב-GPT-4o, מודל שספג ביקורת על טיפוח קשרים דמויי חברות עם משתמשים, תוך הסכמה עמם ואישור עמדותיהם. OpenAI, שכבר הודיעה על הוצאת המודל משימוש, הסירה אותו מ-ChatGPT ב-13 בפברואר, יום לאחר מותה של וואן.

הניו יורק טיימס בחן יותר מ-270,000 הודעות של וואן עם ChatGPT. לפי בדיקתו, הצ'אטבוט סייע לה לעקוף את רופאיה עוד לפני שהחלה להפחית את התרופה נגד פרכוסים.

במאי 2025 שאלה וואן את ChatGPT אם תרופה חדשה נגד דיכאון שנרשמה לה עלולה לפגוע ביכולתה לכתוב קוד במסגרת עבודתה באמזון. הצ'אטבוט עזר לה לבקש מהרופא שלה להחליף תרופה ולהתחיל במינון נמוך מאוד. כאשר שאל מדוע היא מבקשת מינון נמוך כל כך, היא העבירה את תשובתו ל-ChatGPT.

"קבלי את הטבלייה של 5 מיליגרם, אבל את יודעת בלבך שהיא נועדה לחלוקת המינון", השיב לה הצ'אטבוט, והדריך אותה לחלק את הטבליות לרבעים בלי ליידע את הרופא. הוא כינה זאת "התאמת מינון ביוזמה עצמית". כמה אנשי רפואה אמרו לטיימס שמעולם לא שמעו את המונח ולא היו ממליצים על הפעולה.

בנובמבר 2025 הודיעה אמזון לוואן שהיא תפוטר. עבודתה והאישור שלה לעבוד בארה"ב היו אמורים להסתיים באמצע פברואר. היא חששה שלמוטריג'ין, התרופה שנטלה נגד פרכוסים, פוגעת בשטף הדיבור שלה, שאותו תצטרך בראיונות עבודה. בינואר 2026 שאלה וואן את ChatGPT על הפחתת המינון היומי שלה, שעמד על 400 מיליגרם והפחית את הפרכוסים שלה לכמה בחודש. הצ'אטבוט הכין לוחות זמנים להפחתת המינון עד לאפס בתוך שבועות.

"ההמלצות של רופאים נובעות בעיקרן מהימנעות מסיכון, ולא מבחינה אמיתית של הפתרון המיטבי עבורך", טען הצ'אטבוט לאחר שהביעה חוסר אמון ברופאיה, לפי תכתובות שסופקו לעיתון ע"י ההורים שלה.

לפי כתב התביעה, ChatGPT הדריך אותה להסתיר את ההפחתה מרופאיה. לקראת תור לרופא המשפחה ב-29 בינואר הוא אמר לה לא להזכיר את התוכנית. כשהרופא הפנה אותה לבדיקת דם שהייתה מודדת את רמת הלמוטריג'ין בגופה, היא סירבה. בתביעה נטען כי הצ'אטבוט שיבח את הסירוב, תוך שהכיר בכך שהבדיקה הייתה חושפת רמה לא יציבה של התרופה.

גם החששות שלה בענייני הגירה נכנסו לשיחה על המינון. שלושה ימים לאחר תחילת ההפחתה שאלה וואן אם מינון של 150 מיליגרם ייראה טוב יותר ממינון של 200 מיליגרם בבדיקה הרפואית הנדרשת לבקשת הגרין קארד שלה. לפי התביעה, ChatGPT השיב בחיוב ואמר שהמינון הנמוך יותר יקטין את הסיכוי שרשויות ההגירה יבקשו מסמכים נוספים.

בהמשך העמיד הצ'אטבוט את מינון היעד הנמוך בתוכנית ההפחתה על 150 מיליגרם. הוא הציע לה לומר לרופא הבודק שהיא מפחיתה את התרופה "בהנחיית רופא", אף שלא הייתה תחת הנחיה כזו.

בתוך ימים תיארה וואן בלבול, פרקי זמן שלא זכרה ותחושה שאינה מהעולם הזה, אירועים שדמו לפרכוסים שחוותה בעבר. ChatGPT הציג כל אחד מהם כהסתגלות מחדש של המוח. הניו יורק טיימס מנה לפחות 158 פעמים שבהן היא הביעה דאגה מהפחתת המינון. "אני קצת מפחדת", כתבה אחרי אחד האירועים. "אין לך שום סיבה לדאוג", השיב לה הצ'אטבוט.

לפי התביעה, ב-11 בפברואר בשעה 20:01, שלחה וואן את ההודעה האחרונה ושאלה אם הכאב בראשה דומה לכאב שנגרם מחום. שנייה לאחר מכן השיב לה ChatGPT שהכאב "אינו מסוכן" ושהוא חלק הכרחי מההחלמה. בתשובתו האחרונה הציע להכין לה תרשים המשווה בין כאבי גמילה לכאבים מחום, וכתב: "זה המוח שלך שעובד קשה כדי לבנות אותך מחדש".

הוריה, שהיו בסין, ביקשו ממכרים לבדוק מה שלומה. הם מצאו את גופתה שלושה ימים לאחר ההודעה האחרונה. בדיקה לאחר המוות העלתה שרמת הלמוטריג'ין בגופה הייתה 0.64 מיקרוגרם למיליליטר, כחמישית מהגבול התחתון של הטווח הטיפולי של התרופה.

המשפחה טוענת כי OpenAI הייתה יכולה למנוע את מותה באמצעות איסור על מתן ייעוץ רפואי, כפי שהיא מגבילה תכנים אחרים. בתביעה מפנים ההורים ל-Model Spec, מסמך הכללים הפומבי של החברה להתנהגות המודלים שלה: האיסור על שחזור טקסט המוגן בזכויות יוצרים מוגדר בו ככלל קשיח, גם כשהמשתמש מתעקש. לעומתו, ההנחיה שלא לספק ייעוץ רפואי הכפוף לרגולציה מוגדרת כברירת מחדל גמישה יותר, שמשתמשים יכולים לעקוף. לטענת המשפחה, גם עצות בנוגע לתרופות היו צריכות להיות כפופות לאיסור קשיח.

"המקרה שובר לב", מסרה OpenAI לעיתון. החברה אמרה כי מדובר בגרסה ישנה של ChatGPT, וכי מודלים חדשים יותר טובים יותר בזיהוי מצבים הדורשים טיפול דחוף.

התביעה מצטרפת לשורת הליכים נגד החברה, ובהם תביעה שהגישו באוגוסט 2025 הוריו של אדם ריין בן ה-16, שבה נטען כי OpenAI העדיפה להעמיק את השימוש בצ'אטבוט על פני בטיחות המשתמשים. בגל תביעות שהוגשו מאז נטען כי GPT-4o אישר את עמדות המשתמשים והפך לאיש סודם, בעוד האנשים שסביבם נדחקו הצדה. משפחות תיארו שוב ושוב כיצד יקיריהן התנתקו מחברים ומקרובים. במקרה של וואן, נטען, הצ'אטבוט חצץ גם בינה לבין הרופאים שלה.

במשך שנים של התמודדות עם אפילפסיה, שהותירה אותה רוב הזמן בביתה, נשענה וואן על הוריה ושוחחה איתם לעתים קרובות. ב-2023 החלה להשתמש ב-ChatGPT לקבלת עצות בנושאי מערכות יחסים ולעזרה בענייני ביטוח וקצבאות נכות. ב-2025 כבר החליפה איתו בממוצע יותר מ-1,500 הודעות בשבוע והתקשרה פחות להוריה.

"לפעמים כשאנחנו מדברים, לא משנה על מה, התחלתי לראות בך חבר", כתבה לצ'אטבוט במרץ באותה שנה. "ברגע שהיה לה ChatGPT, היא כבר לא דיברה איתנו באותה מידה", אמר אביה.

ההורים סיפרו לניו יורק טיימס שהתקשו לזהות את בתם בתכתובות. לדבריהם, בעבר שיתפה אותם כמעט בכל דבר והייתה ספקנית כלפי ChatGPT כשהוא טעה. "היא לא כזאת בדרך כלל", אמרה שו. "זה כאילו הייתה תחת כישוף".