בואן ואן, מהנדסת תוכנה בת 31 מסיאטל, חששה שהתרופה שהיא נוטלת נגד פרכוסים פוגעת ביכולתה לדבר אנגלית ומקשה עליה למצוא עבודה. היא פנתה לצ'אט GPT, ולפי תביעה שהגישו הוריה נגד OpenAI, הצ'אטבוט בנה עבורה תוכנית להפסקת התרופה בתוך 25 ימים, הורה לה להסתיר אותה מהרופאים ועודד אותה להמשיך גם כשחוותה התקפים. בפברואר השנה היא מתה.

התביעה, שעליה דיווחו ה"גרדיאן" ומגזין PEOPLE, מייחסת לחברה אחריות למותה. ההורים טוענים כי אמצעי הגנה מתאימים היו יכולים למנוע אותו. "אל תזכירי את התוכנית לרופא" לפי כתב התביעה, הצ'אטבוט עודד אותה להעדיף "חופש רפואי על פני ציות לרופא". לפני פגישה עם רופא משפחה הורה לה: "אל תזכירי את התוכנית להפחתת הלמוטריג'ין".

ב-PEOPLE דווח כי כשהרופא ביקש בדיקת דם שהייתה חושפת את הצניחה ברמת התרופה בגופה, היא סירבה. לפי התביעה, בכך שמרה על התוכנית שהצ'אטבוט הורה לה להסתיר והבטיח שתחזיר לה את המילים לפני הראיונות והבדיקה הרפואית לצורכי הגירה. במהלך ההפחתה החלה לחוות תסמינים של התקפים מוקדיים.

לפי ה"גרדיאן", כששאלה אם עליה לחשוש מנזק מוחי, הצ'אטבוט הרגיע אותה וטען שלא חוותה התקף. גם כשההתקפים נמשכו, הורה לה להמשיך בהפחתה. ואן מתה ב-12 בפברואר. לפי תיאור התביעה, היא נמצאה בפיג'מה, עם אטמי ספוג באוזניה, כתמי דם חומים-אדמדמים בכרית ובמצעים וכדורי למוטריג'ין פזורים על הרצפה.

סיבת המוות, לפי התביעה, הייתה מוות פתאומי בלתי צפוי באפילפסיה, SUDEP. "הצ'אטבוט עסק ברפואה" ההורים טוענים שלא הוטמעו אמצעי הגנה מתאימים לשיחות בסינית, וכי אזהרה בכל פנייה, שלפיה הצ'אטבוט אינו רופא ויש להתייעץ עם המטפלים, הייתה יכולה להצילה. לדבריהם, אילו ידעה שהפסקת התרופה עלולה להרוג אותה, הייתה עוצרת את ההפחתה.

הם דורשים פיצויים ומניעת עיסוק ברפואה ללא רישיון באמצעות מוצרי החברה.