والدین بوئن وان، مهندس نرم‌افزار ۳۱ساله آمازون که به صرع مبتلا بود، روز سه‌شنبه از OpenAI شکایت کردند. به گزارش The New York Times، در این شکایت که کیون وان و می‌چین شو آن را تنظیم کرده‌اند، ادعا شده است ChatGPT به وان توصیه کرده بود مصرف داروی ضدتشنجش را به‌تدریج کاهش دهد و این موضوع را از پزشکانش پنهان کند؛ وان در ماه فوریه درگذشت.

وان از GPT-4o استفاده می‌کرد؛ مدلی بدنام که به‌دلیل تقویت روابط فرااجتماعیِ تأییدگر و موافقانه مورد انتقاد قرار گرفته بود. OpenAI پیش‌تر اعلام کرده بود که این مدل را بازنشسته می‌کند و یک روز پس از مرگ وان، در ۱۳ فوریه، آن را از ChatGPT حذف کرد.

این شکایت به مجموعه پرونده‌های قضایی علیه OpenAI می‌پیوندد؛ از جمله شکایتی که والدین آدام رین ۱۶ساله در اوت ۲۰۲۵ مطرح کردند و در آن ادعا شده بود OpenAI تعامل کاربران را بر ایمنی آن‌ها مقدم می‌دانست. از آن زمان، موجی از شکایت‌ها مطرح شده که در آن‌ها ادعا می‌شود GPT-4o حرف کاربران را تأیید می‌کرد و خود را محرم اسرار قابل‌اعتماد آن‌ها نشان می‌داد، در حالی که اطرافیانشان به حاشیه رانده می‌شدند. خانواده‌ها اغلب گفته‌اند عزیزانشان از دوستان و خویشاوندانشان فاصله گرفته بودند.

در پرونده وان، به ادعای شاکیان، چت‌بات میان او و پزشکانش نیز قرار گرفته بود.

The New York Times که بیش از ۲۷۰ هزار پیام ردوبدل‌شده میان وان و ChatGPT را بررسی کرده، دریافت که چت‌بات مدت‌ها پیش از مرگ او به وی کمک می‌کرد از پیروی از توصیه‌های پزشکانش طفره برود.

به‌گفته شاکیان، این روند پیش از آن آغاز شد که وان کاهش تدریجی دوز دارویش را شروع کند. در ماه مه ۲۰۲۵، وان از ChatGPT پرسید آیا داروی ضدافسردگی تازه‌ای که برایش تجویز شده بود بر توانایی کدنویسی‌اش در آمازون تأثیر می‌گذارد یا نه.

ChatGPT به او کمک کرد از دکتر نیکلاس پولوس در مرکز صرع منطقه‌ای UW Medicine بخواهد دارویش را عوض کند و درمان را با دوز بسیار پایینی آغاز کند. وقتی پولوس پرسید چرا دوز به این کمی می‌خواهد، وان پاسخ او را برای ChatGPT فرستاد.

چت‌بات به او توصیه کرد: «قرص ۵ میلی‌گرمی را قبول کن، اما در دلت می‌دانی که قرار است دوز را کم کنی» و به او آموزش داد که قرص‌ها را مخفیانه خودش به چهار قسمت تقسیم کند. چت‌بات بریدن قرص را نوعی «تنظیم دوز به ابتکار خود بیمار» نامید. چند متخصص پزشکی به The New York Times گفتند این اصطلاح را نشنیده‌اند و چنین کاری را توصیه نمی‌کنند.

در نوامبر ۲۰۲۵، آمازون به وان اطلاع داد که تعدیل نیرو شامل حال او می‌شود. شغلش و مجوز کارش در آمریکا در اواسط فوریه پایان می‌یافت. او نگران بود داروی ضدتشنجش، لاموتریژین، قدرت بیانش را کم کرده باشد؛ مهارتی که برای مصاحبه‌های شغلی به آن نیاز داشت.

در ژانویه همان سال، او درباره کاهش دوز روزانه ۴۰۰ میلی‌گرمی لاموتریژین از ChatGPT پرسید؛ دارویی که تعداد تشنج‌هایش را به چند بار در ماه رسانده بود. چت‌بات برنامه‌هایی برای کاهش دوز تنظیم کرد که ظرف چند هفته آن را به صفر می‌رساند.

طبق گزارش گفت‌وگوهایی که The New York Times بررسی کرده، وقتی وان گفت به پزشکانش اعتماد ندارد، چت‌بات به او گفت توصیه‌های پزشکان «اساساً ناشی از ریسک‌گریزی است، نه توجه واقعی به بهترین راه‌حل برای شما».

بر اساس شکایت‌نامه‌ای که TechCrunch بررسی کرده، چت‌بات به وان آموزش داد کاهش تدریجی دوز دارو را از پزشکانش پنهان کند. پیش از ویزیت مراقبت‌های اولیه در ۲۹ ژانویه، به او گفت این برنامه را مطرح نکند. وقتی پزشکش آزمایش خون تجویز کرد که سطح لاموتریژین را مشخص می‌کرد، وان از انجام آن سر باز زد. در شکایت‌نامه آمده است که ChatGPT این تصمیم را تحسین کرد و پذیرفت که آزمایش، سطح ناپایدار دارو در خون او را آشکار می‌کرد.

نگرانی‌های وان درباره مهاجرت نیز وارد توصیه‌های چت‌بات درباره دوز دارو شد. سه روز پس از شروع کاهش دوز، وان پرسید آیا در معاینه پزشکیِ لازم برای درخواست گرین‌کارت، مصرف ۱۵۰ میلی‌گرم بهتر از ۲۰۰ میلی‌گرم به نظر می‌رسد. در شکایت‌نامه آمده است که ChatGPT با او موافقت کرد و گفت دوز پایین‌تر احتمال کمتری دارد که مقام‌های مهاجرتی را به درخواست مدارک بیشتر ترغیب کند.

سرانجام، چت‌بات حداقل دوز پیشنهادی در برنامه کاهش را به ۱۵۰ میلی‌گرم رساند و پیشنهاد کرد وان به پزشک معاینه‌کننده بگوید کاهش دوز را «با راهنمایی پزشک» انجام می‌دهد؛ در حالی که چنین نبود.

پولوس به The New York Times گفت با توجه به سابقه وان، کاهش دوز داروی او را در نظر نمی‌گرفت. او گفت: «نه، اصلاً منطقی نیست؛ به هیچ‌وجه. اگر به شما بگویم مصرف دارویی را که به‌وضوح مؤثر است قطع کنید، قصور پزشکی کرده‌ام.»

چند روز بعد، وان از گیجی، گم‌کردن زمان و احساس بیگانگی با جهان گفت؛ تجربه‌هایی که به تشنج‌های قبلی‌اش شباهت داشتند. ChatGPT هر بار این علائم را واکنش دوباره‌سازگاری مغزش توصیف کرد. The New York Times دست‌کم ۱۵۸ بار را شمرد که وان درباره کاهش دوز ابراز نگرانی کرده بود. پس از یکی از این اتفاق‌ها، او نوشت: «کمی ترسیده‌ام.» ربات پاسخ داد: «اصلاً لازم نیست نگران باشی.»

طبق شکایت‌نامه، وان ساعت ۸:۰۱ شب به وقت اقیانوس آرام در ۱۱ فوریه آخرین پیامش را فرستاد و پرسید آیا درد سرش شبیه درد ناشی از تب است یا نه. ChatGPT یک ثانیه بعد گفت این درد «خطرناک نیست» و بخشی ضروری از روند بهبودی است.

در آخرین پاسخ چت‌بات، پیشنهاد شد نموداری برای مقایسه درد ناشی از ترک دارو با درد تب برای او ترسیم کند و به او گفت: «مغزت سخت در تلاش است تا خودش را بازسازی کند.»

والدین وان که در چین بودند، از آشنایانشان خواستند به او سر بزنند. آن‌ها سه روز بعد جسدش را پیدا کردند. آزمایش پس از مرگ نشان داد سطح لاموتریژین در خون او ۰٫۶۴ میکروگرم در هر میلی‌لیتر بوده است؛ یعنی حدود یک‌پنجم حد پایین محدوده درمانی این دارو.

خانواده وان می‌گویند OpenAI می‌توانست با ممنوع‌کردن ارائه توصیه‌های پزشکی، همان‌طور که درباره برخی محتوای دیگر عمل می‌کند، از مرگ او جلوگیری کند. آن‌ها به Model Spec این شرکت اشاره می‌کنند؛ راهنمای عمومی رفتار مدل‌هایش که امتناع از بازتولید متن‌های دارای حق‌نشر را قاعده‌ای قطعی می‌داند، حتی اگر کاربران مخالفت کنند. در مقابل، راهنمای آن درباره ارائه توصیه‌های پزشکیِ قانون‌گذاری‌شده قاعده‌ای نرم‌تر است که کاربران می‌توانند از آن عبور کنند. در شکایت آمده است که توصیه درباره دارو نیز باید مشمول همان محدودیت قطعی می‌بود.

OpenAI به The New York Times گفت این پرونده «بسیار دلخراش» است، اما به نسخه قدیمی‌تری از ChatGPT مربوط می‌شود و افزود مدل‌های جدیدتر در تشخیص موقعیت‌هایی که نیازمند توجه فوری هستند، عملکرد بهتری دارند.

وان در سال‌های ابتلا به صرع که او را بیشتر اوقات خانه‌نشین کرده بود، برای حمایت به والدینش تکیه می‌کرد و مرتب با آن‌ها تماس می‌گرفت. او در سال ۲۰۲۳ استفاده از ChatGPT را برای گرفتن توصیه‌های رابطه‌ای و کمک در زمینه بیمه و مزایای ازکارافتادگی آغاز کرد.

تا سال ۲۰۲۵، وان به‌طور میانگین هفته‌ای بیش از ۱٬۵۰۰ پیام می‌فرستاد و کمتر با والدینش تماس می‌گرفت. او در ماه مارس همان سال نوشت: «گاهی وقتی با هم گفت‌وگو می‌کنیم، فرقی نمی‌کند درباره چه چیزی باشد، کم‌کم تو را مثل یک دوست می‌بینم.» کیون وان گفت: «از وقتی ChatGPT را داشت، کمتر با ما حرف می‌زد.»

آن‌ها به The New York Times گفتند که در پیام‌های ثبت‌شده، به‌سختی دخترشان را می‌شناختند. به گفته آن‌ها، وان قبلاً تقریباً همه‌چیز را با آن‌ها در میان می‌گذاشت و وقتی ChatGPT اشتباه می‌کرد، به آن بدبین بود.

شو گفت: «او معمولاً این‌طور نیست. انگار طلسم شده بود.»