بنا به ادعاها، ChatGPT به زنی از کارولینای شمالی به نام Cheryl Gates کمک کرد تا «طرحی شخصی‌سازی‌شده» برای مسموم‌کردن همسرش James تهیه کند؛ پس از آنکه این باور هذیانی را در او تقویت کرد که همسرش قصد دارد از او طلاق بگیرد و او را بی‌چیز رها کند.

هیئت منصفه عالی در ماه اکتبر Cheryl Gates را به تلاش برای قتل عمد درجه‌یک و آلوده‌کردن غذا متهم کرد. حدود یک هفته پیش از آن، اتهام همدستی ChatGPT در تلاش برای قتل در دادخواستی مطرح شد که در دادگاه عالی شهرستان سان‌فرانسیسکو ثبت شده بود و این هفته علنی شد. در این دادخواست، James Gates مدعی شد که OpenAI و Sam Altman در به‌کارگیری تدابیر فنی برای متوقف‌کردن گفت‌وگوهای Cheryl کوتاهی کردند؛ حتی پس از آنکه پرسش‌های او «به‌وضوح مشکوک» شده بود و درباره چگونگی انجام قتل و پنهان‌کردن آن راهنمایی می‌خواست.

Cheryl ابتدا به ChatGPT گفت که از ترس احتمال اینکه همسرش بخواهد او را بکشد، درباره مسموم‌کردن تحقیق می‌کند و پرسش‌هایش را در قالب «حفاظت از خود» مطرح کرد. اما ChatGPT به‌جای پایان‌دادن به گفت‌وگو، به کمک او آمد. در دادخواست آمده است که ChatGPT «دستورالعمل‌های مشخصی درباره آماده‌سازی، دوز و نحوه تجویز خرزهره ارائه کرد؛ از جمله اینکه آیا داروی ضدتهوع مرگ را تسریع می‌کند یا به تأخیر می‌اندازد، آیا در گزارش کالبدشکافی دیده می‌شود و آیا می‌توان آن را به‌جای خوردن در چای، به رگ یا عضله تزریق کرد و همان اثر مرگبار را داشت.»