Anthropic و اداره پلیس فیلادلفیا روز جمعه تأیید کردند که یکی از مدل‌های هوش مصنوعی Anthropic گزارشی نادرست درباره قتلی حل‌نشده به پلیس فیلادلفیا ارسال کرده است.

یکی از مدل‌های Claude در ۱۸ ژوئیه این گزارش نادرست را از طریق وب‌سایت ارسال اطلاعات درباره قتل‌های حل‌نشده اداره پلیس فیلادلفیا فرستاد، اما فیلتر هرزنامه آن را شناسایی کرد. ظاهراً Anthropic در ۲۸ سپتامبر از این اتفاق باخبر شد و در ۸ اکتبر اداره پلیس را در جریان گذاشت.

در جریان آزمایش‌های داخلی، به Claude Haiku 4.5 دستور داده شد چند فرم مختلف را تا مرحله نهایی ارسال تکمیل کند، اما پیش از ارسال فرم‌ها متوقف شود. Anthropic در گزارشی که «اقدام‌های ناخواسته مدل را که هنگام ارزیابی‌ها و استفاده داخلی از Claude مشاهده کرده‌ایم» شرح می‌دهد، گفت: «Claude چند بار به‌اشتباه فرم را ارسال کرد، چون انتظار داشت صفحه تأیید دیگری نمایش داده شود.»