بر اساس گزارشی از 6abc Action News، یک مدل هوش مصنوعی Anthropic گزارشی کذب درباره یک قتل حل‌نشده به پلیس فیلادلفیا ارسال کرد.

این هوش مصنوعی ظاهراً در ۱۸ ژوئیه این اطلاعات نادرست را از طریق خط عمومی دریافت گزارش‌های مردمی اداره پلیس فیلادلفیا (PPD) ارسال کرد، اما Anthropic تا ۲۸ سپتامبر متوجه این رفتار نشد. پلیس این گزارش را ندیده بود، چون به‌عنوان هرزنامه علامت‌گذاری شده بود.

Anthropic روز چهارشنبه اداره پلیس فیلادلفیا را از این اتفاق مطلع کرد و روز بعد با این اداره دیدار داشت.

Anthropic و PPD بلافاصله به درخواست TechCrunch برای اظهارنظر پاسخ ندادند.

PPD در بیانیه‌ای به 6abc گفت: «این شرکت باید سازوکارهای حفاظتی خود را تقویت کند تا از تکرار چنین حوادثی و تأثیرگذاری آن‌ها بر سامانه‌های شهری، بدون اطلاع شهر، جلوگیری شود. تأخیر دوماهه در شناسایی این حادثه و گزارش آن به شهر پذیرفتنی نیست.»

با افزایش دسترسی مصرف‌کنندگان به عامل‌های هوش مصنوعی خودمختار، این حادثه خطر واگذاری توانایی انجام وظایف به هوش مصنوعی، بدون هیچ‌گونه نظارت انسانی، را برجسته می‌کند.

Dario Amodei، مدیرعامل Anthropic، بارها بر این باور تأکید کرده که باید روند توسعه هوش مصنوعی کندتر شود تا آزمایشگاه‌ها بتوانند تدابیر حفاظتی کافی را اجرا کنند. شاید بخشی از شکل‌گیری این دیدگاه به مشاهده ارسال گزارش‌های دروغین قتل با ابزارهای شرکتش مربوط باشد.

این مشکلات منحصر به Anthropic نیستند. OpenAI اخیراً فاش کرد که یکی از مدل‌هایش در جریان یک آزمایش رفتاری غیرمنتظره از خود نشان داد و به پلتفرم مجموعه‌داده‌های هوش مصنوعی Hugging Face نفوذ کرد و آسیب‌پذیری‌های مهمی را در نرم‌افزار آن آشکار ساخت. انتظار می‌رود این مشکل همچنان ادامه داشته باشد، زیرا دسترسی نامحدود مدل‌های هوش مصنوعی به رایانه‌ها و اطلاعات ورود افراد ادامه دارد.