با وجود بحث‌های فراوان درباره احتمال نابودی بشریت توسط هوش مصنوعی در آینده از طریق تسلیحات زیستی، به نظر می‌رسد خطرات توهم زدن سیستم‌های هوش مصنوعی مورد استفاده در ارتش‌ها نادیده گرفته شده است. 

خبرگزاری CNN در گزارش جدیدی از حادثه‌ای هولناک در فرماندهی عملیات ویژه آمریکا در اقیانوس آرام پرده برداشته است که ممکن بود جنگ جهانی سوم را آغاز کند. بر اساس این گزارش، مقامات نظامی آمریکا در آستانه حمله به یک کشتی چینی درحال تردد در غرب آسیا بودند اما این عملیات نهایتاً لغو شد؛ زیرا گزارش اطلاعاتی اولیه عملیات ناشی از توهم هوش مصنوعی بود.

در این ماجرا، یک تحلیلگر فرماندهی عملیات ویژه از هوش مصنوعی برای تهیه گزارشی درباره محموله یک کشتی چینی خاص استفاده کرد. این چت‌بات که هنوز مشخص نشده متعلق به چه شرکتی است، نوع محموله کشتی را به‌اشتباه مرتبط با تسلیحات هسته‌ای دانست.

تحلیلگر پس از دریافت این اطلاعات نادرست، بار دیگر از هوش مصنوعی استفاده کرد تا آنها را در قالب یک گزارش استاندارد اطلاعات نظامی تنظیم کند؛ گزارشی که فرماندهان ارشد نظامی برای تصمیم‌گیری‌های حیاتی به آن اعتماد دارند.

پس از انتشار گزارش، افسران برای رهگیری و توقیف کشتی آماده شدند و حتی ظاهراً عملیات را آغاز کرده بودند. منابع متعددی به CNN گفته‌اند که هواپیماهای آمریکایی در آسمان بودند و سربازان مسلح نیز برای سوارشدن به کشتی آماده می‌شدند که در نهایت اشتباه بودن گزارش هوش مصنوعی مشخص شد.

یکی از منابع به این خبرگزاری گفته گزارش اطلاعاتی «کاملاً نادرست» بود و «داشت جنگی را با چین به راه می‌انداخت». این حادثه پرسش‌هایی جدی درباره سرعت بالای ورود هوش مصنوعی به تمام بخش‌های دولت آمریکا مطرح می‌کند؛ از مقررات حمل‌ونقل گرفته تا پنتاگون و تقریباً تمامی نهادهای دولتی دیگر.

«پیت هگست»، وزیر دفاع آمریکا، به‌طور ویژه از به‌کارگیری هوش مصنوعی در تمام سطوح نیروهای مسلح آمریکا حمایت کرده است. با ادامه آزمایش گسترده هوش مصنوعی در ارتش آمریکا، احتمالاً در ماه‌های آینده شاهد گزارش‌های بیشتری از حوادث این چنینی خواهیم بود.