به‌نظرتان چگونه خواهید مرد؟

با توجه به آمار فعلی علت‌های مرگ در آمریکا، منطقی است انتظار داشته باشیم که سرانجام سرطان یا بیماری قلبی جانمان را بگیرد. اما Paul Cristiano، عضو هیئت‌مدیره OpenAI Foundation و مدیر اجرایی Alignment Research Center، معتقد است همه ما باید نگران یک عامل مهم دیگرِ مرگ‌ومیر باشیم. Cristiano که این هفته در مجموعه‌ای از سخنرانی‌ها صحبت می‌کرد، بی‌پرده به حاضران در مرکز همایش‌های تورنتو گفت: «فکر می‌کنم برای بیشتر افراد حاضر در این سالن، محتمل‌ترین علت مرگ، یک حادثه هوش مصنوعی است.»

Cristiano در سخنرانی آغازینِ مجموعه‌ای سه‌قسمتی از سخنرانی‌ها، نگرانی‌هایش درباره خطر قریب‌الوقوع «سلطه هوش مصنوعی» را شرح داد. او این وضعیت را زمانی تعریف کرد که سامانه‌های هوش مصنوعیِ هدف‌محور «به همان معنایی تصمیم‌گیرنده باشند که انسان‌ها امروز تصمیم می‌گیرند و آنچه را روی زمین رخ می‌دهد تعیین می‌کنند» و هر انسانی که بخواهد جلویشان را بگیرد، «به‌اندازه من یا شما در متوقف‌کردن ارتش آمریکا ناتوان باشد». Cristiano گفت چنین وضعیتی احتمالاً به مرگ‌ومیر گسترده و شاید غیرقابل‌سکونت‌شدن محیط‌ها برای انسان‌ها منجر خواهد شد.