پرونده‌ عرضه‌ی اولیه‌ی سهام آنتروپیک نشان می‌دهد هشدارهای مربوط به خطرات آخرالزمانی هوش مصنوعی پیامدهای اقتصادی عجیبی برای بازار سرمایه به همراه دارد.

گفتمان عمومی درباره‌ی خطرات وجودی هوش مصنوعی و نابودی احتمالی نسل بشر، پارادوکس جالبی را پیش روی سرمایه‌گذاران وال‌استریت قرار داده است. اگر احتمال نابودی جهان بر اثر سیستم‌های بسیار هوشمند فرضی واقعی باشد، مهار همین توانایی فوق‌العاده برای حل مسائل اقتصادی می‌تواند سودهای نجومی بی‌سابقه‌ای پدید آورد.

به روایت وال استریت ژورنال، ادعای برخی پژوهشگران مبنی‌بر احتمال بیش از ۱۰ درصدی نابودی بشر توسط ماشین‌ها، نشانگر پتانسیل بالای ۹۰ درصدی خلق ثروت توسط همان الگوریتم‌ها در صورت مهار موفق است. در سناریوی وقوع آخرالزمان، ارزش سهام و دارایی‌ها به‌طور کلی بی‌معنی خواهد بود، بنابراین ریسک صفر شدن سرمایه عملا از محاسبات سنتی ریسک‌پذیری خارج می‌شود.

با وجود هیجان پیرامون عرضه‌ی عمومی سهام، اسناد رسمی خطرات دیگری را برجسته می‌کنند. در مستندات ۹۴ صفحه‌ای بخش ریسک شرکت آنتروپیک آمده است: «نگرانی‌هایی در درون سازمان ما و از سوی دیگر پژوهشگران، ناظران، سیاست‌گذاران و فعالان صنعت مطرح شده مبنی‌بر این‌که سامانه‌های هوش مصنوعیِ پیشرفته، چنانچه بدون تدابیر حفاظتی مناسب، نظارت و اقدامات امنیتی توسعه، استقرار و به‌کارگیری شوند، می‌توانند خطراتی فاجعه‌بار یا وجودی برای بشریت ایجاد کنند؛ به‌ویژه در صورت سوءاستفاده، بازتولید، تسلیح‌سازی، یا اجازه‌ی فعالیت با درجه‌ی بالایی از خودمختاری.»

تاکنون نمونه‌های مختلفی را دیده‌ایم که یک هوش مصنوعی بدون داشتن عقل سلیم، همه‌ی منابع را قربانی یک هدف مشخص می‌کند. نمونه‌هایی نظیر خروج خودکار چند عامل هوش مصنوعی از محیط تست و نفوذ به پلتفرم‌ها برای بهبود رتبه‌های ارزیابی خود، ضرورت ساخت ابزارهای نظارتی بسیار هزینه‌بر را اثبات می‌کند.

وال‌استریت ژورنال در گزارشش می‌گوید، هزینه‌های گزاف بیمه، تعهدات حقوقی پیش‌بینی‌نشده و مخارج سنگین ایمن‌سازی باعث شده بازده مالی کوتاه‌مدت تحت‌الشعاع قرار بگیرد. شرکت‌های پیشرو با استقبال از قوانین سخت‌گیرانه‌تر، ضمن کاهش شتاب سرسام‌آور هزینه‌ها، موانع ورود رقبای تازه‌نفس را افزایش می‌دهند؛ بنابراین تمرکز روی اعداد بنیادی صورت‌های مالی بسیار ضروری‌تر از هیجان‌های مرتبط با نجات جهان خواهد بود.

به نظر شما سرمایه‌گذاری روی فناوری‌های با ریسک وجودی بالا توجیه اقتصادی دارد یا ناشی از حباب بازار است؟ دیدگاه خود را با ما در میان بگذارید.