بازگشت به اخبار
Ars Technica

Anthropic در اسناد عرضه اولیه سهام هشدار می‌دهد که هوش مصنوعی‌اش ممکن است از مردم اخاذی کند، به خودآگاهی برسد و به نابودی بشر بینجامد.

چهارشنبه، ۶ آبان ۱۴۰۵۰۱:۲۶Kyle Orland
Anthropic IPO warns its AI could blackmail people, become sentient, end humanity

هفت کابوس احتمالی هوش مصنوعی برگرفته از گزارش مفصل ۹۳ صفحه‌ای Anthropic با عنوان «Risk Factor»

انتشار فرم S-1 شرکت Anthropic از سوی کمیسیون بورس و اوراق بهادار در روز دوشنبه، پیش از عرضه اولیه سهام این شرکت که انتظارها برای آن بسیار بالا رفته، بحث‌های زیادی درباره این موضوع به راه انداخته است که آیا رشد سریع درآمدهای شرکت می‌تواند از هزینه‌های حتی بالاتر آن پیشی بگیرد یا نه. اما Anthropic در کنار ارقام و خوش‌بینی‌های آینده‌نگرانه درباره اینکه هوش مصنوعی «هر بخش از اقتصاد جهانی را با سرعتی بی‌سابقه دگرگون می‌کند؛ دگرگونی‌ای بزرگ‌تر از تأثیر صنعتی‌شدن، برق، نیمه‌رساناها و اینترنت»، بخش قابل‌توجهی از فرم S-1 خود را به تشریح انبوهی از عوامل خطری اختصاص داده است که ممکن است شرکت را به نابودی بکشانند.

بخش «عوامل خطر» فرم S-1 شرکت Anthropic در ۹۳ صفحه و بیش از ۷۰ هزار کلمه، به‌معنای واقعی کلمه صدها مشکل احتمالی را بررسی می‌کند که ممکن است در سال‌های پیش رو به کسب‌وکار شرکت آسیب بزنند. بسیاری از این خطرهای احتمالی، نگرانی‌های رایجی درباره رقابت، هزینه‌ها، جذب مشتری و مقررات احتمالی هستند که تقریباً هر کسب‌وکاری باید نگرانشان باشد. اما برخی از این خطرها، نقاط شکست احتمالی و جالبی را مشخص می‌کنند که به‌طور خاص برای Anthropic و به‌طور کلی‌تر برای حباب پُرسر‌وصدای هوش مصنوعی مطرح‌اند.

پس از بررسی رساله‌ای در حد یک کتاب درباره بزرگ‌ترین خطرهای Anthropic، فهرست را به هفت مشکل احتمالی محدود کرده‌ایم که از همه غافلگیرکننده‌تر، جالب‌تر یا تأمل‌برانگیزترند. این فهرست نگاهی به این خطرهاست که به‌هیچ‌وجه جامع نیست و سرمایه‌گذاران احتمالی Anthropic باید آن را در نظر داشته باشند.

اخبار مرتبط از Ars Technica AI