Anthropic در اسناد عرضه اولیه سهام هشدار میدهد که هوش مصنوعیاش ممکن است از مردم اخاذی کند، به خودآگاهی برسد و به نابودی بشر بینجامد.
هفت کابوس احتمالی هوش مصنوعی برگرفته از گزارش مفصل ۹۳ صفحهای Anthropic با عنوان «Risk Factor»
انتشار فرم S-1 شرکت Anthropic از سوی کمیسیون بورس و اوراق بهادار در روز دوشنبه، پیش از عرضه اولیه سهام این شرکت که انتظارها برای آن بسیار بالا رفته، بحثهای زیادی درباره این موضوع به راه انداخته است که آیا رشد سریع درآمدهای شرکت میتواند از هزینههای حتی بالاتر آن پیشی بگیرد یا نه. اما Anthropic در کنار ارقام و خوشبینیهای آیندهنگرانه درباره اینکه هوش مصنوعی «هر بخش از اقتصاد جهانی را با سرعتی بیسابقه دگرگون میکند؛ دگرگونیای بزرگتر از تأثیر صنعتیشدن، برق، نیمهرساناها و اینترنت»، بخش قابلتوجهی از فرم S-1 خود را به تشریح انبوهی از عوامل خطری اختصاص داده است که ممکن است شرکت را به نابودی بکشانند.
بخش «عوامل خطر» فرم S-1 شرکت Anthropic در ۹۳ صفحه و بیش از ۷۰ هزار کلمه، بهمعنای واقعی کلمه صدها مشکل احتمالی را بررسی میکند که ممکن است در سالهای پیش رو به کسبوکار شرکت آسیب بزنند. بسیاری از این خطرهای احتمالی، نگرانیهای رایجی درباره رقابت، هزینهها، جذب مشتری و مقررات احتمالی هستند که تقریباً هر کسبوکاری باید نگرانشان باشد. اما برخی از این خطرها، نقاط شکست احتمالی و جالبی را مشخص میکنند که بهطور خاص برای Anthropic و بهطور کلیتر برای حباب پُرسروصدای هوش مصنوعی مطرحاند.
پس از بررسی رسالهای در حد یک کتاب درباره بزرگترین خطرهای Anthropic، فهرست را به هفت مشکل احتمالی محدود کردهایم که از همه غافلگیرکنندهتر، جالبتر یا تأملبرانگیزترند. این فهرست نگاهی به این خطرهاست که بههیچوجه جامع نیست و سرمایهگذاران احتمالی Anthropic باید آن را در نظر داشته باشند.
اخبار مرتبط از Ars Technica AI
Big Walk برای رفع یک باگ از هوش مصنوعی استفاده کرد؛ حالا دنیای بازیهای مستقل با بازنگری جدی روبهروست.
برای بسیاری از داوران Indie Game Festival، هر میزان کدنویسی با کمک هوش مصنوعی هم بیش از حد است.
Google DeepMind بهتازگی صحت بخشهای کلیدی Signal را از نظر ریاضی تأیید کرد
پروژهای چهارهفتهای نشان میدهد که هوش مصنوعی میتواند فرایند formal verification را بسیار کاربردیتر کند.
دوربینهای Ring متحرک میشوند؛ Amazon از پهپاد و ربات امنیتی مجهز به هوش مصنوعی رونمایی کرد
دستگاههای رباتیک متحرک Ring شرکت Amazon، اواخر سال ۲۰۲۶ و اوایل سال ۲۰۲۷ عرضه میشوند.
