در حالی که توجه بسیاری به اطلاعات مالی به‌روزشده‌ای معطوف شده که Anthropic روز دوشنبه در نسخه اصلاح‌شده S-1A خود افشا کرد (درآمد به‌شدت افزایش یافته، اما هزینه‌ها هم همین‌طور)، این آزمایشگاه هوش مصنوعی در میان جزئیات ریز، خبر مهم دیگری را هم مطرح کرد.

به نظر می‌رسد این پرونده هشدار می‌دهد که شرکت در آستانه ساخت مدلی است که توانایی خودبهبوددهی بازگشتی (RSI) را دارد.

RSI زمانی رخ می‌دهد که هوش مصنوعی آن‌قدر در آموزش‌دادن خودش مهارت پیدا کند که موجب شتابی چشمگیر در پیشرفت قابلیت‌های هوش مصنوعی شود. از نگاه فاجعه‌باوران هوش مصنوعی، RSI فاجعه‌ای بی‌بازگشت است؛ وضعیتی که در آن هوش مصنوعی خود را به چیزی آن‌قدر قدرتمند تبدیل می‌کند که از کنترل انسان خارج می‌شود و ممکن است هنگام پیگیری اهدافش به خسارت‌هایی که ایجاد می‌کند بی‌اعتنا باشد.

از نگاه مشتاقان هوش مصنوعی، RSI یا نوعی از هوش مصنوعی که بتواند با اطمینان از خودش برای بهبود خود استفاده کند، نویدبخش این فناوری است؛ جایی که به ابزاری برای بهره‌وری باورنکردنی، اکتشافات علمی و موارد دیگر تبدیل می‌شود.

به نظر می‌رسد Anthropic باور دارد RSI هم فرصتی نویدبخش است و هم خطری جدی. این شرکت در پرونده S-1 می‌گوید از هوش مصنوعی در تحقیق‌وتوسعه خود استفاده می‌کند، اما هشدار می‌دهد: «استفاده از هوش مصنوعی برای کمک به ساخت هوش مصنوعی توانمندتر می‌تواند خطر ایمنی قابل‌توجهی نیز به همراه داشته باشد؛ به‌ویژه اگر سرعت پیشرفت را به‌شدت افزایش دهد. این موضوع یکی از حوزه‌هایی است که سیاست مقیاس‌گذاری مسئولانه ما پوشش می‌دهد؛ سیاستی که برنامه‌های ما را برای پایش و کاهش خطرها با نزدیک‌شدن به آنچه «خودبهبوددهی بازگشتی» نامیده شده است، شرح می‌دهد.»

وقتی اصطلاح RSI اوایل امسال رایج شد، بسیاری آن را اصطلاحی مُد روز یا، در بهترین حالت، هدفی می‌دانستند که دستیابی به آن، تعریف‌کردنش یا اثبات آن بیش از حد دشوار است.

اما Anthropic روز دوشنبه اظهارات تازه‌ای به بخش عوامل خطر اضافه کرد و گفت: ۱) این شرکت پیش‌تر برای توسعه مدل‌های جدید از هوش مصنوعی استفاده کرده، بی‌آنکه در آن زمان متوجه جهش قابلیت‌های این مدل‌ها شده باشد؛ ۲) ممکن است به‌زودی به تعریف داخلی خود از RSI برسد (تأکید از ماست):

افزون بر این، استفاده فزاینده ما از سامانه‌های هوش مصنوعی برای شتاب‌بخشیدن به تحقیق‌وتوسعه خودمان ممکن است باعث شود قابلیت‌های مدل‌هایمان سریع‌تر از توانایی ما برای توسعه، اعتبارسنجی و اجرای اقدامات متناظر در زمینه ایمنی، هم‌سوسازی و امنیت پیشرفت کند. در نتیجه، در گذشته متوجه شتاب چشمگیر در روند توسعه‌مان نشده‌ایم و ممکن است در آینده نیز تا پس از وقوع، متوجه چنین شتابی نشویم.

برای مثال، برآوردهای داخلی ما و انتظاراتمان درباره مدل‌های آینده، نه مدل‌های کنونی، نشان می‌دهند که ممکن است به‌زودی به تعریف سیاست مقیاس‌گذاری مسئولانه‌مان از «پیشرفت شتاب‌گرفته چشمگیرِ منتسب به هوش مصنوعی» برسیم. هیچ‌یک از مدل‌های کنونی‌مان را فراتر از این آستانه ندانسته‌ایم و همچنان داده‌های زیربنایی را ارزیابی می‌کنیم. 

با این حال، Anthropic در این پرونده همچنین گفت که هیچ‌یک از مدل‌هایش هنوز از این آستانه RSI عبور نکرده‌اند و این شرکت متعهد است که در آینده قابل‌پیش‌بینی، انسان‌ها را در فرایند تحقیق‌وتوسعه حفظ کند. «پیش‌بینی نمی‌کنیم که بتوانیم با ایمنی از Claude برای طراحی و ساخت کاملاً خودکار نسل‌های پیاپی مدل‌های پیشرفته استفاده کنیم، بی‌آنکه نظارت یا درک معنادار انسانی وجود داشته باشد؛ حتی اگر چنین کاری از نظر فنی ممکن شود. بر همین اساس، در حال بررسی به‌روزرسانی‌هایی در سیاست مقیاس‌گذاری مسئولانه خود هستیم تا کنترل انسان بر توسعه مدل‌های پیشرفته در Anthropic حفظ شود.»

بدبینان ممکن است یادآوری کنند که فرم S-1 هم برای افشاگری و هم برای بازاریابی کاربرد دارد و ادعای نزدیک‌بودن به ساخت مدلی آن‌قدر قدرتمند که بتواند خودش را بسازد، ممکن است در دسته دوم قرار بگیرد.

با این همه، تردیدی نیست که قابلیت‌های Claude، به‌ویژه در زمینه کدنویسی، ریاضی و امنیت سایبری، امسال با جهش‌های چشمگیری پیشرفت کرده‌اند. اگر Anthropic فکر می‌کند احتمال وقوع RSI نزدیک است، شاید بهتر باشد حرفش را باور کنیم و متناسب با آن عمل کنیم — و شاید برایش مقررات هم وضع کنیم.