بازگشت به اخبار
TechCrunch

Anthropic در بحبوحه نگرانی‌ها درباره RSI، مدل‌های جدید Mythos و Fable را عرضه کرد.

دوشنبه، ۱۸ آبان ۱۴۰۵۲۳:۳۰Russell Brandom
Anthropic releases new Mythos and Fable models amid RSI concerns

Anthropic می‌گوید مدل‌های جدید در حوزه‌هایی مانند کدنویسی، استدلال و بینایی پیشرفت کرده‌اند و ارتباط روشن‌تری با کاربران برقرار می‌کنند.

Anthropic روز دوشنبه نسخه‌های جدیدی از پیشرفته‌ترین مدل‌های خود را با عرضه Mythos 5.2 و Fable 5.2 منتشر کرد. این شرکت می‌گوید مدل‌های جدید «در حوزه‌هایی مانند کدنویسی، استدلال و بینایی بهبودهایی نشان می‌دهند» و ارتباط روشن‌تری با کاربران برقرار می‌کنند.

نکته قابل‌توجه اینکه Anthropic قیمت Fable را از ۱۰ دلار به ۸ دلار به‌ازای هر یک میلیون توکن ورودی کاهش می‌دهد. در نتیجه، Fable 5.2 اکنون از رقیب اصلی خود، GPT-6 Astra، ارزان‌تر است. Anthropic می‌گوید نسخه جدید Fable در سطوح مختلف تلاش، پاسخ‌ها را ۳۰ درصد سریع‌تر ارائه می‌کند. امکان استفاده از سرویس استنتاج سریع‌تر نیز با پرداخت دو برابر هزینه فراهم است.

Fable 5.2 همچنین از طریق سامانه Enterprise Frontier Safeguards با سیاست‌های نگهداری صفر داده (ZDR) سازگار است؛ موضوعی که مدت‌ها یکی از موانع همکاری با بسیاری از مشتریان سازمانی بوده است.

این نخستین عرضه مدل Anthropic از زمان انتشار گزارشی از گروه ارزیابی مستقل METR است. این گزارش نشان می‌داد که این آزمایشگاه ممکن است به خودبهبودی بازگشتی (RSI) نزدیک شده باشد؛ یعنی توانایی مدل‌های هوش مصنوعی برای ادامه‌دادن مستقل فرایند آموزش مدل. گزارش METR دریافت که مدل‌های داخلی سرعت پیشرفت هوش مصنوعی Anthropic را تقریباً دو برابر کرده‌اند، هرچند ابهام‌های زیادی همچنان باقی است.

بااین‌حال، یادداشت‌های انتشار Anthropic از چالش‌های پابرجا در ارزیابی دقیق قابلیت‌های مدل‌ها خبر می‌دهند. «Claude Mythos 5.2 و Fable 5.2 هر دو گمان می‌کنند که بیش از هر یک از مدل‌های اخیر ما در حال ارزیابی‌شدن هستند؛ موضوعی که توانایی ما را برای سنجش رفتار آن‌ها در شرایط واقعی به چالش می‌کشد. با گسترش این شرایط و افزایش قابلیت‌ها در مدل‌های آینده، انتظار داریم این چالش بزرگ‌تر شود.»

Anthropic تأکید می‌کند که نسخه جدید Mythos توانایی اقدام پنهانی علیه کاربر خود را ندارد؛ این ارزیابی با جزئیات بیشتری در کارت سیستم Mythos 5.2 آمده است.

در کارت سیستم آمده است: «Claude Mythos 5.2 در چند مورد از ارزیابی‌های ما، به‌ویژه زمانی که فرایند استدلالش از دید ناظر پنهان است، قابلیت‌های پنهان‌کاری بیشتری نسبت به مدل‌های پیشین Claude نشان می‌دهد. بااین‌حال، به باور ما، عملکرد مطلق پایین در ارزیابی‌های جدیدمان از قابلیت‌های پنهان‌کاری، از ادعاهایی پشتیبانی می‌کند که بر شناسایی اقدامات زیان‌بار در موقعیت‌های حساس و پرمخاطره تکیه دارند.»

Fable 5.2 مدتی است که پیش از عرضه عمومی در اختیار برخی طرف‌ها قرار گرفته و Anthropic می‌گوید این مدل تاکنون «دو مسئله حل‌نشده در فیزیک نظری را حل کرده، قضیه آخر فرما را صورت‌بندی صوری کرده و از پروژه‌های پژوهشی متعدد دیگری پشتیبانی کرده است.»

همچنین روز دوشنبه، استارتاپ هوش مصنوعی Physical Superintelligence از اثبات تازه‌ای برای حدس Aaronson‑Ambainis خبر داد؛ گامی مهم در تعیین محدودیت‌های نظری رایانش کوانتومی. نکته قابل‌توجه اینکه این آزمایشگاه اعلام کرد این نتیجه با اجرای «یک مدل Anthropic که در دسترس عموم نیست» در سامانه خود PSI به دست آمده است. Anthropic تأیید یا رد نکرد که مدل موردنظر Fable 5.2 بوده است.

اخبار مرتبط از TechCrunch AI

The unfolding Jensen Huang scandal: a timeline

خط زمانیِ رسواییِ فزایندهٔ جنسن هوانگ

این ماجرا می‌تواند برای امنیت ملی پیامدهایی داشته باشد؛ آن هم در شرایطی که آمریکا و چین برای توسعه پیشرفته‌ترین زیرساخت هوش مصنوعی با یکدیگر رقابت می‌کنند.

TechCrunch۲۱ آبان۰۳:۲۹