Anthropic روز پنجشنبه در یک پست وبلاگی اعلام کرد که به شش پژوهشگر از METR، سازمانی غیرانتفاعی که مدل‌های پیشرفته هوش مصنوعی را آزمایش می‌کند، دسترسی در سطح کارکنان می‌دهد تا آن‌ها بتوانند مدل‌ها، رویه‌های ایمنی و مدیریت ریسک Anthropic را به‌طور مستقل ارزیابی کنند.

این توافق در شرایطی صورت می‌گیرد که از اواخر اوت، هر گزارش هفته یا یکی دو مورد از فعالیت عامل‌های هوش مصنوعی خارج از دستورهایشان منتشر شده است. این رخدادها درخواست‌ها برای بررسی مستقل شرکت‌های هوش مصنوعی را جدی‌تر کرده‌اند.

Anthropic در پست وبلاگی خود نوشت: «می‌خواهیم در قبال تصمیم‌هایی که می‌گیریم، در برابر عموم پاسخ‌گو باشیم. هدف ما این است که فاصله میان آنچه ارزیابان درباره سامانه‌های یک شرکت فعال در حوزه هوش مصنوعی پیشرفته می‌دانند و آنچه خود شرکت می‌داند، کاهش دهیم.»

بر اساس توافق جدید، تیم METR لپ‌تاپ‌های شرکتیِ ارائه‌شده از سوی Anthropic، فضای اداری و دسترسی به ابزارهای داخلی را در اختیار دارد؛ دسترسی‌ای که تقریباً با دسترسی تیم‌های ارزیابی ریسک خود Anthropic برابری می‌کند. این شرکت گفت: «کارکنان Anthropic تشویق شده‌اند همان‌طور که اطلاعات را با همکار خود که روی ریسک‌های هم‌راستاسازی کار می‌کند در میان می‌گذارند، با اعضای این تیم نیز به اشتراک بگذارند.»

Anthropic این سازوکار را با نظام بانکی مقایسه کرد؛ سازوکاری مشابه نحوه استقرار بازرسان مقیم از سوی نهادهای ناظر در بزرگ‌ترین بانک‌ها.

METR ارزیابی‌های مستقل خود را درباره ریسک‌ها، رخدادها و رویه‌های Anthropic منتشر خواهد کرد و این شرکت از حق جلوگیری از انتشار آن‌ها صرف‌نظر کرده است.

این شرکت گفت: «Anthropic نمی‌تواند انتشار مطالب را وتو کند، اما می‌توانیم از آن بخواهیم اطلاعاتی را حذف کند که در دسته‌های محدود و ازپیش‌تعیین‌شده قرار می‌گیرند»؛ مانند داده‌های مشتریان، اطلاعات مشمول محرمانگی وکیل و موکل یا اطلاعات مربوط به معماری مدل‌هایش. Anthropic افزود: «METR می‌تواند علناً درباره اطلاعات حذف‌شده اظهارنظر کند و بگوید آیا این حذف‌ها را موجه می‌داند یا نه، مشروط بر اینکه خودِ اطلاعات حذف‌شده را افشا نکند.»

METR تاکنون تنها ارزیاب در بالاترین سطح از نظام سه‌سطحی‌ای است که Anthropic در حال ایجاد آن است. ارزیابان سطح پایین‌تر، مانند سازمان غیرانتفاعی امنیت زیستی SecureBio، بررسی‌های محدودی انجام می‌دهند و برای انتشار نتایج به تأیید Anthropic نیاز دارند. ارزیابان سطح میانی به اطلاعات بیشتری دسترسی دارند و می‌توانند بدون تأیید شرکت مطالبشان را منتشر کنند؛ در بالاترین سطح نیز، علاوه بر این موارد، دسترسی METR در سطح کارکنان فراهم می‌شود.

اعلام روز پنجشنبه به وعده‌ای عمل می‌کند که Dario Amodei، مدیرعامل Anthropic، در مقاله‌ای در ماه سپتامبر داده بود. او در آن مقاله، حضور ارزیابان بیرونی در آزمایشگاه‌های هوش مصنوعی را نخستین گام برای کند کردن توسعه این فناوری پیشنهاد کرده بود. OpenAI به‌سرعت متعهد شد همین کار را انجام دهد و از آن زمان، هر دو شرکت به‌همراه Google، Meta، Nvidia و xAI توافق‌نامه‌ای با کاخ سفید را امضا کرده‌اند که آن‌ها را به بررسی مستقل متعهد می‌کند.