بازگشت به اخبار
Ars Technica

Anthropic دسترسی‌ای در حد کارکنانش به نهاد ناظر بیرونی حوزه هوش مصنوعی می‌دهد

یکشنبه، ۲۶ مهر ۱۴۰۵۲۰:۱۵Cristina Criddle, Financial Times
Anthropic gives outside AI watchdog “employee-like” access

نهاد ناظر بیرونی می‌تواند یافته‌های خود را بدون تأیید Anthropic منتشر کند.

Anthropic به ارزیابان بیرونی «دسترسی مشابه کارکنان» داده است تا خطرات مدل‌هایش را ارزیابی کنند. این اقدام در راستای تعهد این شرکت به تقویت تدابیر حفاظتی و در واکنش به نگرانی‌ها از این است که فناوری ممکن است به‌شکلی فاجعه‌بار از کنترل خارج شود.

METR، سازمانی غیرانتفاعی که با آزمایشگاه‌های پیشرویی از جمله OpenAI، Anthropic، Google و Meta همکاری کرده است، اکنون تیمی را در دفتر سازنده Claude مستقر کرده که به سخت‌افزار و سامانه‌های داخلی آن دسترسی دارد.

نقش پررنگ‌تر ارزیابان شخص ثالث از جمله گام‌های عملی اصلی‌ای است که آزمایشگاه‌ها در واکنش به افزایش نگرانی‌ها درباره خطراتی پیشنهاد کرده‌اند که سامانه‌های هوش مصنوعی توانمندتر ممکن است برای اقتصاد، امنیت سایبری و بشریت در کل به همراه داشته باشند.

اخبار مرتبط از Ars Technica AI