Baseten روز چهارشنبه به همراه بازوی تحقیقاتی خود، Base Labs، استاندارد جدیدی برای زیرساخت ایمنی معرفی کرد و با همکاری Hugging Face و Goodfire AI، زیرساخت ارزیابی و پایش ایمنی را برای مدل‌های متن‌باز (open-weight) ایجاد کرد.

این اعلامیه در بحبوحه بحث‌هایی درباره ایمنی مدل‌های متن‌باز منتشر می‌شود — مدل‌هایی که می‌توانند با حذف محافظ‌های ایمنی‌شان از طریق تکنیک رو به رشد معروف به abliteration خطرناک شوند. مقیاس این مشکل بسیار بزرگ است: Hugging Face، که میزبان مدل‌های هوش مصنوعی متن‌باز است، در حال حاضر بیش از ۶۰۰۰ مدل abliterated را فهرست کرده است.

Base Labs، گروه تحقیقاتی که Baseten اوایل امسال آن را راه‌اندازی کرد، روش‌هایی را برای آموزش و پایش مدل‌های متن‌باز توسعه و منتشر خواهد کرد. این شرکت کار آینده خود را به عنوان یک «استاندارد» برای مدل‌های متن‌باز معرفی می‌کند که شفاف است و به جای اینکه بعداً به آن‌ها اضافه شود، در نحوه آموزش و استقرار مدل‌ها تعبیه شده است.

این شرکت در X اعلام کرد: «ما معتقدیم باز بودن مزیتی برای ایمنی هوش مصنوعی است. باز بودن، دید بیشتری نسبت به رفتار مدل‌ها فراهم می‌کند و مهم‌تر از آن، ابزارهای بیشتری برای تبدیل تحقیقات ایمنی به کنترل‌های عملی و شفاف نسبت به کدهای بسته ارائه می‌دهد.»

این شرکت‌ها نحوه همکاری فنی خود را فاش نکرده‌اند، اگرچه Goodfire هدف را در پاسخی به پست Baseten این‌گونه چارچوب‌بندی کرد: «ایمنی باید در مدل‌های متن‌باز تعبیه شود و توسط کسانی که آن‌ها را ارائه می‌دهند تأمین شود.» Goodfire که در باز کردن «جعبه سیاه» هوش مصنوعی برای توضیح نحوه تصمیم‌گیری مدل‌ها تخصص دارد، محتمل‌ترین گزینه برای بخش «تعبیه شده در» است.

Baseten، ارائه‌دهنده زیرساخت استنتاج هوش مصنوعی، در ژوئن مبلغ ۱.۵ میلیارد دلار در دور سری F جذب کرد و ارزش خود را به ۱۳ میلیارد دلار رساند. شریک دیگر، Goodfire AI نیز به همین ترتیب سرمایه‌گذاری خوبی دریافت کرده است؛ این شرکت اوایل امسال ۱۵۰ میلیون دلار در دور سری B به رهبری B Capital برای پیشبرد پلتفرم تفسیرپذیری مدل خود جذب کرده بود.

در چشم‌انداز آینده، Baseten فراخوانی عمومی به اکوسیستم گسترده‌تر توسعه‌دهندگان ارائه می‌دهد تا در این چارچوب مشارکت کنند. این شرکت خاطرنشان کرد: «ما با هم در حال ساختن اکوسیستمی از مدل‌های متن‌باز هستیم که برای همه ایمن و در دسترس باشند.»