Anthropic در حال کار روی سامانه‌ای متن‌باز برای تشخیص این موضوع است که خروجی مشخصی را کدام مدل هوش مصنوعی تولید کرده است؛ این خبر را در پستی وبلاگی که روز سه‌شنبه منتشر شد اعلام کرد. این سامانه که FlashProve نام دارد، برای ارائه چیزی طراحی شده که پژوهشگران آن را «استنتاج اثبات‌پذیر» می‌نامند: نوعی اثبات رمزنگاری‌شده که در اصل تضمینی ریاضی است مبنی بر اینکه خروجی مشخصی از مدل خاصی به دست آمده است. هدف این است که کاربران بتوانند تأیید کنند پاسخی که دریافت کرده‌اند واقعاً از همان مدلی آمده که تصور می‌کنند در حال استفاده از آن هستند.

FlashProve، مانند امضاهای رمزنگاری‌شده ایمیل که به گیرندگان امکان می‌دهد تأیید کنند پیام واقعاً از فرستنده‌ای آمده است که ادعا می‌شود، در برابر جعل هویت نیز مقاوم خواهد بود؛ حتی اگر عامل جعل، همان آزمایشگاهی باشد که مدل را ساخته و اجرا می‌کند. پژوهشگران به‌طور خاص اشاره می‌کنند که می‌توان از این سامانه برای جلوگیری از آن استفاده کرد که یک شرکت هوش مصنوعی مخفیانه مدلی ارزان‌تر را جایگزین کند تا هزینه‌ها را کاهش دهد، یا برای بالاتر نشان‌دادن نتایج عملکرد، مدلی گران‌تر را به کار بگیرد.

همچنین می‌توان از FlashProve برای راستی‌آزمایی ادعاهای اشخاص ثالث درباره انجام یک کار مشخص با استفاده از مدلی پیشرفته استفاده کرد. پژوهشگران می‌نویسند: «ممکن است یک توسعه‌دهنده ادعا کند که کتابخانه نرم‌افزاری‌اش با استفاده از یک مدل پیشرو در حوزه امنیت سایبری از نظر آسیب‌پذیری بررسی شده است، یا شرکتی مدعی شود که مدل مناسبی طرح کسب‌وکارش را تأیید کرده است. کاربر چطور می‌تواند این ادعاها را راستی‌آزمایی کند؟»

برای کارکرد این سامانه، آزمایشگاه‌های هوش مصنوعی باید «اثر انگشتی» از هر مدلی که عرضه می‌کنند منتشر کنند تا بعداً بتوان آن را با خروجی‌های مشخص تطبیق داد و به‌صورت رمزنگاری‌شده راستی‌آزمایی کرد. نکته مهم این است که اثر انگشت‌ها وزن‌های مدل را فاش نمی‌کنند؛ وزن‌ها همان اعداد داخلی‌ای هستند که رفتار مدل را تعیین می‌کنند و شرکت‌هایی که مدل‌های بسته می‌سازند، مانند Anthropic و OpenAI، آن‌ها را محرمانه نگه می‌دارند. بنابراین آزمایشگاه‌ها می‌توانند اثر انگشت‌ها را بدون واگذارکردن ارزشمندترین دارایی خود منتشر کنند و این سامانه را برای مدل‌های تجاری نیز قابل استفاده سازند. این سامانه همچنین به‌گونه‌ای طراحی شده است که سبک باشد و بتوان راستی‌آزمایی را روی دستگاه محلی انجام داد.

هم‌زمان با این اعلام، پژوهشگران مشخصات فنی مفصلی به‌همراه کدهای عملیاتیِ بخش‌های مختلف سامانه را منتشر کردند. این موارد به‌صورت عمومی و با مجوز متن‌باز در GitHub در دسترس‌اند. پژوهش درباره این سامانه همچنان ادامه دارد و برنامه‌ای برای به‌کارگیری آن در Anthropic یا هیچ آزمایشگاه دیگری وجود ندارد.

پژوهشگران در پست اعلام این خبر توضیح می‌دهند: «هدف از انتشار این پست پژوهشی، به‌اشتراک‌گذاشتن پیشرفت‌های میانی است، نه ارائه برنامه‌ای پژوهشیِ تکمیل‌شده. ما این مطالب را مشخصاً با این هدف به اشتراک می‌گذاریم که دیگران کارهایی را که انجام داده‌ایم بررسی کنند، از آن استفاده کنند و بهبودش دهند.»