اگر آزمایشگاه هوش مصنوعی PrismML هنوز در رادار شما نیست، بهتر است این کار را بکنید—نه به این دلیل که سرمایه کلانی جذب کرده (هنوز این کار را نکرده، فقط یک دور تأمین مالی seed به ارزش ۲۲٫۲۵ میلیون دلار داشته)، بلکه به خاطر ذهن‌های فنی درگیر در آن و فناوری بالقوه تغییردهنده صنعتی که در حال توسعه است.

PrismML شرط بسته است که مدل‌های زبانی بزرگ قدرتمند، با عملکرد بالا و استدلال‌ور، در واقع نیازی به بزرگ بودن ندارند.

این شرکت مدل‌های استدلالی را آنقدر کوچک می‌کند که روی رایانه‌های شخصی و گوشی‌های هوشمند جا شوند. (حتی شایعه شده که در حال مذاکره با اپل است، هرچند بابک حسینی، مدیرعامل، از اظهار نظر در این باره به TechCrunch خودداری کرد.)

روز پنجشنبه، PrismML مدل Bonsai 2 27B را منتشر کرد، جدیدترین مدل از خانواده مدل‌های خود که مدل Qwen3.8 27B، یک مدل منبع‌باز پرکاربرد از علی‌بابا، را به ۵٫۹ گیگابایت فشرده می‌کند. این اندازه به قدری کوچک است که روی یک رایانه شخصی و احتمالاً یک گوشی هوشمند رده بالا جا می‌شود. این یک کاهش ۹ تا ۱۰ برابری در حافظه نسبت به نسخه اصلی است.

PrismML توسط گروهی از محققان Caltech تأسیس شد و تحت رهبری حسینی، استاد Caltech و متخصص فناوری‌های فشرده‌سازی، قرار دارد. این استارت‌آپ همچنین Ion Stoica را به عنوان مشاور در کنار خود دارد. استویکا یکی از بنیان‌گذاران Databricks (و شرکت‌های دیگر) و مدیر آزمایشگاه مشهور Sky Computing در برکلی است که فناوری‌ها و استارت‌آپ‌های بسیاری از Letta گرفته تا SGLang را به دنیا آورده است.

PrismML همچنین توسط سرمایه‌گذاران Khosla Ventures، Cerberus Capital و Caltech پشتیبانی می‌شود.

این استارت‌آپ قطعاً تنها شرکتی نیست که روی فناوری فشرده‌سازی LLM کار می‌کند. Multiverse Computing، که توسط یک استاد مشهور از مرکز فیزیک بین‌المللی دونوستیا در اسپانیا تأسیس شده، شرکت دیگری است. (و Multiverse Computing سرمایه کلانی جذب کرده است.)

اما حسینی می‌گوید که فناوری فشرده‌سازی PrismML منحصربه‌فرد است زیرا LLMهای آن عملاً هیچ افت عملکردی نسبت به نسخه‌های اصلی ندارند. مدل Bonsai 2 در ۹۸٪ از نمرات بنچمارک تجمیعی Qwen را مطابقت می‌دهد. این رقم نسبت به اولین مدل Bonsai که چند ماه پیش در ماه مارس منتشر شد و ۹۵٪ را مطابقت می‌داد، افزایش یافته است. به گفته این شرکت، آن مدل اولیه بیش از ۱۱ میلیون بار دانلود شده است و مدل‌های حتی کوچک‌تر PrismML نیز ۲٫۶ میلیون بار دیگر دانلود شده‌اند.

بنابراین این نشان می‌دهد که نتایج فشرده‌سازی PrismML از یک انتشار به انتشار بعدی بهبود یافته است. اینکه آیا می‌تواند به ۱۰۰٪ برابری عملکرد بنچمارک برسد، سوالی است که باید دید. به گفته حسینی، احتمالاً فشرده‌سازی همیشه تا حدودی تأثیر خواهد داشت.

با این حال، برابری کامل بنچمارک نسبتاً آکادمیک است. LLMها در حالت فشرده‌نشده خود نیز چندان دقیق نیستند و بنچمارک‌ها نیز آنقدرها عملکرد واقعی را به طور کامل منعکس نمی‌کنند که کاهش ۲٪ عملکرد تأثیر قابل توجهی بر عملکرد مدل در استفاده واقعی بگذارد. (به علاوه، نرم‌افزار اطراف—ساختاری که مدل درون آن اجرا می‌شود—نیز از نظر دقت بسیار اهمیت دارد.)

PrismML می‌گوید این کار را با کوچک‌سازی «وزن‌هایی» که یک مدل را تشکیل می‌دهند، انجام می‌دهد—وزن‌ها در اصل اطلاعاتی هستند که یک مدل در طول آموزش یاد می‌گیرد و ذخیره می‌کند. به طور معمول، هر وزن به ۱۶ بیت نیاز دارد. رویکرد PrismML که «وزن‌های سه‌تایی» (ternary weights) نامیده می‌شود، آن را به سه مقدار ساده می‌کند: ۱+، ۱- یا ۰. با ذخیره مقادیر بسیار کوچک‌تر برای هر وزن، مدل فضای بسیار کمتری اشغال می‌کند. (برای بررسی عمیق‌تر تکنیک فشرده‌ساز، به صفحه GitHub پروژه مراجعه کنید.)

هدف بعدی استارتاپ این است که این تکنیک فشرده‌سازی را برای مدل‌های حتی بزرگ‌تر به کار ببرد. حسینی به TechCrunch گففت: «مدل‌های بعدی که احتمالاً در چند ماه آینده منتشر خواهیم کرد، در محدوده چند صد میلیارد پارامتر خواهند بود و من انتظار دارم که حفط هش هوش در آن‌ها سان‌تر باشد.»

او افزود: هر چه اندازه مدل بزرگ‌تر شود، «جای بیشتری برای فشرده‌سازی آن‌ها بدون از دست دادن هوش وجود دارد. بنابراین فقط می‌گویم، به عنوان یک روند کلی، برای مدل‌های بزرگ‌تر، رسیدن به ۱۰۰٪ آسان‌تر است.»

استویکا به ما می‌گوید که از این فناوری هیجان‌زده است زیرا باعث می‌شود مدل‌های پیشرفته بتوانند روی دستگاه‌های کاربران اجرا شوند. «شما هوش را در نوک انگشتان خود خواهید داشت و رایگان خواهد بود زیرا روی دستگاهی که قبلاً خریده‌اید اجرا می‌شود. همچنین خصوصی خواهد بود، زیرا آن را به ابر ارسال نمی‌کنید.»