Box روز پنجشنبه در کنفرانس توسعه‌دهندگان خود از قابلیت جدیدی رونمایی کرد که سامانه embedding شرکت Nvidia، یعنی Nemotron، را در هسته محصولش قرار می‌دهد.

این قابلیت جدید که Box Content Retrieval نام دارد، به عامل‌ها امکان می‌دهد با تکیه بر فراداده‌های تعبیه‌شده‌ای که Nemotron ایجاد می‌کند، به پرس‌وجوها بسیار مؤثرتر پاسخ دهند. 

به گفته Box، کاربران در نتیجه این قابلیت می‌توانند پرس‌وجوهایی سریع‌تر، دقیق‌تر و کم‌هزینه‌تر داشته باشند. Kari Briski، معاون نرم‌افزار هوش مصنوعی مولد در Nvidia، به TechCrunch گفت انتظار دارد پاسخ‌گویی به پرس‌وجوها چهار برابر سریع‌تر شود، خطاها ۲۰ درصد کاهش یابند و ۹۰ درصد توکن کمتری مصرف شود.

این سامانه از اوایل سال آینده به‌تدریج برای همه مشتریان Enterprise Advance شرکت Box در دسترس قرار می‌گیرد.

Aaron Levie، مدیرعامل Box، گفت: «این قابلیت ارتباط نتایج جست‌وجوی ما را با نیازهای عامل‌ها به‌شکلی چشمگیر افزایش می‌دهد. به‌جای آنکه عامل مجبور باشد هر سند را بخواند، می‌توانیم بخش‌هایی از سندها را برگردانیم که بیشترین ارتباط را با پرس‌وجوی کاربر یا وظیفه‌ای دارند که عامل انجام می‌دهد.»

این قابلیت بر پایه پروژه Nemotron Embed شرکت Nvidia پیاده‌سازی شده است؛ پروژه‌ای که مدل‌های embedding با وزن‌های باز را برای بهبود سامانه‌های بازیابی خودکار ارائه می‌کند. آزمایشگاه‌های بزرگ اغلب از چنین مدل‌هایی غافل بوده‌اند؛ این مدل‌ها از LLMها برای پیش‌پردازش داده‌ها استفاده می‌کنند تا عامل‌ها بتوانند بهتر از آن‌ها بهره ببرند. این حوزه یکی از محورهای تمرکز پروژه مدل‌های متن‌باز Nvidia بوده است؛ تازه‌ترین نسخه Nemotron این شرکت که در ژوئیه منتشر شد، در بنچمارک RTEB که کیفیت بازیابی را می‌سنجد، رتبه نخست را کسب کرد.

به گفته Box، این سامانه در کنار عامل‌های فعال بیشترین کاربرد را خواهد داشت. این شرکت از وکلا مثال می‌زند که ظاهراً با استفاده از سامانه جدید می‌توانند بندهای مرتبط و سوابق حقوقی را آسان‌تر پیدا کنند. از آنجا که embeddingهای Nemotron فراتر از کلیدواژه‌های ساده می‌روند و مفاهیم زیربنایی را ترسیم می‌کنند، ابزار جست‌وجو می‌تواند حتی در صورت استفاده از عبارت‌بندی یا زبانی متفاوت، موضوعات حقوقی مرتبط را پیدا کند.

با اینکه مدل‌های Nemotron به‌رایگان در دسترس‌اند، این سامانه تا حد زیادی به فراداده‌ها و کنترل‌های دسترسی موجود Box نیز متکی است؛ عاملی که بازسازی آن را از ابتدا دشوار می‌کند. Levie به TechCrunch گفت: «احتمالاً پنج فناوری مختلف را در یک API ساده جا داده‌ایم.»