OpenAI مدل Decisions API خود را برای نخستین‌بار به‌طور گسترده در دسترس کاربران قرار داد و وارد بازار هوش مصنوعی سریع و ارزان شد؛ بازاری که اخیراً TypeSafe را به یک شرکت ۷٫۶ میلیارد دلاری تبدیل کرده است. TypeSafe استارتاپی است که یکی از پژوهشگران سابق یک آزمایشگاه پیشرو آن را بنیان گذاشته است.

مدل Jev شرکت TypeSafe دسته‌ای تازه از مدل‌های یادگیری عمیق را پدید آورد که مانند ابررده‌بندها عمل می‌کنند: این مدل‌ها با دریافت مجموعه‌ای از گزینه‌ها، می‌توانند به‌سرعت انتخاب کنند و میزان اطمینانشان به تصمیم را اعلام کنند. توسعه‌دهندگان نرم‌افزار به‌سرعت دریافتند که این مدل‌های تصمیم‌گیری یا System One می‌توانند در طیف متنوعی از فرایندهای کاری جایگزین LLMها شوند و با سرعت بیشتر و هزینه‌ای به‌مراتب کمتر کار کنند.

Nikunj Handa، مدیر محصول APIهای OpenAI، به TechCrunch گفت همکارانش با دیدن Jev گفتند: «وای، انگار یک میلیون کاربرد برای این داریم.» تیم Handa با شتاب دست‌به‌کار شد تا نسخه خودش را ارائه کند: این تیم به‌جای ساخت یک مدل تصمیم‌گیری با کالیبراسیون اختصاصی، ChatGPT Luna را بازپیکربندی کرد تا سرعت استنتاج را بالا ببرد و هزینه را کاهش دهد.

Handa گفت: «دستاورد اصلی Decisions API افزایش سرعت بوده؛ زمان انجام کارها از یک تا سه ثانیه به ۱۰۰، ۱۲۰ یا ۱۸۰ میلی‌ثانیه رسیده است. شاید در آینده، نوعی آموزش اختصاصی انجام دهیم تا مدل‌هایمان در این زمینه‌ها حتی بهتر شوند. اما فعلاً همین Luna معمولی کار را راه می‌اندازد.»

Decisions API که در روز توسعه‌دهندگان شرکت، ۲۹ سپتامبر، معرفی شده بود، روز پنجشنبه در دسترس همه مشتریان قرار گرفت. OpenAI قابلیت‌های صوتی و بصری تازه‌ای به نسخه عمومی آن افزود و تلاش کرد با هدف‌گذاری جغرافیایی منابع استنتاج، تأخیر را در مناطق مختلف جهان کاهش دهد.

در آزمایش‌های اولیه با مشتریانی مانند Box، Datadog، Ramp و Speak، مهندسان از این API برای جایگزین‌کردن LLMهای OpenAI با مدلی با توان عملیاتی بالاتر استفاده کردند. Andrew Hsu، مدیر ارشد فناوری Speak که معلم‌های زبان مبتنی بر هوش مصنوعی می‌سازد، گفت Decisions API به این شرکت امکان داد زمان فاصله میان اقدامات را از ۱٫۴ ثانیه به ۰٫۱۳ ثانیه کاهش دهد. OpenAI نیز از این محصول برای بهبود سرعت پاسخ‌گویی دستیار صوتی Dots خود استفاده کرد.

بااین‌حال، هنوز دقیقاً روشن نیست چه چیزی یک مدل تصمیم‌گیری خوب را می‌سازد؛ جز اینکه «برای شما کار کند». به‌نظر می‌رسد بهینه‌سازی میان هوشمندی، هزینه، کالیبراسیون و سرعت، بسته به نوع کار متفاوت باشد. Diogo Almeida، مدیرعامل TypeSafe، به معیارهای سنجش اعتماد ندارد و افراد را تشویق می‌کند مدل‌ها را در کار خودشان بیازمایند. بااین‌همه، حتی TypeSafe هم هفته گذشته، هم‌زمان با عرضه جدیدترین مدل Jev خود که قابلیت‌های تازه‌ای از جمله پشتیبانی از تصویر و عبارت‌های شرطی هوشمند را دربر دارد، رتبه‌بندی‌های خودش را منتشر کرد.

معیارهای سنجش عمومی مانند AIM System One Index و Artificial Analysis Decision Index معمولاً به نفع D1 Ultra، مدل تصمیم‌گیری تازه‌ای که Liquid هفته گذشته عرضه کرد، و Elephant-1 از Base Lab هستند. جدیدترین مدل Jev در هر دو شاخص همچنان رقابتی است و به‌ترتیب در جایگاه‌های هفتم و سوم قرار دارد؛ مدل تصمیم‌گیری OpenAI نیز به‌ترتیب در جایگاه‌های هشتم و چهاردهم است. بااین‌حال، فعلاً محصولات TypeSafe بیشترین تعداد درخواست را در OpenRouter به خود اختصاص داده‌اند.

اما سرگرم‌کننده‌ترین معیار سنجش Jev، JevMan است؛ معیاری که در آن مدل‌های تصمیم‌گیری بازی PacMan را انجام می‌دهند. جدیدترین مدل Jev در صدر این رتبه‌بندی قرار دارد. Felix Wunderlich، مدیر ارشد رشد Opper AI که این معیار را ساخته است، گفت این بازی کلاسیک «آزمون جالبی است، چون جریان بی‌وقفه‌ای از تصمیم‌های سریع و سرنوشت‌ساز را در بر می‌گیرد. مدل باید در هر دوراهی، ظرف چند صد میلی‌ثانیه تصمیم بگیرد به کدام سو برود.»

مدل OpenAI که شاید از توانایی بیشتری برخوردار باشد، ممکن است در چندوجهی‌بودن برتری داشته باشد. Handa به TechCrunch گفت: «برای طبقه‌بندی تصویر، Luna بسیار قدرتمند است و کالیبراسیون بهتری از خود نشان داده است.» او افزود مشتریان OpenAI می‌خواهند Decisions API در استفاده از تصاویر به‌عنوان خروجی نیز انعطاف‌پذیرتر باشد.

Handa همچنین معتقد بود افزایش بیشتر سرعت می‌تواند کاربردهای تازه‌ای ایجاد کند: «آیا می‌توانیم زمان را به حدود ۶۰ میلی‌ثانیه برسانیم؟ در آن صورت می‌توان تصور کرد که برای تک‌تک فریم‌های یک ویدئو، فراخوانی API انجام شود.»

با سریع‌تر و ارزان‌ترشدن این محصولات، می‌توان انتظار داشت که به نام Jev، اقتصاددانی که توضیح داد چگونه استفاده کارآمدتر از یک منبع، فراگیری آن را افزایش می‌دهد، جامه عمل بپوشانند. به‌گفته Handa، مجموعه‌ای رو به گسترش از «کاربردهای شگفت‌انگیز» وجود خواهد داشت که تا پیش از آشکارشدن قابلیت‌های مدل‌های تصمیم‌گیری، در برابر چشممان پنهان مانده بودند.