```html

با گسترش مدل‌های تصمیم‌گیری در سراسر صنعت، شرکتی به نام Musubi ایده جدیدی برای به کارگیری آن‌ها دارد: تعدیل محتوا. روز سه‌شنبه، Musubi یک مدل تصمیم‌گیری سبک‌وزن برای تعدیل بلادرنگ محتوا به نام PolicyLM-1.7B معرفی کرد که با وزن‌های باز منتشر شده است.

ایده این است که یک خط‌مشی محتوا که به زبان انگلیسی ساده نوشته شده را برداشته و آن را در کمتر از ۵۰ میلی‌ثانیه روی پیام‌ها اعمال کند. مدل Musubi طوری طراحی شده که از نظر هزینه و سرعت مشابه سیستم‌های طبقه‌بند هوش مصنوعی باشد که تعدیل محتوا را در اکثر پلتفرم‌های اجتماعی پشتیبانی می‌کنند — اما چون انعطاف‌پذیری یک LLM مدرن را دارد، می‌تواند خط‌مشی‌های پیچیده را بدون آموزش ویژه اعمال کند. مهم‌تر از آن، این مدل هنگام تغییر خط‌مشی نیازی به آموزش جدید نخواهد داشت و به سیاست‌گذاران انسانی اجازه می‌دهد هر چقدر که نیاز دارند تکرار و اصلاح کنند.

از دیدگاه Filip Jankovic، هم‌بنیان‌گذار و مدیر ارشد هوش مصنوعی Musubi، این به مدیران پلتفرم راهی برای برچسب‌گذاری فعالانه محتوا می‌دهد.

«تیم‌های محصول فقط می‌خواهند درک بهتری از آنچه در پلتفرمشان اتفاق می‌افتد داشته باشند، به‌ویژه با توجه به اینکه حجم محتوا به صورت تصاعدی در حال افزایش است»، Jankovic می‌گوید. «توانایی برچسب‌گذاری همه این‌ها به روشی بسیار مقیاس‌پذیر و قابل سفارشی‌سازی بسیار مفید است.»

مدل‌های تصمیم‌گیری از زمان انتشار Jev شرکت Typesafe AI در ماه سپتامبر به موضوع داغ دنیای هوش مصنوعی تبدیل شده‌اند و به فاصله کوتاهی پس از آن، مدل‌های تصمیم‌گیری رقیبی از سوی OpenAI و Amazon نیز عرضه شدند. یک مدل تصمیم‌گیری به جای تولید خروجی متنی، احتمالات نتیجه را خروجی می‌دهد، اگرچه در این مورد خاص، مدل یک قضاوت دودویی صادر می‌کند: یا محتوا در دسته مورد نظر قرار می‌گیرد یا نه. با محدود کردن خروجی مدل به مجموعه‌ای از گزینه‌های از پیش تعیین‌شده، مدل‌های تصمیم‌گیری می‌توانند سریع‌تر و ارزان‌تر از مدل‌های زبانی بزرگ عمل کنند و در عین حال انعطاف‌پذیری معماری ترنسفورمر را حفظ کنند.

یکی از کاربردهای اولیه، مهار رفتارهای نادرست عامل‌های هوش مصنوعی است — بنابراین کاملاً طبیعی است که همین فناوری برای رفتارهای نادرست انسانی نیز به کار گرفته شود.

نکته قابل توجه این است که Jankovic می‌گوید علاقه او به مدل‌های تصمیم‌گیری به قبل از Jev برمی‌گردد و آن را به پروژه‌ای در سال ۲۰۲۴ به نام GLiNER (مدل عمومی برای تشخیص موجودیت‌های نامدار) نسبت می‌دهد که بسیاری از تکنیک‌های مشابه را به کار گرفته بود.

با این حال، Musubi از این مقایسه هراسی ندارد. در واقع، این شرکت مشتاق است از علاقه جدید به مدل‌های تصمیم‌گیری برای روشن کردن موضوع تعدیل محتوا استفاده کند. در این اعلامیه محصول آمده است: «اگر Jev توجه شما را جلب کرده، PolicyLM-1.7B نیز همان نوع مدل است، با این تفاوت که به‌طور خاص برای تعدیل محتوا آموزش دیده و می‌توانید خودتان آن را اجرا کنید.»