تکنیک هوشمندانه‌ای که برای پنهان کردن پرامپت‌های مخرب در حملات به عامل‌های هوش مصنوعی استفاده می‌شد، توسط اسپمرها برای دور زدن فیلترهای پلتفرم‌های ایمیل که برای علامت‌گذاری پیام‌های ناخواسته در کمپین‌های انبوه طراحی شده‌اند، به کار گرفته شده است.

این تکنیک به طور گسترده با نام ASCII smuggling شناخته می‌شود. دو سال پیش به عنوان راهی برای پنهان‌تر کردن دسته‌ای از حملات هوش مصنوعی به نام تزریق پرامپت (prompt injections) مورد توجه قرار گرفت. دستورالعمل‌های مخرب تعبیه‌شده در ایمیل‌ها یا سایر محتوای غیرقابل اعتماد که قرار است توسط یک LLM پردازش شوند، به صورت متن عادی نوشته نمی‌شوند. در عوض، آنها با طیف خاصی از برچسب‌های یونیکد (Unicode) نمایش داده می‌شوند. برای مثال، نقطه کد U+E0041 معادل «A» و U+E0061 معادل «a» است.

دیگر فقط برای پنهان‌سازی تزریق پرامپت نیست

بلوک ۱۲۸ تگ، بخشی از کد استاندارد آمریکایی برای تبادل اطلاعات (ASCII) را تقریباً به طور کامل تقلید می‌کند، با یک تفاوت عمده: کاراکترهایی که رمزگذاری می‌کنند توسط کامپیوترها قابل خواندن هستند، اما بنا به طراحی، تقریباً برای انسان‌ها کاملاً نامرئی هستند. با بیان پرامپت‌های مخرب در این تگ‌ها، LLMها دستورالعمل‌ها را شناسایی می‌کنند، اما افرادی که ایمیل را می‌خوانند هرگز آنها را نمی‌بینند. اطلاعات بسیار بیشتری درباره ASCII smuggling در اینجا وجود دارد.