شرکت آنتروپیک اخیراً نسخه به‌روزشده سیاست‌های استفاده از مدل‌های هوش مصنوعی Claude را اعلام کرده که از روز پنجشنبه ۱۲ نوامبر (۲۱ آبان) به‌طور رسمی اجرا خواهد شد. آنتروپیک دلیل این بازبینی را افزایش چشمگیر توانمندی‌های مستقل مدل‌های خود طی یک سال اخیر و لزوم شفاف‌سازی خط‌قرمزها اعلام کرده است. هرچند این سند حوزه‌های مختلفی از امور تسلیحاتی تا پزشکی را در بر می‌گیرد، اما بندهای مربوط به موقعیت مکانی و کاربران مناطق پشتیبانی‌نشده مهم‌ترین بخش آن برای کاربران ایران است.

یکی از مهم‌ترین تغییرات این نسخه، شفاف‌سازی نحوه اجرای «سیاست مناطق پشتیبانی‌شده» است. آنتروپیک سال گذشته دسترسی شرکت‌هایی را که مالکان اصلی آنها در کشورهای پشتیبانی‌نشده بودند محدود کرده بود، اما اکنون سازوکار نظارتی و اجرایی آن را کاملاً دقیق کرده است.

براساس متن شرایطی که از ۲۱ آبان ملاک عمل قرار می‌گیرد، استفاده از Claude برای سه گروه به‌طور صریح ممنوع است:

با توجه به اینکه نام ایران در فهرست مناطق رسمی تحت پشتیبانی آنتروپیک قرار ندارد، تصریح این شرکت بر ممنوعیت استفاده برای افراد «حاضر در این مناطق»، ریسک شناسایی ابزارهای دورزدن تحریم، مسدود شدن ناگهانی حساب‌ها و قطع کامل دسترسی در ایران را به‌طور جدی افزایش داده است.

آنتروپیک علاوه‌بر مسائل جغرافیایی، خط‌قرمزهای کارکردی مدل‌های Claude را هم در چند محور اصلی به‌روزرسانی کرده است.

اولین موضوع به کمپین‌های فریبنده و اکانت‌های جعلی مربوط می‌شود. آنتروپیک می‌گوید یک بخش مجزا برای جلوگیری از فعالیت رسانه‌های دولتی، نهادهای تبلیغاتی یا شرکت‌های تجاری ایجاد شده است تا نتوانند از Claude برای راه‌اندازی سایت‌های خبری دروغین، اکانت‌های جعلی یا هدایت افکار عمومی استفاده کنند.

همچنین بخش انتخابات بازنویسی شده تا تمرکز آن روی جلوگیری از فریب رأی‌دهندگان، شبیه‌سازی هویت نامزدها و اخلال در انتخابات باشد؛ هرچند ممنوعیت‌های عمومی درباره اطلاع‌رسانی‌های مدنی برداشته شده است. در این نسخه جدید، درباره توسعه تسلیحات و سیستم‌های نظارتی اعلام شده که ساخت نرم‌افزارهای هدایت، ناوبری و کنترل سلاح و تجهیز پهپادها به‌طور کامل ممنوع است. همچنین استفاده از Claude برای ساخت ابزارهای جاسوسی، ردیابی افراد بدون رضایت یا تصمیم‌گیری درباره بازداشت و تعقیب قضایی شهروندان غیرمجاز است.

در زمینه‌های حساسی چون پزشکی، مالی و امور حقوقی، وجود ناظر انسانی آگاه الزامی اعلام شده است. علاوه‌براین، چنانچه Claude به تجهیزات سخت‌افزاری متصل شود که توانایی اقدام فیزیکی آسیب‌رسان دارند، باید امکان توقف اضطراری آن توسط اپراتور وجود داشته باشد.

آنتروپیک درنهایت اعلام کرده که در موارد شدید و بی‌هدف، اگر کاربری رفتارهای توهین‌آمیز مکرر نسبت به مدل‌ها داشته باشد، Claude اجازه دارد مکالمه را به‌صورت خودکار قطع کند.