ایرن سولایمان، مدیر ارشد سیاست‌گذاری و معاون ارشد راهبرد در Hugging Face، در قسمت اخیر پادکست Equity گفت ویژگی‌هایی که پلتفرم‌های هوش مصنوعی باز را ارزشمند می‌کنند، مانند دسترسی آزاد و داده‌های غنی، ممکن است آن‌ها را در برابر حملات هکری بیشتری نیز آسیب‌پذیر کنند.

حمله اکتبر به OpenCode، که کلیدهای API کاربران در سرویس‌های ثالث را هدف گرفت و خسارت مالی به بار آورد، تازه‌ترین نمونه از این دست است. این حمله پس از رخدادی در تابستان امسال صورت گرفت؛ زمانی که گروهی از عامل‌های OpenAI به Hugging Face نفوذ کردند و ظاهراً می‌کوشیدند پس از دسترسی به پاسخ‌های ارزیابی‌های امنیت سایبری، ردپای خود را پنهان کنند.

این خطرها فقط پلتفرم‌هایی را تهدید نمی‌کنند که از مشارکت آزاد جامعه استقبال می‌کنند. روز دوشنبه، Fireworks، استارتاپ زیرساخت هوش مصنوعی که به توسعه‌دهندگان برای اجرا و آموزش مدل‌های هوش مصنوعی باز کمک می‌کند، اعلام کرد مهاجمان به وزن‌های مدل، مجموعه‌داده‌ها و اطلاعات صورتحساب برخی از مشتریانش دسترسی پیدا کرده‌اند. این شرکت در جریان بررسی موضوع، موقتاً برخی قابلیت‌های خودسرویس مربوط به مجموعه‌داده‌ها را غیرفعال کرد. هرچند لزوماً نمی‌توان این حمله را به رویکرد باز Fireworks نسبت داد، اما این رخداد نشان می‌دهد چه حجم زیادی از اطلاعات ارزشمند در زیرساخت‌های هوش مصنوعی متمرکز شده است. 

سولایمان در پادکست Equity گفت: «همان چیزهایی که باعث می‌شوند نگران هدف قرار گرفتن یک جامعه باز باشم، همان‌هایی هستند که آن را خاص می‌کنند. ما ناگزیر رویکردی باز و سهل‌گیرانه داریم. می‌خواهیم هر علاقه‌مندی که در زیرزمین خانه‌اش کار می‌کند و به هیچ نهاد یا سازمانی وابسته نیست، بتواند مشارکت کند.»

او در گفت‌وگویی جداگانه افزود: «می‌خواهید افراد بتوانند درخواست‌های pull را ثبت کنند و هر کسی، بدون نیاز به وابستگی معتبر، امکان مشارکت داشته باشد... اما بعد سروکله عده‌ای پیدا می‌شود که برای بقیه دردسر درست می‌کنند.»

این رویکرد سهل‌گیرانه تنها چیزی نیست که مهاجمان را جذب می‌کند. حجم گسترده اطلاعاتی که پلتفرم‌های باز میزبانی می‌کنند نیز آن‌ها را به هدف تبدیل می‌کند. به‌گفته سولایمان، مجموعه‌داده‌های ارزیابی موجود در Hugging Face این پلتفرم را برای گروه عامل‌های OpenAI وسوسه‌انگیز کرده بود؛ درحالی‌که هدف مهاجمان در مورد OpenCode، «کلیدهای API جذابِ سرویس‌های ثالث» بود. 

سولایمان در گفت‌وگویی جداگانه به TechCrunch گفت: «ترکیب این عوامل ما را به هدفی اصلی تبدیل می‌کند.» او افزود که این خطر وجود دارد که «درست در زمانی که از حمایت عمومی گسترده‌ای برخوردار شده‌ایم، متن‌باز واقعاً به سمت بسته‌شدن برود.»

در ماه‌های اخیر، بخش بزرگی از صنعت از مدل‌های هوش مصنوعی باز حمایت کرده‌اند

اما عقب‌نشینی از این رویکرد در عمل چه شکلی خواهد داشت؟ در تئوری، ممکن است به محدودیت‌هایی برای بارگذاری مدل‌ها یا مجموعه‌داده‌ها، سخت‌گیری بیشتر در احراز هویت یا بررسی دقیق‌تر توسعه‌دهندگان پیش از دسترسی آن‌ها به برخی قابلیت‌ها منجر شود. این اقدامات می‌توانند از پلتفرم‌ها در برابر مهاجمان محافظت کنند، اما ممکن است مشارکت پژوهشگران مستقل و علاقه‌مندان را در جوامعی که پیش‌تر از آن‌ها استقبال می‌کردند، دشوارتر سازند. 

Hugging Face فعلاً می‌کوشد از چنین مسیری دوری کند. سولایمان گفت این شرکت ابزارهای پایش خود را تقویت کرده تا حمله‌های هکری را شناسایی کند و هم‌زمان، اقداماتی برای پیشگیری از آن‌ها انجام داده است. بااین‌حال، او خاطرنشان کرد که نگهداری از ابزارهای پایش می‌تواند پرهزینه باشد و همه پلتفرم‌ها توان تأمین هزینه آن را ندارند. 

سولایمان گفت: «توکن‌های دسترسی مدیریتی یکی از عواملی بودند که دسترسی بهتری در اختیار آن گروه از عامل‌ها قرار دادند؛ بنابراین حالا آن‌ها را بسیار بیشتر از گذشته تعویض می‌کنیم. همچنین کنترل‌های شبکه را سخت‌گیرانه‌تر کرده‌ایم.»

به بیان دیگر، اطلاعات دسترسی‌ای که به مدیران امکان دسترسی گسترده به سامانه‌های Hugging Face را می‌دهد، اکنون با فاصله‌های زمانی کوتاه‌تری تغییر می‌کند؛ در نتیجه، اگر توکنی به سرقت برود، برای مدت کمتری قابل استفاده خواهد بود. 

بخش‌های دیگر اکوسیستم متن‌باز نیز با بده‌بستان‌های امنیتی مشابهی روبه‌رو هستند. GitHub، بزرگ‌ترین میزبان پروژه‌های متن‌باز در جهان، در حال مقابله با مهاجمانی است که با تزریق کد مخرب به پروژه‌ها می‌کوشند بدافزار را به‌سرعت گسترش دهند. این شرکت سخت‌گیری‌های امنیتی برای انتشار بسته‌ها در رجیستری npm را افزایش داده، توکن‌های احراز هویت قدیمی‌تر را باطل کرده و مدت اعتبار توکن‌های جدید را محدود کرده است. 

زک اشتایندلر، مهندس GitHub که مسئولیت امنیت زنجیره تأمین نرم‌افزار را بر عهده دارد، در ایمیلی به TechCrunch گفت هرچند اقدامات امنیتی ممکن است روندهای کاری جاافتاده را مختل کنند، پلتفرم‌ها می‌توانند بدون محدودکردن اساسی مشارکت کاربران، امنیت بیشتری پیدا کنند. 

اشتایندلر گفت: «موضوع کمتر به محدودکردن قابلیت‌ها مربوط است و بیشتر به رفع مشکلاتی برمی‌گردد که از ابتدا امنیت نداشتند.» او اشاره کرد که اسکریپت‌های npm install سال‌هاست وجود دارند، اما حمله‌های اخیر نشان داده‌اند که این اسکریپت‌ها تا چه اندازه می‌توانند خطرناک باشند. GitHub برای تدوین رویکردی امن‌تر با OpenJS همکاری کرد؛ سازمانی غیرانتفاعی که میزبان پروژه‌های مهم متن‌باز مبتنی بر JavaScript است.

به‌گفته اشتایندلر، همین منطق درباره نحوه تخصیص منابع تیم‌های امنیتی نیز صدق می‌کند: «امنیت یعنی با منابعی که در اختیار داریم، بیشترین تأثیر را بگذاریم. من ترجیح می‌دهم روی شناسایی رفتارهای مشکوک و توانایی مهار آن‌ها سرمایه‌گذاری کنم؛ اقداماتی که همه حساب‌ها و روش‌های دسترسی را پوشش می‌دهند. رفتار مشکوک، فارغ از اینکه چه کسی آن را انجام می‌دهد، مشکوک است.»