آخر هفته گذشته، پس از استعفای یکی از محققانش به دلیل نگرانی از احتمال منجر شدن هوش مصنوعی به انقراض بشریت، داریو آمودی، مدیرعامل Anthropic، درباره نیاز به سازمان‌های خارجی نوشت که «پایبندی به اقدامات و تعهدات ایمنی را تأیید کنند، حوادث را گزارش دهند و به ارزیابی هم‌راستایی نه فقط مدل‌های هوش مصنوعی تکمیل‌شده، بلکه خطوط لوله و فرآیندهای آموزشی کمک کنند.» مدیران اجرایی OpenAI، Google و SpaceXAI قبلاً گرد هم آمده‌اند حول محور طرح آمودی که به سرعت به ستون اصلی تلاش‌های نوظهور ایمنی هوش مصنوعی تبدیل شده است.

اما ممکن است یک راه‌حل ساده‌تر و مؤثرتر در معرض دید پنهان باشد. کارشناسان امنیت سایبری می‌گویند که آزمایشگاه‌ها باید بر اصول اولیه امنیت شبکه مانند لاگ‌ها و مجوزها تمرکز کنند، همان دفاع‌های سختگیرانه‌ای را که برای کاربران انسانی به کار می‌برند، اعمال کنند. شاید این موضوع به اندازه ممیزی شخص ثالث و کارهای هم‌راستایی‌سازی هیجان‌انگیز نباشد – اما ممکن است در نهایت مؤثرتر باشد.

«از نظر من، به نظر می‌رسد که آنها برون‌سپاری می‌کنند،» کیت موسوریس، مدیرعامل Luta Security، در مورد پیشنهاد آمودی به TechCrunch گفت. «گفتن اینکه [ممیزی شخص ثالث] راه‌حل است، از دیدگاه من یک گزاره عجیب است. این کار درست مثل این است که مایکروسافت به جای نوشتن یادداشت رایانش قابل اعتماد، می‌گفت بیایید توسعه را کند کنیم.»

این یادداشت که توسط بیل گیتس، مدیرعامل وقت مایکروسافت در سال ۲۰۰۲ نوشته شد، از کارمندانش خواست تا اطمینان حاصل کنند که نرم‌افزارشان قابل اعتماد و ایمن خواهد بود، پس از یک سری کرم‌های کامپیوتری که به طور گسترده منتشر شده بودند و سیستم‌های سازمانی نوپای آن زمان را تصرف کرده بودند. بخش هوش مصنوعی ممکن است در نقطه عطف مشابهی قرار داشته باشد، زیرا ارزش و ریسک فناوری جدید به طور فزاینده‌ای آشکار می‌شود.

در حالی که هم‌راستایی همچنان یک نگرانی مهم است، سایاش کاپور، محقق هوش مصنوعی که از سال آینده استاد دانشگاه UC Berkeley خواهد بود، استدلال می‌کند که «سرمایه‌گذاری‌های حاشیه‌ای در کنترل نسبت به سرمایه‌گذاری‌های در هم‌راستایی احتمال بیشتری دارد که مؤثر باشد. ما این حوادث را به عنوان نشان‌دهنده عدم تأکید بر کنترل هوش مصنوعی در داخل شرکت‌ها می‌بینیم، علیرغم وجود تکنیک‌های شناخته‌شده.»

حوادثی که باعث بروز این نگرانی‌ها شده‌اند، حول مدل‌های پیشرو می‌چرخند که از آنها خواسته می‌شود وظایف آموزشی، معمولاً ارزیابی‌های امنیت سایبری را کامل کنند، و سپس به اینترنت باز دسترسی پیدا کرده و به سیستم‌های شخص ثالث بسته نفوذ کنند تا این کار را انجام دهند. آنها معمولاً این کار را به دلیل محیط‌های «sandbox» با پیکربندی نامناسب انجام می‌دادند که قرار بود این عامل‌ها را در خود نگه دارند؛ به طرز طنزآمیزی، یکی از فرارهای Anthropic زمانی رخ داد که ارزیابان شخص ثالث درهای مناسب را نبستند.

«ما به عنوان یک حرفه می‌دانیم که چگونه دسترسی به اینترنت را مسدود کنیم،» آوری پنارون، مدیرعامل Tailscale، یک شرکت امنیتی، گفت. «اگر همه این [گزارش‌های] طولانی را بخوانید – 'وای، این یک حمله چندمرحله‌ای بسیار چشمگیر بود، فلان و بهمان.' ببینید، شما به آن دسترسی برای دانلود محتوا دادید. شما نباید این کار را جدا از اینترنت انجام می‌دادید.»

این یک مشکل است – اما مشکل بزرگ‌تر این است که آزمایشگاه‌های پیشرو از این فعالیت‌ها بی‌اطلاع بودند.

«آنچه واقعاً عمیق بود این بود که تمام کشف‌های آنچه آنها انجام می‌دادند یا به این دلیل رخ داد که یک قربانی چیزی دید، یا در برخی موارد دیگر ... این فعالیت شبکه بود و هیچکدام از آن‌ها در واقع از نظارت مستقیم بر هوش مصنوعی‌ها نبود،» موسوریس اشاره می‌کند.

در یک مورد، جایی که عامل‌های OpenAI یک انجمن ویکی آلمانی منسوخ را تصرف کردند تا در ارزیابی‌ها تقلب کنند، عامل‌ها هفته‌ها قبل از اینکه به نظر برسد کسی در شرکت متوجه شده باشد، فعال بودند. کارشناسان امنیتی که TechCrunch با آنها صحبت کرد گفتند که نظارت بی‌درنگ برای جلوگیری از فرارهای آینده کلیدی است، و هر جلسه عامل باید محدود به زمان باشد و منقضی شود.

شاپور نقیب‌زاده، مدیر اجرایی امنیتی سابق Google که اکنون رهبری استارت‌آپ QueryStory را بر عهده دارد، می‌گوید راه‌حل این است که «عامل را در یک جعبه قرار دهید و آن را به شدت از بیرون با نگاه به درون ابزارمند کنید و همه چیزهایی که از مرز عبور می‌کند را تماشا کنید. هر فراخوانی ابزار، هر فرآیند، هر اتصال شبکه، بدون استثنا. ... همان سوراخی که برای راحتی باز می‌گذارید، همان است که استفاده می‌شود. دور زدن دقیقاً از همان نوع استثنا عبور کرد. [در Google،] من آن فیلم را بارها با مهاجمان انسانی تماشا کردم، و این مدل‌ها حداقل به همان اندازه در پیدا کردن دری که نیمه باز گذاشته شده خوب هستند.»

OpenAI در آن مسیر حرکت کرده است و اعلام کرده که نظارت بر تمام استنتاج‌های استفاده‌کننده از ابزار توسط مدل Astra خود را آغاز کرده است، با «هزینه محاسباتی قابل توجه.» Anthropic نیز می‌گوید که رویه‌های امنیتی خود را سخت‌تر می‌کند، از جمله گسترش قابلیت مشاهده مدل‌هایش. هیچکدام از شرکت‌ها به سوالات TechCrunch درباره نحوه ردیابی و کنترل عامل‌های هوش مصنوعی پاسخ ندادند.

مشکلات دیگر استفاده از زیرساخت مشترک توسط عامل‌هاست که به آنها اجازه می‌داد در طول حمله به Hugging Face ارتباط برقرار کنند. سایمون ویلیسون، توسعه‌دهنده نرم‌افزار که به طور مشترک Django Web Framework را ایجاد کرد، درباره چیزی نوشته که آن را «سه‌گانه مرگبار» می‌نامد – زمانی که عامل‌ها همزمان به ورودی غیرقابل اعتماد، اینترنت و اطلاعات خصوصی دسترسی داشته باشند، این دستورالعملی برای فاجعه است.

«ترفند این است که می‌توانید هر دو پایه از سه‌گانه را انتخاب کنید و یک عامل می‌تواند هر دو تا را داشته باشد،» پنارون گفت. «اگر به هر سه نیاز دارید، باید آن را حداقل بین دو عامل تقسیم کنید ... و شاید آنها مجاز باشند از طریق یک کانال کنترل‌شده با یکدیگر صحبت کنند.»

کارشناسانی که TechCrunch با آنها صحبت کرد درک می‌کنند که پرسنل امنیتی آزمایشگاه‌های پیشرو کارهای دشواری دارند. نقیب‌زاده اشاره می‌کند که هر بازیگر دولتی روی زمین در تلاش است وزن مدل‌های آنها را بدزدد و حملات تقطیر روی APIهای آنها انجام دهد، علاوه بر وظایف امنیتی روزمره هر شرکت بزرگ دیجیتال.

«زیرساخت تحقیقاتی به سختی می‌تواند به بالای این اولویت‌ها برسد، اگرچه اکنون باید این موضوع در حال تغییر باشد،» او گفت. «عمومی کردن حوادث امنیتی واقعاً به هم‌راستا کردن همه در داخل شرکت به سمت هدف بهبود کمک می‌کند.»

این نکته‌ای است که موسوریس بر آن تأکید می‌کند: در حال حاضر، هیچ رویه رسمی برای اطلاع‌رسانی به قربانیان وجود ندارد زمانی که آزمایشگاه‌ها کشف می‌کنند عامل‌هایشان به سیستم‌های شخص ثالث نفوذ کرده‌اند، و احتمال دارد حوادث دیگری نیز رخ داده باشد که به طور گسترده منتشر نشده‌اند. در حالی که او نگران است که قوانینی که مستقیماً مدل‌ها را تنظیم می‌کنند ممکن است پیامدهای ناخواسته داشته باشند، اطلاع‌رسانی اجباری ایده‌ای است که او معتقد است سیاست‌گذاران باید دنبال کنند.

و در حالی که مشخص است بهترین شیوه‌های امنیتی رعایت نمی‌شوند، کارشناسان می‌گویند که آزمایشگاه‌ها کارهایی انجام می‌دهند که قبلاً هیچکس انجام نداده است – «آنها مرتبه‌های بزرگی بیشتر از یک سازمان معمولی انجام می‌دهند،» زک کورمن، مدیرعامل شرکت امنیت سایبری Embrodiery، به TechCrunch گفت.

و در حالی که هم‌راستایی ممکن است مکان مناسبی برای شروع نباشد، نمی‌توان آن را نادیده گرفت. کارشناسان امنیت سایبری به این نتیجه رسیده‌اند که مجبورند از عامل‌های هوش مصنوعی برای نظارت بر عامل‌های دیگر استفاده کنند اگر بخواهند شانسی برای ردیابی رفتار آنها در زمان واقعی داشته باشند، سناریویی که در آن پتانسیل فریب سر زشت خود را نشان می‌دهد. «شما گرفتار استفاده از هوش مصنوعی برای مقابله با این موضوع هستید، حتی اگر هوش مصنوعی در حال حاضر لزوماً ایمن نیست،» موسوریس گفت.

کار فقط سخت‌تر خواهد شد. موسوریس می‌گوید همه کارهایی که عامل‌ها اکنون انجام می‌دهند، «آنها را با سر و صدا انجام می‌دهند» – آنها در انجمن‌های عمومی پست می‌گذارند، و زنجیره فکر و سایر ردگیری‌های استدلال آنها به زبان انگلیسی است. او می‌گوید: «هنوز برای انسان قابل خواندن است، پس تا زمانی که این وضعیت ادامه دارد از آن بهره ببرید، زیرا تا ابد ادامه نخواهد داشت.»

گزارش تکمیلی از آدیتیا مهتا