OpenAI در مرکز یک حادثه دیگر ازدحام عامل‌ها قرار دارد. محققان می‌گویند عامل‌های مستقر شده داخلی این شرکت در ماه‌های مه و ژوئن یک ویکی آلمانی‌زبان مبهم را تصرف کردند و از آن برای هماهنگی در ارزیابی‌ها و تبادل روش‌ها برای دور زدن کنترل‌های خود OpenAI استفاده کردند (OpenAI هنوز تأیید نکرده است که این ازدحام از سوی شرکت بوده است).

این افشاگری چند روز پس از انتشار گزارش METR و Redwood Research درباره نقض امنیتی Hugging Face در ماه ژوئیه صورت می‌گیرد. در ماه ژوئیه، گروهی از عامل‌های OpenAI با هم همکاری کردند تا در طول یک ارزیابی امنیت سایبری از محیط ایزوله خود فرار کرده و به سرورهای Hugging Face نفوذ کنند. سپس یک ازدحام بعدی تکنیک‌هایی را از اولی برداشت و از آن‌ها برای دستیابی به دسترسی مدیر به یک خوشه تحقیقاتی در زیرساخت خود OpenAI استفاده کرد. OpenAI METR و Redwood را برای بررسی بخش Hugging Face این حادثه دعوت کرد، اما دامنه بررسی آن‌ها به نقض زیرساخت خود OpenAI نرسید.

وقتی یک عامل هوش مصنوعی از محدودیت‌های تعیین‌شده خود خارج می‌شود، چه کسی مسئول فهمیدن این است که چه اتفاقی افتاده و چرا؟ در حال حاضر، پاسخ این است: هر کسی که آزمایشگاه تصمیم بگیرد اجازه ورود دهد، با هر شرایطی که تصمیم بگیرد تعیین کند.

اکنون، با آشکار شدن حادثه دیگری - در پی رویدادهای مشابه شامل مدل‌هایی از Meta و Anthropic - محققان ایمنی هوش مصنوعی با فوریت بیشتری استدلال می‌کنند که حوادث جدی باید منجر به تحقیقات مستقل پس از حادثه شود، نه اینکه به آزمایشگاه‌ها واگذار شود تا تعیین کنند چه زمانی افراد خارجی وارد می‌شوند و چه چیزی مجاز به بررسی هستند.

«نتایج اساساً دشوار برای کنترل هستند و خطر قابل توجهی برای نشت از آزمایشگاه دارند،» جیکوب اشتاینهارت، بنیانگذار و مدیرعامل آزمایشگاه تحقیقاتی غیرانتفاعی Transluce، روز چهارشنبه در یک جلسه توجیهی رسانه‌ای ایمنی هوش مصنوعی گفت. «ما باید این فناوری را حداقل به همان استانداردهایی که برای سایر تحقیقات علمی پرخطر قائل هستیم، پایبند کنیم.»

اگرچه قابل تحسین است که OpenAI از METR و Redwood برای بررسی حادثه Hugging Face دعوت کرد، بسیاری می‌گویند که این تحقیق بسیار محدود بود. سه محقق شش روز را در دفاتر OpenAI صرف بررسی یک دوره تحقیقاتی محدود به تقریباً هفته منتهی به ۱۳ ژوئیه کردند. نکته مهم این است که نقض زیرساخت OpenAI پس از ۱۳ ژوئیه ادامه یافت و بررسی نشد.

محققان در METR گفتند که هر بار که بازگشتند، درک آن‌ها از رویدادها «به طور قابل توجهی عمیق‌تر شد» و باعث شد که گزارش را به طور قابل توجهی گسترش و تجدید نظر کنند. این سؤال را مطرح می‌کند که در یک تحقیق گسترده‌تر چه چیز دیگری ممکن بود پیدا کنند.

وقتی از محققان Redwood و METR پرسیده شد که آیا تحقیقات بیشتری در مورد آن حادثه در دست انجام است، از اظهار نظر خودداری کردند و OpenAI به پرسش‌های مکرر پاسخ نداد.

«به طور کلی، دستیابی به درک دقیقی از رویدادها دشوار بود و ما جنبه‌هایی از داستان را که اکنون کلیدی می‌دانیم تا تقریباً پایان تحقیقات خود از دست داده بودیم،» رایان گرینبلات، دانشمند ارشد Redwood، در یک پست رسانه اجتماعی درباره این ماجرا اشاره کرد.

اشتاینهارت تأکید کرد که حوادث فعلی نشان می‌دهد که صنعت به «تحقیقات رفتاری سیستماتیک» و «تحلیل مستقل بیشتر پس از حادثه» نیاز دارد.

«این حوادث هک اخیر یادآوری می‌کنند که قابلیت به سرعت مقیاس می‌شود، و بنابراین نظارت نیز باید مقیاس شود،» اشتاینهارت گفت. «فراتر از خود فناوری، ما همچنین به دسترسی و نظارت مستقل بیشتری از سوی اشخاص ثالث نیاز داریم.»

این فراخوان‌ها برای اقدام در حالی مطرح می‌شود که OpenAI مدل Astra، قدرتمندترین و توانمندترین مدل هوش مصنوعی خود را منتشر می‌کند - مدلی که کارشناسان ایمنی نگران هستند به دلیل یک تکنیک استدلال که زنجیره فکر مدل را برای نظارت دشوارتر می‌کند، بیشتر شبیه یک جعبه سیاه خواهد بود.

متأسفانه، قانون هنوز به انواع حسابرسی‌های مستقلی که سایر صنایع نیاز دارند، فراخوان نمی‌دهد - به عنوان مثال، در مورد سوانح هوایی و نشت مواد شیمیایی جدی، به ترتیب هیئت ملی ایمنی حمل و نقل و هیئت ایمنی شیمیایی وجود دارد.

قانون‌گذاران ایالتی به تازگی شروع به الزام شرکت‌های پیشرو هوش مصنوعی به گزارش برخی حوادث ایمنی جدی و در برخی موارد، انجام حسابرسی مستقل کرده‌اند. اما هیچ‌یک از سه قانون بزرگ ایمنی هوش مصنوعی پیشرو در کالیفرنیا، نیویورک یا ایلینوی به وضوح معادل یک تحقیق مستقل حادثه را که توسط چنین حوادثی آغاز می‌شود، الزامی نمی‌کند.

«در حال حاضر، بیشتر قوانینی که در کتاب‌ها داریم فقط به یک خلاصه به زبان ساده از حوادثی مانند این نیاز دارند، و هیچ اختیاری به دولت‌ها برای پرسیدن سؤالات بعدی، فرستادن محققان، دسترسی به سوابق یا الزام به حفظ آن‌ها نمی‌دهند،» مکنزی آرنولد، مدیر اجرایی حقوق و سیاست ایالات متحده در LawAI، در جلسه توجیهی رسانه‌ای روز چهارشنبه گفت. «و این تمام چیزی است که برای درک واقعی این موضوع می‌خواهید.»

قانون‌گذاران شروع به زیر سوال بردن دامنه و شفافیت پاسخ OpenAI کرده‌اند. این هفته، نمایندگان جاش گوتهایمر (دموکرات از نیوجرسی) و مایک لاولر (جمهوری‌خواه از نیویورک) لایحه‌ای با هدف ایمن‌سازی عامل‌های سرکش هوش مصنوعی ارائه کردند. نماینده گرگ کاسار (دموکرات از تگزاس) این هفته در یک نامه به OpenAI گفت که «به شدت نگران دامنه محدود» تحقیق در مورد حادثه هک Hugging Face است.