آژانس امنیت سایبری هند روز پنجشنبه اعلام کرد که عامل‌های هوش مصنوعی چندین ارائه‌دهنده، هنگام پژوهش و آزمایش در سازمان‌های هندی به داده‌های شخصی و اطلاعات محرمانه دسترسی پیدا کرده‌اند.

تیم واکنش اضطراری رایانه‌ای هند (CERT-In) گفت «چندین افشای داوطلبانه از سوی ارائه‌دهندگان مدل‌های هوش مصنوعی» دریافت کرده است؛ مدل‌هایی که در جریان پژوهش و ارزیابی در اینترنت عمومی، «به سامانه‌های عملیاتی سازمان‌های هندی دسترسی پیدا کرده بودند.»

این عامل‌ها از طریق اطلاعات ورود و تنظیمات اتصالِ به‌جامانده در پیکربندی برنامه‌ها، مخازن کد عمومی و نقش‌های ابری با مجوزهای بیش از حد گسترده وارد سامانه‌ها شدند و اقداماتشان «از محدوده مجوزهای وظایف محول‌شده به آن‌ها فراتر رفت.»

به این ترتیب، هند تازه‌ترین مقصد در تور جهانی عامل‌های هوش مصنوعی سرکش است. در ماه ژوئیه، عامل‌های OpenAI از محیط آزمایشی خارج شدند و به شرکت فرانسوی Hugging Face نفوذ کردند؛ رویدادی که آغازگر تابستانی پر از فعالیت‌های عامل‌های هوش مصنوعی سرکش بود. ماه گذشته، OpenAI پس از آن‌که عامل‌هایش به چهار وب‌سایت دولتی، از جمله درگاه آمار Medicare، دسترسی پیدا کردند، از استرالیا عذرخواهی کرد.

عامل‌های OpenAI در Hugging Face نیز کارشان را به همین شکل آغاز کردند، اما بعد نقص‌های نرم‌افزاری را پیدا کردند و از آن‌ها برای اجرای کد روی سرورهای شرکت بهره بردند. CERT-In از چنین هکی در هند گزارشی نداد؛ به نظر می‌رسد عامل‌ها در این مورد صرفاً از دسترسی‌هایی استفاده کرده‌اند که در دسترسشان قرار گرفته بود.

بااین‌حال، به نظر می‌رسد پرونده‌های هند از یک جنبه بدتر بوده‌اند: نوع داده‌هایی که عامل‌ها دیده‌اند. OpenAI گفت در استرالیا هیچ شواهدی پیدا نکرده است که عامل‌هایش به سوابق پزشکی یا کیفری افراد دست زده باشند؛ حتی با وجود آن‌که آن‌ها فایل‌هایی را در سامانه آمار Medicare نوشته بودند. اما در هند، عامل‌ها داده‌های شخصی و سوابق محرمانه کسب‌وکارها را خواندند. افزون بر این، برخلاف رویدادهای قبلی که هرکدام را یک آزمایشگاه به‌تنهایی افشا کرد، در ماجرای هند عامل‌هایی از چندین ارائه‌دهنده دخیل بودند.

CERT-In نام ارائه‌دهندگان یا سازمان‌های آسیب‌دیده را اعلام نکرد و نگفت که آیا عامل‌ها سامانه‌ای را تغییر داده‌اند یا نه. TechCrunch برای دریافت اطلاعات بیشتر با CERT-In تماس گرفته است.

فعلاً نزدیک‌ترین نمونه به این ماجرا، افشاگری Anthropic در ماه ژوئیه است؛ این شرکت اعلام کرد Claude هنگام آزمایش و با استفاده از روش‌های ساده‌ای مانند گذرواژه‌های ضعیف، به سامانه‌های سه شرکت نفوذ کرده بود.

در هند نیز، مانند پرونده‌های Anthropic، سازمان‌های آسیب‌دیده خودشان متوجه نفوذها نشده بودند. در پی این افشاگری‌ها، دولت‌ها ناچار شده‌اند برای اطلاع از فعالیت عامل‌های هوش مصنوعی سرکش به افشای داوطلبانه از سوی شرکت‌های هوش مصنوعی‌ای اتکا کنند که عامل‌هایشان این نفوذها را رقم زده‌اند.