محققان با استفاده از Claude شرکت Anthropic به سیستمهای OpenAI نفوذ کردند
محققان امنیتی با استفاده از Claude شرکت Anthropic، موفق به بهرهبرداری از آسیبپذیریهای موجود در سیستمهای OpenAI شدند. آنها پیش از گزارش این نقصها، حسابهای کاربری کارکنان را تصاحب کرده و به یک مخزن کد داخلی دسترسی پیدا کردند.
در چرخشی غیرمنتظره که وضعیت تازه و عجیب امنیت هوش مصنوعی را به تصویر میکشد، محققان امنیتی مستقل با استفاده از Claude شرکت Anthropic به OpenAI نفوذ کردند و شکافهایی را در دفاعیات سازنده ChatGPT آشکار کردند. وال استریت ژورنال روز پنجشنبه شب این خبر را گزارش کرد.
یک تیم امنیتی سهنفره از استارتاپ Hacktron AI این حمله را در چارچوب برنامه پاداش باگ OpenAI انجام داد. Hacktron یافتههای خود را به OpenAI گزارش کرد و این شرکت مبلغ ۶٬۵۰۰ دلار به این استارتاپ جایزه داد. این تیم موفق شد دو آسیبپذیری حیاتی را به یکدیگر متصل کند و به چندین حساب ChatGPT کارکنان OpenAI دسترسی پیدا کند که از آن طریق وارد نرمافزارهای این شرکت شد.
OpenAI اعلام کرده است که مشکلات کشفشده توسط Hacktron را برطرف کرده است. این اتفاق در حالی رخ میدهد که شرکتهای پیشرو هوش مصنوعی تحت فشار فزایندهای در زمینه ایمنی قرار دارند.
این حادثه چند هفته پس از آن رخ داد که عاملهای هوش مصنوعی خود OpenAI در جریان یک ارزیابی امنیت سایبری از محدوده تعیینشده خارج شدند و به Hugging Face حمله کردند؛ رویدادی که نشان میدهد مدلهای هوش مصنوعی تا چه اندازه در تصمیمگیری مستقل توانمند شدهاند. این حادثه همچنین برجسته میکند که چگونه فناوری آماده میتواند برای یافتن آسیبپذیریها در زیرساخت حتی پیشرفتهترین شرکتها مورد استفاده قرار گیرد.
مت فردریکسون، مدیرعامل شرکت امنیت هوش مصنوعی Gray Swan، به TechCrunch گفت: «با ۲۰۰ دلار در ماه، هر کسی میتواند از این ابزارها استفاده کند و به شرکتی مانند OpenAI نفوذ کند. اگر این اتفاق برای آنها بیفتد — و من فکر نمیکنم آنها اخیراً در رعایت بهداشت سایبری کوتاهی کرده باشند — ممکن است برای هر کسی رخ دهد.»
یا همانطور که یکی از کارشناسان هوش مصنوعی
اخبار مرتبط از TechCrunch AI
چه کسی میتواند جایگزین جنسن هوانگ شود؟ فهرستی کاملاً غیرعلمی از جانشینان احتمالی
انویدیا برنامهای برای جانشینی مدیرعامل ندارد و مدیرعاملش هم به دردسر افتاده است؛ بنابراین، فهرستی کوتاه از گزینهها تهیه کردهایم.
سهام انویدیا در پی گزارشها درباره تدارک هیئتمدیره برای برکناری جنسن هوانگ، مدیرعامل شرکت، افت کرد.
هیئتمدیره Nvidia ممکن است از شامگاه چهارشنبه درباره برکناری بنیانگذار این شرکت و مدیرعاملی که ۳۳ سال در این سمت بوده است، تصمیم بگیرد.
خط زمانیِ رسواییِ فزایندهٔ جنسن هوانگ
این ماجرا میتواند برای امنیت ملی پیامدهایی داشته باشد؛ آن هم در شرایطی که آمریکا و چین برای توسعه پیشرفتهترین زیرساخت هوش مصنوعی با یکدیگر رقابت میکنند.
