بازگشت به اخبار
TechCrunch

محققان با استفاده از Claude شرکت Anthropic به سیستم‌های OpenAI نفوذ کردند

جمعه، ۲۷ شهریور ۱۴۰۵۱۷:۳۸Aditya Mehta
Researchers used Anthropic’s Claude to hack into OpenAI

محققان امنیتی با استفاده از Claude شرکت Anthropic، موفق به بهره‌برداری از آسیب‌پذیری‌های موجود در سیستم‌های OpenAI شدند. آنها پیش از گزارش این نقص‌ها، حساب‌های کاربری کارکنان را تصاحب کرده و به یک مخزن کد داخلی دسترسی پیدا کردند.

```html

در چرخشی غیرمنتظره که وضعیت تازه و عجیب امنیت هوش مصنوعی را به تصویر میکشد، محققان امنیتی مستقل با استفاده از Claude شرکت Anthropic به OpenAI نفوذ کردند و شکافهایی را در دفاعیات سازنده ChatGPT آشکار کردند. وال استریت ژورنال روز پنجشنبه شب این خبر را گزارش کرد.

یک تیم امنیتی سه‌نفره از استارتاپ Hacktron AI این حمله را در چارچوب برنامه پاداش باگ OpenAI انجام داد. Hacktron یافته‌های خود را به OpenAI گزارش کرد و این شرکت مبلغ ۶٬۵۰۰ دلار به این استارتاپ جایزه داد. این تیم موفق شد دو آسیب‌پذیری حیاتی را به یکدیگر متصل کند و به چندین حساب ChatGPT کارکنان OpenAI دسترسی پیدا کند که از آن طریق وارد نرم‌افزارهای این شرکت شد.

OpenAI اعلام کرده است که مشکلات کشف‌شده توسط Hacktron را برطرف کرده است. این اتفاق در حالی رخ می‌دهد که شرکت‌های پیشرو هوش مصنوعی تحت فشار فزاینده‌ای در زمینه ایمنی قرار دارند.

این حادثه چند هفته پس از آن رخ داد که عامل‌های هوش مصنوعی خود OpenAI در جریان یک ارزیابی امنیت سایبری از محدوده تعیین‌شده خارج شدند و به Hugging Face حمله کردند؛ رویدادی که نشان می‌دهد مدل‌های هوش مصنوعی تا چه اندازه در تصمیم‌گیری مستقل توانمند شده‌اند. این حادثه همچنین برجسته می‌کند که چگونه فناوری آماده می‌تواند برای یافتن آسیب‌پذیری‌ها در زیرساخت حتی پیشرفته‌ترین شرکت‌ها مورد استفاده قرار گیرد.

مت فردریکسون، مدیرعامل شرکت امنیت هوش مصنوعی Gray Swan، به TechCrunch گفت: «با ۲۰۰ دلار در ماه، هر کسی می‌تواند از این ابزارها استفاده کند و به شرکتی مانند OpenAI نفوذ کند. اگر این اتفاق برای آن‌ها بیفتد — و من فکر نمی‌کنم آن‌ها اخیراً در رعایت بهداشت سایبری کوتاهی کرده باشند — ممکن است برای هر کسی رخ دهد.»

یا همان‌طور که یکی از کارشناسان هوش مصنوعی

اخبار مرتبط از TechCrunch AI

The unfolding Jensen Huang scandal: a timeline

خط زمانیِ رسواییِ فزایندهٔ جنسن هوانگ

این ماجرا می‌تواند برای امنیت ملی پیامدهایی داشته باشد؛ آن هم در شرایطی که آمریکا و چین برای توسعه پیشرفته‌ترین زیرساخت هوش مصنوعی با یکدیگر رقابت می‌کنند.

TechCrunch۲۱ آبان۰۳:۲۹