Max Justicz، مدیر ارشد فناوری و هم‌بنیان‌گذار استارتاپ Charge Robotics، با استفاده از یک مدل OpenAI یک آسیب‌پذیری شدید را پیدا کرد که در صورت بهره‌برداری از آن، هکرها می‌توانستند کنترل سرورهای مجهز به Ubuntu را در دست بگیرند؛ سیستم‌عاملی متن‌باز و مبتنی بر Linux که به‌طور گسترده استفاده می‌شود.

Justicz که به‌عنوان یک علاقه‌مند، به امنیت سایبری توجه دارد و پیش‌تر هم آسیب‌پذیری‌ای را در همین پایگاه کد پیدا کرده بود، به TechCrunch گفت این مشکل را با GPT 5.6 Sol پیدا کرده است؛ مدلی که در ماه ژوئیه از طریق Daybreak Blue، برنامه‌ای که دسترسی مدافعان امنیت سایبری را به مدل‌های پیشرفته و قدرتمند فراهم می‌کند، عرضه شد.

Justicz گفت: «من ChatGPT را مستقیماً سراغ همان مجموعه کد بردم و گفتم: «قبلاً این باگ را پیدا کرده‌ام و چند سال پیش برطرف شده؛ لطفاً باگ‌هایی به همان اندازه بد یا بدتر پیدا کن.» دو ساعت بعد، این را تحویلم داد. پیدا کردنش برای انسان بسیار پیچیده و دشوار است، اما کار می‌کند!»

او این مشکل را به Debian Project گزارش کرد؛ پروژه‌ای که نگهداری نرم‌افزار موردبحث را بر عهده دارد و برای رفع آسیب‌پذیری، وصله‌ای منتشر کرد. تاکنون شواهدی از بهره‌برداری از این آسیب‌پذیری به دست نیامده است. بااین‌حال، آسانی پیدا کردن آن نشان می‌دهد در زمینه سوءاستفاده‌های احتمالی‌ای که حتی هکرهای تازه‌کار نیز می‌توانند با کمک مدل‌های هوش مصنوعی از آن‌ها بهره ببرند، فقط نوک کوه یخ را دیده‌ایم.

Justicz در رشته‌پستی در شبکه‌های اجتماعی که در آن از یافته‌اش گفت، نوشت: «فقط می‌توانم تصور کنم که کسی با زمان بیشتر و دسترسی به مدل‌هایی که محدودیت‌های کمتری دارند، چه کارهایی می‌تواند بکند. باید انتظار داشته باشیم که طی چند ماه آینده، باگ‌های بسیار عجیب‌وغریبی پیدا و مورد سوءاستفاده قرار بگیرند. شاید برای بیشتر افراد اینجا بدیهی باشد، اما در حال حاضر مزیت بسیار بزرگی در این است که کد یا باینری‌ای را که هنوز کسی بررسی نکرده، در اختیار یک مدل هوش مصنوعی قدرتمند بگذارید.»

به نظر می‌رسد OpenAI هم متوجه این موضوع شده است. این غول هوش مصنوعی امروز اعلام کرد که مدل جدیدی با تمرکز بر امنیت سایبری، با نام ChatGPT Cyber، در اختیار کاربران رده‌بالای برنامه امنیت سایبری Daybreak Red قرار می‌گیرد؛ برنامه‌ای که ابزارهایی برای کشف و توسعه آسیب‌پذیری‌ها در اختیار پژوهشگران امنیت سایبری تهاجمی می‌گذارد. OpenAI دیروز گفت از همین مدل برای اسکن و آماده‌سازی وصله‌هایی جهت رفع آسیب‌پذیری‌های هسته Linux استفاده شده و ۹۴۸ مشکل احتمالی پیدا شده است. OpenAI همچنین ۸۱ آسیب‌پذیری «جدید» در مرورگر وب Firefox پیدا کرد.

این آزمایشگاه پیشرو در بیانیه‌ای گفت: «هدف ما گسترش چشمگیر Daybreak و فراهم‌کردن دسترسی سازمان‌هایی با هر اندازه، پژوهشگران مستقل و نگه‌دارندگان نرم‌افزارهای متن‌باز به پژوهش‌های پیشرفته امنیتی است.»

OpenAI تأکید کرده است که افرادی که از زیرساخت‌های دیجیتال محافظت می‌کنند، فرصت محدودی برای اقدام دارند؛ پیش از آنکه مدل‌های هوش مصنوعی در هک‌کردن ماهرتر و دسترسی به آن‌ها آسان‌تر شود. بااین‌حال، مدافعان امنیت سایبری ممکن است احساس کنند آزمایشگاه‌های پیشرو انبوهی از کارهای جدید را بر دوش آن‌ها گذاشته‌اند؛ کارهایی که از منابعشان فراتر می‌رود. Justicz گفت شخصاً حدود ۵۰۰۰ دلار برای اشتراک‌ها و توکن‌ها هزینه کرده تا چندین مورد سوءاستفاده‌پذیری را پیدا کند.

OpenAI علاوه بر فراهم‌کردن دسترسی به مدل‌های Daybreak، از طرحی یک‌میلیارددلاری نیز خبر داده است که از متخصصان امنیت سایبری حاضر در این برنامه حمایت می‌کند؛ افرادی که روی زیرساخت‌های حیاتی مانند شبکه برق یا سامانه‌های آب کار می‌کنند.

برنامه Daybreak منتقدانی هم دارد. Justicz می‌گوید به نظر می‌رسد این آزمایشگاه پیشرو اخیراً Daybreak Blue را «تضعیف» کرده تا در یافتن آسیب‌پذیری‌ها کمتر کارآمد باشد. از یک سو، محدودکردن دسترسی بازیگران مخرب احتمالی می‌تواند مفید باشد؛ Justicz گفت برای پیوستن به برنامه، فقط عکس گواهینامه رانندگی‌اش را بارگذاری کرده است. از سوی دیگر، متخصصان امنیت سایبری می‌گویند اگر نتوانند از فناوری‌های پیشرفته استفاده کنند، درحالی‌که بازیگران مخرب می‌توانند مدل‌های با وزن‌های باز و دارای محافظ‌های حذف‌شده را به کار بگیرند، دستشان بسته خواهد بود.

بااین‌حال، OpenAI می‌گوید «هزاران» متخصص امنیت سایبری در برنامه Daybreak شرکت می‌کنند؛ رقمی که بسیار کمتر از شمار بالقوه هکرهاست.

مشخص نیست آزمایشگاه‌های پیشرو منابع کافی برای رسیدگی به این مسئله اختصاص می‌دهند یا نه. Eric Wallace، پژوهشگر کادر فنی OpenAI، گفت: «اکنون بخش چشمگیری از توان پردازشی پیشرفته‌مان را صرف کشف و رفع آسیب‌پذیری‌ها در پایگاه‌کدهای متن‌باز می‌کنیم و این کار را کاملاً رایگان انجام می‌دهیم.»

اما جست‌وجو برای یافتن باگ Linux یک‌میلیون‌ودویست‌هزار دلار هزینه داشت؛ رقمی که به‌مراتب کمتر از هزینه تقریبی شش‌میلیون‌دلاری توکن‌هایی است که این شرکت برای یافتن راه‌حلی احتمالی برای مسئله‌ای مشهور در دینامیک سیالات صرف کرد.

اگر برای وصله‌کردن زیرساخت دیجیتالی‌ای که جهان به آن وابسته است فرصت محدودی وجود دارد، شاید لازم باشد با فوریت بیشتری اقدام کرد.