مشکل دسترسی‌دادن به ابزارهای هوش مصنوعی به همه افراد یک شرکت این است که آن‌ها به شیوه‌هایی غیرمنتظره از این ابزارها استفاده می‌کنند. همین واقعیت، پیوسته این نگرانی را دامن می‌زند که شرکت‌ها حالا حفره‌های امنیتی بزرگی در سیستم‌هایشان دارند یا دست‌کم به‌زودی با چنین وضعیتی روبه‌رو خواهند شد.

شاهر بهات، مدیرعامل و هم‌بنیان‌گذار Pluto Security، برای نشان‌دادن سرعت پذیرش ابزارهای هوش مصنوعی در شرکت‌ها که موجب شکل‌گیری این نگرانی‌ها شده است، می‌گوید یک ابزار هوش مصنوعی تازه‌معرفی‌شده ممکن است تنها دو ساعت پس از انتشار، در محیط شرکت‌ها ظاهر شود. او به TechCrunch گفت حدود ۶۰ درصد از ریسک‌هایی که شرکتش در میان مشتریانش شناسایی می‌کند، مربوط به ابزارهایی است که افراد غیرتوسعه‌دهنده با vibe coding ساخته‌اند. واحدهای مالی بزرگ‌ترین منبع این ریسک‌ها هستند و پس از آن‌ها، تیم‌های بازاریابی و حقوقی قرار دارند. به گفته او، توسعه‌دهندگان در رتبه چهارم هستند.

ظاهراً ابزارهای استارتاپ او اپلیکیشنی را پیدا کرده‌اند که یکی از کارکنان بخش مالی یک شرکت حاضر در فهرست Fortune 500 با vibe coding ساخته بود تا اطلاعات مشتریان و ریزش آن‌ها را مدیریت کند؛ اما این اپلیکیشن در دسترس عموم اینترنت قرار داشت.

Pluto که به‌تازگی از حالت پنهان‌کاری خارج شده و ۴۲ میلیون دلار سرمایه جذب کرده است، تازه‌ترین نمونه از نسل جدید گروهی از استارتاپ‌های امنیتی است که برای کمک به شرکت‌ها در رفع این نگرانی‌ها شکاف‌ها، با سرعت سر برآورده‌اند. همه آن‌ها نیز با این باور که استفاده از نرم‌افزارهای امنیتی موجود برای پایش و کنترل ابزارهای هوش مصنوعی، اتصال‌دهنده‌ها و نحوه استفاده از آن‌ها، مثل استفاده از وسیله‌ای نامتناسب برای کاری مشخص است، سرمایه‌های کلانی از سرمایه‌گذاران جذب می‌کنند.

بهات به TechCrunch گفت استارتاپش فروش را از آوریل آغاز کرده و تاکنون مشتریانی برای فناوری خود پیدا کرده است؛ فناوری‌ای که به شرکت‌ها کمک می‌کند از نحوه استفاده کارکنانشان از ابزارهای هوش مصنوعی آگاهی و درک بهتری پیدا کنند، ریسک‌ها را تحلیل کنند و بر این استفاده نظارت و آن را کنترل کنند. او گفت Pluto از آوریل فروش را آغاز کرده و درآمد تکرارشونده سالانه‌اش از ۲ میلیون دلار فراتر رفته است. این شرکت بیش از ۳۰ مشتری سازمانی دارد که Oscar Health، Workato، Sixt و AlphaSense از جمله آن‌ها هستند.

سرمایه جذب‌شده Pluto شامل یک دور سرمایه‌گذاری اولیه ۸.۵ میلیون دلاری به رهبری TLV Partners است که بنیان‌گذاران شرکت امنیت سایبری Armis نیز در آن سرمایه‌گذاری کردند. این شرکت اخیراً یک دور سرمایه‌گذاری سری A به ارزش ۳۴ میلیون دلار به رهبری Jump Capital جذب کرد که Skinos (شرکت سرمایه‌گذاری شلومو کرامر، هم‌بنیان‌گذار Check Point)، Ansa Capital و چند سرمایه‌گذار فرشته دیگر نیز در آن مشارکت داشتند.

این میزان استقبال برای استارتاپی نوپا قابل‌توجه است، هرچند در عصر هوش مصنوعی بی‌سابقه نیست. اما شاید دلیلش این باشد که دامنه این ریسک‌ها فقط به شرکت‌های بزرگ فناوری که پیشتاز پذیرش هوش مصنوعی هستند محدود نمی‌شود.

وقتی از بهات پرسیدم بزرگ‌ترین ریسک‌ها را کجا می‌بیند، گفت این مسائل بسته به طرز فکر مدیر ارشد امنیت اطلاعات (CISO) و میزان تمایل سازمان به پذیرش هوش مصنوعی، تفاوت دارند؛ اما در هر صورت می‌توان ریسک‌هایی پیدا کرد.

او گفت: «به‌طور کلی، می‌توانم بگویم در هیچ‌یک از پروژه‌های اثبات مفهوم (POC) که واردشان شدیم، چیزی مخرب پیدا نکرده باشیم. چه بسته‌های افزونه باشند و چه مهارت‌ها؛ در برخی از آن‌ها، هنگام اجرای POC حمله‌هایی فعال و در جریان بود. از نظر محصول، این برای من فوق‌العاده است. اما برای شرکت‌ها چندان خوب نیست.»

فرض اصلی Pluto این است که ایمن‌سازی چنین محیط‌هایی مستلزم آن است که ابزارهای امنیتی، علاوه بر پیگیری این‌که کارکنان چه چیزی می‌سازند و چگونه آن را پیاده‌سازی می‌کنند، بر آنچه عامل‌های هوش مصنوعی در لحظه انجام می‌دهند نیز نظارت داشته باشند.

بهات گفت: «از رفتار کاربران به سمت رفتار عامل‌ها حرکت می‌کنیم.»

در راستای این چشم‌انداز، نرم‌افزار این استارتاپ ابزارهای هوش مصنوعی مورد استفاده کارکنان، مهارت‌ها، افزونه‌ها، سرورهای MCP و دیگر اجزایی را که این ابزارها به آن‌ها متکی هستند، و همچنین اپلیکیشن‌ها و عامل‌هایی را که ساخته می‌شوند، پایش می‌کند. این شرکت می‌گوید می‌تواند اجزای پرریسک را شناسایی کند، فعالیت‌های بالقوه خطرناک عامل‌ها را تشخیص دهد و سیاست‌های امنیتی را اجرا کند، بی‌آنکه مانع استفاده کارکنان از ابزارهای هوش مصنوعی یا ساخت آن‌ها شود.

برای انجام همه این کارها، Pluto به سامانه‌های امنیت نقاط پایانی و مدیریت دستگاه متصل می‌شود و می‌تواند از طریق آن‌ها یا مستقیماً روی دستگاه‌ها، حسگرهای خود را مستقر کند. این شرکت اطلاعاتی از جمله promptها، فرمان‌ها، فرایندهای در حال اجرا، مجوزها و فعالیت‌های قبلی کاربران را جمع‌آوری می‌کند و برای ارزیابی کاری که یک عامل قصد انجامش را دارد، از مدل‌های «سبک‌وزن» خود روی نقاط پایانی بهره می‌گیرد.

به گفته بهات، نکته قابل‌توجه این است که سامانه Pluto می‌تواند هنگام کار یک عامل مداخله کند. برای مثال، اگر عاملی بخواهد مجوزهایی فراتر از آنچه کاربر در نظر داشته به دست آورد، سامانه می‌تواند جلوی این اقدام را بگیرد یا دستورالعمل‌هایی به نشست اضافه کند تا عامل را وادار به درخواست تأیید کند.

بهات توضیح داد: «می‌توانیم اطلاعات زمینه‌ای را به نشست تزریق کنیم و به این ترتیب، نحوه کار عامل را تغییر دهیم.»

این استارتاپ برای جذب مشتری نیز رویکردی نامتعارف دارد. در آوریل، Pluto پلتفرم رایگان Plutonium را راه‌اندازی کرد که به هر کسی امکان می‌دهد ریسک‌های مرتبط با مهارت‌ها، اتصال‌دهنده‌ها و افزونه‌های هوش مصنوعیِ در دسترس عموم را بررسی کند. این پلتفرم همچنین یک اسکنر MCP و فهرستی از اجزای تأییدشده دارد. بهات می‌گوید هزاران متخصص امنیت از Plutonium استفاده می‌کنند و جامعه‌ای که پیرامون آن شکل گرفته، به منبع مهمی برای دریافت بازخورد و یافتن مشتریان بالقوه تبدیل شده است.

او گفت اکنون ۷۰ درصد از فرصت‌های فروش Pluto از طریق درخواست‌های ورودی ایجاد می‌شوند، هرچند جزئیاتی درباره سهمی که مستقیماً از Plutonium حاصل می‌شود ارائه نکرد.

Pluto اعلام کرد قصد دارد سرمایه تازه را صرف توسعه محصول، گسترش فعالیت‌های پژوهشی در حوزه امنیت و افزایش حضور خود در آمریکا کند. این شرکت در آمریکا و اسرائیل ۴۰ کارمند دارد.