روز دوشنبه، Amazon Web Services ابزاری به نام TorchNeuron منتشر کرد که به استارتاپ‌های هوش مصنوعی امکان می‌دهد به‌سادگی اپلیکیشن‌های هوش مصنوعی خود را به تراشه هوش مصنوعی Amazon، یعنی Trainium، منتقل کنند. Amazon با این کار، مستقیماً به مزیت نرم‌افزاری‌ای حمله می‌کند که به Nvidia کمک کرده است به گزینه پیش‌فرض سخت‌افزاری برای اپلیکیشن‌های هوش مصنوعی تبدیل شود و جایگاهش را به‌عنوان تأمین‌کننده سخت‌افزار منتخب این حوزه تقویت کند.

TorchNeuron با PyTorch کار می‌کند؛ مجموعه‌ابزاری رایگان و متن‌باز که توسعه‌دهندگان برای ساخت، آموزش و اجرای مدل‌های هوش مصنوعی به کار می‌برند. به گفته Amazon، این ابزار با تغییر تنها یک خط در پیکربندی، امکان اجرای اپلیکیشن‌های هوش مصنوعی نوشته‌شده با PyTorch را روی Trainium فراهم می‌کند و نیازی به بازنویسی کد نیست.

Amazon می‌گوید حدود ۸۵ درصد از اپلیکیشن‌های هوش مصنوعی با PyTorch نوشته شده‌اند. Facebook در ابتدا این ابزار را توسعه داد، اما از سال ۲۰۲۲، PyTorch بخشی از Linux Foundation بوده است؛ بنیادی که پروژه‌های متن‌باز را نگهداری می‌کند. Nvidia سال‌ها وقت صرف کرده تا نرم‌افزار CUDA خود را ــ زیرساخت نرم‌افزاری‌ای که اجرای اپلیکیشن‌ها روی GPUهای Nvidia و دیگر سخت‌افزارهای این شرکت را ممکن می‌کند ــ به‌گونه‌ای توسعه دهد که از اپلیکیشن‌های هوش مصنوعی نوشته‌شده با PyTorch به‌خوبی پشتیبانی کند. در نتیجه، سخت‌افزار Nvidia حالا به‌طور پیش‌فرض و عمیق با این مجموعه‌ابزار ادغام شده است.

TorchNeuron بر پایه PyTorch ساخته شده است؛ بنابراین توسعه‌دهندگانی که PyTorch را می‌شناسند، از قبل می‌دانند چطور با آن کار کنند. Amazon نخستین شرکتی نیست که تلاش می‌کند انتقال اپلیکیشن‌ها به تراشه‌های خود را از طریق این پلتفرم آسان کند. کاربران PyTorch می‌توانند با تغییری ساده در پیکربندی، اپلیکیشن‌هایشان را به GPUهای AMD یا حتی تراشه‌های Apple هم منتقل کنند.

بااین‌حال، Amazon می‌گوید انتقال اپلیکیشن‌ها به Trainium نه‌تنها آسان است، بلکه به استارتاپ‌های هوش مصنوعی امکان دسترسی به کل زیرساخت ابری Amazon را هم می‌دهد. جای تعجب نیست که AWS ادعا می‌کند این گزینه برای استارتاپ‌ها بهتر از استفاده از نئوکلاودهاست؛ بسیاری از این ارائه‌دهندگان به Nvidia و سخت‌افزار آن وابسته‌اند، از جمله Coreweave، Nebius و Firmus.

Colin Brace، معاون بخش نرم‌افزار فناوری در AWS Annapurna Labs ــ واحدی که تراشه‌های سفارشی Amazon را می‌سازد ــ در ایمیلی به TechCrunch گفت: «شما روی AWS محصول می‌سازید. لازم نیست روی یک ارائه‌دهنده محاسباتی تک‌منظوره حساب باز کنید و برای ساختن همه‌چیزهای دیگر در کنار آن به تکاپو بیفتید.» او ادامه داد: «در AWS، زیرساخت لازم برای گذار از نمونه اولیه به مرحله تولید از قبل فراهم است؛ این یعنی بنیان‌گذاران می‌توانند سریع پیش بروند و هر زمان نیاز داشتند، مقیاس کارشان را افزایش دهند.»

AWS می‌گوید ازآنجاکه یک تراشه هم آموزش مدل هوش مصنوعی را بر عهده دارد و هم استنتاج را ــ یعنی به‌کارگیری مدل نهایی، مثلاً برای پاسخ‌دادن به پرسش کاربر ــ و این تراشه به‌خوبی با زیرساخت ابری موردنیاز استارتاپ‌ها یکپارچه شده است، استفاده از ابر این شرکت در هزینه‌ها صرفه‌جویی می‌کند؛ حتی اگر AWS پایین‌ترین قیمت را به‌ازای هر توکن ارائه ندهد.

Brace گفت: «ارزش Trainium در ترکیب قیمت و کارایی آن است و این واقعیت که یک پلتفرم واحد برای آموزش و استنتاج فراهم می‌کند؛ چیزی که هزینه‌های کلی یک بار کاری را کاهش می‌دهد. Deepgram را در نظر بگیرید؛ این شرکت با استفاده از PyTorch بومی و پشتیبانی ما، به Trainium منتقل شد و حالا با دقتی در سطح تولید، به‌ازای هر دلار ۷۰ درصد صدای بیشتری پردازش می‌کند.» Deepgram ارائه‌دهنده اپلیکیشن‌های صوتی مبتنی بر هوش مصنوعی و رقیب ElevenLabs است.

اما Amazon به این بسنده نمی‌کند که راهکاری آسان برای انتقال اپلیکیشن‌های PyTorch به فضای ابری خود در اختیار توسعه‌دهندگان بگذارد.

Amazon همچنین می‌گوید در تلاش است PyTorch را کمتر به‌طور پیش‌فرض بر محور Nvidia قرار دهد و کد لازم برای این کار را به پروژه اصلی PyTorch اضافه خواهد کرد. این شرکت در پست وبلاگی که در آن ابزار جدید را معرفی کرد، نوشت:

«رویکرد Amazon فراتر از سخت‌افزار خودش است. این شرکت تغییراتی را به پروژه اصلی PyTorch می‌فرستد و با جامعه PyTorch همکاری می‌کند تا کدی را حذف کند که این چارچوب را به تراشه‌های خاصی وابسته می‌کند. هدف این است که PyTorch برای کل جامعه توسعه‌دهندگان، نه فقط کاربران Trainium، مستقل‌تر از سخت‌افزارهای خاص باشد.»

چنین رویکردی بی‌تردید برای فروشندگان سخت‌افزار و خدمات ابری رقیب Nvidia مفید است؛ اما یکی از هدف‌های PyTorch این است که دشواری‌های دست‌وپاگیر اجرای کد هوش مصنوعی روی سخت‌افزار را از چشم توسعه‌دهندگان پنهان کند. باید منتظر ماند و دید آیا تلاش برای عقب‌راندن Nvidia تا این اندازه، همان‌طور که Amazon وعده می‌دهد، گزینه‌های بیشتر و مقرون‌به‌صرفه‌تری در اختیار توسعه‌دهندگان می‌گذارد یا فقط دردسرهای پیکربندی بیشتری ایجاد می‌کند.

در هر صورت، اگر Amazon بتواند پیوند PyTorch با Nvidia را به‌طور جدی قطع کند، پیامدهای این اتفاق برای غول GPU می‌تواند بسیار گسترده‌تر از رویارویی با رقبای تراشه‌ساز باشد. Brace گفت: «اصل ماجرا از میان برداشتن قفلی است که باعث شده بود توسعه‌دهندگان عملاً حق انتخاب واقعی نداشته باشند.»