به گزارش رسانه تحلیلی خبری آناژورنال در هفته‌های اخیر، پس از اینکه Tenstorrent، سازنده تراشه‌های هوش مصنوعی، نزدیک به 700 میلیون دلار سرمایه جذب کرد، حالا توسعه‌دهندگان می‌توانند از شتاب‌دهنده‌های هوش مصنوعی این شرکت در پلتفرم ابری Koyeb استفاده کنند.
Tenstorrent تراشه‌های هوش مصنوعی خود را بر پایه معماری مجموعه دستورات RISC-V ساخته و همچنین کتابخانه‌های متن‌باز شبکه عصبی (TT-NN) و مدل برنامه‌نویسی سطح پایین (TT-Metalium) خود را توسعه داده است.
Tenstorrent در حال تلاش است تا به عنوان جایگزینی برای GPUهای Nvidia و کتابخانه CUDA وارد بازار شود.
این شرکت با رقبای دیگری همچون Axelera، Etched و Groq رقابت می‌کند.
Koyeb که توسط مدیران سابق Scaleway تأسیس شده، یک پلتفرم ابری بدون سرور است که هدف آن ارائه لایه‌ای انتزاعی در سطح زیرساخت ابر برای توسعه‌دهندگانی است که می‌خواهند برنامه‌های خود را با سهولت و مقیاس‌پذیری بالا استقرار دهند.
این پلتفرم به رقابت با پلتفرم‌های مشابه مانند Fly.io، Railway و Render پرداخته است.
Koyeb به توسعه‌دهندگان این امکان را می‌دهد که برنامه‌های خود را از طریق یک رابط خط فرمان یا git push مستقر کنند و به صورت خودکار مقیاس‌پذیری سرورهای خود را تنظیم کنند.
به این معنا که وقتی ترافیک زیاد باشد، زیرساخت به طور خودکار به چندین سرور مقیاس می‌یابد و زمانی که ترافیک کمتر باشد، سرورها به صورت خودکار مقیاس می‌شوند.
این پلتفرم در ماه‌های اخیر تمرکز ویژه‌ای بر روی اپلیکیشن‌های هوش مصنوعی داشته است. به لطف ماهیت بدون سرور آن، Koyeb می‌تواند تجربه‌ای با تأخیر کم برای بارهای کاری هوش مصنوعی ارائه دهد.
در زمینه سخت‌افزار، Koyeb بردهای PCIe Tenstorrent را در دیتاسنترهای خود مستقر کرده است.
برنامه‌نویسان می‌توانند از SDK سطح پایین TT-Metalium برای نوشتن برنامه‌های میزبان و هسته‌ای استفاده کنند.
کویب دو نوع جدید از نمونه‌ها را به مستندات و پنل‌های مدیریت خود اضافه کرده است:
- نمونه TT-N300S با 24 گیگابایت حافظه GDDR6 و 192MB SRAM، که تا 466 FP8 TFLOPS پردازش ارائه می‌دهد. این نمونه با 64 گیگابایت حافظه RAM و 4 vCPU همراه است.
- نمونه TT-LoudBox که دارای چهار نود N300S است. این نمونه 96 گیگابایت حافظه GDDR6 و 768MB SRAM دارد و می‌تواند تا 1,864 FP8 TFLOPS پردازش کند. این نمونه همچنین 256 گیگابایت RAM و 16 vCPU دارد.
با این انتشار، Koyeb تلاش دارد تا خود را به عنوان یک پلتفرم ابری مستقل از سخت‌افزار معرفی کند.
Yann Leger، یکی از بنیان‌گذاران Koyeb، در این زمینه گفته است که این پلتفرم مشابه به معرفی تراشه‌های ARM در بازار سرور با عملکرد بالا است.
Tenstorrent نیز در تلاش است تا با استفاده از مدل برنامه‌نویسی متن‌باز خود، یک اکوسیستم برای توسعه‌دهندگان ایجاد کند تا جایگزینی برای پشته هوش مصنوعی Nvidia فراهم آورد.
سوالات متداول:
1. پلتفرم Koyeb چیست و چه ویژگی‌هایی دارد؟
Koyeb یک پلتفرم ابری بدون سرور است که به توسعه‌دهندگان اجازه می‌دهد تا برنامه‌های خود را به راحتی و با مقیاس‌پذیری خودکار در ابر مستقر کنند.
این پلتفرم با پشتیبانی از Docker و زبان‌های برنامه‌نویسی محبوب، برای کار با اپلیکیشن‌های هوش مصنوعی بهینه شده است.
2. چگونه می‌توان از شتاب‌دهنده‌های هوش مصنوعی Tenstorrent در Koyeb استفاده کرد؟
توسعه‌دهندگان می‌توانند از شتاب‌دهنده‌های Tenstorrent با استفاده از دو نوع جدید از نمونه‌های ارائه شده در Koyeb استفاده کنند.
این شتاب‌دهنده‌ها برای بارهای کاری هوش مصنوعی و محاسبات پیچیده طراحی شده‌اند و از طریق SDKهای TT-Metalium و TT-NN در دسترس قرار دارند.
3. ویژگی‌های نمونه‌های TT-N300S و TT-LoudBox چیست؟
نمونه TT-N300S دارای 24 گیگابایت حافظه GDDR6 و توان پردازشی تا 466 FP8 TFLOPS است.
در حالی که نمونه TT-LoudBox ترکیبی از چهار نود N300S است که 96 گیگابایت حافظه GDDR6 و 1,864 FP8 TFLOPS پردازش ارائه می‌دهد.
4. چرا Tenstorrent و Koyeb در حال تلاش برای رقابت با Nvidia هستند؟
Tenstorrent به دنبال ایجاد یک اکوسیستم توسعه‌دهندگان بر اساس مدل‌های برنامه‌نویسی متن‌باز خود است تا یک جایگزین برای شتاب‌دهنده‌های Nvidia و کتابخانه CUDA ارائه دهد.
Koyeb نیز با ایجاد پلتفرم ابری بدون سرور، قصد دارد به توسعه‌دهندگان امکانات و مقیاس‌پذیری بیشتری برای اجرای برنامه‌های AI فراهم کند.
