به گزارش آناژورنال و به نقل از Tom’s Hardware، شرکت Positron AI که در سال ۲۰۲۳ میلادی تأسیس شده، تمرکز خود را بر توسعه شتابدهندههای هوش مصنوعی ویژه عملیات استنتاج (Inference) گذاشته است.
این رویکرد متفاوت از پردازشگرهای گرافیکی رایج است که برای آموزش مدلها، انجام استنتاج و طیف وسیعی از محاسبات طراحی شدهاند.
محصول جدید این شرکت، با نام اطلس (Atlas)، نسل اول راهکارهای ویژه مدلهای ترنسفورمر در مقیاس بزرگ است.
این سامانه شامل ۸ شتابدهنده موسوم به Archer بوده و با هدف شکست معماری Hopper انویدیا طراحی شده است؛ در حالی که تنها کسری از انرژی آن را مصرف میکند.
بر اساس آزمایشهای داخلی Positron، سامانه اطلس میتواند در مدل Llama 3.1 با ۸ میلیارد پارامتر و استفاده از محاسبات BF16، حدود ۲۸۰ توکن در ثانیه برای هر کاربر تولید کند و تنها ۲۰۰۰ وات انرژی مصرف نماید.
این در حالی است که یک سرور DGX H200 انویدیا با پیکربندی ۸ کارت گرافیک، با مصرف ۵۹۰۰ وات، تنها ۱۸۰ توکن در ثانیه برای هر کاربر تولید میکند.
این مقایسه نشان میدهد که اطلس از نظر عملکرد بهازای مصرف انرژی (Performance-per-Watt) و بهرهوری نسبت به هزینه، تا سه برابر بهتر از سیستم DGX H200 عمل میکند. البته کارشناسان تأکید میکنند که این ارقام باید توسط یک مرجع مستقل تأیید شوند.
شرکت Positron AI تراشههای ASIC خود را با استفاده از فناوری ساخت N4 یا N5 در کارخانه شماره ۲۱ TSMC در آریزونا تولید کرده و کارتها نیز در آمریکا مونتاژ میشوند. با این حال، به دلیل استفاده از ۳۲ گیگابایت حافظه HBM و فناوری بستهبندی پیشرفته، بخشی از فرآیند مونتاژ احتمالاً در تایوان انجام میشود.
سؤالات متداول:
تراشه «اطلس» شرکت Positron چه مزیتی نسبت به انویدیا H200 دارد؟
اطلس در عملیات استنتاج سرعت بالاتری ارائه میدهد، ۳۳٪ انرژی کمتری مصرف میکند و بهرهوری آن تا سه برابر بیشتر از H200 اعلام شده است.
کاربرد اصلی تراشه اطلس چیست؟
این تراشه بهطور خاص برای عملیات استنتاج در مدلهای ترنسفورمر مقیاس بزرگ طراحی شده و مناسب مراکز داده و کاربردهای هوش مصنوعی است.
اطلس چگونه به این بهرهوری بالا دست یافته است؟
با استفاده از معماری اختصاصی ASIC، تمرکز بر عملیات استنتاج، فناوری ساخت پیشرفته N4/N5 و بهینهسازی مصرف انرژی.
آیا ادعاهای Positron تأیید شده است؟
خیر. تاکنون این ادعاها توسط منابع مستقل تأیید نشده و تنها نتایج داخلی شرکت منتشر شده است.
ارسال پاسخ
نمایش دیدگاه ها