دِل با تراشه : ابرکامپیوتر هوش مصنوعی رومیزی برای اجرای مدلهای ۲۰۰ میلیارد پارامتری

دِل با تراشه ابرکامپیوتر هوش مصنوعی رومیزی برای اجرای مدلهای ۲۰۰ میلیارد پارامتری, دِل با معرفی مدل، یک ایستگاه کار هوش مصنوعی فشرده و قدرتمند را به بازار عرضه کرده که قلب تپندهی آن تراشه گریس هاپر از انویدیا است.

این دستگاه با ابعاد ۱۵۰ در ۱۵۰ در ۵۱ میلیمتر و وزن تنها ۱.۳۱ کیلوگرم، قدرت محاسباتی برابر با ۱۰۰۰ ترافلاپس را در یک قالب رومیزی قرار میدهد و امکان اجرای مدلهای زبانی بزرگ (LLM) تا ۲۰۰ میلیارد پارامتر را به صورت کاملاً محلی فراهم میآورد.

معماری سختافزاری و عملکرد پردازشی تراشه ترکیبی است از ۲۰ هسته پردازنده مرکزی مبتنی بر معماری — شامل ۱۰ هسته کارایی بالا و ۱۰ هسته تراکم بالا — و یک GPU معماری بِلکول نسل جدید با واحدهای تنسور نسل پنجم.

PU و GPU جلوگیری میکند. ذخیرهسازی و اتصالهای پرسرعت دِل از دو اسلات برای درایوهای تا ۲ ترابایت و تا ۴ ترابایت ذخیرهسازی SED پشتیبانی میکند.

در بخش ورودی/خروجی، دستگاه شامل موارد زیر است یک پورت (۲۰ گیگابیت بر ثانیه) با پشتیبانی از ۱.۴ و تحویل قدرت سه پورت USB ۳.۲ ۲ (۲۰ گیگابیت بر ثانیه) برای ورودی برق و داده یک پورت اترنت ۱۰ گیگابیتی (۱۰ ) یک خروجی HDMI ۲.1b دو پورت (۲۰۰ گیگابیت بر ثانیه) برای اتصال مستقیم به شبکههای دیتاسنتر یا اتصال دو دستگاه به یکدیگر اکوسیستم نرمافزاری و توسعه مدلهای هوش مصنوعی این ایستگاه کار با DGX OS (توزیع اوبونتو بهینهشده توسط انویدیا) و پشتهی کامل NVIDIA AI — شامل CUDA،،،،، RAPIDS و فریمورکهای / بهینهشده — تحویل داده میشود.

ذیری با اتصال دو دستگاه یکی از قابلیتهای منحصربهفرد، پشتیبانی از کارت شبکه هوشمند از طریق پورتهای است.

با اتصال دو واحد به یکدیگر، حافظهی یکپارچه به ۲۵۶ گیگابایت و قدرت محاسباتی به ۲۰۰۰ ترافلاپس میرسد که امکان اجرای مدلهای تا ۴۰۰ میلیارد پارامتر را میسر میسازد — راهکاری مقیاسپذیر برای تیمهای تحقیق و توسعه بدون نیاز به راهاندازی کلاستر پیچیده. مصرف انرژی، اتصال بیسیم و عرضه دستگاه با یک آداپتور ۲۸۰ واتی تغذیه میشود و از Wi-Fi ۷ (۸۰۲.۱۱) و بلوتوث ۵.۴ پشتیبانی میکند.

دِل اعلام کرده که از ۱۵ اکتبر (۲۳ مهر) در کانالهای فروش معتبر در دسترس خواهد بود و جزئیات قیمتگذاری به زودی منتشر میگردد. این محصول گامی مهم در دموکراتیزاسیون دسترسی به محاسبهی هوش مصنوعی سطح دیتاسنتر برای محققان، توسعهدهندگان و استودیوهای خلاق در یک فاکتور فرم رومیزی است.