کوالکام حافظه LPDDR را جایگزین HBM در تراشه‌های هوش مصنوعی کرد

کوالکام در تراشه‌های هوش مصنوعی جدید، حافظه LPDDR را جایگزین HBM کرد

کوالکام از نسل تازه تراشه‌های هوش مصنوعی خود رونمایی کرد که برای بارهای استنتاجی در مقیاس رک طراحی شده‌اند. نکته متمایزکننده این محصولات، بهره‌گیری از حافظه موبایل LPDDR به جای ماژول‌های HBM رایج در سرورها است. این گام، ادامه استراتژی کوالکام برای ورود به حوزه محاسبات مصرفی و زیرساخت‌های هوش مصنوعی پس از سال‌ها تمرکز بر بازار موبایل محسوب می‌شود.

معرفی راه‌حل‌های AI ۲۰۰ و AI ۲۵۰

به گزارش تکنا، کوالکام دو پیکربندی مقیاس رک به نام‌های AI ۲۰۰ و AI ۲۵۰ را معرفی کرده است. این حرکت نه تنها ورود یک بازیگر جدید به فضایی را که تا کنون تحت تسلط انویدیا و AMD بوده، نشان می‌دهد، بلکه یک پیاده‌سازی منحصر‌به‌فرد با اتکا به حافظه LPDDR را به ارمغان می‌آورد. این تراشه‌ها تا ۷۶۸ گیگابایت حافظه LPDDR را روی بسته شتاب‌دهنده ارائه می‌دهند، ظرفیتی که از حداکثر حافظه HBM صنعتی نیز بالاتر است.

مزایای رویکرد حافظه نزدیک

جذبیت اصلی این معماری، کاهش هزینه و انرژی جابجایی داده است که با مفهوم «حافظه نزدیک» (Near-Memory) هم‌خوانی دارد. استفاده از LPDDR مزایای سنتی نظیر کارایی انرژی بهینه‌تر، هزینه کمتر در مقایسه با ماژول‌های HBM، چگالی حافظه بالا و عملکرد حرارتی بهتر به دلیل اتلاف گرمای کمتر را در پی دارد.

چالش‌ها در مقایسه با رقبای اصلی

با وجود دیدگاه امیدوارکننده، این پیاده‌سازی در برابر گزینه‌های پیشرو انویدیا و AMD ضعفی دارد. عدم استفاده از HBM منجر به پهنای باند حافظه کمتر و تأخیر بالاتر ناشی از رابط باریک‌تر می‌شود. در نتیجه، این پشته حافظه برای محیط‌های سروری پرحرارت و کارکرد مداوم تا کنون به بلوغ کامل نرسیده است.

معماری داخلی و قابلیت‌های استنتاجی

هدف کوالکام، ارائه گزینه‌ای قدرتمند برای استنتاج (Inference) بوده و LPDDR این هدف را محقق می‌سازد، هرچند که این انتخاب کاربردهای مناسب را به سناریوهای خاص محدود می‌کند. راه‌حل‌های AI ۲۰۰ و AI ۲۵۰ شامل خنک‌کننده مایع مستقیم، پروتکل‌های PCIe و اترنت هستند. مصرف توان ۱۶۰ کیلوواتی در سطح رک نیز رقمی پایین برای راه‌حل‌های امروزی محسوب می‌شود.

تراشه‌های داخلی از واحدهای پردازش عصبی Hexagon بهره می‌برند که قابلیت‌های استنتاجی آن‌ها در حال گسترش سریع است. این واحدها از فرمت‌های داده پیشرفته و ویژگی‌های متمرکز بر استنتاج پشتیبانی می‌کنند. حرکت به سمت راه‌حل‌های استنتاجی کارا توسط تعداد زیادی از ارائه‌دهندگان محاسبه در حال انجام است؛ مثال‌های اخیر شامل راه‌حل Crescent Island اینتل و تراشه هوش مصنوعی Rubin سی‌پی‌ایکس انویدیا می‌باشد.

استراتژی کوالکام در بازار استنتاج

به نظر می‌رسد کوالکام متوجه شده که بخش استنتاج در حال جذب توجه بازار است؛ از این رو راه‌حل‌های AI ۲۰۰ و AI ۲۵۰ رویکردی منطقی به نظر می‌رسند. با این حال، برای آموزش مدل‌های پیشرفته یا بارهای کاری بزرگ، این رک‌ها به احتمال زیاد گزینه نهایی نخواهند بود. ظهور رقابت در فضای هوش مصنوعی هیجان‌انگیز است و به نظر می‌رسد خرده‌فروشان نسبت به این اطلاعیه‌ها خوش‌بینی قابل توجهی نشان داده‌اند.