- يدعي Skymizer أن نماذج الذكاء الاصطناعي العملاقة لم تعد بحاجة إلى بنية تحتية لوحدة معالجة الرسومات فائقة النطاق
- تعمل رقائق 28 نانومتر القديمة فجأة على تشغيل نماذج لغوية ضخمة بطاقة منخفضة بشكل مدهش
- يحتوي HTX301 على ذاكرة بسعة 384 جيجابايت في بطاقة تسريع PCIe واحدة
كشفت شركة Skymizer التايوانية عن مسرع PCIe AI الذي يتحدى كلاً من AMD و Nvidia باستخدام تقنية قديمة بشكل مدهش.
يمكن لجهاز HTX301 دعم نماذج اللغة بما يصل إلى 700 مليار معلمة على جهاز واحد، باستخدام 240 واط فقط من الطاقة.
تحقق البطاقة هذا العمل الفذ باستخدام شرائح 28 نانومتر الأقدم وذاكرة LPDDR4 وLPDDR5 القياسية بدلاً من حلول HBM أو GDDR باهظة الثمن.
يتنافس النظام التكنولوجي القديم مع مسرعات الذكاء الاصطناعي الحديثة
تدعي Skymizer أن بطاقتها توفر 30 رمزًا في الثانية بمعدل 0.5 TOPS فقط وبسرعة 100 جيجابايت في الثانية.
تم تصميم HTX301 على منصة Skymizer’s HyperThought، التي تدعم الجيل التالي من تقنية LPU IP المصممة خصيصًا لأحمال عمل نماذج اللغة الثقيلة.
تحتوي كل بطاقة PCIe على ستة شرائح HTX301 تعمل معًا، وتوفر البطاقة سعة ذاكرة إجمالية تصل إلى 384 جيجابايت.
يستخدم المشروع تقنيات ضغط فعالة لكل من الأوزان وذاكرة التخزين المؤقت KV، متفوقًا على llama.cpp مفتوح المصدر بنسبة 9 إلى 17.8 بالمائة.
ويقل استهلاكها للطاقة عن نصف ما تتطلبه عادةً مسرعات PCIe AI الرائدة من AMD وNVIDIA.
تدعم البطاقة الذكاء الاصطناعي القائم على الوكيل للتشفير والأتمتة وسير العمل الخاص بالمجال دون الحاجة إلى مجموعات GPU واسعة النطاق.
غالبًا ما تتطلب ترقية البنية التحتية المحلية لدعم الأنظمة الأساسية التي تحتوي على مسرعات GPU الضخمة عمليات إعادة تصميم مكلفة لأنظمة الطاقة والتبريد في مركز البيانات.
يوفر Skymizer HTX301 للمؤسسات خيارًا ثالثًا يناسب الخوادم القياسية المبردة بالهواء دون أي تغييرات في البنية التحتية.
تعلن الشركة أن عصر مجموعات GPU فائقة الحجم لـ LLMs الكبيرة جدًا قد وصل لقد انتهوا من التكنولوجيا الجديدة.
يسمح عامل شكل بطاقة PCIe للشركات بتوسيع نطاق استدلال الذكاء الاصطناعي محليًا مع الحفاظ على سيادة البيانات وتكاليف البنية التحتية التي يمكن التنبؤ بها.
ينتظر Skymizer HTX301 الاختبار الواقعي
ستعرض Skymizer جهاز HTX301 في معرض Computex لهذا العام، مما يسمح بالتحقق المستقل من أدائه.
تبدو مواصفات هذه الشريحة مثيرة للإعجاب على الورق، لكن الاختبار الواقعي سيحدد ما إذا كانت البطاقة توفر بالفعل 240 رمزًا مميزًا في الثانية تحت أعباء عمل Llama2 7B.
أطلقت AMD مؤخرًا بطاقة Instinct MI350P PCIe المزودة بذاكرة HBM3E بسعة 144 جيجابايت وما يصل إلى 4600 TFLOPS مع دقة MXFP4، ومع ذلك فهي تستهلك طاقة أكبر بكثير من عروض Skymizer.
تستهلك بطاقة Nvidia RTX PRO 6000 Blackwell ما يقرب من 600 واط، وهو أكثر من ضعف ما تتطلبه بطاقة Skymizer لمهام الاستدلال المماثلة.
إذا كان أداء HTX301 كما هو معلن عنه، فيمكن أن يخفض بشكل كبير حاجز الدخول إلى البنية التحتية للذكاء الاصطناعي المحلية.
سيؤدي الفشل في التنفيذ إلى وضع Skymizer بين العديد من الشركات الناشئة التي لن تتمكن من الوفاء بوعودها.
بواسطة Wccftech
اتبع TechRadar على أخبار جوجل و أضفنا كمصدرك المفضل لتلقي أخبار ومراجعات وآراء الخبراء حول قنواتك.
