सैन जोस, कैलिफ़ोर्निया, 20 मार्च, 2024 /PRNewswire/ -- Supermicro, Inc. (NASDAQ: SMCI), AI, Cloud, Storage और 5G/Edge के लिए एक Total IT Solution प्रदाता, जेनरेटिव AI की तैनाती में तेजी लाने के लिए अपने नवीनतम पोर्टफोलियो की घोषणा कर रहा है। Supermicro SuperCluster समाधान बड़ी भाषा मॉडल (LLM) इंफ्रास्ट्रक्चर के वर्तमान और भविष्य के लिए मूलभूत निर्माण ब्लॉक प्रदान करते हैं।
अब जेनरेटिव AI वर्कलोड के लिए तीन शक्तिशाली Supermicro SuperCluster समाधान उपलब्ध हैं। 4U लिक्विड-कूल्ड सिस्टम या 8U एयर-कूल्ड सिस्टम शक्तिशाली LLM प्रशिक्षण प्रदर्शन के साथ-साथ बड़े बैच के आकार और उच्च-मात्रा वाले LLM परिणाम के लिए उद्देश्य-निर्मित और डिज़ाइन किए गए हैं। 1U एयर-कूल्ड Supermicro NVIDIA MGX™ सिस्टम के साथ तीसरा SuperCluster, क्लाउड-स्तरीय परिणाम के लिए अनुकूलित है।
"AI के युग में, कम्प्यूट की इकाईयों को अब सर्वरों की संख्या के साथ-साथ क्लस्टर में भी नापा जाता है, और हम अपनी 5,000 रैक/माह की विस्तारित वैश्विक विनिर्माण क्षमता के साथ, अपने ग्राहकों को पहले से कहीं अधिक तेजी से पूर्ण जेनरेटिव AI क्लस्टर डिलीवर कर सकते हैं," Supermicro के अध्यक्ष और CEO, Charles Liang, ने कहा। "एक 64-नोड क्लस्टर 400Gb/s NVIDIA Quantum-2 InfiniBand और Spectrum-X Ethernet नेटवर्किंग के साथ हमारे कुछ स्केलेबल क्लस्टर बिल्डिंग ब्लॉक के माध्यम से 72TB HBM3e के साथ 512 NVIDIA HGX H200 GPU को सक्षम बनाते हैं। NVIDIA AI Enterprise सॉफ्टवेयर के साथ संयुक्त Supermicro के SuperCluster समाधान आज के LLM को खरबों मापदंडों के साथ प्रशिक्षित करने के लिए Enterprise और Cloud इंफ्रास्ट्रक्चर के लिए आदर्श हैं। इंटरकनैक्टेड GPU, CPU, मेमोरी, स्टोरेज और नेटवर्किंग, जब रैक में कई नोड्स में तैनात किए जाते हैं, तो आज के AI की नींव का निर्माण करते हैं। Supermicro के SuperCluster समाधान तेजी से विकसित हो रहे जेनेरिक AI और LLM के लिए मूलभूत बिल्डिंग ब्लॉक प्रदान करते हैं।"
Supermicro AI SuperClusters की अधिक जानकारी के लिए, यहां जाएं: www.supermicro.com/ai-supercluster
NVIDIA में GPU उत्पाद प्रबंधन के उपाध्यक्ष Kaustubh Sanghani ने कहा, "सिस्टम निर्माताओं को NVIDIA की नवीनतम GPU, CPU, नेटवर्किंग और सॉफ्टवेयर टेक्नोलॉजियां वैश्विक बाजारों के लिए अगली पीढ़ी के AI वर्कलोड की एक रेंज में गति प्रदान करने में सक्षम बनाती हैं।" "Blackwell आर्किटेक्चर-आधारित उत्पादों के साथ NVIDIA त्वरित कंप्यूटिंग प्लेटफ़ॉर्म का उपयोग करके, Supermicro ग्राहकों को आसानी से डेटा केंद्रों में तैनात किए जा सकने वाले अत्याधुनिक सर्वर सिस्टम प्रदान कर रहा है।"
Supermicro 4U NVIDIA HGX H100/H200 8-GPU लिक्विड-कूलिंग का उपयोग करके, सिस्टम द्वारा ऊर्जा खपत को कम और डेटा सेंटर TCO को कम करके 8U एयर-कूल्ड सिस्टम के घनत्व को दोगुना किया जाता है। ये सिस्टम अगली-पीढ़ी के NVIDIA Blackwell आर्किटेक्चर-आधारित GPU को सपोर्ट करने के लिए डिज़ाइन किए गए हैं। Supermicro कूलिंग डिस्ट्रीब्यूशन यूनिट (CDU) और मैनिफोल्ड (CDM) Supermicro की कस्टम डायरेक्ट-टू-चिप (D2C) कोल्ड प्लेटों में ठंडा तरल वितरित करने के लिए मुख्य धमनियां हैं, जो GPU और CPU को इष्टतम तापमान पर रखते हैं, व जिसके परिणामस्वरूप अधिकतम प्रदर्शन प्राप्त होता है। यह कूलिंग तकनीक पूरे डेटा सेंटर के लिए बिजली की लागत में 40% तक की कमी लाती है और डेटा सेंटर के भूस्थल को बचाती है। Supermicro Liquid Cooling टेक्नोलॉजी के बारे में अधिक जानकारी प्राप्त करें:
https://www.supermicro.com/en/solutions/liquid-cooling
जेनरेटिव AI के प्रशिक्षण के लिए NVIDIA HGX H100/H200 8-GPU लगे सिस्टम उपयुक्त हैं। NVIDIA® NVLink® के माध्यम से हाई-स्पीड इंटरकनैक्टेड GPU, उच्च GPU मेमोरी बैंडविड्थ और LLM मॉडल क्षमता को कम लागत पर चलाने के लिए महत्वपूर्ण हैं। Supermicro SuperCluster एक सिंगल AI सुपरकंप्यूटर के रूप में कार्य करते हुए GPU संसाधनों का एक विशाल पूल बनाता है।
स्क्रैच से कई ट्रिलियन टोकन वाले डेटासेट पर प्रशिक्षित एक विशाल फाउंडेशन मॉडल को स्थापित करने या क्लाउड-स्केल LLM परिणाम इंफ्रास्ट्रक्चर का निर्माण करने लिए, नॉन-ब्लॉकिंग 400 Gb/s फैब्रिक के साथ स्पाइन और लीफ नेटवर्क टोपोलॉजी से 32 नोड्स से कई हजारों तक के नोड्स तक के परिणामों को बाधारहित प्राप्त किया जा सकता है। पूरी तरह से एकीकृत तरल शीतलन के साथ, Supermicro की प्रमाणित परीक्षण प्रक्रियाएं शिपिंग से पहले परिचालन प्रभावशीलता और दक्षता की पूरी तरह से पुष्टि करती हैं।
Supermicro का NVIDIA MGX™ सिस्टम डिज़ाइन में NVIDIA GH200 Grace Hopper Superchips सम्मिलित होते हैं, जो भविष्य के AI क्लस्टरों के लिए एक खाका तैयार करके जेनरेटिव AI की महत्वपूर्ण बाधाएं दूर करेंगे: GPU मेमोरी बैंडविड्थ और कम परिचालन लागत पर उच्च परिणाम बैच के आकारों के साथ विस्तृत भाषा (LLM) मॉडल चलाने की क्षमता। 256-नोड क्लस्टर क्लाउड-स्केल उच्च-वॉल्यूम परिणाम पावरहाउस को सक्षम बनाता है, जो आसानी से तैनात किया जा सकता है और स्केलेबल है।
5 रैक में 4U लिक्विड-कूल्ड सिस्टम या 9 रैक में 8U एयर-कूल्ड सिस्टम के साथ SuperCluster
* एक स्केलेबल इकाई में 256 NVIDIA H100/H200 Tensor Core GPU
* लिक्विड कूलिंग से 512 GPU, 64-नोड, को एयर-कूल्ड 256 GPU, 32-नोड समाधान जैसा ही सक्षम किया जाता है।
* एक स्केलेबल इकाई में NVIDIA H100 के साथ HBM3 के 20TB या NVIDIA H200 के साथ HBM3e के 36TB
* 1:1 नेटवर्किंग खरबों मापदंडों के साथ बड़े भाषा मॉडल के प्रशिक्षण के लिए GPUDirect RDMA और स्टोरेज को सक्षम करने के लिए प्रत्येक GPU को 400 Gbps तक प्रदान करती है।
* NVIDIA Quantum-2 InfiniBand और NVIDIA Spectrum-X Ethernet प्लेटफॉर्म सहित अत्यधिक स्केलेबल स्पाइन-लीफ नेटवर्क टोपोलॉजी के साथ 400G InfiniBand या 400GbE Ethernet स्विच फैब्रिक होता है।
* उद्योग-अग्रणी समानांतर फ़ाइल सिस्टम विकल्पों के साथ अनुकूलन योग्य AI डेटा पाइपलाइन भंडारण फैब्रिक
* NVIDIA AI एंटरप्राइज़ 5.0 सॉफ़्टवेयर, जो नए NVIDIA NIM परिणाम माइक्रोसर्विसेज को सपोर्ट करता है और जो बड़े पैमाने पर AI मॉडल की तैनाती में गति प्रदान करता है
9 रैक में 1U एयर-कूल्ड NVIDIA MGX System के साथ SuperCluster
* एक स्केलेबल इकाई में 256 GH200 Grace Hopper Superchips
* एक नोड में 70B+ पैरामीटर मॉडल को फिट करने में सक्षम क्लाउड-स्केल, उच्च-वॉल्यूम, कम-विलंबता और उच्च बैच आकार के परिणाम के लिए 144GB तक की HBM3e + 480GB की LPDDR5X एकीकृत मेमोरी उपयुक्त है।
* अत्यधिक स्केलेबल स्पाइन-लीफ नेटवर्क टोपोलॉजी के साथ 400G InfiniBand या 400GbE Ethernet स्विच फैब्रिक
* प्रति नोड 8 अंतर्निर्मित E1.S NVMe स्टोरेज डिवाइस तक
* प्रत्येक GPU को उच्च-थ्रूपुट और कम-विलंबता भंडारण पहुंच प्रदान करने के लिए NVIDIA बलुएफील्ड®-3 DPU और उद्योग के अग्रणी समानांतर फ़ाइल सिस्टम विकल्पों के साथ अनुकूलन योग्य AI डेटा पाइपलाइन स्टोरेज फैब्रिक
* NVIDIA AI Enterprise 5.0 सॉफ्टवेयर
GPU-GPU कनैक्टिविटी के लिए उच्चतम नेटवर्क प्रदर्शन के साथ, Supermicro के SuperCluster समाधान LLM प्रशिक्षण, गहन शिक्षण और उच्च मात्रा और उच्च बैच आकार परिणाम के लिए अनुकूलित हैं। Supermicro का L11 और L12 पुष्टीकरण परीक्षण इसकी ऑन-साइट तैनाती सेवा के साथ मिलकर ग्राहकों को एक सहज अनुभव प्रदान करता है। ग्राहकों को डेटा सेंटर में आसान तैनाती और परिणामों के लिए जल्दी प्लग-एंड-प्ले स्केलेबल इकाइयां प्राप्त होती हैं।
Super Micro Computer, Inc. का परिचय
Supermicro (NASDAQ: SMCI) ऐप्लिकेशन-अनुकूलित Total IT समाधानों के क्षेत्र में विश्व की अग्रणी कंपनी है। सैन जॉस, कैलिफ़ोर्निया में संस्थापित और संचालित Supermicro Enterprise, Cloud, AI और 5G Telco/Edge IT इन्फ़्रास्ट्रक्चर के लिए बाजार में सबसे पहले नवाचार लाने के लिए प्रतिबद्ध है। हम सर्वर, AI, स्टोरेज, IoT, स्विच सिस्टम, सॉफ्टवेयर और सपोर्ट सेवाएं प्रदान करने वाले एक Total IT समाधान रचयिता हैं। Supermicro की मदरबोर्ड, पॉवर और चेसिस डिज़ाइन विशेषज्ञता हमारे विकास और उत्पादन को और सक्षम बनाती है, जिससे हमारे वैश्विक ग्राहकों के लिए Cloud से लेकर Edge तक अगली पीढ़ी के नवाचार सक्षम हो पाते हैं। हमारे उत्पादों के डिज़ाइन और उत्पादन हमारे कार्यस्थलों (US, ताइवान और नीदरलैंड्स में) में ही तैयार किए जाते हैं, और TCO में सुधार और पर्यावरण संबंधी (ग्रीन कम्प्यूटिंग) प्रभाव को कम करने और इनको नापने तथा कार्यकुशलता बढ़ाने के लिए अंतरराष्ट्रीय संचालनों का प्रयोग किया जाता है। Server Building Block Solutions® का पुरस्कार-विजेता पोर्टफ़ोलियो, ग्राहकों को उनके अपने वर्कलोड के आधार पर अनुकूलित करने की सुविधा प्रदान करता है और ऐसा करने के लिए वे हमारे सुविधाजनक और बार-बार इस्तेमाल किए जाने वाले उन बिल्डिंग ब्लॉक्स से तैयार किए गए सिस्टम्स की विस्तृत फ़ैमिली में से सर्वसमावेशी सैट को पूरा करने वाले फ़ॉर्म-फ़ैक्टर्स, प्रोसेसर्स, मेमोरी, GPU, भंडारण, नेटवर्किंग, पॉवर और कूलिंग समाधानों (वातानुकूलित, फ़्री एयर कूलिंग या लिक्विड कूलिंग) युक्त, अपनी पसंद का कोई सिस्टम चुन सकते हैं।
Supermicro, Server Building Block Solutions और We Keep IT Green, Super Micro Computer, Inc. के ट्रेडमार्क और/या पंजीकृत ट्रेडमार्क हैं।
अन्य सभी ब्रांड, नाम और ट्रेडमार्क उनके अपने-अपने स्वामियों की परिसंपत्तियां हैं।
फ़ोटो -
https://mma.prnewswire.com/media/2365342/Super_Micro_Computer_Inc.jpg
लोगो -
https://mma.prnewswire.com/media/1443241/Supermicro_Logo.jpg
View original content:
https://www.prnewswire.com/in/news-releases/supermicro--enterprise----llm------nvidia--------ai-supercluster----302093483.html