जिम केलरच्या नेतृत्वाखालील चिप कंपनी टेन्स्टोरेंटने एआय वर्कलोड्ससाठी त्यांचा पुढील पिढीचा वर्महोल प्रोसेसर लाँच केला आहे, जो परवडणाऱ्या किमतीत चांगली कामगिरी देईल अशी अपेक्षा आहे.कंपनी सध्या एक किंवा दोन वर्महोल प्रोसेसर सामावून घेऊ शकणारे दोन अतिरिक्त PCIe कार्ड, तसेच सॉफ्टवेअर डेव्हलपर्ससाठी TT-LoudBox आणि TT-QuietBox वर्कस्टेशन्स ऑफर करते. आजच्या सर्व घोषणा व्यावसायिक वर्कलोडसाठी वर्महोल बोर्ड वापरणाऱ्यांसाठी नाही तर डेव्हलपर्ससाठी आहेत.
"आमची अधिक उत्पादने विकासकांच्या हाती सोपवणे नेहमीच समाधानकारक असते. आमच्या वर्महोल™ कार्ड्स वापरून डेव्हलपमेंट सिस्टम रिलीज केल्याने डेव्हलपर्सना मल्टी-चिप एआय सॉफ्टवेअर स्केल आणि विकसित करण्यास मदत होऊ शकते," असे टेन्स्टोरेंटचे सीईओ जिम केलर म्हणाले.या लाँच व्यतिरिक्त, आमच्या दुसऱ्या पिढीतील उत्पादन, ब्लॅकहोलच्या टेप आउट आणि पॉवर-अपमध्ये आम्ही करत असलेली प्रगती पाहून आम्हाला खूप आनंद होत आहे.”
प्रत्येक वर्महोल प्रोसेसरमध्ये ७२ टेन्सिक्स कोर असतात (त्यापैकी पाच विविध डेटा फॉरमॅटमध्ये RISC-V कोरला सपोर्ट करतात) आणि १०८ MB SRAM असतात, जे १६०W च्या थर्मल डिझाइन पॉवरसह १ GHz वर २६२ FP8 TFLOPS देतात. सिंगल-चिप वर्महोल n१५० कार्ड १२ GB GDDR6 व्हिडिओ मेमरीसह सुसज्ज आहे आणि त्याची बँडविड्थ २८८ GB/s आहे.
वर्महोल प्रोसेसर वर्कलोडच्या विविध गरजा पूर्ण करण्यासाठी लवचिक स्केलेबिलिटी प्रदान करतात. चार वर्महोल n300 कार्ड्ससह मानक वर्कस्टेशन सेटअपमध्ये, प्रोसेसर एका युनिटमध्ये एकत्र केले जाऊ शकतात जे सॉफ्टवेअरमध्ये एकीकृत, विस्तृत टेन्सिक्स कोर नेटवर्क म्हणून दिसते. हे कॉन्फिगरेशन एक्सीलरेटरला समान वर्कलोड हाताळण्यास, चार डेव्हलपर्समध्ये विभाजित करण्यास किंवा एकाच वेळी आठ वेगवेगळ्या एआय मॉडेल्स चालविण्यास अनुमती देते. या स्केलेबिलिटीचे एक प्रमुख वैशिष्ट्य म्हणजे ते व्हर्च्युअलायझेशनची आवश्यकता नसताना स्थानिक पातळीवर चालू शकते. डेटा सेंटर वातावरणात, वर्महोल प्रोसेसर मशीनच्या आत विस्तारासाठी PCIe किंवा बाह्य विस्तारासाठी इथरनेट वापरतील.
कामगिरीच्या बाबतीत, टेन्स्टोरेंटच्या सिंगल-चिप वर्महोल n150 कार्डने (७२ टेन्सिक्स कोर, १ GHz फ्रिक्वेन्सी, १०८ MB SRAM, १२ GB GDDR6, २८८ GB/s बँडविड्थ) १६०W वर २६२ FP8 TFLOPS मिळवले, तर ड्युअल-चिप वर्महोल n300 बोर्ड (१२८ टेन्सिक्स कोर, १ GHz फ्रिक्वेन्सी, १९२ MB SRAM, एकत्रित २४ GB GDDR6, ५७६ GB/s बँडविड्थ) ३००W वर ४६६ FP8 TFLOPS पर्यंत पोहोचवते.
४६६ FP8 TFLOPS पैकी ३००W ला संदर्भित करण्यासाठी, आपण त्याची तुलना या थर्मल डिझाइन पॉवरवर AI मार्केट लीडर Nvidia देत असलेल्या ऑफरशी करू. Nvidia चा A100 FP8 ला सपोर्ट करत नाही, परंतु तो INT8 ला सपोर्ट करतो, ज्याची कमाल कामगिरी ६२४ TOPS (विरळ असताना १,२४८ TOPS) आहे. त्या तुलनेत, Nvidia चा H100 FP8 ला सपोर्ट करतो आणि ३००W वर १,६७० TFLOPS (विरळ असताना ३,३४१ TFLOPS) च्या कमाल कामगिरीपर्यंत पोहोचतो, जो Tenstorrent च्या Wormhole n300 पेक्षा लक्षणीयरीत्या वेगळा आहे.
तथापि, एक मोठी समस्या आहे. टेन्स्टोरेंटचा वर्महोल n150 $999 ला विकला जातो, तर n300 $1,399 ला विकला जातो. त्या तुलनेत, एका Nvidia H100 ग्राफिक्स कार्डची किंमत $30,000 आहे, जी प्रमाणानुसार आहे. अर्थात, चार किंवा आठ वर्महोल प्रोसेसर प्रत्यक्षात एकाच H300 ची कामगिरी देऊ शकतात की नाही हे आम्हाला माहित नाही, परंतु त्यांचे TDP अनुक्रमे 600W आणि 1200W आहेत.
कार्ड्स व्यतिरिक्त, टेन्स्टोरेंट डेव्हलपर्ससाठी प्री-बिल्ट वर्कस्टेशन्स ऑफर करते, ज्यामध्ये सक्रिय कूलिंगसह अधिक परवडणाऱ्या झीऑन-आधारित टीटी-लाउडबॉक्समध्ये 4 n300 कार्ड आणि EPYC-आधारित झियाओलॉन्गसह प्रगत टीटी-क्विटबॉक्स) लिक्विड कूलिंग फंक्शन समाविष्ट आहे.
पोस्ट वेळ: जुलै-२९-२०२४