जिम केलरच्या नेतृत्वाखालील चिप कंपनी टेनस्टोरेंटने एआय वर्कलोडसाठी पुढील पिढीचा वर्महोल प्रोसेसर जारी केला आहे, ज्याची अपेक्षा आहे की ते परवडणाऱ्या किमतीत चांगले कार्यप्रदर्शन देईल.कंपनी सध्या दोन अतिरिक्त PCIe कार्ड ऑफर करते ज्यात एक किंवा दोन वर्महोल प्रोसेसर, तसेच सॉफ्टवेअर डेव्हलपरसाठी TT-LoudBox आणि TT-QuietBox वर्कस्टेशन्स सामावून घेऊ शकतात. आजच्या सर्व घोषणा विकासकांना उद्देशून आहेत, व्यावसायिक वर्कलोडसाठी वर्महोल बोर्ड वापरणाऱ्यांना नाही.
“आमची अधिक उत्पादने विकसकांच्या हाती मिळणे नेहमीच आनंददायी असते. आमची वॉर्महोल™ कार्ड वापरून विकास प्रणाली रिलीझ केल्याने विकसकांना मल्टी-चिप एआय सॉफ्टवेअर स्केल करण्यात आणि विकसित करण्यात मदत होऊ शकते,” टेन्स्टोरेंटचे सीईओ जिम केलर म्हणाले.या प्रक्षेपणाव्यतिरिक्त, आमच्या दुसऱ्या पिढीच्या उत्पादन ब्लॅकहोलच्या टेप आऊट आणि पॉवर-अपसह आम्ही करत असलेली प्रगती पाहण्यासाठी आम्ही उत्सुक आहोत.”
प्रत्येक वर्महोल प्रोसेसरमध्ये 72 टेन्सिक्स कोर असतात (त्यापैकी पाच विविध डेटा फॉरमॅटमध्ये RISC-V कोरला समर्थन देतात) आणि 108 MB SRAM, 160W च्या थर्मल डिझाइन पॉवरसह 1 GHz वर 262 FP8 TFLOPS वितरित करतात. सिंगल-चिप वर्महोल n150 कार्ड 12 GB GDDR6 व्हिडिओ मेमरीसह सुसज्ज आहे आणि त्याची बँडविड्थ 288 GB/s आहे.
वर्महोल प्रोसेसर वर्कलोडच्या विविध गरजा पूर्ण करण्यासाठी लवचिक स्केलेबिलिटी प्रदान करतात. चार वर्महोल n300 कार्ड्ससह मानक वर्कस्टेशन सेटअपमध्ये, प्रोसेसर एका युनिटमध्ये एकत्रित केले जाऊ शकतात जे सॉफ्टवेअरमध्ये एक एकीकृत, विस्तृत टेन्सिक्स कोर नेटवर्क म्हणून दिसते. हे कॉन्फिगरेशन एक्सीलरेटरला समान वर्कलोड हाताळण्यास, चार डेव्हलपरमध्ये विभाजित करण्यास किंवा एकाच वेळी आठ भिन्न एआय मॉडेल्स चालविण्यास अनुमती देते. या स्केलेबिलिटीचे मुख्य वैशिष्ट्य म्हणजे ते व्हर्च्युअलायझेशनच्या गरजेशिवाय स्थानिक पातळीवर चालू शकते. डेटा सेंटर वातावरणात, वर्महोल प्रोसेसर मशीनच्या आत विस्तारासाठी PCIe किंवा बाह्य विस्तारासाठी इथरनेट वापरतील.
कार्यक्षमतेच्या बाबतीत, Tenstorrent च्या सिंगल-चिप वर्महोल n150 कार्डने (72 Tensix cores, 1 GHz वारंवारता, 108 MB SRAM, 12 GB GDDR6, 288 GB/s बँडविड्थ) ने 160W वर 262 FP8 TFLOPS प्राप्त केले, तर डब्ल्यूओआरएमएचओ बोर्ड (128 टेन्सिक्स कोर, 1 GHz वारंवारता, 192 MB SRAM, एकत्रित 24 GB GDDR6, 576 GB/s बँडविड्थ) 300W वर 466 FP8 TFLOPS पर्यंत वितरित करते.
466 FP8 TFLOPS चे 300W संदर्भामध्ये ठेवण्यासाठी, आम्ही त्याची तुलना AI मार्केट लीडर Nvidia या थर्मल डिझाइन पॉवरवर काय ऑफर करत आहे याच्याशी करू. Nvidia चे A100 FP8 ला सपोर्ट करत नाही, पण INT8 ला सपोर्ट करते, 624 TOPS (विरळ असताना 1,248 TOPS). तुलनेत, Nvidia चे H100 FP8 चे समर्थन करते आणि 300W वर 1,670 TFLOPS च्या उच्च कामगिरीवर पोहोचते (3,341 TFLOPS विरळ), जे Tenstorrent च्या वर्महोल n300 पेक्षा लक्षणीय भिन्न आहे.
तथापि, एक प्रमुख समस्या आहे. Tenstorrent's Wormhole n150 ची किरकोळ किंमत $999 आहे, तर n300 $1,399 मध्ये विकली जाते. तुलनेने, एका Nvidia H100 ग्राफिक्स कार्डची किरकोळ किंमत $30,000 आहे, प्रमाणानुसार. अर्थात, चार किंवा आठ वर्महोल प्रोसेसर प्रत्यक्षात एकाच H300 चे कार्यप्रदर्शन देऊ शकतात की नाही हे आम्हाला माहित नाही, परंतु त्यांचे TDP अनुक्रमे 600W आणि 1200W आहेत.
कार्डांव्यतिरिक्त, Tenstorrent विकसकांसाठी पूर्व-निर्मित वर्कस्टेशन ऑफर करते, ज्यात सक्रिय कूलिंगसह अधिक परवडणाऱ्या Xeon-आधारित TT-LoudBox मधील 4 n300 कार्डे आणि EPYC-आधारित Xiaolong) लिक्विड कूलिंग फंक्शनसह प्रगत TT-QuietBox).
पोस्ट वेळ: जुलै-29-2024