जिम केलर यांच्या नेतृत्वाखालील चिप कंपनी टेन्स्टॉरेंटने एआय वर्कलोडसाठी आपला पुढच्या पिढीचा वर्महोल प्रोसेसर सादर केला आहे, जो परवडणाऱ्या किमतीत चांगली कामगिरी देईल अशी अपेक्षा आहे.कंपनी सध्या दोन अतिरिक्त PCIe कार्ड्स उपलब्ध करून देते, ज्यावर एक किंवा दोन वर्महोल प्रोसेसर बसवता येतात, तसेच सॉफ्टवेअर डेव्हलपर्ससाठी टीटी-लाउडबॉक्स आणि टीटी-क्वाइटबॉक्स वर्कस्टेशन्सही देते. आजच्या सर्व घोषणा डेव्हलपर्सना उद्देशून आहेत, व्यावसायिक कामांसाठी वर्महोल बोर्ड वापरणाऱ्यांसाठी नाहीत.
"आमची अधिकाधिक उत्पादने डेव्हलपर्सच्या हाती पोहोचवणे हे नेहमीच समाधानकारक असते. आमच्या वर्महोल™ कार्ड्सचा वापर करणाऱ्या रिलीज डेव्हलपमेंट सिस्टीम्स डेव्हलपर्सना मल्टी-चिप एआय सॉफ्टवेअरचा विस्तार करण्यास आणि ते विकसित करण्यास मदत करू शकतात," असे टेनस्टॉरेंटचे सीईओ जिम केलर म्हणाले.या लॉन्च व्यतिरिक्त, आमच्या दुसऱ्या पिढीतील उत्पादन, 'ब्लॅकहोल'च्या टेप आउट आणि पॉवर-अपमध्ये आम्ही करत असलेली प्रगती पाहण्यासाठी आम्ही उत्सुक आहोत.”
प्रत्येक वर्महोल प्रोसेसरमध्ये ७२ टेन्सिक्स कोअर्स (ज्यापैकी पाच विविध डेटा फॉरमॅट्समध्ये RISC-V कोअर्सना सपोर्ट करतात) आणि १०८ एमबी एसआरएएम असून, तो १ गिगाहर्ट्झवर २६२ एफपी८ टीएफएलओपीएस देतो आणि त्याची थर्मल डिझाइन पॉवर १६० वॅट आहे. सिंगल-चिप वर्महोल एन१५० कार्ड १२ जीबी जीडीआरआर६ व्हिडिओ मेमरीने सुसज्ज असून त्याची बँडविड्थ २८८ जीबी/सेकंद आहे.
वर्महोल प्रोसेसर्स वर्कलोडच्या विविध गरजा पूर्ण करण्यासाठी लवचिक स्केलेबिलिटी प्रदान करतात. चार वर्महोल n300 कार्ड्स असलेल्या एका मानक वर्कस्टेशन सेटअपमध्ये, प्रोसेसर्सना एकाच युनिटमध्ये एकत्र केले जाऊ शकते, जे सॉफ्टवेअरमध्ये एक एकीकृत, व्यापक टेन्सिक्स कोअर नेटवर्क म्हणून दिसते. हे कॉन्फिगरेशन ॲक्सिलरेटरला तोच वर्कलोड चार डेव्हलपर्समध्ये विभागून हाताळण्याची किंवा एकाच वेळी आठ वेगवेगळ्या AI मॉडेल्सपर्यंत चालवण्याची परवानगी देते. या स्केलेबिलिटीचे एक प्रमुख वैशिष्ट्य म्हणजे ते व्हर्च्युअलायझेशनच्या गरजेशिवाय स्थानिक पातळीवर चालवले जाऊ शकते. डेटा सेंटरच्या वातावरणात, वर्महोल प्रोसेसर्स मशीनच्या आत विस्तारासाठी PCIe किंवा बाह्य विस्तारासाठी इथरनेटचा वापर करतील.
कार्यक्षमतेच्या बाबतीत, टेन्स्टॉरेंटच्या सिंगल-चिप वर्महोल n150 कार्डने (72 टेन्सिक्स कोअर, 1 GHz फ्रिक्वेन्सी, 108 MB SRAM, 12 GB GDDR6, 288 GB/s बँडविड्थ) 160W वर 262 FP8 TFLOPS साध्य केले, तर ड्युअल-चिप वर्महोल n300 बोर्डने (128 टेन्सिक्स कोअर, 1 GHz फ्रिक्वेन्सी, 192 MB SRAM, एकत्रित 24 GB GDDR6, 576 GB/s बँडविड्थ) 300W वर 466 FP8 TFLOPS पर्यंत कामगिरी दिली.
३०० वॅटच्या ४६६ FP8 TFLOPS क्षमतेची तुलना करण्यासाठी, आपण एआय (AI) बाजारातील अग्रणी कंपनी एनव्हिडिया (Nvidia) याच थर्मल डिझाइन पॉवरवर काय देत आहे, त्याच्याशी तुलना करू. एनव्हिडियाचे A100 FP8 ला सपोर्ट करत नाही, पण ते INT8 ला सपोर्ट करते, ज्याची सर्वोच्च कामगिरी ६२४ TOPS (स्पार्स असताना १,२४८ TOPS) आहे. याउलट, एनव्हिडियाचे H100 FP8 ला सपोर्ट करते आणि ३०० वॅटवर १,६७० TFLOPS (स्पार्स असताना ३,३४१ TFLOPS) ची सर्वोच्च कामगिरी गाठते, जी टेन्स्टॉरेंटच्या वर्महोल n300 पेक्षा लक्षणीयरीत्या वेगळी आहे.
मात्र, एक मोठी समस्या आहे. टेन्स्टॉरेंटच्या वर्महोल n150 ची किरकोळ किंमत $999 आहे, तर n300 ची किंमत $1,399 आहे. या तुलनेत, एका एनव्हिडिया H100 ग्राफिक्स कार्डची किरकोळ किंमत, खरेदीच्या संख्येनुसार, $30,000 आहे. अर्थात, चार किंवा आठ वर्महोल प्रोसेसर्स खरोखरच एका H300 ची कामगिरी देऊ शकतात की नाही हे आपल्याला माहीत नाही, परंतु त्यांचे TDP अनुक्रमे 600W आणि 1200W आहेत.
कार्ड्स व्यतिरिक्त, टेनस्टॉरेंट डेव्हलपर्ससाठी प्री-बिल्ट वर्कस्टेशन्स देखील उपलब्ध करून देते, ज्यामध्ये ॲक्टिव्ह कूलिंगसह अधिक किफायतशीर झिऑन-आधारित टीटी-लाउडबॉक्समधील ४ एन३०० कार्ड्स आणि ईपीवायसी-आधारित झियाओलाँग लिक्विड कूलिंग फंक्शनसह प्रगत टीटी-क्वाइटबॉक्स यांचा समावेश आहे.
पोस्ट करण्याची वेळ: २९ जुलै २०२४