Cerebras ने अपने आधिकारिक ब्लॉग में ट्रिलियन-पैरामीटर मॉडलों के लिए वेफर-स्तरीय तैनाती योजना प्रकाशित की है, जिसमें ओपन मॉडल Kimi K3 (लगभग 3 ट्रिलियन पैरामीटर, 93 परतें) को उदाहरण के रूप में लिया गया है। 4-बिट क्वांटाइज़ेशन पर प्रत्येक परत लगभग 16GB की है: 69 लीनियर-अटेंशन परतें प्रति वेफर दो की दर से लगती हैं, जबकि 24 फुल-अटेंशन परतें KV कैश के लिए जगह छोड़ते हुए एक-एक वेफर लेती हैं — कुल 35 जमा 24, यानी 59 वेफर। प्रत्येक WSE-3T वेफर में 44GB ऑन-चिप मेमोरी है, इसलिए पूरी परत सीधे चिप पर रह सकती है। चलते समय परतें एक पाइपलाइन बनाती हैं, वेफरों के बीच केवल मध्यवर्ती परिणाम भेजे जाते हैं, प्रति हॉप लगभग 2 माइक्रोसेकंड में; Cerebras का कहना है कि इस वर्ग के मॉडल प्रति सेकंड 1,000–2,000+ टोकन तक पहुँच सकते हैं। एक स्पष्टीकरण ज़रूरी है: K3 केवल एक उदाहरण है — यह एक तैनाती नुस्खा है, 59 वेफरों पर मापा गया परिणाम नहीं। मॉडल जितना बड़ा होगा, तैनाती का इंजीनियरिंग कार्य उतना ही महत्वपूर्ण होगा।
मूल लिंक: मूल देखने के लिए क्लिक करें
टिप्पणियाँ