अपने हार्डवेयर पर एआई चलाने में कितना खर्च आता है?

व्यवसाय मालिक हमसे बार-बार एक ही बात पूछते हैं: हमारा डेटा संवेदनशील है और उपयोग का बिल हर महीने बढ़ता है, तो क्या हम किसी बाहरी सेवा पर निर्भर रहने के बजाय मॉडल ख़ुद चला सकते हैं?

एक ईमानदार जवाब एक सुधार से शुरू होता है: Claude और GPT के वेट प्रकाशित नहीं हैं, इसलिए हार्डवेयर कैसा भी हो, कोई भी इन्हें अपने यहाँ नहीं चलाता। आप सच में जो चला सकते हैं, वे ओपन-वेट मॉडल हैं जो आज 200 अरब पैरामीटर और उससे अधिक तक पहुँचते हैं, और कई व्यावहारिक कामों में वे भुगतान वाली सेवाओं के क़रीब पहुँच जाते हैं: दस्तावेज़ों का सारांश, आपके अपने डेटा पर सवालों के जवाब, कोड लिखना, अनुवाद। यह अंतर हर कुछ महीनों में घटता जाता है।

तो असली सवाल यह नहीं कि यह संभव है या नहीं, बल्कि यह है कि आपकी मशीन कितने पैरामीटर समा सकती है। यही उस एक नियम तक ले जाता है जो सब कुछ तय करता है।

निर्णायक नियम: गति से पहले मेमोरी

किसी मॉडल को चलाने के लिए उसे पूरी तरह मेमोरी में समाना होता है। गणित जितना दिखता है उससे आसान है:

• पूर्ण परिशुद्धता पर: प्रति पैरामीटर दो बाइट।
• 8-बिट क्वांटाइज़ेशन पर: प्रति पैरामीटर एक बाइट।
• 4-बिट क्वांटाइज़ेशन पर: प्रति पैरामीटर आधा बाइट, यह ज़्यादातर उपयोगों के लिए व्यावहारिक विकल्प है।

फिर संदर्भ और रनटाइम ओवरहेड के लिए लगभग 20 से 30% जोड़ें। नतीजा यह अनुमान तालिका है, जिससे आप किसी भी मशीन को माप सकते हैं:

आँकड़ों में रनटाइम की गुंजाइश शामिल है और ये अनुमान हैं; ये क्वांटाइज़ेशन विधि और संदर्भ की लंबाई के साथ थोड़ा बदलते हैं।

अकेली यह तालिका ज़्यादातर तुलनाओं को छोटा कर देती है: पहले मेमोरी क्षमता देखें, क्योंकि वही तय करती है कि आप क्या चला सकते हैं। बैंडविड्थ और प्रोसेसर का प्रकार तय करते हैं कि कितनी तेज़ी से।

आज उपलब्ध विकल्प

Apple: नया Mac Studio

25 अगस्त 2026 को Apple ने नई पीढ़ी के Mac Studio की घोषणा की, जिसकी शिपिंग 22 सितंबर से है, और 512GB कॉन्फ़िगरेशन अक्टूबर के अंत में आएगा। क्षमता के मामले में यह फ़िलहाल सबसे बड़ा विकल्प है:

• M5 Max: 18-कोर CPU, हर कोर में बने Neural Accelerators के साथ 40 कोर तक का GPU, और 614GB/s तक की बैंडविड्थ पर 128GB तक यूनिफ़ाइड मेमोरी।
• M5 Ultra: 36 कोर तक का CPU, 80 कोर तक का GPU, और 512GB तक यूनिफ़ाइड मेमोरी, जो विशाल मॉडलों को पूरी तरह डिवाइस पर चलाने के लिए काफ़ी है।
• Thunderbolt 5 कई यूनिट को क्लस्टर करने देता है, जिससे वितरित इनफ़रेंस में एक अकेले सिस्टम के 3x तक का प्रदर्शन मिलता है।

इसका असली फ़ायदा यह है कि मेमोरी CPU और GPU के बीच साझा है, इसलिए आपको अपनी अलग मेमोरी वाले किसी अलग कार्ड की ज़रूरत नहीं। यह दो डेवलपर फ़्रेमवर्क के साथ आता है: नया Core AI और ओपन-सोर्स MLX।

AMD: Ryzen AI Max+ 395

यह 128GB यूनिफ़ाइड मेमोरी वाली छोटी डेस्कटॉप मशीनों में आता है, Windows या Linux चलाता है, और अपने सीधे Nvidia प्रतिद्वंद्वी से कम क़ीमत का है। यह उन लोगों के लिए व्यावहारिक विकल्प है जो सबसे कम लागत पर 128GB चाहते हैं, या जिनकी टीम परिचित Linux वातावरण पसंद करती है।

Nvidia: DGX Spark

लगभग एक लीटर का डिब्बा जिसमें Grace Blackwell चिप और 128GB है, और यही वह उत्पाद है जिसने यह श्रेणी बनाई। इसका सबसे बड़ा फ़ायदा स्पेसिफ़िकेशन नहीं, बल्कि CUDA इकोसिस्टम है: ज़्यादातर एआई टूलिंग और ट्रेनिंग फ़्रेमवर्क सबसे पहले इसी के लिए लिखे गए। अगर आपकी टीम मॉडल सिर्फ़ चलाने के बजाय उन्हें ट्रेन या फ़ाइन-ट्यून करेगी, तो यह निर्णायक बात है।

पारंपरिक रास्ता: डिस्क्रीट GPU वाला सर्वर

जब आप एक साथ कई उपयोगकर्ताओं को सेवा देते हैं, तब भी यही सही जवाब है। सर्वर कार्ड यूनिफ़ाइड-मेमोरी मशीनों से कहीं अधिक बैंडविड्थ देते हैं, और यह मॉडल के आकार में नहीं बल्कि एक साथ आने वाले अनुरोधों में दिखता है। कमियाँ: अधिक लागत, साथ ही बिजली, गर्मी और शोर, जिनके लिए एक उपयुक्त कमरा चाहिए।

मशीनें, आमने-सामने

सटीक कीमतें और कहाँ से खरीदें

हमने Apple की कीमतें इस लेख के प्रकाशन की तारीख़ पर सीधे उसके अपने अमेरिकी और सऊदी स्टोर से ली हैं:

Apple सऊदी स्टोर या Apple अमेरिकी स्टोर से खरीदें। ये हर कॉन्फ़िगरेशन की शुरुआती कीमतें हैं; मेमोरी अधिकतम करने से ये काफ़ी बढ़ जाती हैं, और 512GB विकल्प लॉन्च पर नहीं बल्कि अक्टूबर के अंत में आता है। ध्यान दें कि सऊदी कीमत में VAT शामिल है जबकि अमेरिकी कीमत टैक्स से पहले की है।

AMD और Nvidia ये मशीनें सीधे एक तय कीमत पर नहीं बेचते: AMD चिप अलग-अलग निर्माताओं के बॉक्स में आती है, जिनकी कीमत निर्माता और कॉन्फ़िगरेशन के अनुसार लगभग $1,500 से $4,000 है, और DGX Spark लगभग $4,000 पर लॉन्च हुआ था और बाज़ार में इसकी कीमत बढ़ गई है। प्रकाशन के समय तक हमें इनमें से किसी की भी आधिकारिक सऊदी रिटेल लिस्टिंग नहीं मिली, इसलिए खरीदने का मतलब किसी वितरक के ज़रिये जाना या आयात करना है, और उस स्थिति में VAT, सीमा शुल्क और शिपिंग जोड़ें। इनके आधिकारिक पेज: NVIDIA DGX Spark और AMD Ryzen AI Max+ 395।

कौन-सा ओपन मॉडल चलाएँ, और किस पर?

मशीन आधा फ़ैसला है; बाक़ी आधा ख़ुद मॉडल है। ये वे प्रमुख ओपन-वेट मॉडल हैं जिन्हें आप आज डाउनलोड करके चला सकते हैं, साथ में वह मशीन जो हर एक को 4-बिट पर समा सकती है और उसकी व्यावहारिक क्षमता का अनुमान:

यहाँ क्षमता प्रतिशत का क्या मतलब है? रोज़मर्रा के व्यावसायिक काम में, जैसे सारांश बनाना, दस्तावेज़ों पर सवालों के जवाब देना, कोड लिखना, अनुवाद करना, मॉडल सबसे मज़बूत भुगतान वाले बंद मॉडलों के कितने क़रीब पहुँचता है। यह प्रकाशित स्पेसिफ़िकेशन और विक्रेताओं के अपने बताए आँकड़ों पर आधारित एक Origami संपादकीय अनुमान है, किसी एक तटस्थ परीक्षण का नतीजा नहीं। कारण सीधा है: हर लैब अपने आँकड़े अलग परीक्षण व्यवस्था और अलग सेटिंग्स के साथ प्रकाशित करती है, इसलिए आज कोई एक तटस्थ बेंचमार्क इन सभी मॉडलों को रैंक नहीं करता। इसे फ़ैसला नहीं, मार्गदर्शन मानें, और प्रतिबद्ध होने से पहले मॉडल को अपने कामों पर परखें।

दो बातें जो पूरी तालिका का सार हैं: "सक्रिय" चिह्नित मॉडल हर अनुरोध पर अपने पैरामीटर का सिर्फ़ एक छोटा हिस्सा उपयोग करते हैं, इसलिए वे अपने आकार से जितना लगता है उससे तेज़ हैं, लेकिन उन्हें फिर भी पूरी मेमोरी चाहिए। और 72% और 90% के बीच का अंतर ज़्यादातर दफ़्तरी काम में पूरी तरह ग़ायब हो जाता है, जबकि लंबे, जटिल कामों में साफ़ दिखता है। ऐसी बढ़त के लिए 512GB पर पैसा न लगाएँ जिसे आप कभी महसूस नहीं करेंगे।

व्यावहारिक रूप से कैसे चुनें

• एक या दो उपयोगकर्ता? एक यूनिफ़ाइड-मेमोरी मशीन काफ़ी है और बहुत बचत करती है।
• टीम एक साथ सिस्टम का उपयोग करेगी? आपको डिस्क्रीट GPU चाहिए होंगे, क्योंकि अब समस्या मॉडल का आकार नहीं, एक साथ आने वाले अनुरोध हैं।
• ट्रेनिंग या फ़ाइन-ट्यूनिंग? CUDA की ओर झुकें।
• कम से कम जटिलता के साथ सबसे बड़ा संभव मॉडल चाहिए? आज सबसे बड़ी क्षमता Apple की है।
• सीमित बजट? 128GB, 4-बिट पर 200 अरब पैरामीटर तक के मॉडल कवर करता है, जो सच में ज़्यादातर कंपनियों की ज़रूरतें पूरी करता है।

खरीदने से पहले समझने लायक समझौता: यूनिफ़ाइड-मेमोरी मशीनें सर्वर कार्ड की तुलना में बड़ी क्षमता पर कम बैंडविड्थ देती हैं। वे बड़े मॉडल को बिना परेशानी लोड कर लेती हैं, लेकिन टेक्स्ट धीरे बनाती हैं। चैट और सारांश के लिए आपको मुश्किल से पता चलेगा; भारी बैच प्रोसेसिंग में चलेगा।

जब निजी सर्वर गलत फ़ैसला है

हम यह साफ़ कहते हैं क्योंकि हम इसे अक्सर देखते हैं: हार्डवेयर परियोजना का अंत नहीं, शुरुआत है। आप अपडेट, बैकअप, निगरानी की ज़िम्मेदारी भी खरीद रहे हैं, और उस व्यक्ति की भी जो गुरुवार को इसके रुक जाने पर इसे ठीक करेगा। अगर आपका उपयोग रुक-रुक कर और कम है, तो किसी बाहरी सेवा का मासिक बिल मशीन, उसकी बिजली और उसे चलाने वाले के समय से सस्ता है।

निजी सर्वर तब अपनी जगह बनाता है जब तीन चीज़ें मिलती हैं: ऐसा डेटा जो बाहर नहीं जाना चाहिए, लगातार भारी उपयोग, और कोई व्यक्ति या पक्ष जो इसे चलाएगा। अगर तीनों में से एक भी न हो, तो हिसाब दोबारा लगाएँ।

Origami का नज़रिया

हमारा मानना है कि अहम सवाल यह नहीं कि कौन-सी मशीन खरीदें, बल्कि यह कि आप उस पर क्या चलाएँगे। जो लोग हमसे निजी सर्वर के बारे में पूछते हैं, उनमें से ज़्यादातर को असल में एक मध्यम आकार का मॉडल चाहिए जो उनकी कंपनी के दस्तावेज़ों पर सवालों के जवाब दे, और वह 128GB पर आराम से चलता है, कभी-कभी उससे कम पर भी। 70 अरब पैरामीटर वाला मॉडल चलाने के लिए 512GB खरीदना बिना रिटर्न का खर्च है।

हमारी व्यावहारिक सलाह: काम तय करें, फिर वह मॉडल चुनें जो उसे करता है, फिर वह मशीन खरीदें जो उस मॉडल को गुंजाइश के साथ समा सके। हम इसी क्रम में मदद करते हैं: काम तय करना, मॉडल चुनना, और वह परत बनाना जो उसे आपके डेटा और सिस्टम से जोड़ती है, क्योंकि आपके डेटा से न जुड़ा मॉडल एक सामान्य टूल ही रहता है, ऐसा सिस्टम नहीं बनता जो आपकी कंपनी की सेवा करे। आप हमें संपर्क पेज पर पाएँगे।

निष्कर्ष

आप Claude को अपने यहाँ नहीं चलाएँगे, लेकिन ऐसे सक्षम ओपन मॉडल चलाएँगे जो ज़्यादातर व्यावसायिक काम संभाल लेते हैं। पहले अपनी ज़रूरत को पैरामीटर में आँकें: 4-बिट पर प्रति पैरामीटर आधा बाइट, साथ में गुंजाइश। फिर यूनिफ़ाइड मेमोरी, जो उचित लागत पर क्षमता देती है, और डिस्क्रीट कार्ड, जो गति और समानांतरता देते हैं, में से चुनें। सबसे अहम फ़ैसला अब भी हार्डवेयर से पहले आता है: आप क्या चलाएँगे, और क्यों।

स्रोत

• Apple की प्रेस विज्ञप्ति, 25 अगस्त 2026: M5 Max और M5 Ultra वाले Mac Studio के स्पेसिफ़िकेशन, यूनिफ़ाइड मेमोरी क्षमताएँ और बैंडविड्थ, Thunderbolt 5 क्लस्टरिंग, और Core AI तथा MLX फ़्रेमवर्क।
• AMD Ryzen AI Max+ 395 और Nvidia DGX Spark की StorageReview और HotHardware द्वारा स्वतंत्र समीक्षाएँ, जिनमें उनकी क्षमता और कीमत की तुलना शामिल है।
• मेमोरी का गणित मॉडल चलाने के मानक नियम का पालन करता है: पूर्ण परिशुद्धता पर प्रति पैरामीटर दो बाइट, क्वांटाइज़ेशन के साथ घटता हुआ।
• Qwen3.8, Llama 4, Mistral, gpt-oss, DeepSeek V4, GLM-5.3 और Kimi K3 के आधिकारिक Hugging Face मॉडल कार्ड, जो पैरामीटर संख्या और लाइसेंस का स्रोत हैं। क्षमता प्रतिशत Origami का संपादकीय अनुमान है, जैसा ऊपर बताया गया है।