आपकी योजना में तीन चीज़ें बदलती हैं: ऐसी क्षमता पर निर्माण न करें जो अभी रिलीज़ नहीं हुई है, यह सुनिश्चित करें कि आपके AI असिस्टेंट को मंज़ूरी देने वाला व्यक्ति वह न हो जिसने उसे विकसित किया है, और उसे एक असली किल स्विच दें जिसे कोई गैर-तकनीकी कर्मचारी इस्तेमाल कर सके। वजह यह है: 12 सितंबर 2026 को Anthropic के CEO Dario Amodei ने "We Must Pace the Frontier" (फ्रंटियर की रफ़्तार थामनी होगी) शीर्षक से एक निबंध प्रकाशित किया, जिसमें तर्क दिया गया कि AI उद्योग को मॉडल क्षमताओं में सुधार की रफ़्तार धीमी करनी होगी, और तीन चरणों वाली एक योजना रखी। Anthropic ने पहले चरण के लिए प्रतिबद्धता जताई: स्वतंत्र बाहरी मूल्यांकनकर्ताओं को अपने दफ़्तरों के भीतर रखना, लगभग कर्मचारियों जैसी पहुँच के साथ और यह अधिकार देकर कि वे जो पाएँ उसे प्रकाशित कर सकें, बिना इसके कि Anthropic का उस पर कोई संपादकीय नियंत्रण हो। कुछ ही घंटों में Sam Altman ने कहा कि OpenAI इससे सहमत है और वही प्रतिबद्धता अपनाएगा।

निबंध में बताए गए तीन चरण

  • लैब के भीतर तैनात मूल्यांकनकर्ता: METR जैसे स्वतंत्र मूल्यांकन संगठनों को स्थायी, कर्मचारी-स्तर की पहुँच मिलती है, ताकि वे सत्यापित कर सकें कि घोषित सुरक्षा प्रतिबद्धताएँ वास्तव में लागू हो रही हैं और घटनाओं की रिपोर्ट वैसे ही हो रही है जैसे होनी चाहिए। यह वह चरण है जिसके लिए Anthropic ने किसी और का इंतज़ार किए बिना अकेले प्रतिबद्धता जताई।
  • लोकतांत्रिक देशों की लैब के बीच तालमेल: साझा सुरक्षा मानक और अनियंत्रित प्रगति की रफ़्तार पर सहमत सीमाएँ, साथ में सरकारी समर्थन ताकि ऐसे तालमेल से उठने वाली प्रतिस्पर्धा-विरोधी (एंटीट्रस्ट) चिंताओं का समाधान हो सके। यहाँ Amodei एक "चेकपॉइंट" का विचार रखते हैं: अगर कोई मॉडल एक तय क्षमता तक पहुँच जाए, तो उसे तब तक रिलीज़ नहीं किया जाना चाहिए जब तक विशिष्ट प्रमाणन कुछ ख़ास अलाइनमेंट गुणों की पुष्टि न कर दें — संभवतः इनपुट पर ही सीमाओं के साथ, जैसे ट्रेनिंग कंप्यूट या दूसरे मॉडल बनाने के लिए मॉडलों का आंतरिक उपयोग।
  • वैश्विक तालमेल: गैर-लोकतांत्रिक सरकारों के साथ समझ बनाने की कोशिश, चार बढ़ते स्तरों में जो विशिष्ट अनुप्रयोगों पर सीमित प्रतिबंधों से लेकर विकास पर पूर्ण विराम तक जाते हैं, इस स्पष्ट स्वीकारोक्ति के साथ कि अनुपालन का सत्यापन कितना कठिन होगा।

Amodei ने न तो धीमेपन का कोई प्रतिशत बताया और न कोई समय-सारिणी, लेकिन उन्होंने यह ज़रूर कहा कि मॉडलों के महत्वपूर्ण क्षमता स्तरों तक पहुँचने से पहले "एक या दो साल और" मिल जाएँ तो जोखिम काफ़ी घट जाएगा। साथ ही उन्होंने ज़ोर दिया कि प्रगति अब भी तेज़ लगेगी, और मक़सद रुकना नहीं बल्कि मिले हुए समय का समझदारी से इस्तेमाल करना है।

प्रतिस्पर्धी इतनी जल्दी सहमत क्यों हुए

असली ख़बर रफ़्तार है। "जो पहले पहुँचे, वही जीते" पर टिके उद्योग ने अपने चार सबसे बड़े नामों को एक ही दिन में एक कतार में खड़ा देखा। पृष्ठभूमि यह है कि Google DeepMind के Demis Hassabis ने 14 जुलाई को एक ऐसे मानक निकाय का प्रस्ताव रखा था जिसे उद्योग वित्तपोषित करे और संघीय स्तर पर उसकी निगरानी हो, वित्तीय उद्योग के नियामक FINRA की तर्ज़ पर, जो फ्रंटियर-श्रेणी के मॉडलों को रिलीज़ से पहले तीस दिनों तक परखेगा — शुरू में स्वैच्छिक रूप से, फिर अमेरिका में तैनाती की शर्त के रूप में।

और 14 सितंबर को, सिर्फ़ दो दिन बाद, Microsoft ने अपने इन-हाउस मॉडलों के लिए आचार संहिता का एक मसौदा प्रकाशित किया, जिसे कंपनी की AI शाखा के प्रमुख Mustafa Suleyman ने एक तरह का संविधान बताया। इसका केंद्रीय नियम यह है कि मॉडल सुधार या शटडाउन का कभी विरोध नहीं करेगा, ऐसे शब्दों में संवाद करेगा जिन्हें लोग समझ सकें, और संहिता के किसी भी उल्लंघन को किसी अपवाद की तरह नहीं बल्कि सीधी विफलता की तरह लेगा। कंपनी ने छह हफ़्तों की सार्वजनिक टिप्पणी अवधि शुरू की, जिसके बाद वह अपनी अगली पीढ़ी के मॉडलों को अंतिम संहिता पर प्रशिक्षित करने की योजना बना रही है।

आपके व्यवसाय के भीतर वास्तव में क्या बदलता है

तीन ठोस बदलाव, जिनमें से किसी के लिए भी आपको कानून का इंतज़ार नहीं करना है:

  • ऐसी क्षमता पर योजना न बनाएँ जो रिलीज़ नहीं हुई है। बहुत सारे अटके हुए AI प्रोजेक्ट चुपचाप इस एक वाक्य पर टिके होते हैं: "अगला संस्करण इसे हल कर देगा।" अगर लैब के संस्थापक खुद रफ़्तार कम करने की बात कर रहे हैं, तो समझदारी भरी धारणा यही है कि अगले साल आप जिस पर निर्माण करेंगे, वह मोटे तौर पर वही है जो आज आपको दिख रहा है। वास्तव में मौजूद क्षमताओं पर डिज़ाइन करें और उन्हें खुद मापें।
  • स्वतंत्र मूल्यांकनकर्ता का सिद्धांत आपके आकार पर भी लागू होता है। Anthropic की प्रतिबद्धता का मूल सरल है: जो पक्ष सिस्टम बनाता है, वह उसे सुरक्षित प्रमाणित करने वाला पक्ष नहीं है। आपके व्यवसाय में इसका मतलब है कि जिसने AI असिस्टेंट विकसित किया है, वही ग्राहकों के सामने उसे चलाने की मंज़ूरी देने वाला न हो। किसी दूसरे व्यक्ति या टीम से उसे असली मामलों पर परखवाएँ, और उसे "ना" कहने का असली अधिकार दें।
  • शटडाउन का विरोध न करने का नियम एक असली किल स्विच में बदल जाता है। अगर आपके पास कोई AI एजेंट है जो संदेश भेजता है, ऑर्डर बदलता है या इनवॉइस जारी करता है, तो एक सवाल पूछें: किसी गैर-तकनीकी कर्मचारी को उसे पूरी तरह रोकने में कितने सेकंड लगते हैं? अगर जवाब में "हम डेवलपर को फ़ोन करते हैं" शामिल है, तो आपके पास किल स्विच नहीं है — आपके पास एक फ़ोन नंबर है।

चार फ़ैसले जो आपकी एक तिमाही के ध्यान के लायक हैं

  • एक ही पन्ने पर वह सब लिखें जो आपका AI सिस्टम मानवीय मंज़ूरी के बिना कर सकता है, फिर हर अपरिवर्तनीय कार्रवाई को काट दें: भुगतान, डिलीट करना, बाहरी ग्राहकों को भेजे जाने वाले संदेश, इन्वेंटरी में बदलाव।
  • ठीक इन्हीं कार्रवाइयों पर एक मंज़ूरी द्वार लगाएँ, और बाकी को खुलकर चलने दें, ताकि जोखिम के साथ-साथ फ़ायदा भी ख़त्म न हो जाए।
  • एक ऑडिट लॉग चालू करें जो दिखाए कि सिस्टम ने क्या किया, कब किया और किस इनपुट पर किया — क्योंकि किसी भी गलती के बाद पहला सवाल यही होगा कि "इसने ऐसा क्यों किया?"
  • पहले से तय करें कि सिस्टम को कौन रोकेगा और किसे सूचित किया जाएगा, और ज़रूरत पड़ने से पहले कम से कम एक बार इसे परखें।

यह दिशा उसी राह से मेल खाती है जिस पर सऊदी अरब साम्राज्य पहले से चल रहा है। सऊदी डेटा और आर्टिफ़िशियल इंटेलिजेंस प्राधिकरण (SDAIA) द्वारा जारी AI नैतिकता सिद्धांत और व्यक्तिगत डेटा संरक्षण कानून (PDPL) अलग भाषा में यही चीज़ें माँगते हैं: स्पष्ट मानवीय निगरानी, व्याख्या-योग्यता, और स्वचालित निर्णयों के लिए तय जवाबदेही। इसकी तैयारी के लिए आप आज जो करेंगे, वह व्यर्थ नहीं जाएगा।

और क्या नहीं बदलता

इन प्रतिबद्धताओं को उनके वास्तविक आकार से बड़ा नहीं समझना चाहिए। ये पूरी तरह स्वैच्छिक हैं, न कोई बाध्यकारी सत्यापन तंत्र है और न कोई घोषित समय-सारिणी। चीन से आ रहे ओपन-वेट मॉडलों की प्रतिस्पर्धा इनमें से किसी के दायरे में नहीं है और वह कीमतों को नीचे और क्षमताओं को ऊपर धकेलती रहेगी। और Amodei का निबंध एक प्रस्ताव है, कोई विनियमन नहीं। व्यावहारिक संदेश यह नहीं है कि AI बेहतर होना बंद कर देगा — बल्कि यह है कि जो परत एक शक्तिशाली मॉडल को आपके व्यवसाय से अलग करती है, यानी गवर्नेंस, परीक्षण और निगरानी, वह आधिकारिक रूप से एक विलासिता से उत्पाद का हिस्सा बन गई है।

Origami में हम पहले दिन से ठीक इसी तर्क पर व्यवसायों के लिए AI सिस्टम बनाते हैं: अपरिवर्तनीय कार्रवाइयों पर मंज़ूरी द्वार, एक संपूर्ण ऑडिट लॉग, और जब बातचीत सिस्टम के दायरे से बाहर चली जाए तो किसी इंसान को साफ़-सुथरा हस्तांतरण। इसलिए नहीं कि किसी नियामक ने यह माँगा, बल्कि इसलिए कि यही फ़र्क है उस टूल में जिस पर आप अपने ग्राहक के सामने भरोसा करते हैं और उस टूल में जिसे आप घबराहट के साथ देखते रहते हैं।

स्रोत

  • Dario Amodei के "We Must Pace the Frontier" का पूरा पाठ, 12 सितंबर 2026: darioamodei.com
  • योजना, Anthropic की प्रतिबद्धता और Sam Altman की प्रतिक्रिया पर TechCrunch की रिपोर्ट: techcrunch.com
  • Microsoft की AI आचार संहिता के मसौदे पर CNBC की रिपोर्ट: cnbc.com
  • सऊदी डेटा और आर्टिफ़िशियल इंटेलिजेंस प्राधिकरण (SDAIA) — AI नैतिकता सिद्धांत और व्यक्तिगत डेटा संरक्षण कानून: sdaia.gov.sa