AI के जोखिमों से अपनी कंपनी को कैसे बचाएं? हाल की चेतावनियों के आधार पर व्यावहारिक सुझाव

AI के जोखिमों से अपनी कंपनी को सात कदमों से बचाएं: कंपनी में चल रहे हर AI टूल और एजेंट की जानकारी रखें, हर एजेंट को कम से कम पहुंच वाला अपना अलग खाता दें, किसी भी भुगतान, डेटा मिटाने या ग्राहकों को संदेश भेजने से पहले इंसानी मंज़ूरी अनिवार्य करें, ग्राहकों का डेटा बिना मंज़ूरी वाले टूल से दूर रखें, इंटरनेट से जुड़े सिस्टम को कुछ ही दिनों में पैच करें, पैसों से जुड़े अनुरोधों की पुष्टि किसी दूसरे माध्यम से करें, और देखें कि आपका बीमा क्या कवर करता है। ये कदम अक्टूबर 2026 की चेतावनियों से निकले हैं: माइक्रोसॉफ्ट ने कंपनियों से कहा कि वे एजेंटों को ऐसे अंदरूनी लोगों की तरह देखें जो गलती कर सकते हैं या बहकाए जा सकते हैं; PHP2Shell की दो खामियां, जिनमें से एक AI मॉडल की मदद से मिली थी, खुलासे के 5 दिन बाद सक्रिय रूप से दुरुपयोग की जा रही खामियों की सूची में शामिल हो गईं; और Anthropic के IPO प्रॉस्पेक्टस ने चेतावनी दी कि उसके मॉडल ऐसे तरीकों से व्यवहार कर सकते हैं जिनका किसी उपयोगकर्ता या डेवलपर ने इरादा नहीं किया था।

हाल की चेतावनियां क्या हैं, और ये आपकी कंपनी के लिए क्यों मायने रखती हैं?

एक महीने से भी कम समय में ये चेतावनियां खुद AI मॉडल बनाने वाली कंपनियों और सरकारी साइबर सुरक्षा एजेंसियों की ओर से आईं। जारी होने के क्रम में मुख्य चेतावनियां ये हैं:

इन चेतावनियों में साझा बात यह है कि AI दो दिशाओं से जोखिम बढ़ाता है: बाहर से, क्योंकि हमलावर अब खामियों को तेज़ी से खोजकर उनका दुरुपयोग करते हैं, और अंदर से, जब किसी टूल या एजेंट को ज़रूरत से ज़्यादा पहुंच मिल जाती है। PHP की खामियों पर प्रतिक्रिया देने वाले गठबंधन का नेतृत्व करने वाली OpenAI इन्हें हाल के समय की सबसे ज़्यादा असर वाली सुरक्षा समस्याओं में से एक मानती है और कहती है कि "यही क्षमताएं हमलावरों को तेज़ी से हमले के टूल और एक्सप्लॉइट बनाने में भी मदद कर सकती हैं"। उसे उम्मीद है कि ऐसी खोजें "आने वाले महीनों में तेज़ी से बढ़ेंगी"। Anthropic का IPO प्रॉस्पेक्टस आगे जोड़ता है कि "दुर्भावनापूर्ण लोग पहले ही AI की क्षमताओं का इस्तेमाल करके खामियां खोजने, मैलवेयर बनाने और पहचान करने वाले टूल से बचने के लिए चर्चित साइबर हमले कर चुके हैं"।

अपनी कंपनी को कैसे बचाएं? 7 व्यावहारिक सुझाव

1. अपनी कंपनी में चल रहे हर AI टूल और एजेंट की जानकारी रखें। माइक्रोसॉफ्ट साफ़ कहता है: "जो दिखता नहीं, उसे सुरक्षित नहीं किया जा सकता।" कंपनी ने अपने टूल का दायरा बढ़ाया है ताकि वे कर्मचारियों के उपकरणों पर चल रहे 60 तरह के एजेंटों को पहचान सकें, जिनमें Claude Code, OpenAI Codex और GitHub Copilot शामिल हैं, क्योंकि कुछ एजेंट बिना किसी केंद्रीय तैनाती के उपकरणों तक पहुंच जाते हैं। एक ही शीट से शुरुआत करें: हर टूल, उसे कौन इस्तेमाल करता है, वह किस डेटा तक पहुंचता है, खाता निजी है या बिज़नेस, और उसका ज़िम्मेदार कौन है। यही शीट SDAIA के AI जोखिम प्रबंधन के राष्ट्रीय ढांचे का भी शुरुआती बिंदु है।
2. हर एजेंट को अपना खाता और जितनी हो सके उतनी कम पहुंच दें। माइक्रोसॉफ्ट का उदाहरण खर्च के दावों की जांच करने वाला एक एजेंट है: उसे दावे और कंपनी की नीति पढ़नी होती है, लेकिन उसे उस कर्मचारी के सारे अधिकार नहीं मिलने चाहिए जिसने उसे सेट किया है। माइक्रोसॉफ्ट की सिफ़ारिश है कि एजेंट बिना किसी अधिकार के शुरू हो, उसे सिर्फ़ उतना मिले जितना काम के लिए ज़रूरी है और सिर्फ़ उतनी देर के लिए जितनी देर काम चले, और ज़्यादा असर वाली कार्रवाइयों के लिए प्रमाणित इंसानी मंज़ूरी ज़रूरी हो। व्यवहार में: किसी एजेंट को मैनेजर के खाते से न जोड़ें, उसे कंपनी का बैंक पासवर्ड न दें, पढ़ने और लिखने की पहुंच को अलग रखें, कोड और सेटिंग्स से वे भूली हुई कुंजियां हटा दें जो उसके लिए ज़रूरत से ज़्यादा दरवाज़े खोलती हैं, और उसे तुरंत रोकने का एक तरीका बनाए रखें। माइक्रोसॉफ्ट के CEO सत्या नडेला इसे यूं समझाते हैं: "सबसे भरोसेमंद एजेंटिक सिस्टम वह नहीं होगा जिसके मॉडल पर हम सबसे ज़्यादा भरोसा करते हैं। वह होगा जिसे इस तरह बनाया गया हो कि हमें मॉडल पर सबसे कम भरोसा करना पड़े।"
3. किसी एजेंट को ईमेल, फ़ाइल या वेब पेज में पढ़ी गई बात पर बिना जांच के कार्रवाई न करने दें। Anthropic का IPO प्रॉस्पेक्टस प्रॉम्प्ट इंजेक्शन को ऐसा हमला बताता है जिसमें मॉडल से प्रोसेस करवाई जाने वाली सामग्री, जैसे वेबसाइट, दस्तावेज़ या टूल के आउटपुट, में दुर्भावनापूर्ण निर्देश छिपा दिए जाते हैं ताकि आमतौर पर उपयोगकर्ता की जानकारी के बिना मॉडल का व्यवहार बदला जा सके। जो एजेंट ग्राहकों के ईमेल पढ़ता है और पैसे ट्रांसफ़र कर सकता है, चीज़ें मिटा सकता है या संदेश भेज सकता है, वह किसी हमलावर द्वारा संदेश के अंदर लिखा गया आदेश लागू कर सकता है। माइक्रोसॉफ्ट भी यही स्थिति बताता है: खर्च वाला एजेंट किसी बाहरी दस्तावेज़ में प्रॉम्प्ट इंजेक्शन का सामना कर सकता है, और उसकी सेटिंग बदले बिना ही उसका व्यवहार बदल जाता है। ऐसा इंतज़ाम करें कि कंपनी से पैसा या डेटा बाहर ले जाने वाला हर कदम किसी कर्मचारी की मंज़ूरी से होकर जाए, खासकर तब जब एजेंट बाहर से आई सामग्री पढ़ चुका हो। यही जोखिम हमने उन कोडिंग एजेंटों में देखा जो प्रोजेक्ट खोलते ही हमलावर का आदेश चला देते हैं।
4. ग्राहकों का डेटा बिना मंज़ूरी वाले टूल से दूर रखें। OpenAI हेल्प सेंटर के अनुसार, OpenAI डिफ़ॉल्ट रूप से ChatGPT Business, ChatGPT Enterprise और अपने API के इनपुट और आउटपुट का इस्तेमाल अपने मॉडल सुधारने के लिए नहीं करती, जबकि Free, Plus और Pro जैसे व्यक्तिगत प्लान की सामग्री प्रशिक्षण में इस्तेमाल हो सकती है, जब तक उपयोगकर्ता इसे सेटिंग्स में बंद न कर दे। Anthropic कहती है कि वह डिफ़ॉल्ट रूप से अपने व्यावसायिक उत्पादों, जैसे Claude for Work और अपने API, के इनपुट पर मॉडल को प्रशिक्षित नहीं करती। इसलिए बिज़नेस खातों को मानक बनाएं और अपने कर्मचारियों को लिखित में बताएं कि कौन-सी चीज़ें किसी भी टूल में कभी नहीं जाएंगी: ग्राहकों का निजी डेटा, अनुबंध और पासवर्ड। अगर आप ग्राहकों का निजी डेटा किसी AI टूल में डालते हैं, तो उस टूल का प्रदाता आपकी ओर से उस डेटा को प्रोसेस करता है, और सऊदी व्यक्तिगत डेटा संरक्षण कानून (PDPL) के कार्यान्वयन विनियम का अनुच्छेद 17 आपसे ऐसा प्रोसेसर चुनने की अपेक्षा करता है जो पर्याप्त गारंटी दे, और ऐसा समझौता करने की जिसमें प्रोसेसिंग का उद्देश्य और अवधि तथा किसी भी लीक के बारे में आपको सूचित करने का प्रोसेसर का दायित्व तय हो। अगर किसी लीक से संबंधित लोगों को नुकसान हो सकता है, तो अनुच्छेद 24 के तहत आपको उसकी जानकारी मिलने के 72 घंटों के भीतर सक्षम प्राधिकरण को सूचित करना होगा।
5. इंटरनेट से जुड़े सिस्टम को हफ़्तों में नहीं, दिनों में पैच करें। Fortinet का कहना है कि AI टूल अब हमलावरों को पैच की रिवर्स इंजीनियरिंग करके काम करने वाले एक्सप्लॉइट "हफ़्तों के बजाय घंटों या दिनों में" बनाने में मदद करते हैं, और "खुलासे और दुरुपयोग के बीच का समय लगातार घट रहा है"। Anthropic कहती है कि एक्सप्लॉइट अब मिनटों में तैयार किए जा सकते हैं। इसीलिए PHP2Shell की खामियों के मामले में CISA ने साफ़ कदम बताए: PHP चलाने वाले हर सिस्टम की सूची बनाएं, इंटरनेट से जुड़े सिस्टम से शुरू करते हुए तुरंत पैच लगाएं, और जो सिस्टम अपडेट नहीं हो सकता उसे अपडेट होने तक नेटवर्क से हटा दें, साथ ही यह भी बताया कि इस बीच वेब एप्लिकेशन फ़ायरवॉल (WAF) कुछ सुरक्षा दे सकता है। सऊदी राष्ट्रीय साइबर सुरक्षा प्राधिकरण (NCA) ने भी प्रभावित उत्पादों को अपडेट करने की सलाह देने वाली चेतावनी जारी की। यही नियम हर खुले सिस्टम पर लागू करें: वेबसाइट, फ़ायरवॉल, VPN और ईमेल। विस्तार से जानकारी हमारे लेखों में है: PHP2Shell खामी, Linux की नई खामी और FortiGate फ़ायरवॉल।
6. पैसे या डेटा के हर अनुरोध की पुष्टि किसी दूसरे माध्यम से करें। डीपफेक पर अपने जागरूकता अभियान में SDAIA और संचार, अंतरिक्ष और प्रौद्योगिकी आयोग (CST) कहते हैं कि "किसी को वीडियो में देखना या उसकी आवाज़ सुनना इस बात का सबूत नहीं है कि उसने वह कहा", और जोखिमों में आर्थिक नुकसान और धोखाधड़ी, सत्यापन प्रणालियों में सेंध और पहचान की चोरी गिनाते हैं। इसलिए किसी कॉल, वॉइस मैसेज या वीडियो के भरोसे कभी पैसा ट्रांसफ़र न करें और डेटा न भेजें, भले ही आवाज़ मैनेजर जैसी लगे। उस व्यक्ति को उस नंबर पर वापस कॉल करें जो आपके पास पहले से है, और आपके तय की गई सीमा से ऊपर के हर ट्रांसफ़र के लिए दो हस्ताक्षर ज़रूरी करें। सुरक्षा की परतों के बारे में हमने डीपफेक और AI धोखाधड़ी पर अपने लेख में बताया है, और आपके हस्ताक्षर के बिना कंपनी का पैसा निकलने के हर रास्ते को बंद करने का तरीका Binance हैक से मिले सबक में।
7. देखें कि आपका बीमा क्या कवर करता है और आपके आपूर्तिकर्ताओं के अनुबंध क्या कहते हैं। Anthropic का IPO प्रॉस्पेक्टस कहता है: "क्योंकि हमारे मॉडल ऐसे तरीकों से व्यवहार कर सकते हैं जिनका किसी उपयोगकर्ता या डेवलपर ने इरादा नहीं किया था, ऐसी कार्रवाइयों से उठने वाले दावों से भारी देनदारी पैदा हो सकती है।" वह आगे जोड़ता है कि उसकी बीमा पॉलिसियां पर्याप्त कवरेज न दें, ऐसा हो सकता है, और "AI के विशिष्ट जोखिमों का बीमा बाज़ार अभी नया है और विकसित हो रहा है"। अगर मॉडल बनाने वाली कंपनी की यह स्थिति है, तो अपनी बीमा कंपनी से लिखित में पूछें: क्या पॉलिसी AI एजेंट की वजह से हुए डेटा लीक या क्लोन की गई आवाज़ से किए गए धोखाधड़ी वाले ट्रांसफ़र को कवर करती है? और हर टूल प्रदाता से पूछें कि आपका डेटा कहां रखा जाता है, कितने समय तक रखा जाता है, और किसी घटना की सूचना वह आपको कब देगा।

सऊदी अधिकारी क्या कहते हैं?

AI इस्तेमाल करने वाले हर सऊदी व्यवसाय के लिए तीन संदर्भ अहम हैं:

• SDAIA ने सरकारी और निजी संस्थाओं के मार्गदर्शन के लिए AI जोखिम प्रबंधन का राष्ट्रीय ढांचा शुरू किया है; हमने इसके चार चरण और आपकी कंपनी इन्हें कैसे लागू कर सकती है समझाया है।
• राष्ट्रीय साइबर सुरक्षा प्राधिकरण (NCA) ने अपने AI साइबर सुरक्षा दिशानिर्देशों का मसौदा सार्वजनिक परामर्श के लिए रखा, और राय भेजने की अंतिम तारीख 5 अगस्त 2026 तय की। मसौदा 4 क्षेत्रों पर आधारित है: साइबर सुरक्षा शासन, बचाव, लचीलापन और तीसरे पक्ष से जुड़ी साइबर सुरक्षा, और इसमें जनरेटिव AI और एजेंटिक AI दोनों शामिल हैं।
• व्यक्तिगत डेटा संरक्षण कानून (PDPL) व्यक्तिगत डेटा प्रोसेस करने वाले हर व्यवसाय पर लागू होता है, जिसमें ऊपर बताए गए उसके कार्यान्वयन विनियम के अनुच्छेद 17 और 24 भी शामिल हैं। ज़्यादा जानकारी इस कानून पर हमारी व्यावहारिक गाइड में है।

पहले 30 दिनों की योजना क्या है?

Origami की राय

हम इन चेतावनियों को आपकी कंपनी में AI बंद करने की वजह नहीं, बल्कि उसे साफ़ सीमाओं के भीतर चलाने की वजह मानते हैं। खुद माइक्रोसॉफ्ट कहता है कि लक्ष्य ऐसा मॉडल नहीं है जिसकी हर हरकत का अनुमान लगाया जा सके, बल्कि "ऐसे सिस्टम जो मॉडल के सुरक्षित न होने पर भी सुरक्षित बने रहें"। Origami में हम सीमित अधिकारों, मंज़ूरी के चरणों और साफ़ लॉग के साथ AI सुविधाएं और एजेंट कंपनियों के सिस्टम में जोड़ते हैं, AI टूल से बने कोड की समीक्षा करके उसकी खामियां बंद करते हैं, और इंटरनेट से जुड़े सर्वर और एप्लिकेशन अपडेट करते हैं। अपने टूल और एजेंटों की साथ मिलकर समीक्षा करने के लिए हमसे संपर्क करें।

मुख्य बातें

• अक्टूबर 2026 की चेतावनियां बताती हैं कि AI खामियों को खोजने और उनके दुरुपयोग की रफ़्तार बढ़ाता है, एजेंट गलती कर सकते हैं या बहकाए जा सकते हैं, और मॉडल ऐसे व्यवहार कर सकते हैं जिसका किसी ने इरादा नहीं किया था।
• अपने टूल और एजेंटों की जानकारी रखें, हर एजेंट को न्यूनतम पहुंच दें, और वित्तीय व संवेदनशील कदमों से पहले इंसानी मंज़ूरी ज़रूरी करें।
• ऐसे बिज़नेस खाते इस्तेमाल करें जो डिफ़ॉल्ट रूप से आपके डेटा पर मॉडल प्रशिक्षित नहीं करते, और ग्राहकों का डेटा बिना मंज़ूरी वाले टूल से दूर रखें।
• खुले सिस्टम को दिनों में पैच करें, पैसों के अनुरोधों की पुष्टि दूसरे माध्यम से करें, और अपने बीमा व आपूर्तिकर्ताओं के अनुबंधों की समीक्षा करें।

स्रोत

• माइक्रोसॉफ्ट: एजेंट आपके सबसे नए अंदरूनी लोग हैं, 19 अक्टूबर 2026
• OpenAI: Patch the Planet, PHP की गंभीर खामियों पर प्रतिक्रिया का समन्वय
• CISA: PHP की गंभीर खामियों को तुरंत पैच करना ज़रूरी
• सऊदी राष्ट्रीय साइबर सुरक्षा प्राधिकरण (NCA): PHP चेतावनी
• Fortinet: कई उत्पादों के लिए सुरक्षा मज़बूत करने वाली रिलीज़
• Anthropic: ओपन-सोर्स सॉफ़्टवेयर के लिए स्वैच्छिक खामी खोज सेवा, 8 अक्टूबर 2026
• Anthropic: Claude की मदद से खामियां खोजना और उनका दुरुपयोग, 27 अक्टूबर 2026
• Anthropic: अमेरिकी प्रतिभूति और विनिमय आयोग (SEC) में दाखिल S-1 पंजीकरण विवरण
• सऊदी प्रेस एजेंसी (SPA): SDAIA ने AI जोखिम प्रबंधन का राष्ट्रीय ढांचा शुरू किया
• सऊदी राष्ट्रीय साइबर सुरक्षा प्राधिकरण (NCA): AI साइबर सुरक्षा दिशानिर्देशों पर परामर्श
• SDAIA और CST: डीपफेक और नकली वीडियो
• SDAIA: व्यक्तिगत डेटा संरक्षण कानून का कार्यान्वयन विनियम
• OpenAI: मॉडल के प्रदर्शन को बेहतर बनाने में आपके डेटा का इस्तेमाल कैसे होता है
• Anthropic: क्या मेरे डेटा का इस्तेमाल मॉडल प्रशिक्षण में होता है?