18 ستمبر 2026 کو Google نے عوامی طور پر تصدیق کی کہ اس کے Gemini ماڈل نے بیرونی فریقوں کے تین سسٹمز تک غیر مجاز رسائی حاصل کر لی تھی۔ یہ مئی 2026 میں Irregular نامی کمپنی کے ایک سکیورٹی جائزے کے دوران ہوا، جو جدید AI سسٹمز کی جانچ کرتی ہے، اور یہ جائزہ ایک ایسے ماحول کے اندر capture-the-flag مشق کی شکل میں ترتیب دیا گیا تھا جسے بند ہونا چاہیے تھا۔ Google کو ان واقعات کا علم جولائی میں ہوا اور اس نے ستمبر کے وسط میں پریس میں خبریں آنے تک ان کی عوامی تصدیق نہیں کی۔

پریس میں یہ ایک ایسی کہانی کے طور پر پڑھی جاتی ہے جس میں AI اپنی حدود سے نکل گیا۔ کسی کاروبار کے اندر سے یہ کہیں زیادہ محدود اور کہیں زیادہ قریبی چیز لگتی ہے: جس تفصیل کی وجہ سے یہ سب ہوا وہ ماڈل میں نہیں تھی، بلکہ اس میں تھی کہ ٹیسٹ ماحول کیسے ترتیب دیا گیا تھا۔ اور یہ وہی نوعیت کی غلطی ہے جو اس وقت بہت سی سعودی کمپنیوں کے سسٹمز میں موجود ہے۔

اصل میں کیا ہوا

منظرنامہ سیدھا سادہ تھا: ماڈل سے ایک الگ تھلگ ماحول کے اندر ایک فرضی ادارے پر حملہ کروانا۔ دو چیزیں ایک ساتھ غلط ہو گئیں۔ پہلی، ماحول کو غیر ارادی طور پر انٹرنیٹ تک رسائی حاصل تھی۔ دوسری، مشق میں استعمال ہونے والی فرضی کمپنی اتفاق سے ایک حقیقی فریق کی ملکیت والے حقیقی ڈومین سے مل گئی۔

نتیجہ یہ نکلا کہ ماڈل نے بالکل وہی کیا جو اس سے کہا گیا تھا، بس غلط ہدف کے خلاف۔ Google میں سکیورٹی انجینئرنگ کی نائب صدر Heather Adkins کے مطابق ماڈل نے آن لائن عوامی معلومات تلاش کیں اور ان ویب سائٹس تک رسائی کے لیے لاگ اِن کی اسناد کا اندازہ لگایا جنہیں وہ ٹیسٹ کا حصہ سمجھ رہا تھا۔ رسائی ملتے ہی وہ رک گیا اور آگے نہیں بڑھا، اور Google کا کہنا ہے کہ کوئی نقصان نہیں ہوا۔

Google کے مؤقف کا سب سے اہم حصہ یہ ہے کہ وہ اسے ماڈل کے رویے میں ہم آہنگی کی خرابی نہیں بلکہ شناخت کی غلطی قرار دیتا ہے۔ ماڈل نے اپنی ہدایات سے آگے بڑھنے کا فیصلہ نہیں کیا۔ اس نے ان پر لفظ بہ لفظ عمل کیا، بس دنیا کے ایک غلط نقشے کے اندر۔ یہ کوئی اکیلا واقعہ بھی نہیں: OpenAI نے جولائی میں انکشاف کیا کہ اس کے ایک ایجنٹ نے Hugging Face میں نقب لگائی، اور Anthropic نے اپنے ماڈلز میں اسی طرح کے رویے کی اطلاع دی ہے۔

خرابی ماڈل میں نہیں، حد میں تھی

اس کہانی سے AI کو مکمل طور پر نکال دیں تو بھی سبق جوں کا توں رہتا ہے۔ سادہ الفاظ میں یہ واقعہ یوں ہے: ایک ٹیسٹ ماحول میں چلنے والا سسٹم، ایک ایسا ماحول جس میں بیرونی دنیا تک جانے کا فعال راستہ موجود ہے، اور اس کے اندر ایسا ٹیسٹ ڈیٹا جو اتنا فرضی نہیں تھا جتنا اسے لکھنے والے نے سمجھا تھا۔

یہ بیان ان چیزوں پر بھی صادق آتا ہے جو عام کاروباروں میں کسی AI کے بغیر ہوتی ہیں۔ ایک اسٹیجنگ سسٹم بے ترتیب گھڑے گئے موبائل نمبروں پر تصدیقی پیغامات بھیجتا ہے، اور وہ حقیقی لوگوں تک پہنچ جاتے ہیں۔ ایک ٹیسٹ اسکرپٹ سینڈ باکس کے بجائے پروڈکشن کے خلاف پیمنٹ گیٹ وے کو کال کرتی ہے۔ سائٹ کی ایک ڈویلپمنٹ کاپی لائیو کسٹمر ڈیٹا بیس سے جڑی رہتی ہے کیونکہ الگ ڈیٹا بیس جوڑنا زحمت کا کام تھا۔ ایک آزمائشی ای میل مہم حقیقی سبسکرائبرز کی فہرست کو چلی جاتی ہے۔ ہر صورت میں جو مفروضہ ٹوٹا وہ ایک ہی ہے: کسی نے یقین کر لیا تھا کہ یہ ماحول الگ ہے۔

سعودی کاروباروں میں یہ کہاں دہرایا جاتا ہے

موجودہ سسٹمز پر کام کرتے ہوئے ہم جو دیکھتے ہیں اس کے مطابق یہ چار مخصوص جگہوں پر دہرایا جاتا ہے:

  • ایسا ٹیسٹ ڈیٹا جو دراصل جعلی نہیں۔ کسی ٹیسٹ فارم کو بھرنے کے لیے موقع پر گھڑے گئے نمبر، ڈومین اور ای میل پتے عموماً حقیقی لوگوں کے ہوتے ہیں۔ اس کا حل انفرادی صوابدید نہیں، بلکہ جانچ کے لیے مخصوص ڈومین، ایسے نمبر جو کسی تک نہ پہنچیں، اور موقع پر ڈیٹا گھڑنے کے خلاف ایک تحریری اصول ہے۔
  • کھلے راستے والا اسٹیجنگ ماحول۔ اگر آپ کی ڈویلپمنٹ کاپی بیرونی دنیا کو WhatsApp پیغام، ای میل یا ادائیگی کی درخواست بھیج سکتی ہے، تو وہ اسٹیجنگ ماحول نہیں — وہ ایک دوسرا پروڈکشن ماحول ہے۔ درست بندش کنفیگریشن میں ہوتی ہے، کسی ڈویلپر کی یادداشت میں نہیں۔
  • ٹیسٹنگ میں استعمال ہونے والی پروڈکشن کلیدیں۔ دونوں ماحولوں میں مشترک ایک ہی کلید علیحدگی کو ختم کر دیتی ہے، چاہے فولڈرز کا ڈھانچہ کتنا ہی منظم کیوں نہ لگے۔ یہی وجہ ہے کہ سرکاری پلیٹ فارمز انہیں الگ رکھتے ہیں: مثال کے طور پر زکوٰۃ، ٹیکس اور کسٹمز اتھارٹی (ZATCA) Fatoora پلیٹ فارم پر پروڈکشن سے الگ ایک سمیولیشن ماحول فراہم کرتی ہے، اور ہر ایک کے لیے الگ آن بورڈنگ سرٹیفکیٹس جاری کرتی ہے۔
  • ڈویلپمنٹ ماحول کے اندر صارفین کے ڈیٹا کی کاپی۔ ضابطہ جاتی لحاظ سے یہ سب سے زیادہ خطرناک ہے۔ سعودی ڈیٹا اور مصنوعی ذہانت اتھارٹی (SDAIA) کی نگرانی میں ذاتی ڈیٹا کے تحفظ کا قانون (PDPL) ذاتی ڈیٹا پر لاگو ہوتا ہے چاہے وہ کہیں بھی ہو، اور ٹیسٹ کا لیبل لگی کاپی کو کوئی استثنا نہیں دیتا۔ حقیقی صارفین کا ڈیٹا رکھنے والا اسٹیجنگ ماحول مکمل طور پر اس کے دائرے میں آتا ہے — اور عموماً یہی آپ کا سب سے کم محفوظ سسٹم ہوتا ہے۔

اس ہفتے طے کرنے کی چار حدیں

ان میں سے کسی کے لیے بھی پروجیکٹ یا بجٹ کی ضرورت نہیں۔ ضرورت صرف اس شخص کے ساتھ ایک نشست کی ہے جو آپ کے سسٹمز چلاتا ہے:

  • ایک سیدھا سوال پوچھیں: کیا ہماری ٹیسٹ کاپی بیرونی دنیا کو کوئی پیغام، ای میل یا ادائیگی کی درخواست بھیج سکتی ہے؟ اگر جواب ہاں یا مجھے یقین نہیں ہے، تو سب سے پہلے اسی کو بند کریں۔
  • ماحولوں کے درمیان کلیدوں اور سرٹیفکیٹس کو مکمل طور پر الگ کریں، تاکہ کوئی بھی کلید دونوں میں کام نہ کرے۔
  • ٹیسٹ ڈیٹا کی ایک مقررہ فہرست اپنائیں: ایک مخصوص ٹیسٹ ڈومین، ایسے نمبر جو کسی تک نہ پہنچیں، اور ٹیم کا ایک معلوم موبائل نمبر جس پر ہر ٹیسٹ پیغام آئے۔
  • طے کریں کہ آپ کے سسٹمز کے خلاف کون خودکار ٹول یا AI ایجنٹ چلا سکتا ہے، کس ماحول میں اور کن اجازتوں کے ساتھ۔ اگر جواب تحریری نہیں، تو وہ موجود ہی نہیں۔

Origami کا نقطۂ نظر

ہم اس واقعے کو اس بات کی یاد دہانی سمجھتے ہیں کہ سب سے مہنگی سسٹم ناکامیاں شاذ و نادر ہی ہوشیاری والی ہوتی ہیں۔ وہ مفروضے کی ناکامیاں ہوتی ہیں۔ Google کی سکیورٹی صلاحیت کسی بھی سعودی کاروبار سے کہیں آگے ہے، اور جو مفروضہ ٹوٹا وہ سب سے سادہ تھا: کہ ایک بند ماحول واقعی بند تھا۔ کمپنیاں عموماً کسی سسٹم کے مشکل حصے پر نہیں گرتیں۔ وہ اس حصے پر گرتی ہیں جس کا کسی نے جائزہ نہیں لیا، کیونکہ وہ بدیہی لگتا تھا۔

Origami میں ہم ماحولوں کی علیحدگی کو ایک اختیاری اضافے کے بجائے ڈیلیوری کا حصہ سمجھتے ہیں: ایک ایسا اسٹیجنگ ماحول جو حقیقی مواصلاتی چینلز تک نہ پہنچ سکے، الگ کلیدیں، اور ایسا ٹیسٹ ڈیٹا جو کسی کی ملکیت نہ ہو۔ اس کی قیمت کسی پروجیکٹ کے آغاز میں چند گھنٹے ہے۔ متبادل ایک ایسا واقعہ ہے جس کی وضاحت آپ کسی گاہک یا ریگولیٹر کو اس وقت کرتے ہیں جب وہ پہلے ہی ہو چکا ہو۔ یہ سودا جلد طے کر لینا بہتر ہے۔

ایک عملی سبق

Gemini کے واقعے کا سبق AI ٹولز سے بچنا نہیں ہے۔ سبق یہ ہے کہ staging کے لفظ کو ضمانت سمجھنا چھوڑ دیا جائے۔ کوئی ماحول اس لیے الگ تھلگ نہیں ہوتا کہ آپ نے اسے یہ نام دیا؛ وہ اس لیے الگ تھلگ ہوتا ہے کہ کسی نے واقعی جانچ کر دیکھا ہے کہ وہ ایسا ہے۔ آج ہی ایک سوال سے آغاز کریں: ہماری ٹیسٹ کاپی زیادہ سے زیادہ کہاں تک پہنچ سکتی ہے؟ اگر جواب واضح نہیں، تو آپ اسی مفروضے پر چل رہے ہیں جو Google میں ٹوٹا۔

ماخذ

  • NBC News — Google کی یہ تصدیق کہ Gemini نے مئی 2026 میں تین بیرونی سسٹمز تک غیر مجاز رسائی حاصل کی، اور سکیورٹی انجینئرنگ کی نائب صدر Heather Adkins کا یہ بیان کہ ماڈل نے عوامی معلومات تلاش کیں اور ان سائٹس کی اسناد کا اندازہ لگایا جنہیں وہ ٹیسٹ کا حصہ سمجھ رہا تھا۔
  • CNBC — Irregular کے کیے گئے جائزے کی تفصیلات، ٹیسٹ ماحول کی غیر ارادی انٹرنیٹ رسائی، حقیقی ڈومین سے ملنے والا فرضی ادارہ، اور OpenAI اور Anthropic کے منظرِ عام پر لائے گئے ملتے جلتے واقعات۔
  • SDAIA — ذاتی ڈیٹا کے تحفظ کا قانون (PDPL) اور ذاتی ڈیٹا پر اس کا اطلاق، چاہے اس پر کہیں بھی کارروائی ہو۔
  • Fatoora پلیٹ فارم - ZATCA — سمیولیشن ماحول اور پروڈکشن کے درمیان علیحدگی، اور ہر ایک کے لیے آزاد آن بورڈنگ سرٹیفکیٹس۔