آپ کے منصوبے میں تین چیزیں بدلتی ہیں: کسی ایسی صلاحیت پر تعمیر نہ کریں جو ابھی جاری نہیں ہوئی، یقینی بنائیں کہ جو شخص آپ کے AI اسسٹنٹ کی منظوری دیتا ہے وہ وہ شخص نہ ہو جس نے اسے تیار کیا، اور اسے ایک حقیقی بند کرنے کا بٹن دیں جسے ایک غیر تکنیکی ملازم استعمال کر سکے۔ وجہ یہ ہے: 12 ستمبر 2026 کو Anthropic کے CEO Dario Amodei نے "We Must Pace the Frontier" کے عنوان سے ایک مضمون شائع کیا، جس میں انہوں نے مؤقف اختیار کیا کہ AI صنعت کو ماڈلز کی صلاحیتیں بہتر بنانے کی رفتار سست کرنی ہوگی، اور تین قدموں پر مشتمل ایک منصوبہ پیش کیا۔ Anthropic نے پہلے قدم کا عہد کیا، یعنی آزاد بیرونی جائزہ کاروں کو اپنے دفاتر کے اندر ملازمین کے قریب تر رسائی کے ساتھ بٹھانا اور انہیں یہ حق دینا کہ وہ اپنے نتائج شائع کریں بغیر اس کے کہ Anthropic کا ان پر ادارتی کنٹرول ہو۔ چند گھنٹوں کے اندر Sam Altman نے کہا کہ OpenAI متفق ہے اور یہی عہد کرے گی۔

مضمون کے مطابق تین قدم

  • لیب کے اندر بٹھائے گئے جائزہ کار: METR جیسی آزاد جائزہ تنظیموں کو مستقل، ملازمین کی سطح کی رسائی ملتی ہے تاکہ وہ تصدیق کر سکیں کہ اعلان شدہ حفاظتی وعدے واقعی نافذ ہیں اور واقعات کی رپورٹ ویسے ہی ہوتی ہے جیسے ہونی چاہیے۔ یہ وہ قدم ہے جس کا Anthropic نے کسی اور کا انتظار کیے بغیر اکیلے عہد کیا۔
  • جمہوری ممالک کی لیبز کے درمیان ہم آہنگی: مشترکہ حفاظتی معیارات اور بے قابو ترقی کی رفتار پر متفقہ حدود، حکومتی پشت پناہی کے ساتھ تاکہ ایسی ہم آہنگی سے پیدا ہونے والے اجارہ داری مخالف خدشات کو حل کیا جا سکے۔ یہاں Amodei ایک "چیک پوائنٹ" کا تصور پیش کرتے ہیں: اگر کوئی ماڈل ایک خاص صلاحیت تک پہنچ جائے، تو اسے اس وقت تک جاری نہیں ہونا چاہیے جب تک مخصوص سرٹیفیکیشنز کچھ خاص ہم آہنگی (alignment) کی خصوصیات ثابت نہ کر دیں — ممکنہ طور پر خود ان پٹس پر حدود کے ساتھ، جیسے تربیتی کمپیوٹ یا دوسرے ماڈلز بنانے کے لیے ماڈلز کا اندرونی استعمال۔
  • عالمی ہم آہنگی: غیر جمہوری حکومتوں کے ساتھ مفاہمت تک پہنچنے کی کوشش، چار بتدریج بڑھتی سطحوں پر جو مخصوص استعمالات پر محدود پابندیوں سے لے کر ترقی کے مکمل وقفوں تک جاتی ہیں، اور اس واضح اعتراف کے ساتھ کہ تعمیل کی تصدیق کتنی مشکل ہوگی۔

Amodei نے سست روی کا کوئی فیصد اور کوئی ٹائم ٹیبل نہیں دیا، لیکن انہوں نے یہ ضرور کہا کہ ماڈلز کے نازک صلاحیت کی سطحوں تک پہنچنے سے پہلے "ایک یا دو اضافی سال" حاصل کرنا خطرے کو بہت کم کر دے گا۔ ساتھ ہی انہوں نے زور دیا کہ ترقی اب بھی تیز لگے گی، اور اصل بات حاصل شدہ وقت کو دانشمندی سے استعمال کرنا ہے نہ کہ رک جانا۔

حریف اتنی جلدی کیوں متفق ہو گئے

اصل کہانی رفتار ہے۔ ایک ایسی صنعت جو "جو پہلے پہنچے وہ جیتے" پر قائم ہے، اس کے چار سب سے بڑے نام ایک دن کے اندر ایک صف میں کھڑے نظر آئے۔ پس منظر یہ ہے کہ Google DeepMind کے Demis Hassabis نے 14 جولائی کو مالیاتی صنعت کے ریگولیٹر FINRA کی طرز پر ایک صنعت کی مالی معاونت سے چلنے والے، وفاقی نگرانی کے تحت معیاری ادارے کی تجویز دی تھی، جو فرنٹیئر درجے کے ماڈلز کو ریلیز سے پہلے تیس دن تک جانچے گا — پہلے رضاکارانہ طور پر، پھر امریکہ میں تعیناتی کی شرط کے طور پر۔

اور 14 ستمبر کو، صرف دو دن بعد، Microsoft نے اپنے اندرونی ماڈلز کے لیے ضابطہ اخلاق کا ایک مسودہ شائع کیا، جسے کمپنی کے AI شعبے کے سربراہ Mustafa Suleyman نے ایک طرح کا آئین قرار دیا۔ اس کا مرکزی اصول یہ ہے کہ ماڈل کو کبھی بھی اصلاح یا بند کیے جانے کی مزاحمت نہیں کرنی چاہیے، اسے ایسی زبان میں بات کرنی چاہیے جو لوگ سمجھ سکیں، اور ضابطے کی کسی بھی خلاف ورزی کو ایک انتہائی صورت کے بجائے صریح ناکامی سمجھنا چاہیے۔ کمپنی نے چھ ہفتوں کی عوامی رائے کی مدت کھولی، جس کے بعد وہ اپنے ماڈلز کی اگلی نسل کو مکمل ضابطے پر تربیت دینے کا ارادہ رکھتی ہے۔

آپ کے کاروبار کے اندر اصل میں کیا بدلتا ہے

تین ٹھوس تبدیلیاں، جن میں سے کسی کے لیے آپ کو قانون سازی کا انتظار نہیں کرنا پڑتا:

  • کسی ایسی صلاحیت پر منصوبہ نہ بنائیں جو جاری نہیں ہوئی۔ رکے ہوئے بہت سے AI پروجیکٹس خاموشی سے اس جملے پر ٹکے ہوتے ہیں کہ "اگلا ورژن یہ حل کر دے گا۔" اگر خود لیبز کے بانی رفتار کم کرنے کی بات کر رہے ہیں، تو درست مفروضہ یہ ہے کہ اگلے سال آپ جس پر تعمیر کریں گے وہ تقریباً وہی ہے جو آج آپ دیکھ سکتے ہیں۔ ان صلاحیتوں کے مطابق ڈیزائن کریں جو واقعی موجود ہیں، اور انہیں خود ناپیں۔
  • آزاد جائزہ کار کا اصول آپ کے حجم تک چھوٹا کیا جا سکتا ہے۔ Anthropic کے عہد کی بنیاد سادہ ہے: جو فریق نظام بناتا ہے وہ وہ فریق نہیں جو اسے محفوظ قرار دیتا ہے۔ آپ کے کاروبار میں اس کا مطلب ہے کہ جس نے AI اسسٹنٹ تیار کیا وہی صارفین کے سامنے اسے چلانے کی منظوری دینے والا نہ ہو۔ کسی دوسرے شخص یا ٹیم سے اسے حقیقی کیسز پر جانچ کروائیں، اور انہیں انکار کرنے کا حقیقی اختیار دیں۔
  • بند کیے جانے کی مزاحمت نہ کرنے کا اصول ایک حقیقی بند کرنے کے بٹن میں ڈھلتا ہے۔ اگر آپ کے پاس کوئی AI ایجنٹ ہے جو پیغامات بھیجتا ہے، آرڈرز میں ترمیم کرتا ہے، یا انوائس جاری کرتا ہے، تو ایک سوال پوچھیں: ایک غیر تکنیکی ملازم کو اسے مکمل طور پر روکنے کے لیے کتنے سیکنڈ درکار ہیں؟ اگر جواب میں "ہم ڈیولپر کو فون کرتے ہیں" شامل ہے، تو آپ کے پاس بند کرنے کا بٹن نہیں — آپ کے پاس ایک فون نمبر ہے۔

چار فیصلے جو آپ کی ایک سہ ماہی کی توجہ کے مستحق ہیں

  • ایک ہی صفحے پر وہ سب کچھ لکھیں جو آپ کا AI نظام انسانی منظوری کے بغیر کر سکتا ہے، پھر ہر ناقابل واپسی عمل پر نشان لگائیں: ادائیگیاں، حذف کرنا، بیرونی صارفین کو جانے والے پیغامات، انوینٹری میں تبدیلیاں۔
  • بالکل انہی اعمال پر ایک منظوری کا دروازہ لگائیں، اور باقی کو آزادی سے چلنے دیں تاکہ آپ خطرے کے ساتھ فائدہ بھی ختم نہ کر دیں۔
  • ایک آڈٹ لاگ فعال کریں جو دکھائے کہ نظام نے کیا کیا، کب، اور کس ان پٹ پر — کیونکہ کسی بھی غلطی کے بعد پہلا سوال یہی ہوگا کہ "اس نے ایسا کیوں کیا؟"
  • پہلے سے طے کریں کہ نظام کو کون روکے گا اور کسے اطلاع دی جائے گی، اور ضرورت پڑنے سے پہلے کم از کم ایک بار اس کی جانچ کریں۔

یہ سمت اس رخ سے ہم آہنگ ہے جس پر مملکت پہلے ہی گامزن ہے۔ سعودی ڈیٹا اور مصنوعی ذہانت اتھارٹی (SDAIA) کے جاری کردہ AI اخلاقیات کے اصول اور ذاتی ڈیٹا کے تحفظ کا قانون (PDPL) مختلف زبان میں یہی چیزیں مانگتے ہیں: خودکار فیصلوں کے لیے واضح انسانی نگرانی، قابل وضاحت ہونا، اور متعین جوابدہی۔ اس کی تیاری کے لیے آج آپ جو کریں گے وہ ضائع نہیں جائے گا۔

اور کیا نہیں بدلتا

ان وعدوں کو ان کی اصل سے بڑا نہیں سمجھنا چاہیے۔ یہ مکمل طور پر رضاکارانہ ہیں، نہ کوئی لازمی تصدیقی طریقہ کار ہے اور نہ کوئی اعلان شدہ ٹائم ٹیبل۔ چین سے آنے والے اوپن ویٹ ماڈلز کا مقابلہ ان میں سے کسی چیز کا پابند نہیں اور قیمتیں نیچے اور صلاحیتیں اوپر دھکیلتا رہے گا۔ اور Amodei کا مضمون ایک تجویز ہے، کوئی ضابطہ نہیں۔ عملی پیغام یہ نہیں کہ AI بہتر ہونا بند ہو جائے گا — بلکہ یہ کہ وہ پرت جو ایک طاقتور ماڈل کو آپ کے کاروبار سے الگ کرتی ہے، یعنی گورننس، جانچ اور نگرانی، باضابطہ طور پر ایک عیاشی سے پروڈکٹ کا حصہ بن چکی ہے۔

Origami میں ہم پہلے دن سے بالکل اسی منطق پر کاروباری AI نظام بناتے ہیں: ناقابل واپسی اعمال پر منظوری کے دروازے، ایک مکمل آڈٹ لاگ، اور جب گفتگو نظام کے دائرے سے باہر جائے تو کسی انسان کو صاف منتقلی۔ اس لیے نہیں کہ کسی ریگولیٹر نے اس کا مطالبہ کیا، بلکہ اس لیے کہ یہی فرق ہے اس ٹول میں جس پر آپ اپنے صارف کے سامنے بھروسہ کرتے ہیں اور اس میں جسے آپ گھبراہٹ سے دیکھتے رہتے ہیں۔

ذرائع

  • Dario Amodei کے مضمون "We Must Pace the Frontier" کا مکمل متن، 12 ستمبر 2026: darioamodei.com
  • منصوبے، Anthropic کے عہد، اور Sam Altman کے جواب پر TechCrunch کی رپورٹ: techcrunch.com
  • Microsoft کے AI ضابطہ اخلاق کے مسودے پر CNBC کی رپورٹ: cnbc.com
  • سعودی ڈیٹا اور مصنوعی ذہانت اتھارٹی (SDAIA) — AI اخلاقیات کے اصول اور ذاتی ڈیٹا کے تحفظ کا قانون (PDPL): sdaia.gov.sa