إبطاء تطوير الذكاء الاصطناعي: ماذا يغير في خطة شركتك للعام القادم؟

ثلاثة أشياء تتغير في خطتك: لا تبن على قدرة لم تطلق بعد، واجعل من يجيز تشغيل المساعد الذكي غير من بناه، وضع له مفتاح إيقاف يستطيع موظف غير تقني استخدامه. السبب أن داريو أموداي، الرئيس التنفيذي لأنثروبيك، نشر في 12 سبتمبر 2026 مقالا بعنوان "يجب أن نضبط إيقاع الجبهة" دعا فيه صناعة الذكاء الاصطناعي إلى إبطاء تحسين قدرات النماذج، وطرح خطة من ثلاث خطوات. والتزمت أنثروبيك بأولاها: إدخال مقيمين مستقلين من خارج الشركة إلى مكاتبها بصلاحيات تقارب صلاحيات الموظف، مع حقهم في نشر ما يجدونه دون سلطة تحرير للشركة. وخلال ساعات أعلن سام ألتمان أن أوبن إيه آي توافق وستطبق الخطوة نفسها.

الخطوات الثلاث كما وردت في المقال

• مقيمون مضمنون داخل المختبر: جهات تقييم مستقلة مثل METR تحصل على وصول دائم بمستوى الموظف للتحقق من أن التزامات السلامة المعلنة تطبق فعلا، ومن أن الحوادث تبلغ كما يجب. هذه هي الخطوة التي التزمت بها أنثروبيك وحدها ودون انتظار أحد.
• تنسيق بين مختبرات الدول الديمقراطية: معايير سلامة مشتركة وحدود متفق عليها لسرعة التقدم غير المراقب، مع دعم حكومي يعالج شبهة الاحتكار التي قد تثيرها مثل هذه الاتفاقات. ويطرح أموداي هنا فكرة "نقاط التفتيش": إذا بلغ النموذج قدرة معينة، فلا يطلق قبل شهادات محددة تثبت خصائص أمان معينة، مع احتمال تقييد المدخلات نفسها مثل قدرة التدريب الحاسوبية أو استخدام النماذج داخليا لتطوير نماذج أخرى.
• تنسيق عالمي: محاولة الوصول إلى تفاهمات مع الحكومات غير الديمقراطية، بأربعة مستويات متصاعدة تبدأ من حظر تطبيقات بعينها وتنتهي بإيقاف تطوير كامل، مع إقرار صريح بصعوبة التحقق من الالتزام.

ولم يضع أموداي نسبة تباطؤ ولا جدولا زمنيا، لكنه قال إن كسب "سنة أو سنتين إضافيتين" قبل وصول النماذج إلى مستويات القدرة الحرجة يقلل الخطر بدرجة كبيرة. وأكد في الوقت نفسه أن التقدم سيبقى يبدو سريعا، وأن المطلوب هو استخدام الوقت المكتسب بحكمة لا التوقف.

لماذا وافق المنافسون بهذه السرعة

السرعة هنا هي الخبر الحقيقي. صناعة كاملة قامت على منطق "من يصل أولا يربح" وجدت رؤساءها الأربعة الكبار في صف واحد خلال يوم. الخلفية أن ديميس هاسابيس من جوجل ديب مايند كان قد طرح في 14 يوليو فكرة هيئة معايير تمولها الصناعة وتشرف عليها الحكومة الفيدرالية على غرار هيئة تنظيم الوساطة المالية، تختبر النماذج المتقدمة قبل إطلاقها بمدة تصل إلى 30 يوما، طوعا في البداية ثم كشرط للنشر في السوق الأمريكية.

وفي 14 سبتمبر، أي بعد يومين فقط، نشرت مايكروسوفت مسودة مدونة سلوك لنماذجها الداخلية، ووصفها مصطفى سليمان رئيس ذراع الذكاء الاصطناعي في الشركة بأنها أشبه بدستور. القاعدة المركزية فيها أن النموذج يجب ألا يقاوم التصحيح أو الإيقاف، وأن يشرح نفسه بلغة يفهمها الناس، وأن يعامل أي خرق للمدونة على أنه فشل كامل لا حالة استثنائية. وفتحت الشركة باب التعليق العام ستة أسابيع، على أن تدرب الأجيال القادمة من نماذجها على المدونة بعد إغلاقه.

ما الذي يتغير عمليا في منشأتك

ثلاثة تغييرات ملموسة، ولا واحد منها يتطلب منك انتظار تشريع:

• لا تبن خطة على قدرة لم تطلق بعد. كثير من مشاريع الذكاء الاصطناعي المتعثرة تعتمد ضمنيا على جملة "النسخة القادمة ستحل هذه المشكلة". إذا كان أصحاب المختبرات أنفسهم يتحدثون عن تهدئة الإيقاع، فالافتراض السليم أن ما ستبني عليه العام القادم هو تقريبا ما تراه أمامك اليوم. صمم على القدرات المتاحة فعلا وقسها بنفسك.
• مبدأ المقيم المستقل ينزل إلى مقاسك. جوهر التزام أنثروبيك بسيط: الجهة التي تبني النظام ليست الجهة التي تشهد بسلامته. في منشأتك هذا يعني ألا يكون من طور المساعد الذكي هو نفسه من يجيز تشغيله أمام العملاء. اجعل شخصا أو فريقا آخر يختبره على حالات حقيقية ويملك صلاحية الرفض.
• قاعدة عدم مقاومة الإيقاف تترجم إلى مفتاح إيقاف حقيقي. إن كان لديك وكيل ذكاء اصطناعي يرسل رسائل أو يعدل طلبات أو يصدر فواتير، فاسأل سؤالا واحدا: كم ثانية يحتاج موظف غير تقني ليوقفه بالكامل؟ إن كان الجواب يتضمن "نتصل بالمطور"، فأنت لا تملك مفتاح إيقاف، تملك رقم هاتف.

أربعة قرارات تستحق ربعا واحدا من وقتك

• اكتب على ورقة واحدة قائمة بكل ما يستطيع نظامك الذكي فعله دون موافقة بشرية، ثم اشطب منها كل فعل لا يمكن التراجع عنه: الدفع، الحذف، إرسال رسالة لعميل خارجي، تعديل مخزون.
• ضع بوابة موافقة على تلك الأفعال تحديدا، واترك الباقي يعمل بحرية حتى لا تقتل الفائدة.
• فعل سجل عمليات يوضح ما فعله النظام ومتى وبناء على أي مدخل، لأن أول سؤال بعد أي خطأ سيكون "لماذا فعل ذلك؟".
• حدد مسبقا من يوقف النظام ومن يبلغ، واختبر ذلك مرة واحدة على الأقل قبل أن تحتاجه.

هذا الاتجاه ينسجم مع ما تسير عليه المملكة أصلا. مبادئ أخلاقيات الذكاء الاصطناعي ونظام حماية البيانات الشخصية الصادران عن الهيئة السعودية للبيانات والذكاء الاصطناعي يطلبان الشيء نفسه بلغة مختلفة: إشراف بشري واضح، وقابلية للتفسير، ومسؤولية محددة عن القرارات الآلية. ما تفعله اليوم استعدادا لهذا لن يذهب هدرا.

وما الذي لا يتغير

ينبغي ألا تقرأ هذه الالتزامات أكبر من حجمها. هي طوعية بالكامل، وبلا آلية تحقق ملزمة، وبلا جدول زمني معلن. والمنافسة من النماذج مفتوحة الأوزان القادمة من الصين لا تخضع لأي من هذا وستستمر في خفض الأسعار ورفع القدرات. ومقال أموداي نفسه مقترح لا لائحة تنظيمية. الرسالة العملية ليست أن الذكاء الاصطناعي سيتوقف عن التحسن، بل أن الطبقة التي تفصل نموذجا قويا عن عملك — الحوكمة والاختبار والإشراف — انتقلت رسميا من كونها ترفا إلى كونها جزءا من المنتج.

في أوريجامي نبني أنظمة الذكاء الاصطناعي للمنشآت بهذا المنطق منذ البداية: بوابات موافقة على الأفعال غير القابلة للتراجع، وسجل عمليات كامل، وتسليم بشري واضح عندما يخرج الحديث عن نطاق النظام. ليس لأن جهة تنظيمية طلبت ذلك، بل لأنه الفرق بين أداة تثق بها أمام عميلك وأداة تراقبها بقلق.

المصادر

• نص مقال داريو أموداي "We Must Pace the Frontier" بتاريخ 12 سبتمبر 2026: darioamodei.com
• تغطية TechCrunch للخطة والتزام أنثروبيك ورد سام ألتمان: techcrunch.com
• تغطية CNBC لمسودة مدونة سلوك مايكروسوفت للذكاء الاصطناعي: cnbc.com
• الهيئة السعودية للبيانات والذكاء الاصطناعي — مبادئ أخلاقيات الذكاء الاصطناعي ونظام حماية البيانات الشخصية: sdaia.gov.sa