Planınızda üç şey değişiyor: henüz piyasaya çıkmamış bir yeteneğin üzerine inşa etmeyin, yapay zekâ asistanınızı onaylayan kişinin onu geliştiren kişi olmamasını sağlayın ve ona teknik olmayan bir çalışanın kullanabileceği gerçek bir acil durdurma düğmesi verin. Nedeni şu: 12 Eylül 2026'da Anthropic CEO'su Dario Amodei, "We Must Pace the Frontier" (Sınırın hızını ayarlamalıyız) başlıklı bir makale yayımladı; yapay zekâ sektörünün model yeteneklerini geliştirme hızını yavaşlatması gerektiğini savundu ve üç adımlı bir plan ortaya koydu. Anthropic ilk adımı taahhüt etti: bağımsız dış değerlendiricileri, neredeyse çalışan düzeyinde erişimle ve Anthropic'in editoryal kontrolü olmadan bulgularını yayımlama hakkıyla kendi ofislerine yerleştirmek. Birkaç saat içinde Sam Altman, OpenAI'ın buna katıldığını ve aynı taahhüdü üstleneceğini söyledi.

Makalenin Ortaya Koyduğu Üç Adım

  • Laboratuvarın içine yerleştirilmiş değerlendiriciler: METR gibi bağımsız değerlendirme kuruluşları, açıklanan güvenlik taahhütlerinin gerçekten uygulandığını ve olayların gerektiği gibi bildirildiğini doğrulamak için kalıcı, çalışan düzeyinde erişim elde ediyor. Bu, Anthropic'in kimseyi beklemeden tek başına taahhüt ettiği adım.
  • Demokratik ülkelerdeki laboratuvarlar arasında koordinasyon: ortak güvenlik standartları ve denetimsiz ilerlemenin hızına dair üzerinde uzlaşılmış sınırlar; bu tür bir koordinasyonun doğuracağı rekabet hukuku kaygılarını gidermek için de hükümet desteği. Amodei burada bir "kontrol noktası" fikri ortaya atıyor: bir model belirli bir yeteneğe ulaşırsa, belirli sertifikalar belirli hizalama özelliklerini ortaya koymadan piyasaya çıkmamalı — muhtemelen eğitim hesaplama gücü ya da modellerin başka modeller geliştirmek için şirket içinde kullanılması gibi girdilerin kendisine getirilecek sınırlarla birlikte.
  • Küresel koordinasyon: belirli uygulamalara yönelik dar yasaklardan tam geliştirme duraklatmalarına kadar uzanan, giderek ağırlaşan dört seviyede demokratik olmayan hükümetlerle uzlaşmaya varma girişimi; uyumun doğrulanmasının ne kadar zor olacağının da açıkça kabul edilmesiyle.

Amodei bir yavaşlama yüzdesi ya da takvim vermedi, ancak modeller kritik yetenek seviyelerine ulaşmadan önce "fazladan bir iki yıl" kazanmanın riski büyük ölçüde azaltacağını söyledi. Aynı zamanda ilerlemenin yine de hızlı görüneceğini ve amacın durmak değil, kazanılan zamanı akıllıca kullanmak olduğunu vurguladı.

Rakipler Neden Bu Kadar Hızlı Kabul Etti

Asıl haber hız. "Oraya ilk varan kazanır" ilkesi üzerine kurulmuş bir sektör, en büyük dört isminin tek bir gün içinde aynı safta buluştuğunu gördü. Arka plan şu: Google DeepMind'dan Demis Hassabis 14 Temmuz'da, finans sektörü düzenleyicisi FINRA örnek alınarak sektör tarafından finanse edilen ve federal düzeyde denetlenen bir standart kuruluşu önermişti; bu kuruluş sınır sınıfı modelleri piyasaya çıkmadan önce otuz güne kadar test edecekti — önce gönüllü olarak, sonra ABD'de kullanıma sunulmanın şartı olarak.

Ve sadece iki gün sonra, 14 Eylül'de Microsoft, kendi bünyesinde geliştirdiği modeller için bir davranış kuralları taslağı yayımladı; şirketin yapay zekâ biriminin başındaki Mustafa Suleyman bunu bir tür anayasa olarak nitelendirdi. Temel kuralı, bir modelin düzeltilmeye ya da kapatılmaya asla direnmemesi, insanların anlayabileceği terimlerle iletişim kurması ve kurallara yönelik her ihlali bir uç durum olarak değil, düpedüz bir başarısızlık olarak ele almasıdır. Şirket altı haftalık bir kamuoyu görüşü dönemi başlattı; ardından yeni nesil modellerini nihai kurallar üzerinde eğitmeyi planlıyor.

İşletmenizin İçinde Gerçekte Ne Değişiyor

Hiçbiri yasa beklemenizi gerektirmeyen üç somut değişiklik:

  • Piyasaya çıkmamış bir yeteneğe dayanan plan kurmayın. Tıkanmış pek çok yapay zekâ projesi, örtük olarak "bir sonraki sürüm bunu çözecek" cümlesine dayanıyor. Laboratuvarların kurucuları bile hızı düşürmekten söz ediyorsa, sağlıklı varsayım şudur: gelecek yıl üzerine inşa edeceğiniz şey, aşağı yukarı bugün görebildiğiniz şeydir. Gerçekten var olan yeteneklere göre tasarlayın ve onları kendiniz ölçün.
  • Bağımsız değerlendirici ilkesi sizin ölçeğinize de uyarlanabilir. Anthropic'in taahhüdünün özü basit: sistemi geliştiren taraf, onun güvenli olduğunu onaylayan taraf değildir. İşletmenizde bu, yapay zekâ asistanını geliştiren kişinin, onun müşterilerin karşısında çalıştırılmasını onaylayan kişi olmaması gerektiği anlamına gelir. Başka bir kişiye ya da ekibe, hayır deme konusunda gerçek yetkiyle, gerçek vakalar üzerinde test ettirin.
  • Kapatılmaya direnmeme kuralı, gerçek bir acil durdurma düğmesine dönüşür. Mesaj gönderen, siparişleri düzenleyen ya da fatura kesen bir yapay zekâ ajanınız varsa tek bir soru sorun: teknik olmayan bir çalışanın onu tamamen durdurması kaç saniye sürer? Cevabın içinde "geliştiriciyi ararız" geçiyorsa, bir acil durdurma düğmeniz yok — bir telefon numaranız var.

Bir Çeyreklik İlginizi Hak Eden Dört Karar

  • Yapay zekâ sisteminizin insan onayı olmadan yapabildiği her şeyi tek bir sayfaya yazın, sonra geri döndürülemeyen her eylemin üzerini çizin: ödemeler, silmeler, dış müşterilere giden mesajlar, stok değişiklikleri.
  • Tam olarak bu eylemlere bir onay kapısı koyun ve geri kalanının serbestçe çalışmasına izin verin; böylece riskle birlikte faydayı da öldürmezsiniz.
  • Sistemin ne yaptığını, ne zaman ve hangi girdiye dayanarak yaptığını gösteren bir denetim kaydını açın — çünkü herhangi bir hatadan sonraki ilk soru "bunu neden yaptı?" olacaktır.
  • Sistemi kimin durduracağına ve kime haber verileceğine önceden karar verin ve ihtiyaç duymadan önce bunu en az bir kez test edin.

Bu yön, Krallığın zaten ilerlediği yönle örtüşüyor. Suudi Veri ve Yapay Zekâ Otoritesi'nin (SDAIA) yayımladığı Yapay Zekâ Etik İlkeleri ve Kişisel Verilerin Korunması Kanunu (PDPL), aynı şeyleri farklı bir dille istiyor: açık insan gözetimi, açıklanabilirlik ve otomatik kararlar için tanımlı hesap verebilirlik. Buna hazırlanmak için bugün yaptıklarınız boşa gitmeyecek.

Ve Neler Değişmiyor

Bu taahhütler olduğundan büyük okunmamalı. Tamamen gönüllüler; bağlayıcı bir doğrulama mekanizmaları ve açıklanmış bir takvimleri yok. Çin'den çıkan açık ağırlıklı modellerin rekabeti bunların hiçbirine tabi değil ve fiyatları aşağı, yetenekleri yukarı itmeye devam edecek. Amodei'nin makalesi de bir düzenleme değil, bir öneri. Pratik mesaj, yapay zekânın gelişmeyi bırakacağı değil; güçlü bir modeli işletmenizden ayıran katmanın, yani yönetişim, test ve gözetimin, resmen bir lüks olmaktan çıkıp ürünün bir parçası hâline geldiğidir.

Origami'de işletmeler için yapay zekâ sistemlerini ilk günden itibaren tam olarak bu mantıkla kuruyoruz: geri döndürülemeyen eylemlerde onay kapıları, eksiksiz bir denetim kaydı ve konuşma sistemin kapsamı dışına çıktığında bir insana temiz bir devir. Bir düzenleyici bunu istediği için değil, müşterinizin karşısında güvendiğiniz bir araç ile tedirginlikle izlediğiniz bir araç arasındaki fark bu olduğu için.

Kaynaklar

  • Dario Amodei'nin "We Must Pace the Frontier" makalesinin tam metni, 12 Eylül 2026: darioamodei.com
  • TechCrunch'ın plan, Anthropic'in taahhüdü ve Sam Altman'ın yanıtına ilişkin haberi: techcrunch.com
  • CNBC'nin Microsoft'un yapay zekâ davranış kuralları taslağına ilişkin haberi: cnbc.com
  • Suudi Veri ve Yapay Zekâ Otoritesi (SDAIA) — Yapay Zekâ Etik İlkeleri ve Kişisel Verilerin Korunması Kanunu: sdaia.gov.sa