Şirketinizi yapay zekâ risklerinden yedi adımla korursunuz: şirkette çalışan her yapay zekâ aracını ve ajanını bilin, her ajana mümkün olan en az erişimle kendi hesabını verin, her ödeme, silme ya da müşteriye gidecek mesajdan önce insan onayı isteyin, müşteri verilerini onaylanmamış araçların dışında tutun, internete açık sistemleri birkaç gün içinde yamayın, para taleplerini ikinci bir kanaldan doğrulayın ve sigortanızın neyi kapsadığını gözden geçirin. Bu adımlar Ekim 2026 uyarılarından çıkıyor: Microsoft şirketlerden ajanlara hata yapabilen ya da manipüle edilebilen içeriden biri gibi davranmalarını istedi; biri bir yapay zekâ modeliyle bulunan iki PHP2Shell açığı, duyurulmalarından 5 gün sonra aktif olarak istismar edilen açıklar listesine girdi; Anthropic'in halka arz izahnamesi de modellerinin hiçbir kullanıcının ya da geliştiricinin amaçlamadığı şekillerde davranabileceği uyarısında bulundu.
Son uyarılar neler ve şirketinizi neden ilgilendiriyor?
Bir aydan kısa bir sürede, yapay zekâ modellerini geliştiren şirketlerin kendisinden ve devletlerin siber güvenlik kurumlarından uyarılar geldi. Yayımlanma sırasına göre başlıcaları şunlar:
| Tarih | Kaynak | Ne dedi | Sizin için anlamı |
|---|---|---|---|
| 8 Ekim | Anthropic | Modelleri 6 ayda önemli yazılımlarda 29.000'den fazla olası açık buldu, insanlar ise bunların yalnızca yaklaşık 6.000'ini inceleyebildi (Anthropic yazısı) | Açıklar kapatıldığından daha hızlı bulunuyor |
| 19 Ekim | Microsoft | Ajanlar hata yapabilir, manipüle edilebilir ya da ele geçirilebilir; bu yüzden bir çalışanın tüm yetkilerini devralmamalı (Microsoft güvenlik blogu) | Her ajanın kendi hesabına ve kendi yetkilerine ihtiyacı var |
| 21 Ekim | ABD kurumu CISA | İki PHP2Shell açığı, bir saldırganın oturum açmadan sunucuda kod çalıştırmasına izin veriyor; açıklar 26 Ekim'de aktif olarak istismar edilen açıklar listesine eklendi (CISA uyarısı) | Yama artık günler meselesi |
| 21 Ekim | Fortinet | Yapay zekâ, saldırganların yamaların kendisinden haftalar yerine saatler ya da günler içinde çalışan istismar kodu üretmesine yardım ediyor (Fortinet blogu) | Önce internete açık cihazlar |
| 26 Ekim | Anthropic | Halka arz izahnamesi, modellerinin hiçbir kullanıcının ya da geliştiricinin amaçlamadığı şekillerde davranabileceğini ve sigortasının yetmeyebileceğini söylüyor (S-1 formu) | Sözleşmelerinizi ve sigortanızı gözden geçirin |
| 27 Ekim | Anthropic | Claude, MPTCP bağlantılarını kabul eden Linux sunucularında saldırgana root yetkisi veren bir istismar kodu yazdı (Anthropic yazısı) | Sunucu açıkları istismara daha yakın |
Bu uyarıların ortak noktası, yapay zekânın riski iki yönden artırması: dışarıdan, çünkü saldırganlar artık açıkları daha hızlı bulup istismar ediyor; içeriden ise bir araca ya da ajana ihtiyacından fazla erişim verildiğinde. PHP açıklarına yanıt veren koalisyona liderlik eden OpenAI, bu açıkları yakın dönemin en etkili güvenlik sorunlarından biri olarak nitelendiriyor ve "aynı yeteneklerin saldırganların hızla saldırı araçları ve istismar kodları geliştirmesine de yardım edebileceğini" söylüyor. Şirket benzer bulguların "önümüzdeki aylarda keskin biçimde artmasını" bekliyor. Anthropic'in halka arz izahnamesi ise "kötü niyetli aktörlerin yapay zekânın yeteneklerini açıkları keşfetmek, kötü amaçlı yazılım üretmek ve tespit araçlarından kaçmak için kullanarak şimdiden ses getiren siber saldırılar düzenlediğini" ekliyor.
Şirketinizi nasıl korursunuz? 7 pratik öneri
- Şirketinizde çalışan her yapay zekâ aracını ve ajanını bilin. Microsoft bunu açıkça söylüyor: "Göremediğinizi güvence altına alamazsınız." Şirket, araçlarını çalışanların cihazlarında çalışan 60 tür ajanı tespit edecek şekilde genişletti; bunların arasında Claude Code, OpenAI Codex ve GitHub Copilot var, çünkü bazıları cihazlara hiçbir merkezi dağıtım olmadan geliyor. Tek bir tabloyla başlayın: her araç, onu kimin kullandığı, hangi verilere eriştiği, hesabın kişisel mi kurumsal mı olduğu ve sorumlusunun kim olduğu. Aynı tablo, SDAIA'nın ulusal yapay zekâ risk yönetimi çerçevesinin de başlangıç noktası.
- Her ajana kendi hesabını ve mümkün olan en az erişimi verin. Microsoft'un örneği, masraf taleplerini inceleyen bir ajan: talepleri ve şirket politikasını okuması gerekiyor, ancak onu kuran çalışanın tüm yetkilerini devralmamalı. Microsoft, ajanın hiçbir yetki olmadan başlamasını, yalnızca görevin gerektirdiğini ve yalnızca görev sürdüğü sürece almasını, daha yüksek etkili işlemlerin ise doğrulanmış insan onayı gerektirmesini öneriyor. Pratikte: ajanı yöneticinin hesabına bağlamayın, ona şirketin banka parolasını vermeyin, okuma erişimini yazma erişiminden ayırın, kodda ve ayarlarda ona gerektiğinden fazlasını açan unutulmuş anahtarları silin ve onu anında durdurabilmenin bir yolunu koruyun. Microsoft CEO'su Satya Nadella bunu şöyle özetliyor: "En güvenilir ajan sistemi, modeline en çok güvendiğimiz sistem olmayacak. Modele en az güvenmemizi sağlayacak şekilde tasarlanan sistem olacak."
- Bir ajanın e-postada, dosyada ya da web sayfasında okuduğuna göre incelemeden harekete geçmesine izin vermeyin. Anthropic'in halka arz izahnamesi istem enjeksiyonunu (prompt injection), bir modelin işlemesi istenen web siteleri, belgeler ya da araç çıktıları gibi içeriklere kötü amaçlı talimatlar yerleştirerek modelin davranışını, çoğu zaman kullanıcının haberi olmadan manipüle etmeye dayanan bir saldırı olarak tanımlıyor. Müşteri e-postalarını okuyan ve para aktarabilen, silebilen ya da gönderim yapabilen bir ajan, bir saldırganın mesajın içine yazdığı bir emri uygulayabilir. Microsoft da aynı senaryoyu anlatıyor: masraf ajanı dışarıdan gelen bir belgede istem enjeksiyonuyla karşılaşabilir ve yapılandırması değişmemiş olsa da davranışı değişir. Şirketten para ya da veri çıkaran her adımın bir çalışanın onayından geçmesini sağlayın, özellikle ajan dışarıdan gelen bir içeriği okuduktan sonra. Aynı riski proje açılır açılmaz saldırganın komutunu çalıştıran kodlama ajanlarında da gördük.
- Müşteri verilerini onaylanmamış araçların dışında tutun. OpenAI Yardım Merkezi'ne göre OpenAI, ChatGPT Business, ChatGPT Enterprise ve API'sinin girdi ve çıktılarını varsayılan olarak modellerini geliştirmek için kullanmıyor; bireysel Free, Plus ve Pro planlarının içeriği ise kullanıcı ayarlardan kapatmadıkça eğitimde kullanılabiliyor. Anthropic de Claude for Work ve API'si gibi ticari ürünlerinin girdileriyle varsayılan olarak model eğitmediğini söylüyor. Bu yüzden kurumsal hesapları standart hâle getirin ve çalışanlarınıza hiçbir araca asla girmeyecek bilgileri yazılı olarak bildirin: müşterilerin kişisel verileri, sözleşmeler ve parolalar. Müşterilerin kişisel verilerini bir yapay zekâ aracına girerseniz, aracın sağlayıcısı bu verileri sizin adınıza işler ve Suudi Kişisel Verilerin Korunması Kanunu'nun (PDPL) uygulama yönetmeliğinin 17. maddesi, yeterli güvenceler sunan bir veri işleyen seçmenizi ve işlemenin amacını, süresini ve işleyenin size her sızıntıyı bildirme yükümlülüğünü belirleyen bir sözleşme yapmanızı şart koşuyor. Bir sızıntı ilgili kişilere zarar verebilecekse, 24. madde öğrendiğiniz andan itibaren 72 saat içinde yetkili makama bildirim yapmanızı zorunlu kılıyor.
- İnternete açık sistemleri haftalar içinde değil, günler içinde yamayın. Fortinet, yapay zekâ araçlarının artık saldırganlara yamalara tersine mühendislik uygulayıp "haftalar yerine saatler ya da günler içinde" çalışan istismar kodu üretmede yardım ettiğini ve "açığın duyurulmasıyla istismar edilmesi arasındaki sürenin kısalmaya devam ettiğini" söylüyor. Anthropic, istismar kodlarının artık dakikalar içinde geliştirilebildiğini belirtiyor. Bu yüzden CISA, PHP2Shell açıkları için net adımlar istedi: PHP çalıştıran her sistemin envanterini çıkarmak, internete açık sistemlerden başlayarak yamayı hemen uygulamak ve güncellenemeyen her şeyi güncellenene kadar çevrim dışına almak; bu arada bir web uygulama güvenlik duvarı (WAF) bir miktar koruma sağlayabilir. Suudi Ulusal Siber Güvenlik Otoritesi (NCA) de etkilenen ürünlerin güncellenmesini öneren bir uyarı yayımladı. Aynı kuralı internete açık her sisteme uygulayın: web sitesi, güvenlik duvarı, VPN ve e-posta. Ayrıntılar PHP2Shell açığı, yeni Linux açığı ve FortiGate güvenlik duvarları hakkındaki yazılarımızda.
- Her para ya da veri talebini ikinci bir kanaldan doğrulayın. Deepfake'lere ilişkin farkındalık kampanyalarında SDAIA ile İletişim, Uzay ve Teknoloji Komisyonu (CST), "birini bir videoda görmenin ya da sesini duymanın, onun bunu söylediğini kanıtlamadığını" belirtiyor ve riskler arasında maddi kayıpları ve dolandırıcılığı, doğrulama sistemlerinin aşılmasını ve kimlik hırsızlığını sayıyor. Bu yüzden ses yöneticininkine benzese bile bir aramaya, sesli mesaja ya da videoya dayanarak asla para aktarmayın ve veri göndermeyin. Kişiyi elinizdeki bilinen numaradan geri arayın ve belirlediğiniz bir limitin üzerindeki her transfer için iki imza isteyin. Koruma katmanlarını deepfake ve yapay zekâ dolandırıcılığı yazımızda, şirketinizin parasını imzanız olmadan hareket ettiren her yolu nasıl kapatacağınızı da Binance saldırısından çıkan derste anlattık.
- Sigortanızın neyi kapsadığını ve tedarikçi sözleşmelerinizin ne dediğini gözden geçirin. Anthropic'in halka arz izahnamesi şöyle diyor: "Modellerimiz hiçbir kullanıcının ya da geliştiricinin amaçlamadığı şekillerde davranabileceğinden, bu tür eylemlerden doğan talepler önemli bir sorumluluğa yol açabilir." İzahname ayrıca sigorta poliçelerinin yeterli teminat sağlamayabileceğini ve "yapay zekâya özgü riskler için sigorta pazarının henüz yeni ve gelişmekte olduğunu" ekliyor. Modeli geliştiren şirketin durumu buysa, sigortacınıza yazılı olarak sorun: Poliçe bir yapay zekâ ajanının yol açtığı bir veri sızıntısını ya da klonlanmış bir sesle yapılan sahte bir transferi kapsıyor mu? Her araç sağlayıcısına da verilerinizin nerede saklandığını, ne kadar süre tutulduğunu ve bir olayı size ne zaman bildireceğini sorun.
Suudi makamları ne diyor?
Yapay zekâ kullanan her Suudi işletme için üç başvuru kaynağı önemli:
- SDAIA, kamu ve özel kurumlar için yol gösterici bir başvuru kaynağı olarak ulusal yapay zekâ risk yönetimi çerçevesini başlattı; çerçevenin dört aşamasını ve şirketinizin bunları nasıl uygulayabileceğini anlattık.
- Ulusal Siber Güvenlik Otoritesi (NCA), yapay zekâ için siber güvenlik yönergeleri taslağını kamuoyunun görüşüne açtı ve görüş göndermek için son tarih olarak 5 Ağustos 2026'yı belirledi. Taslak 4 alana dayanıyor: siber güvenlik yönetişimi, savunma, dayanıklılık ve üçüncü taraf siber güvenliği; üretken yapay zekâyı ve ajan tabanlı yapay zekâyı da kapsıyor.
- Kişisel Verilerin Korunması Kanunu (PDPL), kişisel veri işleyen her işletmeyi bağlıyor; yukarıda değinilen uygulama yönetmeliğinin 17. ve 24. maddeleri de buna dâhil. Daha fazlası kanuna ilişkin pratik rehberimizde.
İlk 30 günün planı nedir?
| Hafta | Ne yapılmalı | Sonuç |
|---|---|---|
| 1 | Yapay zekâ araçlarınızı, ajanlarınızı ve hesaplarınızı listeleyin, her araç için bir sorumlu belirleyin | Kimin neyi kullandığını gösteren tek bir tablo |
| 2 | Kullanımı kurumsal hesaplara taşıyın, her ajana kendi hesabını ve yetkilerini verin, ödemeler, silmeler ve giden mesajlar için insan onayı ekleyin | Hiçbir ajan bir çalışanın tüm erişimine sahip değil |
| 3 | İnternete açık sistemleri yamayın, bir web uygulama güvenlik duvarı açın ve transfer talepleri için ikinci kanaldan doğrulamayı benimseyin | Daha az bilinen açık, daha zor dolandırıcılık |
| 4 | Tek sayfalık bir politika yazın ve çalışanları bu konuda eğitin, sorularınızı sigortacınıza ve tedarikçilerinize gönderin | Yazılı kurallar ve belgelenmiş yanıtlar |
Origami'nin görüşü
Bu uyarılarda şirketinizde yapay zekâyı kapatmak için bir neden değil, onu net sınırlar içinde çalıştırmak için bir neden görüyoruz. Microsoft'un kendisi de amacın her hareketi öngörülebilen bir model değil, "model güvenli olmadığında bile güvenli kalan sistemler" olduğunu söylüyor. Origami olarak yapay zekâ özelliklerini ve ajanlarını şirketlerin sistemlerine sınırlı yetkiler, onay adımları ve net kayıtlarla yerleştiriyor, yapay zekâ araçlarıyla yazılmış kodu inceleyip açıklarını kapatıyor ve internete açık sunucuları ve uygulamaları güncelliyoruz. Araçlarınızı ve ajanlarınızı birlikte gözden geçirmek için bizimle iletişime geçin.
Özetle
- Ekim 2026 uyarıları, yapay zekânın açıkları bulmayı ve istismar etmeyi hızlandırdığını, ajanların hata yapabileceğini ya da manipüle edilebileceğini ve modellerin kimsenin istemediği şekillerde davranabileceğini söylüyor.
- Araçlarınızı ve ajanlarınızı bilin, her ajana en az erişimi verin ve finansal ve hassas adımlardan önce insan onayı isteyin.
- Verilerinizle varsayılan olarak model eğitmeyen kurumsal hesaplar kullanın ve müşteri verilerini onaylanmamış araçların dışında tutun.
- İnternete açık sistemleri günler içinde yamayın, para taleplerini ikinci bir kanaldan doğrulayın, sigortanızı ve tedarikçi sözleşmelerinizi gözden geçirin.
Kaynaklar
- Microsoft: Ajanlar en yeni içeridekileriniz, 19 Ekim 2026
- OpenAI: Patch the Planet, kritik PHP açıklarına yanıtın koordinasyonu
- CISA: PHP'deki kritik açıklar acil yama gerektiriyor
- Suudi Ulusal Siber Güvenlik Otoritesi (NCA): PHP uyarısı
- Fortinet: Birden fazla ürün için güvenlik sıkılaştırma sürümü
- Anthropic: Açık kaynak yazılımlar için isteğe bağlı açık bulma hizmeti, 8 Ekim 2026
- Anthropic: Claude ile açıkları keşfetmek ve istismar etmek, 27 Ekim 2026
- Anthropic: ABD SEC'e sunulan S-1 kayıt beyanı
- SPA: SDAIA ulusal yapay zekâ risk yönetimi çerçevesini başlattı
- Suudi Ulusal Siber Güvenlik Otoritesi (NCA): Yapay zekâ siber güvenlik yönergeleri için görüş toplama
- SDAIA ve CST: Deepfake ve sahte videolar
- SDAIA: Kişisel Verilerin Korunması Kanunu uygulama yönetmeliği
- OpenAI: Verileriniz model performansını iyileştirmek için nasıl kullanılıyor
- Anthropic: Verilerim model eğitiminde kullanılıyor mu?
Sık sorulan sorular
Şu anda şirketler için en büyük yapay zekâ riskleri neler?
Üç tane: açıkları yapay zekâyla daha hızlı bulup istismar eden saldırganlar, hata yapabilen ya da gizli talimatlarla manipüle edilebilen geniş yetkili ajanlar ve onaylanmamış araçlara giren müşteri verileri. Bunlara sahte ses ve videoyla (deepfake) yapılan dolandırıcılık da eklenir.
Çalışanlarımın ChatGPT ve diğer yapay zekâ araçlarını kullanmasını yasaklamalı mıyım?
Yasağa gerek yok. Verilerinizle varsayılan olarak model eğitmeyen kurumsal hesaplardaki araçları onaylayın, örneğin ChatGPT Business ve Claude for Work, ve hiçbir araca asla girmeyecek bilgileri yazılı olarak belirleyin: müşterilerin kişisel verileri, sözleşmeler ve parolalar gibi.
Yapay zekâ ajanları güvenli mi?
Kendi başlarına değil. Microsoft, bir ajanın başarısız olabileceğini ya da ele geçirilebileceğini varsaymayı ve neye erişip ne yapabileceğine dair kontrolleri modelin dışında tutmayı öneriyor; böylece ajan bunları atlatamaz. Buna en az yetki ve önemli adımlardan önce insan onayı eşlik etmeli.
Suudi mevzuatı beni yapay zekâ risklerini yönetmeye zorunlu kılıyor mu?
SDAIA'nın çerçevesi yol gösterici bir başvuru kaynağı, Ulusal Siber Güvenlik Otoritesi'nin (NCA) yönergeleri ise görüşe açılan bir taslak olarak yayımlandı. Kişisel Verilerin Korunması Kanunu (PDPL) ise bağlayıcı ve uygulama yönetmeliği, ilgili kişilere zarar verebilecek bir veri sızıntısı öğrenildikten sonra 72 saat içinde yetkili makama bildirim yapılmasını şart koşuyor.
Siber sigorta yapay zekâ olaylarını kapsıyor mu?
Bu, poliçenin ifadesine bağlı. Anthropic bile halka arz izahnamesinde sigortasının yeterli teminat sağlamayabileceğini söylüyor; bu yüzden sigortacınıza bir yapay zekâ ajanının yol açtığı veri sızıntılarını ve klonlanmış bir sesle yapılan sahte transferleri yazılı olarak sorun.
