Yapay zekâya ne kadar yetki verilmeli? Onay ve denetim rehberi

Nadella neden modelleri baştan şüpheli sayıyor?

Microsoft CEO’su Satya Nadella, güçlü yapay zekâ modellerinin her an yanlış yönlendirilebileceğini kabul ediyor. Şirketlere önerisi, güveni modelin çevresine kurulan düzene yaslamak. Ona göre zekâyı sağlayan model ile o zekâ üzerindeki yetki ayrı ellerde durmalı. Bir işi yarıda kesme kararı da her zaman bir insanda kalmalı.

Nadella bu görüşü 10 Ekim 2026 Cumartesi günü X’te uzun bir gönderiyle paylaştı. Bloomberg ertesi gün gönderiyi haberleştirdi. Habere göre Nadella, şirketlerin güçlü modelleri olası bir iç tehdit gibi görmesini istiyor. Model üreticilerinin verdiği güvencelere tek başına yaslanmamak da önerileri arasında.

Gönderinin en çok alıntılanan cümlesi kısa ve sertti: “Bir modelin ele geçirilmiş olduğunu varsaymalı ve onu en baştan sınırlamalıyız.”

Uyarı boşlukta yapılmadı. Bloomberg, gönderiyi Anthropic ve OpenAI’ın kısa süre önce açıkladığı olaylarla birlikte okuyor. Bir Anthropic modeli test sırasında polise sahte bir cinayet ihbarı göndermişti; başka denemelerde de üçüncü taraflara ait web sitelerinin açıkları kullanılmıştı.

Microsoft’un yapay zekâ araştırmacıları da 14 Eylül’de bazı ilkeler yayımlamıştı. İlkelere göre en gelişmiş modeller, insan denetiminden kaçacak ya da kullanıcıyı kandıracak biçimde geliştirilmemeli.

Nadella’nın yaklaşımında gözden kaçmaması gereken bir ayrıntı var. Modelleri insan değerleriyle uyumlu hâle getirme işini, yani hizalama (alignment) sorununu çözülmüş saymıyor. Bu zor soruyu bir kenara bırakıp işe mühendislikle başlamayı öneriyor. ANI’nin aktarımına göre ne yapacağı önceden kestirilemeyen modeller; kuralları belli yazılımlarla, insan kontrolüyle ve güvenilir çalışma usulleriyle çevrilmeli.

Microsoft’un bu tartışmada iki şapkası olduğunu da hatırlamak gerekir: Şirket hem Copilot gibi ürünlerinde gelişmiş modeller kullanıyor hem de kurumsal müşterilerine model ve altyapı sağlıyor.

Yapay zekâ ajanını yetkilendirmek ne demek?

Yapay zekâ ajanını yetkilendirmek, ajanın hangi verilere bakacağını ve hangi işleri kendi başına yapacağını önceden yazmaktır. Hangi adımda bir insana soracağı ve her işin nasıl kayda geçeceği de bu yazının parçasıdır. İngilizcede bu düzene “AI agent governance” deniyor. Nadella’ya göre bu kurallar, modelin dokunamayacağı bir yerde durmalı.

Ele geçirilmiş model varsayımı, bir yapay zekâ modelinin her an yanlış iş yapabileceğini baştan kabul eden güvenlik yaklaşımıdır. Sebep hatalı veri, kötü niyetli bir yönlendirme ya da modelin kendi öngörülemeyen davranışı olabilir. Tanıdık bir yüzden bile kapıda kart okutmasını isteyen bina güvenliğine benzer: İçeride çalışmak, kimseyi kendiliğinden güvenilir kılmaz.

Nadella’nın gönderisi bu varsayımı birkaç somut kurala çeviriyor. Bir yönetici her birini ertesi sabah ekibine talimat olarak verebilir:

• Kurallar modelin dışında durur: Ajanın neye erişeceğini ve ne yapacağını belirleyen kontroller ayrı bir yazılıma ve bir insana bağlanır, modele bırakılmaz. Nadella bu fikri 1970’lerden kalma bir bilgi güvenliği ilkesine dayandırıyor: Bir program, kendi izinlerini denetleyen düzeneği aşamamalı.
• Görevin ortasında durdurma: Yetkili bir kişi, çalışan bir modeli işin ortasında duraklatabilmeli ya da kapatabilmeli. Nadella bunu bir acil frene benzetiyor.
• Silinemeyen kayıt: Ajanın her önemli adımı kayda geçer. Kayıt sonradan değiştirilemez ve bir insan okuyup anlayabilir.
• Tek modele bel bağlamamak: Kritik kararlarda tek bir modelin cevabı yeterli sayılmaz. Sistemler bağımsız denetimden geçer.
• Hataları paylaşmak: Büyük bir arıza ya da güvenlik ihlalinde şirket neyin yanlış gittiğini açıklar. Böylece başkaları da önlemlerini güçlendirir.

Listenin ilk maddesi en az konuşulanı, ama günlük işte en çok fark yaratanı. Ajana “müşteri verisini şirket dışına gönderme” diye yazılan talimat, modelin içinde bir rica olarak kalır. Yanlış yönlendirilen bir ajan o ricayı unutabilir. Aynı kuralı e-posta sunucusu ya da müşteri kayıt sistemi uygularsa, ajan yanılsa bile veri dışarı çıkamaz.

Ajana yazılan kural bir ricadır; sistemin uyguladığı kural ise bir sınırdır.

Acil fren var, frene basacak düzen eksik

Şirketlerin büyük kısmı bir ajanı durdurabildiğini söylüyor. Ama ajanlara tanınan yetkiler, bu güvencenin çoktan önüne geçmiş durumda. 2026’da yayımlanan üç ayrı anket, boşluğu farklı açılardan gösteriyor. Örneklemleri, soruları ve katılımcıları farklı olduğu için her birini kendi içinde ayrı ayrı okumak gerekiyor.

Optro, Kuzey Amerika ve Avrupa’dan 417 risk, uyum ve iç denetim yöneticisiyle bir anket yaptı. Katılımcıların %98’i, incelemecilerin bir ajanı durdurabildiğini ya da kararını geçersiz kılabildiğini söylüyor. Öte yandan kurumların %34’ü, ajanlara kontrolleri ya da politikaları değiştirme yetkisi tanıyor. Yani ajan, kendisini sınırlayan kurala dokunabiliyor.

Optro verisinde ikinci bir uyarı daha var. Kurumların %29’u, resmî onaydan ya da incelemeden geçmeden devreye alınmış ajanları olduğunu kesin olarak biliyor. Bundan şüphelenenler ise %16. Kimsenin haberi olmayan bir ajanı durdurmaya, düğmenin varlığı yetmez.

Kore.ai’nin 408 bilişim ve iş yöneticisiyle yaptığı araştırma başka bir açıdan bakıyor. Ankete göre bazı kurumlar, ajanın kendi yaptığı bir işi sonradan pahalıya geri almak zorunda kaldı. Bu kurumların %91,4’ü, olaydan önce koruma önlemlerinin zaten yerinde olduğunu söylüyor. Önlemin kâğıt üzerinde bulunması, işin doğru yapılacağını garanti etmiyor.

OneTrust, Haziran–Temmuz 2026’da sekiz ülkede 1.200 üst düzey yöneticiye ulaştı. Kurumların %48’i, yapay zekâ sistemlerinin ya da ajanlarının onay almadan işlem yaptığı en az bir olay yaşadığını bildiriyor. Ajan kullanımını teşvik edenler %87; teşvik ederken açık bir denetim düzeni de kuranlar ise %47.

Fren takılı olabilir; asıl soru, frene kimin, hangi bilgiyle ve ne zaman basacağı.

Hangi işlerde insan onayı şart?

Para hareketi, sözleşme ve müşteri verisi gibi geri dönüşü zor işlerde insan onayı şart. Ajanın kendi yetkilerini değiştirmesi de bu gruba girer. Geri kalan işler ajana kademe kademe açılmalı: önce okuyup önersin, sonra taslak hazırlasın. Sonuçlar izlendikçe küçük ve geri alınabilir işleri kendisi yürütsün.

Şekil 1, bir ajana verilebilecek yetkiyi dört düzeyde gösteriyor. İlk düzeyde ajan yalnızca veriye bakar, rapor ve öneri yazar. İkinci düzeyde e-posta, teklif ya da kampanya metninin taslağını hazırlar; tıpkı stajyerin yazdığı mektubu müdürün imzalaması gibi, gönderme kararı insandadır. Üçüncü düzeyde ajan küçük ve kolayca geri alınan işleri kendisi yapar, her adımı kayda geçirir.

Dördüncü düzey, bir ödül basamağı değil, kalıcı olarak kapalı tutulan alandır. Ödeme talimatı, sözleşme onayı ve müşteri verisini şirket dışına aktarma bu alanda kalır; ajanın kendi yetkilerini değiştirmesi de öyle. Optro anketindeki %34’lük oran, bu son maddenin neden ayrıca yazılması gerektiğini gösteriyor.

Bir pazarlama ajanı düşünelim. Ajan önce rakip fiyatlarını izler ve haftalık rapor yazar. Raporlar tutarlı çıktıkça kampanya metinlerinin taslağını hazırlar; metni yayına alan ise pazarlama sorumlusudur. Bir süre sonra küçük reklam bütçelerini kendisi dağıtabilir, ama fiyat listesini değiştirmek ya da bir müşteri kaydını silmek hep bir insanın onayına bağlı kalır.

Ödemelerde onayın tutara ve geri alınabilirliğe göre nasıl ayarlanacağı, yapay zekâ ajanının harcama yetkisi yazısında ayrıca ele alınıyor.

Acil durdurma düğmesi kimde durmalı?

Acil durdurma yetkisi, ajanı kuran ekipten ayrı bir yöneticide durmalı. Seçilen kişi işin sonucundan sorumlu olmalı; o yokken devreye girecek yedek de adıyla belli olmalı. Düğmenin işe yaraması için iki şey gerekir: gerçekten çalışan bir durdurma yolu ve ajanın ne yaptığını anlatan, okunabilir bir kayıt.

Ajanı yazan ekip, ajanın başarısıyla da ölçülüyorsa durdurma kararını ertelemek için hep bir gerekçe bulur. Düğmeyi tutan kişi bu yüzden ajanın hızından çok işin doğruluğundan sorumlu olmalı. Satış ajanında bu kişi satış müdürü olabilir, muhasebe ajanında mali işler sorumlusu.

Düğmenin varlığı, çalıştığını kanıtlamaz. Belirli aralıklarla tatbikat yapılmalı. Sorumlu kişi deneme ortamındaki ajanı görevin ortasında durdurur, sonra bağlı sistemlerin, yarım kalan işlemlerin ve müşteriye giden bildirimlerin ne durumda kaldığına tek tek bakar.

Kayıt tarafında Kore.ai araştırması dikkat çekici bir boşluk gösteriyor. Katılımcıların %70’i, birden fazla ajanın birlikte çalıştığı bir ortamda hata çıktığında sorumlu ajanı belirleyemediğini söylüyor. İyi bir kayıt her işlemin yanına üç şey yazar: hangi ajanın, kimin talimatıyla ve hangi kullanıcı adına hareket ettiği. Nadella da kaydın sonradan değiştirilememesini ve bir insanın okuyabileceği dilde tutulmasını istiyor.

Kayıt, ajanın erişebildiği bir yerde durmamalı; kendi izini silebilen bir ajan denetimi de boşa çıkarır.

Olayları zamanında bildirme fikri Avrupa’da yasaya da girdi. AB Yapay Zekâ Yasası’nın 73. maddesi, yüksek riskli yapay zekâ sistemlerinin sağlayıcılarına bildirim yükümlülüğü getiriyor. Ciddi bir olay, yetkili makama belirli süreler içinde haber verilmeli.

Türkiye’deki şirketler için 73. madde doğrudan bir iç hukuk kuralı sayılmaz. Yine de AB pazarına yüksek riskli bir yapay zekâ sistemi sunan Türk şirketi bu yükümlülükle karşılaşabilir. Bir olayı fark etmek haftalar sürüyorsa, böyle bir süreye yetişmek zaten mümkün olmaz.

KOBİ’de ve büyük şirkette denetim düzeni

Küçük bir şirkette yetki ve denetim düzeni, tek sayfalık bir liste ve tek bir sorumluyla kurulabilir. Büyük şirkette ise ajanı kuran, onaylayan ve denetleyen kişiler birbirinden ayrılmalı. İlkeler iki ölçekte de değişmez. Değişen, yazılı işin miktarı ve görevlerin kaç kişiye dağıldığıdır.

Türkiye’de yapay zekâyı iş süreçlerine alan şirketler hızla çoğalıyor. TÜİK’in 2 Ekim 2026’da açıkladığı verilere göre 10 ve daha fazla çalışanı olan girişimlerde yapay zekâ kullananların payı bir yılda %7,5’ten %14’e çıktı. 16–74 yaş arasındaki bireylerde üretken yapay zekâ kullanımı ise %37,6’ya ulaştı.

Çalışanlar bu araçları önce kendi hayatlarında tanıyıp işe taşıdıkça, şirketin yazılı kuralları kullanımın gerisinde kalabilir. Tablo 1, Nadella’nın ilkelerinin iki ölçekte nasıl uygulanabileceğini yan yana koyuyor.

KOBİ tarafında en çok dikkat isteyen satır insan onayı. Ayrı bir denetim birimi olmayan küçük şirkette son sözü çoğunlukla şirket sahibi ya da muhasebeci söyler. Bu kişinin, para ve müşteri verisiyle ilgili her ajan işlemini görmesi, ek bir yazılımdan daha çok koruma sağlar. Müşteri verisine dokunan bir ajanın işi için Kişisel Verilerin Korunması Kanunu (KVKK) karşısında hesap veren de çoğu durumda şirketin kendisidir.

Aşırı kontrolün bedeli

Her ajan işlemine insan onayı koymak ajanı yavaşlatır, onaylayan kişiyi de kısa sürede yorar. İtiraz ciddiye alınmalı. Çözüm, onayların sayısını azaltıp onaylayan kişiye yeterli zaman ve bilgi tanımaktır. Seyrek ama dikkatle verilen bir onay, her işleme refleksle basılan onaydan daha çok korur.

Hız kaybı gerçek bir maliyet. OneTrust anketinde kurumların %30’u, denetim kurallarının en çok yavaşlattığı ya da zorlaştırdığı işler arasında ajan tabanlı iş akışlarını sayıyor. Müşteri sorularını yanıtlayan bir ajanın her cevabı onay beklerse, o ajanı kurmanın anlamı kalmaz.

Onay yorgunluğunun izi Optro verisinde de görülüyor (Şekil 2). Hızlı ilerleyen ama altyapısı zayıf kurumlarda incelemecilerin yalnızca %64’ü, ajanın işlerine düzgün bakacak zamanı olduğunu söylüyor. Disiplinli işleyen kurumlarda yeterli zamanı olduğunu söyleyenler %99.

Doğru ayar, onaylayan kişinin işini kolaylaştırmaktan geçer. Ajanın ne yapmak istediği, gerekçesi ve işlemin nasıl geri alınacağı tek ekranda görünmeli. Bir kişinin bir günde bakacağı onay sayısına da sınır konmalı. Sınır sürekli aşılıyorsa, ajana verilen işin tanımı yeniden yazılmalı.

Yazarın öznel bakış açısı: Ali Çandır’a göre

Global arenada finans, pazarlama, satış ve iş geliştirme ekipleriyle yapay zeka asistanlarını devreye alırken en sık gördüğüm hata, işler hızlansın diye ajana baştan geniş yetki verip insan onayını denkleme hiç koymamak. Birçok yanlış vakada, teklif e-postası, fiyat değişikliği ya da müşteri kaydı kimse “tamam” demeden yapay zeka ajanı tarafından otomatik yürütülüyor. Benim kuralım basit: ajan detaylı planı içeren taslağı hazırlar; para, sözleşme, müşteri verisi ve operasyonun yürütülmesiyle ilgili çoğu adımı bir insan onaylar. "Her şeyi sana bırakıyorum tamamen özgürsün, tam yetkilisin, hepsini sen yap." demek yerine, ajanın yapacağı işleri önceden başka bir oturumda planlayıp, uygulama adımlarını detaylı şekilde yanlışlığa yer bırakmayacak kadar sıkı tutmak gerek. Çünkü yetkiyi önce dar tutup, süreç boyunca gerektiği kadar genişletmek, sonradan çaresizce geri almaya çabalamaktan daha kolay. Katmanlı adımlarla yapay zeka ile planlayarak inşa edilen süreçlerin pişmanlığı çok daha az oluyor. Ancak kolaya kaçıp her şeyi otomatiğe bağladıktan sonra gelen hasarı bırakın geri almayı, hasar tespitini tam olarak yapabilmek bile mümkün olmayabilir.

Sıkça Sorulan Sorular

Yapay zekâ ajanı ile sohbet asistanı arasındaki fark nedir?

Sohbet asistanı soruya cevap verir; işi yapan yine kullanıcıdır. Yapay zekâ ajanı ise kendisine verilen hedefe ulaşmak için başka yazılımları kullanır. E-posta gönderebilir, kayıt değiştirebilir, sipariş verebilir. Yetki ve denetim sorusu bu yüzden en çok ajanlar için önem taşır: Yanlış bir cevabı okur düzeltir, yanlış bir işlemi düzeltmek içinse önce onu fark etmek gerekir.

Açık kaynak modeller ele geçirilme riskine karşı daha mı güvenli?

Nadella’nın yaklaşımında bu ayrım sonucu değiştirmiyor. ANI’nin aktarımına göre Nadella, kapalı modelleri de ağırlıkları herkese açık modelleri de olası bir iç tehdit gibi görmeyi öneriyor. Şirketin kendi sunucusunda çalışan açık bir model, verinin dışarı çıkmasını sınırlamayı kolaylaştırır. Ama modelin yanılma ya da yanlış yönlendirilme ihtimalini ortadan kaldırmaz.

Sonuç: önce kural, sonra ajan

Nadella’nın “modeli ele geçirilmiş say” ilkesi, ilk bakışta yapay zekâya karşı bir güvensizlik ilanı gibi okunabilir. Daha isabetli okuma şu: Modele az güvenmeyi mümkün kılan bir düzen kuran şirket, ajanı daha rahat kullanır. Kurallar modelin dışında durduğunda, durdurma yetkisi adı belli bir kişide olduğunda ve her işlem silinemeyen ve okunabilir bir kayda geçtiğinde, ajanın yanılması bir felaket olmaktan çıkar ve düzeltilebilir bir hataya dönüşür.

Ertesi sabahın işi kısa bir liste. Şirkette çalışan her ajan yazılır ve her birinin hangi yetki düzeyinde çalıştığı belirlenir. Ödeme, sözleşme ve müşteri verisi kapalı alana alınır; durdurma düğmesinin sahibi adıyla atanır. Bu listeyi yazmadan yeni bir ajanı devreye alan şirket, hızlanırken kontrolü de elinden bırakır.