Yapay Zekâ Ajanına İş İlanı Yazar Gibi Brief Verin: Rol, Kırmızı Çizgiler ve İnsana Devir Rehberi
Yapay zekâ ajanlarını (AI Agents) kurumsal ortamlarda başarıyla devreye almak ve pilot aşamasından üretime taşımak, bu özerk sistemlerle etkileşim, yönetişim ve yönlendirme biçiminde yapısal bir dönüşüm gerektiriyor. Geleneksel yapay zekâ araçları basit metin komutlarıyla çalışırdı. Yeni nesil özerk ajanlar ise insan kaynaklarındaki iş tanımına (Job Description) benzeyen kapsamlı ve net bir yapıya ihtiyaç duyuyor.
Net bir brief verilmemesi, operasyonel kırmızı çizgilerin belirlenmemesi ve işi insan operatöre devretmek için açık bir protokolün olmaması, yapay zekâ projelerinin %80'inden fazlasının başarısız olmasının temel nedenleri arasında yer alıyor. Bu yazı; brief yazma mimarisini, güvenlik katmanlarını ve kırmızı çizgileri (Guardrails), gizlilik mevzuatı gereklerini ve işi insana devretme karar matrisini ele alıyor.
1. Yapay Zekâ Ajanları İçin İş Tanımı ve Yürütme Brief'i Çerçevesi
Basit prompt yazımından işlevsel yapay zekâ ajanları kurmaya geçmek, prompt'u bir iş tasarım belgesi gibi görmeyi gerektirir. Belirsiz ve yapılandırılmamış talimatlar sürekli olarak bilişsel sapmaya, ciddi performans kaybına ve karmaşık ortamlarda operasyonel başarısızlığa yol açar.
Ajanın davranışında tutarlılık sağlamak için yürütme brief'i, tek bir sistem prompt'unda dört temel unsuru birleştirmelidir:
- Rol ve bilişsel özellikler: Ajanın davranışsal kimliğini sabitler. Modeli genel bir asistandan, kıdemli hukuk analisti ya da teknik denetçi gibi belirli bir alan uzmanına dönüştürür.
- Hedef: Ölçülebilir ticari değeri ve beklenen nihai çıktıyı belirler. Ajanın sorumluluk alanını netleştirir.
- Arka plan ve kurumsal bağlam: Modelin, akıl yürütmesini çalışma alanının önceliklerine uydurabilmesi için gereken bağlamsal hafızayı sağlar.
- Sert ve mantıksal sınırlar: Ajanın yürütme sınırlarını çizer. Geçersiz varsayımları, yetkisiz verilere erişimi ve belirlenen formatlardan sapmayı engeller.
Talimat Yerine Örnek: Beceri Odaklı Tasarım
Modern ajan tasarımı, uzun ve nitel metin talimatlarına dayanmak yerine beceri odaklı yapılandırma ve örnekle öğrenmeye dayanır. Karmaşık süreçleri küçük ve bağımsız becerilere bölmek, doğru uygulama örnekleriyle (Worked Examples) ve hatalı örneklerle (Anti-Examples) desteklemek, modelin istenen davranışa uyumunu ciddi biçimde artırır. Çünkü büyük dil modelleri pratik kalıpları soyut kurallardan çok daha doğru anlar ve uygular.
Araçların Model Context Protocol (MCP) gibi standart protokollerle bağlanması, ajanın veri tabanlarına ve API'lere erişim sınırlarını netleştirir. En az yetki (Least Privilege) ilkesine göre ajan, yönetici ya da geniş erişim yetkilerine sahip olmamalı; yalnızca göreviyle orantılı, sınırlı araçlarla donatılmalıdır. Böylece kurumun dijital ortamında beklenmedik davranışların önüne geçilir. Ayrıca modeli Pydantic ya da JSON gibi yapılandırılmış şemalarla çıktı vermeye zorlamak, sonraki sistemlerin otomatik doğrulama yapmasını sağlar.
| Brief Bileşeni | Operasyonel Amaç | Brief'te Uygulama Örneği |
|---|---|---|
| Rol (Role) | Ajanın bilişsel kimliğini ve tonunu sabitlemek | Resmî bir üslupla çalışan, yüksek dikkatli kıdemli ağ güvenliği analisti |
| Hedef (Goal) | Nihai çıktıyı ve ticari değeri belirlemek | Zararlı kodları değerlendirip 10 dakika içinde açık raporu sunmak |
| Girdiler (Inputs) | İzinli veri kaynaklarını ve tabloları belirlemek | Yalnızca security_logs veri tabanını ve bilgi tabanının 2. sürümünü sorgulamak |
| Örnekler (Examples) | Doğru ve yanlış davranış kalıplarını göstermek | 2 standart yanıt örneği ve 1 reddedilmiş çıktı örneği eklemek |
| Araç sınırı (Tools) | API erişimini sınırlandırmak | Tabloları okuma izni vermek, düzenleme ya da silme izni vermemek |
2. Kırmızı Çizgiler, Gizlilik ve Güvenlik Çerçeveleri (Guardrails)
Geleneksel metin üretim sistemlerinin aksine yapay zekâ ajanları, araç çağırma mekanizmalarına sahiptir. Bu mekanizmalar veri tabanlarının durumunu değiştirebilir, mali işlem yapabilir ya da müşteri iletişim sistemleriyle etkileşime girebilir. Bu yüzden bir ajanın hatası yanlış bir metinden öte, gerçek bir operasyonel zarara dönüşür. Bu riskleri kontrol altına almak için ajanın çalışma döngüsü boyunca bir güvenlik korkuluğu (Guardrails) yığını kurmak gerekir.
Üç Katmanlı Koruma Hattı
Çalışma anındaki koruma hattı riskleri üç aşamada değerlendirir:
- Girdi katmanı: Ana model çağrılmadan önce kullanıcı prompt'u incelenir. Prompt Injection saldırıları tespit edilir, kimlik belirleyici veriler (PII) anonimleştirilir ve iş alanı dışındaki talepler engellenir.
- Diyalog katmanı: Çok adımlı konuşmalarda NeMo Guardrails çerçevesindeki Colang gibi kesin politika dilleriyle konuşma akışı yönlendirilir. Hedef sapması (Goal Drift) ve yasaklı konulara girme engellenir.
- Çıktı katmanı: Guardrails AI gibi doğrulama sistemleri, modelin çıktısını ve önerilen araç parametrelerini iş kuralları, JSON yapıları ve güvenlik politikalarıyla karşılaştırır. Hata durumunda çıktıyı yeniden yazar ya da engeller.
Sonsuz Döngü ve Bütçe Koruması
Altyapı güvenliği açısından ajanlar, araçlar art arda hata verdiğinde sonsuz tekrar döngülerine düşebilir. Bu da mali ve işlem kaynaklarının ciddi biçimde boşa harcanmasına yol açar. Mühendisler bunu önlemek için sert maliyet ve token tavanlarının yanı sıra Circuit Breaker (devre kesici) deseni uygular: Belirli sayıda başarısız çağrıdan sonra ajanın çalışması durdurulur.
Ayrıca dış API'lerden, e-postalardan ya da web sitelerinden alınan bilgiler güvenilmez veri olarak işaretlenip izole edilmelidir. Böylece dolaylı prompt injection saldırıları önlenir.
KVKK ve GDPR: Ajanın Hukuki Sınırları
Kişisel verilerin korunması mevzuatına uyum, yapay zekâ ajanları için önemli yönetişim sınırları oluşturur. Türkiye'deki KVKK madde 9 ve AB Genel Veri Koruma Tüzüğü'ne (GDPR) göre, kişisel verilerin dil modeli sağlayıcılarının yurt dışındaki bulut sunucularına gönderilmesi veri aktarımı sayılır. Bunun için yeterlilik kararı, bağlayıcı kurumsal kurallar ya da standart sözleşmelerin imzalanması ve denetleyici kuruma bildirilmesi gerekir.
Sürekli ve sistematik aktarımlarda açık rızaya dayanmak hukuken kırılgandır, çünkü rıza geri alınabilir olmalı ve yalnızca arızi durumlarla sınırlı kalmalıdır. TÜBİTAK ve YÖK rehberleri, gizli, ticari ve kişisel verilerin anonimleştirilmeden genel yapay zekâ araçlarına girilmesini açıkça yasaklıyor. Yurt dışındaki destek ekiplerinin iç verilere uzaktan erişimi bile aktarım sayıldığı için, verilerin kurum sınırından çıkmadan önce ajanın girdi katmanında maskelenmesi şarttır.
| Koruma Katmanı | Önerilen Araç / Çerçeve | Kapsanan Risk | Operasyonel Uygulama |
|---|---|---|---|
| Girdi (Input) | Guardrails AI / Presidio | PII ifşası ve prompt injection | Kişisel verileri maskeleme ve zararlı prompt'ları iptal etme |
| Diyalog (Dialogue) | NeMo Guardrails (Colang) | Konudan ve hedeften sapma | Konuşma akışını kurum kurallarına göre kesin biçimde yönlendirme |
| Çıktı (Output) | Pydantic / LlamaGuard | Halüsinasyon, hatalı JSON yapısı | Çıktı formatını doğrulama ve güvensiz yanıtları iptal etme |
| Yürütme (Execution) | Circuit Breaker Pattern | Tekrar döngüleri ve bütçe israfı | Adım sınırı aşılınca ajanın çalışmasını otomatik kesme |
3. Karar Matrisi ve İnsana Devir Protokolü (Human-in-the-Loop)
Ajanın özerk çalışmasının hangi noktada insan operatör müdahalesine geçeceğini net belirlemek, kurumdaki yapay zekâ yönetişiminin temel taşlarından biridir. Yapılandırılmış denetim olmadan tam özerklik vermek kurumu telafisi imkânsız risklere açar. Aşırı insan müdahalesi ise otomasyonun verimlilik kazancını yok eder.
MIT Sloan Karar Matrisi
MIT Sloan'ın sunduğu yapay zekâ karar matrisi, insan ile ajan arasında karar yetkisini iki boyuta göre dağıtmak için analitik bir çerçeve sağlar: belirsizlik ve risk.
- Belirsizlik boyutu, verilerin ne kadar net olduğunu ve uzmanların doğru yanıt konusunda ne kadar uzlaştığını ölçer.
- Risk boyutu, yanlış bir kararın sonuçlarının şiddetini ve geri döndürülebilirliğini değerlendirir.
Bu iki eksen dört operasyonel durum yaratır:
| Belirsizlik | Risk | Karar Yetkisi | Yapay Zekâ Ajanının Rolü | İnsanın Rolü (HITL) |
|---|---|---|---|---|
| Düşük | Düşük | Tam otomasyon | Aracı otomatik çalıştırma ve log kaydı | Dönemsel denetim ve istatistiksel inceleme |
| Yüksek | Düşük | Ajan önerir | Seçenek ve taslak çıktı üretme | Hızlı inceleme ve en iyi seçeneği seçme |
| Düşük | Yüksek | İnsan onayı | Veriyi işleme ve öneri sunma | Belgeleri inceleme ve aracın çalışmasına izin verme |
| Yüksek | Yüksek | İnsan liderliği | Analiz yapma ve sorulara yanıt verme | Nihai kararı verme ve sorumluluğu üstlenme |
Sert ve Yumuşak Tetikleyiciler
İnsana devir döngülerini (HITL) çalıştırmak, ajanın özerk çalışmasını anında durduran sert ve yumuşak tetikleyicileri tanımlamaya bağlıdır.
- Sert tetikleyiciler: Mali işlemler, müşterilerle ya da denetleyici kurumlarla yurt dışı iletişim ve kritik verilerin değiştirilmesi gibi eylemler.
- Yumuşak tetikleyiciler: Ajanın kendi bildirdiği güven skoru belirlenen eşiğin altına düştüğünde ya da sistem bağlam dışı istisnai bir durumla (Edge Case) karşılaştığında devreye girer.
Operasyonel sürtünmeyi azaltmak için onay arayüzleri önerilen eylemi, karar gerekçelerini ve kanıtları tek ekranda toplamalı, Slack ya da yönetim panelleri gibi günlük araçlarda tek tıkla onay imkânı sunmalıdır. LangGraph gibi grafik tabanlı mimariler, durum saklama (State Persistence) ile yürütmeyi güvenle askıya alır. İnsandan onay, düzenleme ya da ret gelene kadar bekler ve süreci bağlam kaybı olmadan sürdürür.
4. Ajan Projelerinde Başarısızlık Nedenleri ve Performans Göstergeleri
Yapay zekâ ajanlarının laboratuvar ortamından kurumsal operasyona taşınması, öngörülen ticari değer ile gerçek değer arasında derin bir uçurum yaratır. RAND Corporation ve MIT'nin saha araştırmalarına göre kurumların yapay zekâ projelerinin %80'inden fazlası somut yatırım getirisi (ROI) elde edemiyor. Bu başarısızlık oranı, geleneksel BT projelerinin yaklaşık iki katı. S&P Global'in değerlendirmelerine göre 2025'te şirketlerin %42'si beklenmedik maliyetler ve yönetişim karmaşıklıkları nedeniyle yapay zekâ girişimlerinin çoğunu terk etti.
Kök neden analizi, başarısızlığın çoğunlukla modellerin teknik sınırlarından değil kurumsal ve mimari dengesizlikten kaynaklandığını gösteriyor:
- Teknoloji odaklı yaklaşım: Gerçek bir iş sorununu çözmek yerine, yalnızca teknik cazibesi nedeniyle karmaşık çok ajanlı çerçeveleri kullanmak en önemli başarısızlık nedenidir.
- Çok ajanlı sistemlerin kırılganlığı: Açık kaynak uygulamalarda başarısızlık oranı, etkileşim hataları, yanlış görev devri ve ajanlar arası kontrolsüz mantık döngüleri nedeniyle %86,7'ye kadar çıkıyor.
- Hazır olmayan veri altyapısı: Eski sistemlere dağılmış veriler ve ölçütlerin tutarsız tanımlanması, modellerin gerçek verilerle kalitesini ciddi biçimde düşürüyor.
- Aceleci beklentiler: Yönetimin bir yıldan kısa sürede mali getiri beklemesi hataları artırıyor. Çünkü veri altyapısını ve süreçleri düzeltmek 12 ila 18 ay sürüyor.
ROI ve TCO Hesabı
Ajan tabanlı sistemlerin mali getirisini doğru ölçmek, toplam sahip olma maliyetinin (TCO) tam hesaplanmasını gerektirir. Yalnızca API lisans bedelini hesaba katan yüzeysel değerlendirmeler yanıltıcı sonuç verir.
ROI (%) = (Net Fayda − TCO) ÷ TCO × 100
TCO = Barındırma + API Tüketimi + Çerçeve Lisansı + Güvenlik ve Gizlilik Denetimi + İnsan Onay Maliyeti
Burada Barındırma işlem altyapısı maliyetini, API Tüketimi model kullanım ücretini, Çerçeve Lisansı kullanılan framework lisanslarını, Güvenlik ve Gizlilik Denetimi denetim giderlerini, İnsan Onay Maliyeti ise insan operatörlerin ajanın eylemlerini incelemek ve onaylamak için harcadığı sürenin mali değerini ifade eder.
Çok yönlü ölçüm için kurumlar McKinsey'nin 5 katmanlı çerçevesini kullanır ve mali, stratejik, süreç döngüsü, kullanıcı benimsemesi ve teknik sürdürülebilirlik göstergelerini bütünleşik izler.
| Gösterge Kategorisi | Temel Performans Göstergesi (KPI) | Amaç ve Ölçüm Biçimi |
|---|---|---|
| Mali (Financial) | TCO ve atfedilen net kâr | Operasyonel maliyet düşüşünü ve doğrudan mali değeri ölçme |
| Operasyonel (Operational) | Süreç döngü süresi ve yeniden iş oranı | İş süresini kısaltma ve düzeltme gerektiren hata oranını düşürme |
| Benimseme (Adoption) | Ajan çıktısı kabul oranı (Acceptance) | İnsan tarafından değişiklik yapılmadan onaylanan eylemlerin yüzdesi |
| Yönetişim (Governance) | Güvenlik olayı ve mevzuat uyumsuzluğu sayısı | Veri ifşası ya da yetkisiz araç çağrısının sıfır olması |
| Teknik (Technical) | Gecikme (Latency) ve halüsinasyon oranı | Sistemin yanıt kararlılığı ve araç çağırmadaki mantıksal doğruluk |
5. Sonuç ve Uygulama Yol Haritası
Yapay zekâ ajanlarını kurumlarda başarıyla kullanmak, basit prompt yazımından yapılandırılmış iş tanımı mühendisliğine ve çok katmanlı yönetişime geçmeyi gerektiriyor.
- Net bir brief yazın: Rol, hedef, araç erişim sınırları ve pratik örneklerle ajanın öngörülebilir davranışının temelini atın.
- Üç katmanlı güvenlik kurun: Girdi, diyalog ve çıktı katmanlarındaki korkuluklara KVKK ve GDPR gibi veri koruma yükümlülüklerine uyumu ekleyerek operasyonel ve hukuki riskleri en aza indirin.
- İnsana devir sınırlarını çizin: Risk ve belirsizlik matrisine göre hangi kararların ajana, hangilerinin insana ait olduğunu önceden belirleyin.
- Gerçek sorunlardan başlayın: TCO'yu tam hesaplayın ve ajan geliştirmeyi teknolojinin cazibesine değil gerçek ticari sorunların çözümüne dayandırın.
Bu yolu izleyen kurumlar sürdürülebilir mali getiriye ulaşır. Ajanı denetimsiz bırakmak yerine, ona iyi bir iş tanımı yazan kurumlar kazanır.
Kaynaklar
- RAND: The Root Causes of Failure for Artificial Intelligence Projects (rand.org/pubs/research_reports/RRA2680-1.html)
- KeyVed: AI Agent Guardrails, Human-in-the-Loop, Permissions and Failure (keyved.com)
- AgentList: NeMo Guardrails vs Guardrails AI Comparison (agentlist.top)
- Tulip: How to build an AI Agent (support.tulip.co)
- TÜBİTAK: Destek Süreçlerinde Üretken Yapay Zekânın (ÜYZ) Kullanımı Rehberi (tubitak.gov.tr)
- Manyas & Partners: KVKK ve UK GDPR kapsamında yurt dışına veri aktarımı (manyas.net)