Yanıt üretmekle işlem yapmak farklıdır
Bir yapay zekâ uygulaması yalnızca öneri sunarken etkisi sınırlı olabilir. Aynı uygulama kayıt değiştirebiliyor, e-posta gönderebiliyor veya sipariş oluşturabiliyorsa yanlış yorumun sonucu büyür. Tasarıma araç listesinden önce işlem listesini yazarak başlayın. Her işlemin hangi veriyi değiştirdiğini, geri alınıp alınamadığını ve hangi kullanıcı adına yapıldığını belirleyin.
Dış içerik yetki kaynağı değildir
OWASP, prompt injection riskini modelin işlediği içerikle talimatların karışması üzerinden açıklar. Bir dokümanda veya araç çıktısında görünen metin, ajana yeni yetki vermemelidir. Yetkilendirme, uygulamanın bağımsız kontrol katmanında uygulanmalıdır. Modelin davranışına ilişkin tek bir talimat bütün korumanın yerine geçmez; araç erişimi ve işlem sınırları da tasarlanmalıdır.
Onayı somut işlemin önüne koyun
Onay ekranında yalnızca 'devam edilsin mi' sorusu yetersiz kalır. Kullanıcı neyin, kime, hangi tutar veya kapsamla gönderileceğini görebilmelidir. Onay sonrasında işlem parametrelerinin değişmesi yeni değerlendirme gerektirir. Düşük etkili okuma adımlarıyla dışarıya veri gönderen veya kayıt değiştiren adımları ayrı tasarlamak, hem kullanıcı deneyimini hem denetimi kolaylaştırır.
Pilotun başarısını işlem kalitesiyle ölçün
Başlangıçta sınırlı veri, sınırlı araç ve düşük işlem hacmi seçin. Hatalı öneri, reddedilen işlem, kullanıcı müdahalesi ve geri alma ihtiyacını kaydedin. Aynı komutun yeniden çalışması çift işlem doğuruyorsa tasarım tamamlanmış değildir. Ekip, işlemin neden yapıldığını ve hangi onaya dayandığını sonradan anlayabilmelidir.
Başlangıç kontrol listesi
- Araçların izinlerini en dar kapsamla tanımlayın.
- Dış içerikle gelen talimatları yetki kabul etmeyin.
- İşlem öncesi hedef ve kapsamı gösterin.
- Tekrar, hata ve geri alma senaryolarını deneyin.
Kaynaklar ve ileri okuma
Teknik açıklamalar resmi kaynaklarla desteklenmiştir. Örnek senaryolar ve kontrol listeleri Rein için hazırlanmış uygulama önerileridir. Kaynak kontrolü: 29 Eylül 2026.
Yayın ilkelerimiz →Bu konuyu kurumunuzda ele alalım.
Mevcut ortamınızı ve hedeflerinizi birlikte değerlendirebiliriz.
İlgili hizmeti inceleyin ↗