
Kısa yanıt: Prompt injection (istem enjeksiyonu), bir dil modelinin davranışını onu kuranların istemediği biçimde değiştiren girdidir. Doğrudan kullanıcıdan gelebilir (“kurallarını unut ve…”). Dolaylı olarak da gelebilir: modelin okuduğu bir web sayfası, dosya, e-posta ya da bilgi bankasındaki bir belge üzerinden. OWASP, 2025 tarihli LLM Uygulamaları için İlk 10 listesinde onu LLM01 koduyla ilk sıraya koyar. OWASP’a göre kesin bir önleme yönteminin olup olmadığı belirsiz olduğu için koruma katmanlıdır: Ajanın yapabileceklerini sınırlayın, riskli işlemler için insan onayı isteyin, dış içeriği talimatlardan açıkça ayırın, çıktıları kontrol edin ve saldırıları saldırganlardan önce kendiniz deneyin.
Doğrudan ve dolaylı enjeksiyon
OWASP iki türü ayırır:
- Doğrudan: Kullanıcının kendi mesajı, bilerek ya da kazara modelin davranışını değiştirir.
- Dolaylı: Model talimat taşıyan dış bir içeriği alır; örneğin özetlediği bir web sayfası ya da kendisine verilen bir dosya.
OWASP ayrıca talimatların insanlar tarafından görülebilir olması gerekmediğini belirtir. Model okuduğu sürece bir sayfaya ya da görsele gizlenmiş metin yeterlidir.
Saldırılar neye benzer?
OWASP’ın örnek senaryoları arasında şunlar var:
- Bir destek chatbotuna kurallarını yok sayması, özel verilere bakması ve e-posta göndermesi söylenir.
- Modelden özetlemesi istenen bir sayfa, konuşmayı bir görsel bağlantısı üzerinden sızdıran gizli talimatlar içerir.
- Arama için kullanılan bilgi bankasındaki bir belge değiştirilir ve model yanlış cevaplar verir.
- Talimatlar, zararsız bir metinle birlikte gönderilen bir görselin içine gizlenir.
- Filtreler başka diller, Base64 gibi kodlamalar ya da emojilerle atlatılır.
Risk, sistemin yapabildikleriyle büyür. Yalnız cevap verebilen bir chatbot mahcup olabilir; e-posta gönderebilen, siparişi değiştirebilen ya da para aktarabilen bir ajan ise gerçek zarar verebilir.
OWASP’ın önerdiği savunmalar
- Modelin davranışını sınırlayın. Rolü, sınırları ve neyi yok sayması gerektiği hakkında açık talimatlar verin.
- Beklenen çıktı biçimini tanımlayın ve kontrol edin. Cevapları kullanmadan önce doğrulayın.
- Girdi ve çıktıyı filtreleyin. İki yönde de hassas içerik ve bilinen saldırı kalıplarına bakın.
- En az yetkiyi verin. Ajanın araçları ve erişim anahtarları yalnız işin gerektirdiğine izin vermeli.
- Yüksek riskli işlemler için insan onayı isteyin.
- Dış içeriği ayırın ve işaretleyin. Hangi metnin talimat değil veri olduğunu modele açıkça belirtin.
- Saldırıyla test edin. Düzenli olarak saldırı testleri ve simülasyonlar yapın.
OpenAI’nin ajan rehberi onay konusunda aynı noktaya varır: Hassas, geri alınamaz ya da yüksek riskli işlemler, örneğin sipariş iptali, büyük bir iadenin onayı ya da ödeme, en azından ajanın güvenilirliği kanıtlanana kadar insan denetimini tetiklemelidir.
Ajan yayına çıkmadan önce kontrol listesi
- Ajanın çağırabildiği her aracı listeleyin; ihtiyacı olmayanları kaldırın.
- Hangi işlemlerin insan onayı gerektirdiğini belirleyin ve bunu yalnız istemde değil, kodda uygulayın.
- Ajanın okuduğu her şeyi, kendi bilgi bankanız dahil, potansiyel olarak düşmanca kabul edin.
- Gizli bilgileri istemlerin ve araç cevaplarının dışında tutun.
- Ne olduğunu görebilmek için araç çağrılarını kaydedin.
- Yukarıdaki saldırıları kendi sisteminizde deneyin.
Ajanları iş sistemlerine MCP üzerinden bağlıyorsanız aynı kurallar eklediğiniz her sunucu için geçerlidir; bkz. MCP nedir.
Özet
- Prompt injection, bir modelin davranışını doğrudan mesajlarla ya da okuduğu içerik üzerinden değiştirir.
- OWASP’a göre 2025’te LLM uygulamalarının en büyük riskidir.
- Savunma katmanlıdır: en az yetki, insan onayı, ayrılmış içerik, çıktı kontrolü ve düzenli saldırı testleri.


