Bir çalışan AI asistanına rolü gereği erişim hakkı olmayan bir sözleşme hakkında soru sorar — ve şartların tam metniyle doğru, iyi kaynaklanmış bir cevap alır. Biçimsel olarak sistem mükemmel çalışmıştır: belgeyi bulmuş, kaynaklı bir cevap vermiştir. Özünde bu bir veri sızıntısıdır — sadece bir dosya paylaşımı yerine bir sohbet penceresinden geçmiştir.
Tam da bu yüzden RAG güvenliği, sistem sorulara cevap vermeye başladıktan sonra eklenemez — en baştan retrieval mimarisinin bir parçası olmalıdır. Kurumsal RAG sözleşmeler, kişisel veriler, teknik şemalar ve iç kararlarla çalışır; soru "model yanlışlıkla fazla bir şey söyleyebilir mi" değil, "görmemesi gereken şeyi zaten görüyor mu"dur.
NIST AI RMF (Generative AI Profile) ve ISO/IEC 42001 bunu yalnızca teknik değil bir yönetim sorunu olarak ele alır: roller ve sorumluluk, sistemin girdi ve çıktısında kontroller, izleme ve politikanın düzenli gözden geçirilmesi süreci — yani sistem yalnızca "bir kez yapılandırılmakla" kalmamalı, hassas verilere erişimi olan diğer her kurumsal süreç gibi yönetilmelidir.
Sözleşme örneğine dönersek: doğru mimari, retrieval belgeyi bulmadan önce bağlamı filtreler — kullanıcının bir sözleşmeye erişim hakkı yoksa, model daha sonra "alıntılamamak" için metnini hiç görmemelidir. Belge zaten bulunup yalnızca arayüzde gizlendiğinde yapılan sonradan filtreleme, cevabın üretilmesi eyleminin kendisi yoluyla oluşan bir sızıntıya karşı koruma sağlamaz.
Erişim kontrolünün ötesinde bir iz gerekir: kim sordu, ne bulundu, ne cevaplandı — raporlama için değil, bir ifşanın bir yapılandırma hatası mı yoksa tek seferlik bir arıza mı olduğunu anlamak gerektiğinde belirli bir olayı yeniden kurmak için. Ayrı bir konu da indeksin fiziksel olarak nerede barındığıdır — genel bulut, private cloud veya tamamen on-premise — bu da yalnızca bir altyapı seçimi değil, erişim politikasının bir parçasıdır.
Knovium'da sözleşme senaryosu mimari düzeyde kapatılmıştır: rol tabanlı erişim kontrolü (RBAC) retrievaldan önce uygulanır, böylece model kullanıcının hakları dışındaki belgeleri "görüp göstermemeye söz vermek" yerine fiziksel olarak hiç görmez. Her sorgu, bulunan kaynaklar ve nihai cevap günlüklenir; şirket politikası gerektirdiğinde dağıtım tamamen on-premise olabilir.