Қызметкер AI-ассистентке рөлі бойынша қолжетімділігі жоқ шарт туралы сұрақ қояды — және шарттардың толық мәтінімен дәл, жақсы цитатталған жауап алады. Формалды түрде жүйе тамаша жұмыс істеді: құжатты тапты, дереккөзбен жауап берді. Мәні бойынша — бұл дерек ағуы, тек файлдық шара арқылы емес, чат арқылы.
Дәл сол себепті RAG қауіпсіздігін жүйе сұрақтарға жауап бере бастағаннан кейін қоса салуға болмайды — ол retrieval архитектурасының бөлігі бастапқыдан болуы керек. Корпоративтік RAG шарттармен, жеке деректермен, техникалық схемалармен және ішкі шешімдермен жұмыс істейді, және мәселе «модель кездейсоқ артық нәрсе айта ала ма» дегенде емес, «ол көруге тиіс емес нәрсені мүлде көре ме» дегенде.
NIST AI RMF (Generative AI Profile) және ISO/IEC 42001 мұны тек техникалық емес, басқарушылық міндет ретінде сипаттайды: рөлдер мен жауапкершілік, жүйенің кірісі мен шығысындағы бақылау, мониторинг және саясатты тұрақты қайта қарау процесі — яғни жүйе жай ғана «бір рет бапталмауы» керек, ол сезімтал деректерге қолжетімділігі бар кез келген басқа корпоративтік процесс сияқты басқарылуы керек.
Шарт мысалына оралсақ: дұрыс архитектура retrieval құжатты мүлде тапқанға дейін контекстті фильтрлейді — егер пайдаланушының шартқа құқығы болмаса, модель кейін «дәйексөз келтірмеу» үшін оның мәтінін көрмеуі керек. Құжат табылып қойып, тек интерфейсте жасырылатын постфактум фильтрлеу жауап генерациясының өзі арқылы болатын ағудан қорғамайды.
Қолжетімділікті бақылаудан басқа із керек: кім сұрады, не табылды, не жауап берілді — есеп беру үшін емес, деректің ашылуы конфигурация қатесі ме, әлде бір реттік ақау ма екенін анықтау керек болғанда нақты оқиғаны талдау үшін. Және бөлек мәселе — индекс физикалық қайда сақталады: жария бұлтта ма, private cloud-та ма, әлде толық on-premise пе — бұл да инфрақұрылымды таңдау ғана емес, қолжетімділік саясатының бөлігі.
Knovium-да шартпен байланысты сценарий архитектура деңгейінде жабылған: рөлдік қолжетімділік (RBAC) retrieval алдында қолданылады, сондықтан модель пайдаланушы құқығынан тыс құжаттарды «көреді, бірақ көрсетпеуге уәде береді» емес, физикалық түрде мүлде көрмейді. Әр сұрау, табылған дереккөздер және түпкі жауап логталады, ал деплой компания саясаты талап еткен жерде толық on-premise болуы мүмкін.