Registration Number
0826U005106, PhD dissertation
Status
Доктор філософії
Date
05-09-2026
popup.evolution
o
Чому дисертація має статус "Запланована"?
Title
Methods for verification and reliable updating of external memory in RAG systems under knowledge modification and feedback distortion
Author
Maksym Androshchuk,
popup.head Andrii Hlybovets
popup.opponent Grygoriy Zholtkevych
popup.opponent Sergiy Pogorilyy
popup.review Oleg Franchuk
popup.review Oleksiy Oletsky
popup.rada
National University of Kyiv-Mohyla Academy
Description
Андрощук М. В. Методи перевірки та безпечної актуалізації зовнішньої пам'яті RAG за умов модифікації знань та спотворення зворотного зв'язку. –
Кваліфікаційна наукова праця на правах рукопису. Дисертація на здобуття наукового ступеня доктора філософії за спеціальністю 122 «Комп’ютерні науки» (12 — Інформаційні технології). — Національний університет «Києво-Могилянська академія», Київ, 2026.
Системи RAG дають змогу великим мовним моделям використовувати зовнішні джерела знань без перенавчання їхніх параметрів. У динамічних середовищах — корпоративних, медичних і юридичних — зовнішні джерела знань постійно змінюються, що породжує проблему безпечного оновлення: як приймати легітимні зміни й водночас відхиляти спотворені або помилкові дані. Більшість наявних RAG-систем не забезпечує формально обґрунтованих меж ризику проникнення отруєних даних, не має механізмів розрізнення природного дрейфу знань і координованого спотворення, а також потребує значних обчислювальних витрат для верифікації суперечностей, які за повного попарного порівняння зростають квадратично.
Наявні підходи до захисту RAG-систем, зокрема PoisonedRAG, RobustRAG і TrustRAG, розглядають окремі аспекти захисту — фільтрацію отриманих документів, агрегування відповідей із кількох підмножин та оцінювання довіри до джерел, однак не формують єдиної архітектури, яка поєднує верифікацію суперечностей, безпечне переведення нових знань із карантинного стану до основної пам’яті та розрізнення легітимного дрейфу знань і координованого отруєння. Окремою проблемою є обчислювальна вартість верифікації: повне попарне порівняння отриманих документів засобами NLI має квадратичну складність відносно кількості документів у контексті, що обмежує застосування такої верифікації в онлайн-сценаріях. Водночас параметричні підходи до редагування знань моделей, зокрема ROME і MEMIT, передбачають доступ до ваг або внутрішніх представлень базової моделі — це ускладнює їх застосування для закритих моделей, доступних лише через API і поширених у промислових RAG-розгортаннях.
Об’єктом дослідження є процеси оброблення, верифікації та оновлення даних у зовнішній пам’яті RAG-систем за умов динамічної зміни знань і спотворення джерел інформації.
Предметом дослідження є методи й алгоритми верифікації узгодженості, виявлення суперечностей та безпечної актуалізації зовнішньої пам’яті RAG-систем без модифікації параметрів генеративної моделі.
Метою дослідження є розроблення методів верифікованої та захищеної від отруєння актуалізації зовнішньої пам’яті RAG-систем за умов обмеженої обчислювальної вартості верифікації.
Для досягнення мети вирішено такі завдання: розроблено якірну схему виявлення суперечностей зі зниженою вартістю NLI-верифікації; запропоновано двофазну схему карантину та затвердження нових знань із модельною верхньою межею ризику проникнення отруєних даних; побудовано шар прийняття рішень для розрізнення легітимного дрейфу знань і координованого отруєння; удосконалено механізми запитно-орієнтованого відбору підграфа, злиття ранжувань і керування повторною генерацією.
Методологічну основу становлять методи математичного моделювання, теорії ймовірностей, статистичного аналізу, оброблення природної мови (зокрема NLI), байєсівські методи виявлення зміни режиму та порівняльна експериментальна перевірка.
Наукова новизна полягає у розробленні архітектури непараметричної адаптації пам’яті RAG, яка поєднує верифікацію, карантин і виявлення режиму змін у єдиному замкненому циклі. Завдяки спільній оцінці довіри до джерел, система накопичує дані та адаптується без ручного налаштування. Впроваджена якірна схема знизила вартість NLI-верифікації з O(K²) до O(K·a).
Експериментальна перевірка на 10 наборах (N=1250 запитів) та в умовах змагальних атак підтвердила зниження витрат на верифікацію на 57 %, блокування всіх отруєних документів та збереження 93 % легітимних оновлень. За цільової атаки відновлення якості відповідей склало 99,4 %. Конвеєр зберігає статистичний паритет із BM25-ретривером.
Обмеження дослідження включають залежність від точності NLI-верифікатора, вразливість до масових Sybil-атак та необхідність валідації симульованого зворотного зв’язку на реальних користувачах. Практичне значення полягає у можливості побудови надійних систем (медичних, юридичних тощо) із закритою генеративною моделлю без її перенавчання.
Ключові слова: машинне навчання, нейронні мережі, великі мовні моделі, інформаційний пошук, питально-відповідальні системи, пошукова генерація, RAG, графи знань, добування знань, верифікація знань, галюцинації, зовнішня пам’ять, актуалізація пам’яті, зворотний зв’язок, безпека даних.
Registration Date
2026-09-03
popup.nrat_date
2026-09-03 / 2026-09-03
