Дисертація доктора філософії. Андрощук Максим Віталійович. Методи перевірки та безпечної актуалізації зовнішньої пам'яті RAG за умов модифікації знань та спотворення зворотного зв'язку

Реєстраційний номер

0826U005106, Дисертація доктора філософії

На здобуття

Доктор філософії

Дата захисту

05-09-2026

Статус

Запланована   Чому дисертація має статус "Запланована"?

Назва роботи

Методи перевірки та безпечної актуалізації зовнішньої пам'яті RAG за умов модифікації знань та спотворення зворотного зв'язку

Здобувач

Андрощук Максим Віталійович,

Керівник Глибовець Андрій Миколайович
Опонент Жолткевич Григорій Миколайович
Опонент Погорілий Сергій Дем’янович
Рецензент Франчук Олег Васильович
Рецензент Олецький Олексій Віталійович

Установа, організація, у вченій раді якої відбудеться/відбувся захист

Національний університет "Києво-Могилянська академія"

Опис

Андрощук М. В. Методи перевірки та безпечної актуалізації зовнішньої пам'яті RAG за умов модифікації знань та спотворення зворотного зв'язку. – Кваліфікаційна наукова праця на правах рукопису. Дисертація на здобуття наукового ступеня доктора філософії за спеціальністю 122 «Комп’ютерні науки» (12 — Інформаційні технології). — Національний університет «Києво-Могилянська академія», Київ, 2026. Системи RAG дають змогу великим мовним моделям використовувати зовнішні джерела знань без перенавчання їхніх параметрів. У динамічних середовищах — корпоративних, медичних і юридичних — зовнішні джерела знань постійно змінюються, що породжує проблему безпечного оновлення: як приймати легітимні зміни й водночас відхиляти спотворені або помилкові дані. Більшість наявних RAG-систем не забезпечує формально обґрунтованих меж ризику проникнення отруєних даних, не має механізмів розрізнення природного дрейфу знань і координованого спотворення, а також потребує значних обчислювальних витрат для верифікації суперечностей, які за повного попарного порівняння зростають квадратично. Наявні підходи до захисту RAG-систем, зокрема PoisonedRAG, RobustRAG і TrustRAG, розглядають окремі аспекти захисту — фільтрацію отриманих документів, агрегування відповідей із кількох підмножин та оцінювання довіри до джерел, однак не формують єдиної архітектури, яка поєднує верифікацію суперечностей, безпечне переведення нових знань із карантинного стану до основної пам’яті та розрізнення легітимного дрейфу знань і координованого отруєння. Окремою проблемою є обчислювальна вартість верифікації: повне попарне порівняння отриманих документів засобами NLI має квадратичну складність відносно кількості документів у контексті, що обмежує застосування такої верифікації в онлайн-сценаріях. Водночас параметричні підходи до редагування знань моделей, зокрема ROME і MEMIT, передбачають доступ до ваг або внутрішніх представлень базової моделі — це ускладнює їх застосування для закритих моделей, доступних лише через API і поширених у промислових RAG-розгортаннях. Об’єктом дослідження є процеси оброблення, верифікації та оновлення даних у зовнішній пам’яті RAG-систем за умов динамічної зміни знань і спотворення джерел інформації. Предметом дослідження є методи й алгоритми верифікації узгодженості, виявлення суперечностей та безпечної актуалізації зовнішньої пам’яті RAG-систем без модифікації параметрів генеративної моделі. Метою дослідження є розроблення методів верифікованої та захищеної від отруєння актуалізації зовнішньої пам’яті RAG-систем за умов обмеженої обчислювальної вартості верифікації. Для досягнення мети вирішено такі завдання: розроблено якірну схему виявлення суперечностей зі зниженою вартістю NLI-верифікації; запропоновано двофазну схему карантину та затвердження нових знань із модельною верхньою межею ризику проникнення отруєних даних; побудовано шар прийняття рішень для розрізнення легітимного дрейфу знань і координованого отруєння; удосконалено механізми запитно-орієнтованого відбору підграфа, злиття ранжувань і керування повторною генерацією. Методологічну основу становлять методи математичного моделювання, теорії ймовірностей, статистичного аналізу, оброблення природної мови (зокрема NLI), байєсівські методи виявлення зміни режиму та порівняльна експериментальна перевірка. Наукова новизна полягає у розробленні архітектури непараметричної адаптації пам’яті RAG, яка поєднує верифікацію, карантин і виявлення режиму змін у єдиному замкненому циклі. Завдяки спільній оцінці довіри до джерел, система накопичує дані та адаптується без ручного налаштування. Впроваджена якірна схема знизила вартість NLI-верифікації з O(K²) до O(K·a). Експериментальна перевірка на 10 наборах (N=1250 запитів) та в умовах змагальних атак підтвердила зниження витрат на верифікацію на 57 %, блокування всіх отруєних документів та збереження 93 % легітимних оновлень. За цільової атаки відновлення якості відповідей склало 99,4 %. Конвеєр зберігає статистичний паритет із BM25-ретривером. Обмеження дослідження включають залежність від точності NLI-верифікатора, вразливість до масових Sybil-атак та необхідність валідації симульованого зворотного зв’язку на реальних користувачах. Практичне значення полягає у можливості побудови надійних систем (медичних, юридичних тощо) із закритою генеративною моделлю без її перенавчання. Ключові слова: машинне навчання, нейронні мережі, великі мовні моделі, інформаційний пошук, питально-відповідальні системи, пошукова генерація, RAG, графи знань, добування знань, верифікація знань, галюцинації, зовнішня пам’ять, актуалізація пам’яті, зворотний зв’язок, безпека даних.

Дата реєстрації

2026-09-03

Додано/оновлено в НРАТ

2026-09-03 / 2026-09-03