Registration Number
0826U001372, PhD dissertation
Status
Доктор філософії
Date
23-06-2026
popup.evolution
o
Title
Methods and means of cybersecurity analysis and protection of large language models from generating forbidden content on local and cloud servers
Author
Oleksii S. Neretin,
popup.head Vyacheslav Kharchenko
popup.opponent Vasyl V. Yatskiv
popup.opponent Kashtalian S. Antonina
popup.review Artem H. Tetskyi
popup.review Yevhen V. Brezhniev
popup.rada
National Aerospace University "Kharkiv Aviation Institute"
Description
Мета дисертаційної роботи полягає в підвищенні точності оцінювання кібербезпеки та рівня захищеності великих мовних моделей (Large Language Models, LLMs) від генерації забороненого контенту шляхом аналізу критичності вразливостей, прогнозування кібератак на LLMs, які розгортаються локально і на хмарних серверах.
У рамках загальної задачі розглядається розроблення методів та засобів аналізу критичності вразливостей, прогнозування кібератак на великі мовні моделі, які розгортаються локально і на хмарних серверах, та обґрунтування вибору і впровадження контрзаходів за визначеними критеріями.
Часткові задачі включають аналіз методів та засобів оцінювання та забезпечення кібербезпеки, розроблення моделі кібербезпеки, розроблення методу аналізу критичності вразливостей, удосконалення методу оцінювання та забезпечення кібербезпеки шляхом аналізу наслідків атак на вразливості та вибору контрзаходів, розроблення структури та елементів інформаційної технології (ІТ) оцінювання та забезпечення кібербезпеки.
Вперше запропоновано модель кібербезпеки великих мовних моделей, яка, на відміну від відомих, надає теоретико-множинне представлення загроз, вразливостей та кібератак на модельному та системному рівнях, що надає змогу здійснювати подальший аналіз ризиків порушення, оцінювати рівень захищеності та визначати контрзаходи.
Удосконалено метод аналізу критичності вразливостей великих мовних моделей шляхом вибору джерел даних з експлойтами, їх колекціонування та симулювання атакування моделей для статичної оцінки ймовірності та успішності атак, а також її комбінування з рівнем тяжкості наслідків для ризик-орієнтованого визначення критичності, що забезпечує підвищення повноти та достовірності оцінювання кібербезпеки.
Дістав подальшого розвитку IMECA (Intrusion Modes and Effects Criticality Analysis) метод оцінювання та забезпечення кібербезпеки великих мовних моделей шляхом аналізу наслідків атак на вразливості та вибору контрзаходів, що дозволяє забезпечити прийнятний ризик порушення кібербезпеки за наявності обмежень.
Registration Date
2026-05-06
popup.nrat_date
2026-05-06 / 2026-07-20
