Реєстраційний номер
2126U001586, Матеріали видань та локальних репозитаріїв
Категорія
Тези
Назва роботи
Критерії та метрики безпеки при нефункціональному тестуванні систем генеративного штучного інтелекту
Автор
Мельник О. В.
Чорний О. В.
Середа Д. О.
Melnyk О.
Дата публікації
21-05-2026
Постачальник інформації
Вінницький національний технічний університет
Першоджерело
https://isu-conference.com/en/archive/advanced-technologies-in-scientific-research-13-05-26/
Видання
International Scientific Unity
Опис
У статті розглядаються критерії та специфічні метрики безпеки для
нефункціонального тестування систем на базі генеративного штучного
інтелекту. Традиційні підходи до тестування не здатні адекватно оцінити ризики,
оскільки очікувані результати ШІ-агентів не є статичними і охоплюють простір
дійсних результатів, що постійно розширюється. У критичних доменах навіть
одна неправильна рекомендація моделі може мати катастрофічні наслідки. Проаналізовано застосування спеціалізованих метрик, таких як оцінка
токсичності (Toxicity Score), змагальна стійкість (Adversarial Accuracy) та
коефіцієнт впливу помилок (Error Impact Coefficient). Доведено необхідність
інтеграції етичної оцінки, перевірки стійкості до оманливих запитів та оцінки
відповідності правилам безпеки (Red Teaming) у процес нефункціонального
тестування ШІ.
Додано/оновлено в НРАТ
2026-09-22
