Пошук академічних текстів

Інформація × Реєстраційний номер 2123U011498, Матеріали видань та локальних репозитаріїв Категорія Опубліковано, Стаття Назва роботи НЕЗАЛЕЖНИЙ ВІД МОДЕЛІ АЛГОРИТМ МЕТА-НАВЧАННЯ ДЛЯ ОПТИМІЗАЦІЇ РЕЗІЛЬЄНТНОСТІ СИСТЕМИ ШТУЧНОГО ІНТЕЛЕКТУ Автор Москаленко В. В.Moskalenko V. V. Дата публікації 30-06-2023 Постачальник інформації Журнал "Радіоелектроніка, інформатика, управління" (Національний університет "Запорізька політехніка") Першоджерело https://ric.zp.edu.ua/article/view/283475 Видання National University "Zaporizhzhia Polytechnic" Опис Актуальність. Задача оптимізації резільєнтності систем штучного інтелекту до деструктивних збурень досі не була повністю вирішена і є досить актуальною для критичних до безпеки застосувань. Задача оптимізації резільєнтності системи штучного інтелекту до збурюючих впливів є високорівневою по відношенню до оптимізації ефективності, що обумовлює перспективність використання ідей і методів мета-навчання для її вирішення. Тому об’єктом дослідження є процес метанавчання для оптимізації резільєнтності системи штучного інтелекту до деструктивних збурень. Предметом дослідження є архітектурні надстройки та метод мета-навчання, що забезпечують оптимізацію резільєнтності до протиборчих атак, інжекції несправностей і зміни задач. Мета дослідження – розроблення ефективного методу мета-навчання для оптимізації резільєнтності системи штучного інтелекту до деструктивних збурень. Методи дослідження. Оптимізація резільєнтності реалізується шляхом поєднання ідей і методів протиборчого навчання, навчання з ін’єкцією несправностей, незалежного від моделі мета-навчання, навчання за обмеженою кількістю зразків, методів градієнтної оптимізації та ймовірнісних стратегій апроксимації градієнту. При цьому вибір архітектурних надстройок базується на ефективному щодо параметрів трансфері знань для для економії ресурсів та уникнення проблеми катастрофічного забування. Результати. Розроблено незалежний від моделі метод мета-навчання для оптимізації резільєнтності систем штучного інтелекту на основі градієнтних мета-оновлень, або мета-оновлень за еволюційною стратегією. При цьому метод передбачає використання тюнерів і мета-тюнерів, що здійснюють паралельну корекцію будівельних модулів (блоків) глибокої нейромережі. На прикладі задачі класифікації зображень експериментально протестовано здатність запропонованого підходу підвищувати ефективність поглинання збурень та підвищувати інтегральний показник резільєнтності системи штучного інтелекту. Експерименти проводились на моделі з архітектурою ResNet-18, з надстройкою у вигляді тюнерів і мета-тюнерів з архітектурою Conv-Adapter. При цьому CІFAR-10 використовується як базовий набір, на якому була навчена модель, а CІFAR-100 використовується як набір для формування вибірок, на яких здійснюють адаптацію за обмеженою кількістю зразків. Порівнюється показники резільєнтності системи штучного інтелекту після попереднього навчання тюнерів і мета-тюнерів за алгоритмом протиборчого навчання, алгоритмом навчання з ін’єкцією несправностей, традиційним алгоритмом незалежного від моделі мета-навчання та за запропонованим метод мета-навчання для оптимізації резільєнтності. Також порівнюються за інтегральним показником резільєнтності алгоритм мета-навчання з метаградієнтним оновленням та мета-оновленням на основі еволюційної стратегії. Висновки. Еспериментально підтверджено, що запропонований метод забезпечує кращий показник резільєнтності до ін’єкції випадкових інверсій біт порівняно з навчанням з ін’єкцією несправностей в середньому на 5%. Також запропонований метод забезпечує кращий показник резільєнтності до L протиборчих атак ухилення порівняно з протиборчим навчання всередньому на 4.8%. Так само продемонстровано підвищення всередньому на 4.8% резільєнтності до зміни задач порівняно зі звичайною точною настройкою тюнерів. При цьому мета-навчання з еволюційною стратегією забезпечує всередньому більші значення показника резільєнтності, однак попереднє мета-навчання потребує більше ітерацій. Додано в НРАТ 2026-02-27 Закрити