Пошук академічних текстів

Інформація × Реєстраційний номер 2119U007806, Матеріали видань та локальних репозитаріїв Категорія Опубліковано, Стаття Назва роботи ПОКРАЩЕННЯ ЯКОСТІ ЗМАГАЛЬНОЇ АТАКИ ШЛЯХОМ УТОЧНЕННЯ ЇЇ ОБЛАСТІ Автор Хабарлак К.С.Коряшкіна Л.С.Khabarlak K. S.Koriashkina L. S. Дата публікації 28-05-2019 Постачальник інформації Журнал "Радіоелектроніка, інформатика, управління" (Національний університет "Запорізька політехніка") Першоджерело https://ric.zp.edu.ua/article/view/178284 Видання National University "Zaporizhzhia Polytechnic" Опис Актуальність. Предметом дослідження даної роботи є змагальні атаки, види, причини виникнення, а також алгоритмиатак. Представлений швидкий спрощений і більш ефективний (порівняно з існуючими аналогами) алгоритм атаки на модельлогістичної регресії. Актуальність роботи пояснюється малою дослідженістю критичної уразливості нейронних мереж – такзваних змагальних прикладів, які дозволяють зламувати механізм передбачення і отримувати довільний результат, роблячисистеми безпеки, засновані на нейронних мережах, малоефективними.Мета. Розробка алгоритмів різних типів атаки на навчену одношарову нейронну мережу з урахуванням результатівпопереднього аналізу параметрів самої мережі, а також оцінка втрат якості зображень, що були піддані модифікації,порівняння результатів проведення атак за допомогою розроблених алгоритмів і змагальних атак подібного роду.Методи. На основі результатів аналізу матриць ваг навченої нейронної мережі сформульована ідея побудови алгоритміватаки на нейронну мережу, виділяючи для атаки певні області на зображенні з урахуванням різниці вагових матрицьцільового і вихідного класів. Представлений швидкий і досить ефективний алгоритм атаки, який здатний використовуватидля атаки як все зображення повністю, так і окремі його регіони, що робить алгоритм більш гнучким. Використовуючиметрику структурної схожості зображень SSIM, проведений аналіз алгоритму і його модифікацій, а також порівняння його зпопередніми методами, які використовують для атаки звичайний градієнт.Результати. Побудовано спрощені алгоритми націленої і ненаціленої атак на одношарову нейронну мережу, яказастосовується для класифікації рукописних цифр з набору даних MNIST. Дана візуальна і змістовна інтерпретаціяналаштованих ваг мережі як «важливостей» точок зображення для розпізнавання його як представника того чи іншогокласу. На основі порівняння структурної схожості зображень алгоритмом SSIM був проведений аналіз втрат якостізображень для задач націленої і ненаціленої атак наведеними спрощеними алгоритмами на всій тестової вибірці. Подібнийаналіз дозволив визначити класи, що найбільш піддаються атакам, а також зображення, для яких клас, передбаченийнейронною мережею, може бути змінений непомітно для людини.Змагальні приклади, побудовані за допомогою розробленого в статті алгоритму, перенесені на мережу з 5-ю шараминевідомої архітектури. У ряді випадків зображення для класів, які було складно атакувати для вихідної мережі, вдалосяперенести з більшим успіхом, ніж ті, для зміни класу яких було досить мінімальних змін.Висновки. Побудовані на основі ідеї обмеження області атаки змагальні приклади, а також система (методика) аналізувхідних даних легко узагальнюється і на інші задачі розпізнавання, що робить представлену методику придатною дляаналізу ряду практичних задач. Отже, представлений ще один підхід до аналізу безпеки нейронних мереж (зокрема,логістичної регресії) проти атак на вхідні дані. Додано в НРАТ 2026-02-09 Закрити