Search academic texts

Information × Registration Number 2119U007806, Article popup.category Опубліковано, Стаття Title SCOPING ADVERSARIAL ATTACK FOR IMPROVING ITS QUALITY popup.author Хабарлак К.С.Коряшкіна Л.С.Khabarlak K. S.Koriashkina L. S. popup.publication 28-05-2019 popup.source_user Журнал "Радіоелектроніка, інформатика, управління" (Національний університет "Запорізька політехніка") popup.source https://ric.zp.edu.ua/article/view/178284 popup.publisher National University "Zaporizhzhia Polytechnic" Description Актуальність. Предметом дослідження даної роботи є змагальні атаки, види, причини виникнення, а також алгоритмиатак. Представлений швидкий спрощений і більш ефективний (порівняно з існуючими аналогами) алгоритм атаки на модельлогістичної регресії. Актуальність роботи пояснюється малою дослідженістю критичної уразливості нейронних мереж – такзваних змагальних прикладів, які дозволяють зламувати механізм передбачення і отримувати довільний результат, роблячисистеми безпеки, засновані на нейронних мережах, малоефективними.Мета. Розробка алгоритмів різних типів атаки на навчену одношарову нейронну мережу з урахуванням результатівпопереднього аналізу параметрів самої мережі, а також оцінка втрат якості зображень, що були піддані модифікації,порівняння результатів проведення атак за допомогою розроблених алгоритмів і змагальних атак подібного роду.Методи. На основі результатів аналізу матриць ваг навченої нейронної мережі сформульована ідея побудови алгоритміватаки на нейронну мережу, виділяючи для атаки певні області на зображенні з урахуванням різниці вагових матрицьцільового і вихідного класів. Представлений швидкий і досить ефективний алгоритм атаки, який здатний використовуватидля атаки як все зображення повністю, так і окремі його регіони, що робить алгоритм більш гнучким. Використовуючиметрику структурної схожості зображень SSIM, проведений аналіз алгоритму і його модифікацій, а також порівняння його зпопередніми методами, які використовують для атаки звичайний градієнт.Результати. Побудовано спрощені алгоритми націленої і ненаціленої атак на одношарову нейронну мережу, яказастосовується для класифікації рукописних цифр з набору даних MNIST. Дана візуальна і змістовна інтерпретаціяналаштованих ваг мережі як «важливостей» точок зображення для розпізнавання його як представника того чи іншогокласу. На основі порівняння структурної схожості зображень алгоритмом SSIM був проведений аналіз втрат якостізображень для задач націленої і ненаціленої атак наведеними спрощеними алгоритмами на всій тестової вибірці. Подібнийаналіз дозволив визначити класи, що найбільш піддаються атакам, а також зображення, для яких клас, передбаченийнейронною мережею, може бути змінений непомітно для людини.Змагальні приклади, побудовані за допомогою розробленого в статті алгоритму, перенесені на мережу з 5-ю шараминевідомої архітектури. У ряді випадків зображення для класів, які було складно атакувати для вихідної мережі, вдалосяперенести з більшим успіхом, ніж ті, для зміни класу яких було досить мінімальних змін.Висновки. Побудовані на основі ідеї обмеження області атаки змагальні приклади, а також система (методика) аналізувхідних даних легко узагальнюється і на інші задачі розпізнавання, що робить представлену методику придатною дляаналізу ряду практичних задач. Отже, представлений ще один підхід до аналізу безпеки нейронних мереж (зокрема,логістичної регресії) проти атак на вхідні дані. popup.nrat_date 2026-02-09 Close